An die vielen Assistenzsysteme im Auto haben wir uns schön gewöhnt. Da hilft ein System beim Spurhalten, ein anderes beim Einhalten vom Abstand oder beim Bremsen, das Navigationssystem führt uns nicht nur sicher von A nach B, sondern bewertet den Stau und schlägt Ausweichrouten vor, es teilt uns beim Fahren auch mit, welche Geschwindigkeitsverbote auf der gerade befahrenen Straße gelten; Entertainment an Bord ist ohnehin schon selbstverständlich. Das Auto ist also ein interessantes Objekt, um die zunehmende Integration der sogenannten Digitalisierung in unser Leben zu beobachten. In aller Munde ist seit einiger Zeit auch das vollständig autonome Fahren. Wir sollen also künftig in das Auto einsteigen, ihm sagen, wohin wir fahren möchten, uns bequem zurücklehnen, uns die Nachrichten oder das Dschungelkamp ansehen und den Rest, das Fahren durch die Stadt und  über die Autobahn, einer sogenannten künstlichen Intelligenz (KI) überlassen. Das Lenkrad zum Eingreifen gibt es dann sicher noch eine Weile, aber nur für Notfälle. Das Bundesverkehrsministerium hat dazu kürzlich die rechtlichen Grundlagen im Entwurf vorgelegt. Die  Veränderung des Straßenverkehrsgesetzes wird dazu führen, dass automatisierte Systeme im Auto die Fahraufgabe komplett übernehmen dürfen. Die rechtlichen Probleme sollen uns jetzt aber weniger interessieren, wir wollen uns hier mehr mit der  Frage beschäftigen, ob die gezeigten Zukunftsvisionen der Hersteller wie Tesla, Google oder großer deutscher Firmen nicht ein wenig zu optimistisch sind.
Seit Jahren können wir einen nahezu unaufhaltsamen Aufstieg der digitalen Informationstechnik und ihrer Anwendungsmöglichkeiten beobachten, ob beim Smartphone, bei der „intelligenten Vernetzung“ von Hausgeräten wie Fernseher, Kühlschrank oder Heizung oder, im industriellen Maßstab, in den Projekten der sog.  „Industrie 4.0“, der „intelligenten“ Verknüpfung aller Subsysteme von Fertigungssystemen, also von Werkzeugmaschinen,  Werkstücken, Prüftechnik, Lagerhaltung und Transport. Auch Telekommunikationsanbieter, Behörden und staatliche Stellen agieren nahezu in einem Digitalisierungsrausch, wenn sie weitere Breitbandangebote versprechen und dem Bildungswesen durch mehr Computer in der Schule höhere Effizienz vorhersagen. Die Digitalisierung ist zum Schlagwort geworden, das uns alle Mühen und Sorgen abnehmen und uns zu goldenen Zeiten führen wird. Vieles wird sicher eintreffen, vieles auch nicht, aber die vorauseilende Euphorie ist grenzenlos. Wir sollten aber auch ein wenig skeptisch sein dürfen, kritisch mit den Zukunftsträumen umgehen und hier und da nachfragen.
Es gibt das  schöne Bonmot von Albert Einstein, dass Prognosen etwas schwierig sind, insbesondere, wenn sie die Zukunft betreffen. Hier geht es um den scheinbar unaufhaltsamen Aufstieg der künstlichen Intelligenz. Werden wir sie in absehbarer Zeit bekommen, werden die Systeme wirklich intelligenter, werden sie uns letztlich ebenbürtig, werden wir Menschen  ersetzbar oder durch die KI sogar überflüssig? Sind humanoide Roboter der nächste Evolutionssprung in der Entwicklung?
Ohne allzu tief in Details einzusteigen, wollen wir uns einmal mit den Voraussetzungen einer technischen, also künstlichen Intelligenz beschäftigen.  Zweifellos sind die Innovationen auf diesem Gebiet  atemberaubend. Computer gewinnen gegen Schachgroßmeister, mittlerweile sogar im GO, sie erfüllen teilweise die Kriterien des „Turing –Testes“ (ein Test, der erlaubt, intelligentes Verhalten zu beurteilen), sie generieren in sozialen Netzwerken  als sogenannte  „Social-Bots“ syntaktisch und semantisch korrekte Texte, die sich kaum von Einlassungen menschlicher Autoren unterscheiden lassen oder sie steuern eben Autos. Die Anwendungen nehmen täglich zu. Aber wie funktioniert das eigentlich?
Um in irgendeiner Form ein „intelligentes Verhalten“ zu simulieren benötigt der Computer spezielle Algorithmen, also in einer Programmiersprache geschriebene Anweisungen (letztlich reine Mathematik), wie er bei welcher Problemlage – hier sind heute auch schon menschliche Spracheingaben möglich -  reagieren soll. Um die Algorithmen in Richtung bestimmter Ziele arbeiten zu lassen, müssen Gütekriterien, sogenannte  Fitnessfunktionen vorgegeben werden. Der Rechenprozess wird dann in Richtung dieser Ziele gesteuert. Der Computer kann lernen, sich iterativ den genannten Zielen zu nähern, dazu benutzt er selbst erzeugte Daten oder Daten aus einer sich ändernden äußeren Umgebung, die ihm durch spezielle Sensoren zur Verfügung gestellt werden. Rechengeschwindigkeit und zu speicherndes Datenvolumen stehen heute auch bei mobilen Systemen (z.B. dem Smartphone) in einer Größenordnung zur Verfügung, die vor einigen Jahren noch unvorstellbar war. Die Zahlen, die dafür heute hier geschrieben werden könnten, sind morgen garantiert schon wieder überboten. Es erscheint also nahezu zwangsläufig zu sein, dass sich die Leistungsfähigkeit der Computer den Fähigkeiten des Menschen immer weiter nähert, sie irgendwann erreicht und dann folgerichtig überbietet. Auf vielen Gebieten gilt das auch heute bereits. Der Computer ist uns schon lange haushoch beim Rechnen überlegen, beim Steuern komplizierter Prozesse oder beim Graben in Daten, dem sogenannten Data-Mining, wie es alle Internet-Warenhäuser, Amazon z.B. oder eben auch Google für jeden Nutzer  praktizieren. Wo ist eigentlich die Schwelle, die noch überschritten werden muss, um den Menschen zu ersetzen?
Nun, bei allen beeindruckenden Leistungen des Computers hat er eines nicht: Er hat keine Empfindungen. Er hat keine Gefühle, keine Empathie, keinen Hunger, er spürt keine Liebe, keinen Ärger und keine Erschöpfung. Natürlich ist er auf diese Weise der ideale Arbeitnehmer und das Konzept „Industrie 4.0“ wird gerade deshalb  – trotz aller Vorteile- auch viele, heute noch von „Biomenschen“ besetzte Arbeitsplätze überflüssig machen. Der Roboter wird auch nicht um höheren Lohn streiken. Wir wollen aber hier die daraus folgenden  sozialen Fragen unbeantwortet lassen und uns wieder der Frage zuwenden,  ob diese Schwelle, diese fehlende Fähigkeit, Empfindungen zu besitzen, nicht auch in absehbarer Zeit übersprungen werden kann. Sie werden sagen, na ja,  ich habe schon Roboter gesehen, die Gefühle zeigen, sie lächeln z.B. Ja, das tun sie,  wenn sie unter Nutzung einer Gesichtserkennungssoftware bei ihrem menschlichen Gegenüber eine ähnliche Gefühlsreaktion analysiert haben. Glauben sie aber, der Roboter lächelt wirklich? Nein, natürlich nicht, die Aktivierung seiner Mimik erfolgt nach einem vom Softwareentwickler festgelegten, mathematisch definierten Programm.
Das Problem liegt also tiefer. Trotz aller beeindruckenden Erfolge der Neurowissenschaftler, die das Gehirn in alle Richtungen hin  „vermessen“, die physiologischen, molekularen Vorgänge in den Neuronen, an ihren Dendriten und  Synapsen untersuchen oder spezielle Gehirnareale   beim Denken durch CT-oder MRT–Scanner beobachten kann keiner erklären, was Geist ist, wie Geist entsteht, wo er sich befindet und wie er Gefühle erzeugt, wie sich Gefühle im Subjekt, also in jedem von uns selbst,  wirklich „anfühlen“. Wie das Gehirn den Geist hervorbringt oder wie der Geist auf das Gehirn zurückwirkt ist bis heute völlig ungeklärt. Die Entstehung des  menschlichen Bewusstseins oder sogar Selbstbewusstseins ist ein großes Geheimnis. So lange das Bewusstsein aber nicht mathematisch-logisch beschreibbar ist, kann auch kein künstliches System geschaffen werden, das Bewusstsein und damit verbunden Emotionen besitzt. Dazu kommt:  Der Mensch benutzt seine Emotionen und Empfindungen als übergeordnete Fitnessfunktionen, er möchte gern glücklich und zufrieden sein und tut alles, um es zu werden. Emotionen sind die strategischen Führer unserer bewussten Handlungen. Besäße der Mensch keine Emotionen wie z.B.  Angst, die er vermeiden will oder Freude, die er reproduzieren möchte, hätte er keine Richtschnur des Handelns und wäre allen Unbillen der Welt hilflos ausgesetzt.

Manche Computerwissenschaftler sagen, Bewusstsein entsteht durch Emergenz, also als neue, nicht vorhersehbare Eigenschaft beim Zusammenschalten von Einzelelementen. Durch ständige Vergrößerung von Rechengeschwindigkeit und Speichervolumen wird auf diese Weise irgendwann - wie aus dem Nichts- plötzlich die neue Eigenschaft „Bewusstsein“ im Computer auftreten. Aber das ist natürlich Unsinn. Es ist egal, wie viele mathematische Algorithmen miteinander verwoben werden, daraus entsteht kein Geist. Wir können uns also getrost zurücklehnen, denn der Roboter wird uns solange  nicht ersetzen, wie der menschliche Geist ein ungeklärtes Phänomen ist. Emergenz bleibt nur als Hoffnung.
Da  dem Computer Geist und die damit verbundenen Empfindungen als strategisch steuernde Fitnessfunktionen fehlen, wird künstliche Intelligenz  für unabsehbare Zeit alle Gefühle nur simulieren können. Trotz der zunehmenden Fähigkeiten der Computer, über entsprechende Sensoren eigenverantwortlich Daten aus der Umwelt abzufragen, zu bewerten und dabei zu lernen, bleibt es die Aufgabe des menschlichen Programmierers, des „Schöpfers“ dieser Maschinensoftware, alle möglichen Aktionen vorauszusehen. Was er nicht vorausgesehen hat, wird der Computer nicht erkennen und bearbeiten, er wird auch nicht kreativ sein, also Ideen entwickeln, um das Problem zu lösen. Er kann nur im Rahmen von definierten Grenzen interpolieren, nie über gegebene Grenzen hinaus extrapolieren. Wenn er es dennoch tun könnte, würden für ihn selbst unbeherrschbare Zustände entstehen.  Das kann beim Autopiloten im Auto durchaus auch zu enormen Problemen führen und die Verkehrsunfälle bei den Versuchsfahrzeugen von Tesla waren auf genau solche, nicht vorhergesehene Situationen zurückzuführen. Das wird sich nie ändern lassen, denn die Variationsbreite unerwarteter Zufälle ist eben nicht voraussagbar, es sei denn, wir würden jedes Sandkorn mit einer eigenen IP-Adresse versehen (dies wäre das Google-Konzept).
Blitzschnelle Reaktionen und die schier unendlichen Möglichkeiten, die der Computer beim Schachspielen erkennen und bewerten muss, bevor er einen nächsten Zug führt, sollten uns nicht täuschen. Er wird sich über einen glücklichen Zug, über einen noch so kleinen strategischen Vorteil oder sogar über das  gewonnene Spiel nicht wirklich innerlich freuen, es kann nur äußerlich so aussehen, wenn ihm  der Softwareentwickler irgendeine menschlich erscheinende  Reaktion mitgegeben hat, die wir als „Freude“ bewerten. Wir sind ohnehin geneigt, unsere Gefühle in die uns umgebenden Systeme hineinzuprojizieren, Hundebesitzer wissen das am besten.
Allzu selbstsicher, dass wir für immer nicht nachgebaut werden können, sollten wir aber auch nicht sein. Es gibt eine Vielzahl technischer Adaptionen aus der Biologie, die das Potential besitzen, den Weg zur wirklichen künstlichen Intelligenz zu ebnen. Dazu gehören z.B. sogenannte „Künstliche Neuronale Netze“, unser Gehirnstruktur nachempfundene  Zusammenschaltungen elektronischer Bauelemente, mit denen adaptive, lernfähige Strukturen erzeugt werden können.
Ganz wesentlich aber wäre es, wenn man das in der Natur übliche Prinzip der Selbst-Referenzierung  technisch realisieren könnte. Jede biologische Zelle enthält in sich den komprimierten Code zur Selbsterzeugung, gespeichert in ihren Genen. Technisch umgesetzt könnte der Computer „wachsen“, d.h., seine Struktur selbst an sich verändernde Umwelteinflüsse anpassen, „Organe“ bilden, die auf bestimmte Funktionen spezialisiert sind. Er würde lernen, zuerst mit einfachen Situationen, dann mit immer anspruchsvolleren umzugehen, so wie unsere Kinder es lernen, immer zielgerichteter auf die Umwelt zu reagieren. Wenn das aber geschieht, dann wird wohl der berühmte Physiker Stephen Hawking Recht bekommen, der uns warnt: „Da der Mensch durch langsame biologische Evolution beschränkt ist, könnte er nicht konkurrieren und würde verdrängt werden“. (Zitat aus der Financial Times.) Warten wir es also ab, aber vergessen wir inzwischen nicht, unser Menschsein zu genießen, unsere Bewusstheit zu nutzen und uns unserer unendlich vielfältigen Emotionen zu erfreuen. Denn mit einer echten KI werden sich frühestens unsere Enkel auseinander setzen müssen. Prof. Dr.-Ing. Viktor Otte

Anmerkung

Einige Gedanken in diesem Text habe ich dem Buch meines Sohnes, Prof. Dr. Ralf Otte: „Vorschlag einer Systemtheorie des Geistes“, Cuvillier-Verlag Göttingen, 2016,  entnommen.