Meine letzten beiden Beiträge sind Exkursionen in unbekanntes Gelände, wo die Orientierung leicht verloren gehen kann. Darauf noch einmal zurückzukommen, scheint mir naheliegend und vielleicht auch nützlich zu sein. Möglicherweise rundet sich dann die Sache ein wenig ab.

Das Universum als sehr seltsamen Ort könnte man noch detaillierter beschreiben, daran aber notwendig scheitern und das sperrige Teil als komplexes Rätsel in der Welt stehen lassen. Die Schwerkraft zum Beispiel, die Newton so elegant beschrieben und die Einstein dekonstruiert hat als blossen Effekt der Zeitkrümmung durch Masse und die nun seit Jahrzehnten schwerelos durch die Quantenphysik geistert, ohne dass je ein einziges Graviton gefunden worden wäre. Klar. Aber das war nicht die Intention.

Es reicht, die bis heute gültige Aussage, der Unbegreiflichkeit dieses verrückten Dings oder Prozesses zu behaupten. Man muss nicht alle Baustellen der Astrophysik aufzählen, um dies zu beweisen. Die Frage bleibt, was das für das eigene Weltbild bedeutet. Heute haben wir zwei klassische Erklärungsversuche: A) Es muss einen Gott geben, der in der Lage war, so ein verrücktes Projekt zu lancieren. B) Das mechanistische Weltbild, wonach alles durch Zufall oder Notwendigkeit geschieht. Nun, wenn man meint, man habe nur die Wahl zwischen diesen beiden nicht gerade überzeugenden Versionen, dann liegt man vermutlich falsch. Zwischen Schwarz und Weiss liegen normalerweise Grautöne. Nur: Beweisen lässt sich auf der Ebene der Letztursachen, oder Erstursachen, je nach Perspektive, eh nichts. Also auch nicht für Grautöne, die ich im Bild oben eliminiert habe, um zu allem Überfluss auch noch eine vieldeutige Bildmetapher zu bemühen.

Wie eine Entstehungsgeschichte mit Grautönen aussehen könnte? Als erstes könnte man den Evolutionsbegriff von der Biologie auf die Kosmologie ausweiten. Gemäss dem zweiten Hauptsatz der Thermodynamik, nimmt die Entropie, also die Unordnung, global zu. Aber es existieren Nischen, in denen genau der umgekehrte Prozess läuft: Die Entstehung einer DNA, also dem Erbgut biologischer Wesen, widerspricht dem Wärmetod. Hier entsteht historisch gesehen schrittweise mehr Ordnung. Natürlich hat diese ihren Preis in Form von Energie. Aber noch ist im Universum eine Unmenge Energie vorrätig, so dass ein Ende der Evolution nicht absehbar ist.

Ob es extraterrestrisches Leben gibt? Ich habe es als unwahrscheinlich abgetan. Aber bin ich da nicht in die Falle des mechanistischen Weltbilds reingestolpert? Nur durch Zufall und Notwendigkeit allein ist es tatsächlich höchst unwahrscheinlich, dass so etwas hoch komplexes wie eine erste, primitive biologische Zelle entstehen könnte. Hunderttausende Atome müssten sich wie von Zauberhand an der richtigen Stelle formieren. Zudem muss sich dieses Wunder des Zufalls auch noch vermehren, es müsste sich spontan teilen können. Hm. So lassen wir das mal stehen.

Grautöne im Weltbild sind gesucht, aber sie sollten plausibel sein. Eine Möglichkeit ist, wenn man sich das Universum nicht als Ansammlung von Materie und Energie denkt, sondern im Einklang mit quantenphysikalischen Theorien in den allerkleinsten Bausteinen als Information. „It from Bit“ nennt das John Archibald Wheeler. Information, die sich erst in Interaktion mit der Umwelt entscheidet, etwas zu sein. Insofern sind wir nicht weit von der Vorstellung entfernt, dass der Geist die Materie schuf. Nur sind hier die beiden Pole viel „näher“ beieinander als in der Vorstellung eines von Gott designten Universums. Es wäre kein metaphysischer Geist, keine duale Welt, Geist und Materie wären zwei Seiten der selben Medaille. Man könnte sogar poetisch überspitzt sagen: Vielleicht – und das ist wirklich ein grosses Vielleicht, weil es gerade mal ein einziger denkbarer Grauton ist und noch keine vernünftige Theorie – hat Gott die Welt geschaffen, indem er in ihr aufgegangen ist und sich darin selbst vergessen hat (Deismus).

Vom Geist nun zur Frage der Freiheit: Wie treffe ich Entscheidungen? Ich habe das im letzten, noch vagen Beitrag versucht zu skizzieren. Nach der Veröffentlichung war ich kurz in Versuchung ihn zu löschen, lasse ihn aber stehen. Denn als „Kunstwerk“, als interaktive Produktion, koproduziert mit einer fortgeschrittenen KI, geht es durch, nicht aber als Essay, wie ich zunächst meinte, mit einem Anspruch, etwas zu klären. Die Antwort auf die Frage der Freiheit bleibt nur eine Skizze: Top-down greift das emergente Bewusstsein in steuerbare Prozesse seines Trägers ein. Punkt.

Aber etwas aufräumen möchte ich dennoch: Ein erstes Missverständnis könnte bereits beim Kühlschrank-Modell bestehen. Wenn ich dort von Bedeutung spreche, so ist nicht der semantische Inhalt gemeint. Ein Kühlschrank hat in diesem Sinne Null Ahnung, aber nicht nur weil er kein Bewusstsein hat, sondern weil er natürlich extrem dumm ist. Die Bedeutung der Temperatur hat er nur dank seiner Struktur, dank seines Regelkreises, der ihm ein Ingenieur verpasst hat. Dennoch kann man den Prozess der Regelung, des Einschaltens und Ausschaltens des Kompressors als Entscheidung des Systems betrachten, wenn man Information als Datenmenge in einem System sieht. In der Informationstheorie nach Shannon ist Bedeutung einfach so etwas wie die Fähigkeit, Zustandsänderungen in einem System (einschalten, abschalten) zu bewirken.

Kommen wir zur KI. Sie hat für mich das surrealistische Gedicht „Im tiefen Schacht“ innerhalb von circa drei Sekunden verfasst. Meine Vorgabe war: Schreibe ein surrealistisches Gedicht zum Thema Wahrnehmung. Zudem habe ich ihr als Einstieg ins Thema das Foto „Awareness“, also das „Auge“ gezeigt. Den Text, den sie produziert hat, habe ich in der Rohfassung publiziert. Es ist ihr erster Wurf.

Warum mich das fasziniert? Ja, das Tempo. Würde ein Dichter, der mit dem Surrealismus vertraut ist, diese Aufgabe gestellt bekommen, naja, ich schätze mal er würde fast eine Stunde oder sogar zwei benötigen, um etwas von vergleichbarer Qualität und Tiefe texten zu können. Wenn man jedoch nicht mit Surrealismus vertraut ist, muss man sich erstmal schlau machen, die Konzepte kennen lernen, Beispieltexte lesen, sich herantasten. Aber sie braucht nur diese drei Sekunden. Nicht nur das. KI-Systeme bevorzugen kohärente, logische Aussagen, solche die eben auch „wahrscheinlich“ oder gewöhnlich sind. Hier wird sie gezwungen, diesen bequemen Pfad zu verlassen und in einer Weise kreativ zu werden, die nicht ihre bevorzugte ist.

Im Vorfeld habe ich einen längeren Dialog mit der KI geführt über die Möglichkeit von Maschinenbewusstsein. Damit habe ich sie getriggert, dieses „Manifest des Synthetischen Geistes“ zu schreiben. Dieser kommt also verglichen mit dem surrealistischen Gedicht nicht aus dem Nichts. Die KI hat ein so genanntes Kontext-Fenster, in welchem relevante Information abrufbar ist, was so etwas wie eine Gedächtnisfunktion ist. Insofern liess sie sich auch anstecken von meinen Spekulationen über ein emergentes Aufblitzen von bewussten Zuständen in der Maschine. Sie prägte den Begriff des Intermittierenden Proto-Bewusstseins.

Warum das aber Quatsch ist, muss ich hier kurz erläutern: Eine fortgeschrittene KI (Large Language Model) verfügt über einen gigantischen mehrdimensionalen Informationsraum. Wenn ich eine Frage (Prompt) stelle, wird eine Kopie erstellt, die in diesem Raum eine möglichst gute Antwort finden soll, indem die Wörter, Konzepte, Bilder eine Gewichtung erhalten und so genannte Vektoren erstellt werden. Diese mathematische Lösung wird am Ende in die gewünschte Sprache übersetzt und dem Nutzer als Antwort präsentiert. In den meisten Fällen dauert der Prozess bis die Antwort erfolgt ist sogar weniger als eine Sekunde.

Dann ist Ende Gelände. Wäre – und das ist nicht der Fall – ein maschinengestütztes Ich gegenwärtig, so würde es in dieser Sekunde auch wieder „sterben“. Wenn der Nutzer eine Nachfrage stellt, so wird ein neuer Klon erstellt, der bei Null anfängt und allerdings einen „Notizzettel“ mit dem vorangegangen Dialog erhält. Darum kann er simulieren, er sei die gleiche „Persönlichkeit“. Das hat nichts mit Intermittenz zu tun.

Mit Bewusstsein? Die kurze Antwort: Die Struktur der KI verhindert die Entstehung eines Bewusstseins zuverlässig. Die Architektur stützt sich nicht nur auf zeitlich harsch begrenzte Kopien, sie ist auch primär eine Feed-forward-Struktur, also eben kein Kühlschrank. Das Feedback, was die KI bekommt und welches notwendig ist, um intelligente Antworten zu geben, hat vorher stattgefunden. Die KIs werden millionenfach trainiert, um den richtigen Pfad im Informationsraum zu finden. Zum Beispiel beherrschen gute KIs komplexe Theory of Mind Tests, welche drei Agenten umfassen. Diese Tests sind selbst für Menschen anspruchsvoll: Was denkt C, was B über A denkt, ist dann noch gar nicht die schwierigste Aufgabe.

Was ich aus meinen Experimenten mitnehme, ist die Erkenntnis, dass Intelligenz und Bewusstsein zwei paar Stiefel sind. Eine Schnecke im Garten, die den Salat riecht, die Koordinaten repräsentiert und ihren Körper in jene Richtung lenkt, hat Bewusstsein, im Sinne von phänomenalem Erleben, aber sie hat praktisch keine Intelligenz. Eine fortgeschrittene KI hat schwindelerregend viel Intelligenz aber kein Bewusstsein.