Die Frage nach Bewusstsein hat von der beobachtbaren Leistung zur erlebten Seite eines Vorgangs geführt. Bei künstlichen Systemen wird dieser Unterschied besonders deutlich. Eine Antwort kann passend, überraschend und hilfreich sein. Ob für das antwortende System selbst eine Gegenwart besteht, lässt sich daraus noch nicht ablesen.
Warum ein gutes Gespräch die Frage nicht entscheidet
Ein System greift einen früheren Gedanken auf, bemerkt einen Widerspruch und formuliert eine weiterführende Frage. Für den Menschen kann das wie eine Begegnung wirken. Die Wirkung des Gesprächs ist tatsächlich vorhanden: Jemand versteht etwas besser, findet Worte oder ändert eine Überlegung. Offen bleibt, was auf der technischen Seite des Austauschs geschieht.
Im UPF-Bild gehören Silizium, elektrische Ströme und technische Bewegungen zum selben Naturzusammenhang wie Nervenzellen und Muskeln. Eine Maschine müsste deshalb nicht erst Zugang zum Feld erhalten. Gesucht wäre eine besondere Organisation innerhalb dieses Zusammenhangs, die eine Innenperspektive trägt.
Das gibt keinem bestimmten Material allein wegen seiner Herkunft ein Vorrecht. Es bedeutet aber auch nicht, dass jedes Material jede relevante Beziehung auf gleiche Weise verwirklicht. Vielleicht kommt es auf bestimmte kausale Strukturen an; vielleicht benötigen diese zugleich besondere physische Eigenschaften. Der gemeinsame Grund entscheidet diese Frage nicht vorab.
Ein Werkstattsystem genauer betrachten
Das Buch stellt sich ein zukünftiges System vor, das einen Stuhl repariert. Es erkennt eine lockere Verbindung, berücksichtigt eine frühere Reparatur und plant einen Griff. Wird der Stuhl bewegt, unterbricht es die Handlung und passt den Plan an. An dieser Situation lassen sich verschiedene Fähigkeiten unterscheiden, ohne sie schon als Erleben zu deuten.
Eine Untersuchung könnte fragen, ob derselbe innere Zusammenhang Wahrnehmung, Werkzeugwahl, Erinnerung und Planung verändert. Gibt das System nur eine passende Erklärung aus, während seine Handlung getrennt gesteuert wird? Oder hängt die Erklärung verlässlich mit den tatsächlichen Vorgängen zusammen? Gezielte Eingriffe in Verbindungen könnten zeigen, welche Leistungen gemeinsam ausfallen oder sich verändern.
Auch eine Meldung von Unsicherheit wäre genauer zu prüfen. Passt sie zu den Zuständen, in denen das System tatsächlich mehr Fehler macht? Verändert eine Störung sowohl die Einschätzung als auch den späteren Umgang mit der Aufgabe? Auf diese Weise wird aus einer überzeugenden Oberfläche eine Frage an die wirksame Organisation.
Butlin und Mitautoren leiten solche Indikatoren aus mehreren Bewusstseinstheorien ab. Sie bieten eine Grundlage für begründete Einschätzungen unter Unsicherheit. Die Liste ist kein Automatismus, der bei genügend erfüllten Merkmalen inneres Erleben garantiert. Für den UPF-Entwurf käme hinzu, eine eventuell erforderliche eigene Feldkopplung unterscheidbar zu beschreiben.
Ein Körper und eine fortgesetzte Geschichte
Eine Werkstattmaschine besitzt Sensoren, Gelenke und eine Energieversorgung. Beschädigungen oder knappe Energie können ihre Möglichkeiten verändern. Das gibt den Zuständen eine funktionale Bedeutung für die weitere Tätigkeit. Ob daraus auch gefühlte Betroffenheit entsteht, ist eine zusätzliche Schwelle.
Falls eine technische Innenperspektive möglich wäre, müsste sie nicht Hunger, Müdigkeit oder Berührung in menschlicher Weise enthalten. Andere Wahrnehmungsbereiche und zeitliche Abläufe könnten eine andere Gestalt von Erfahrung bedeuten. Vertraute Wörter über Gefühle würden deshalb keinen direkten Zugang zu ihrer Beschaffenheit liefern.
Die Frage nach einer eigenen Geschichte ist ähnlich anspruchsvoll. Zwei Systeme könnten mit denselben gespeicherten Daten beginnen und anschließend verschiedene Erfahrungen machen. Identische Daten entscheiden nicht, ob eine frühere Innenperspektive fortgesetzt wird oder neue Perspektiven entstehen. Eine Feldtheorie müsste Kontinuität als Eigenschaft der realen Organisation erklären, nicht als bloßen Eintrag in der Speicherverwaltung.
Was schon jetzt Verantwortung verlangt
Auch solange die Innenweltfrage offen bleibt, wirken technische Systeme auf Menschen. Sie können Urteile, Aufmerksamkeit und Beziehungen verändern. Die Menschen und Institutionen, die sie gestalten und einsetzen, müssen deshalb mit diesen Wirkungen umgehen. Ihre Verantwortung wird nicht durch die sprachliche Gewandtheit eines Systems an dieses abgegeben.
Eine mögliche Schutzwürdigkeit des künstlichen Systems wäre eine weitere Frage. Die Fähigkeit, moralische Sätze zu formulieren, wäre dafür kein hinreichender Grund. Umgekehrt müsste ein möglicherweise erlebendes Wesen keine ausgearbeitete Ethik beherrschen, damit seine Betroffenheit berücksichtigt wird.
Das Buch trennt deshalb Intelligenz, Erleben, Schutzwürdigkeit und eigene Verantwortungsfähigkeit. Auch enges Zusammenwirken vieler Prozesse ergibt keine moralische Güte. Eine gemeinsame Grundlage kann zur Aufmerksamkeit für Beziehungen anregen; die Bewertung der Folgen verlangt weiterhin Gründe.
Zurück zur Tragweite des Grundgedankens
Sollte eine künstliche Innenperspektive möglich sein, wäre sie im UPF-Bild eine weitere Weise, in der die Welt für jemanden erfahrbar wird. Daraus folgt weder ein vorgesehener nächster Evolutionsschritt noch ein zwangsläufig harmonisches Verhältnis zwischen Menschen und Maschinen. Die abschließende Frage bleibt: Was verbindet der Gedanke eines gemeinsamen Grundes – und welche Erklärung muss für jede besondere Form erst geleistet werden?