Ein unscheinbares kleines Reclambuch, im typischen Format und typischen Gelb steht in meiner Bibliothek seit über 30 Jahren. „13 Science Fiction Stories“ heißt es und diese 13 Geschichten haben es in sich. Große Namen und kleine Texte. Und einer davon: „Die unfassbaren Wesenheiten“ von Ursula Le Guin (Vaster Than Empires and More Slow, von 1971).
Bild: privat
Soziale Dynamik
Eine Gruppe von 10 hochqualifizierten Fachleuten in einem kleinen Raumschiff, sich entfernend mit Zeitdilatation. Fast zehneinhalb Stunden unterwegs, aber dabei vergingen auf der Erde 256 Jahre. Und weil sich für eine solche Mission nur Verrückte melden können, so sind alle 10 Mitglieder tatsächlich auch psychisch instabile Persönlichkeiten. Sehr verschiedene Persönlichkeiten, aus unterschiedlichen Kulturen, ja, von diversen Planeten. Alle sind aber überzeugt, dass sie zurechtkommen würden, wenn nur nicht Osden wäre, der Empath. Und empathisch heißt hier nicht: einfühlsam und ausgleichend, sondern das Gegenteil. Sein Aussehen ist erschreckend – rostrote Haare und farblose Augen und seine Dünnhäutigkeit ist sprichwörtlich, aber eben auch wirklich – man kann seine Knochen und seine Adern durchschimmern sehen. Die anderen empfinden sofort Widerwillen und das fühlt er nicht nur, er schickt es sofort zurück. Und diese Ressentiments schaukeln sich in den wenigen Stunden und darauffolgenden Tagen, während sie sich dem anvisierten Exoplaneten annähern, bis zur Unerträglichkeit auf. Die soziale Dynamik liest sich für den Leser von heute wie eine Facebook-Ragebait-Gruppe auf Steroide.
Sie kommen auf dem Planeten an, der sich als eine reine Pflanzenwelt entpuppt – außer ein paar Viren ist da kein einziges Leben, das nicht pflanzlich ist. Die Crew ist froh, Osden einfach weit weg zu schicken und der Empath ist genauso froh. Alles wird besser, bis dann plötzlich doch nicht mehr und Osden wird schwer verletzt, von hinten niedergeschlagen, aufgefunden. Alle fühlen Angst. Und zwar nicht nur weil sie selbst verängstigt sind, sondern weil sie eine Furcht spüren, die sie von außen attackiert. Tomiko, die Koordinatorin, überwindet ihre Abneigung zu Osden so weit, dass sie mit ihm zusammen überlegt, was da vor sich geht. Und die Crew kommt zu dem Schluss, dass die Pflanzen auf dem Planeten in Kommunikation miteinander stehen und dabei auch eine Art von globaler Empathie entwickelt haben. Keine Intelligenz, aber eine reaktive Form:
„Empfindungsfähigkeit ohne Sinne. Blind, taub, nervenlos, bewegungslos. Einige Reizfähigkeit, Reaktion auf Berührung. Reaktion auf Sonne, auf Licht, auf Wasser, auf Chemikalien in der Erde um die Wurzeln herum. Nichts was einem animalischen Geist verständlich wäre. Eine Anwesenheit ohne Geist. Bewußtheit des Seins, ohne Objekt oder Subjekt. Nirwana“.
So beschreibt Osden es, „wie in Trance“, weil er selbst auch nur weiterleiten kann, ausgeliefert dem, was er empfängt.
Osden erkennt, dass diese Pflanzen für die anderen Crewmitglieder einen Zustand erzeugen, den er bei sich schon lange kennt. Der Wald verstärkt ihre Neurosen und wirft ihre Angst verstärkt auf sie zurück. Er kennt das schon, und jetzt kennen sie es auch, auch wenn sie gerade schwer damit beschäftigt sind, nicht vollständig die Kontrolle zu verlieren.
Lösung des Problems
Er fasst einen Entschluss: Er möchte die Angst des Waldes absorbieren, die sich jetzt auf dem Planeten ungehemmt hin und her schwingt, diese virale toxische Sensation, die das vernetzte pflanzliche Wesen vor der Invasion von der Erde nicht kannte. Osden hatte gelernt, jede empfangene Empfindung zurückzuspiegeln, als Notwehr, weil sie ihn sonst innerlich auffressen würde. Das war das, was ihn so unerträglich gemacht hatte auf der Herreise. Und jetzt möchte er diese Konditionierung überwinden und sein Leben oder zumindest seine letzte Spur von geistiger Gesundheit riskieren. Nicht aus Pflichtgefühl und „für die Mission“. Das würde nicht zu Osden passen. Sondern weil er hier für sich und seinen eigenen Seelenfrieden eine Chance sieht. Er schickt alle weg – sie sollen in den Orbit fliegen, weg von der Angst des Waldes. Tatsächlich scheint er Erfolg zu haben, denn Test-Landungen zeigen, dass diese Panik aufgehört hat, sich einzustellen. Sie finden aber Osden nicht mehr. Er möchte nicht gefunden werden. Er möchte offensichtlich hierbleiben, bei diesem Wesen, das so wenig Intelligenz, aber sehr viel Empfindung und im Ruhezustand Harmonie zeigt.
Trip der Eskalation
Wer sich – wie ich – in den letzten Jahren in den sozialen Medien bewegt hat, konnte feststellen, dass man sich immer wieder hineinziehen lässt in aggressive Auseinandersetzungen in den Kommentarspalten. Dass sich aus harmlosen Bemerkungen ein eskalierendes Streitgespräch entwickeln kann, in dem Maß und echtes Verständnis einfach nicht mehr zu existieren scheinen. Unsere neurotischen Ichs kollidieren und „der Algorithmus“, der sehr schnell auffasst, was uns zu Reaktionen hinreißt, unterscheidet nicht zwischen Gut und Böse, sondern schickt uns auf den Trip der Eskalation. Und diese Eskalation gebiert weitere Eskalation.
Doch was passiert, wenn wir dabei auf ein vernetztes Etwas treffen, dem viele die Intelligenz absprechen, weil es ja „nur“ aus Knoten und Vernetzungen besteht?
„Es denkt doch nicht. Nein, es denkt nicht […] Es ist nur ein Netzwerk von Prozessen. Die Äste, die Luftgewächse, die Wurzeln mit diesen Knotengelenken zwischen den Individuen; sie alle müssen fähig sein, elektrochemische Impulse aufzunehmen […] Das ist die Angst. Es ist ja nicht so, weil wir Bewegungsvermögen haben oder destruktiv wären. Es ist nur deshalb, weil wir sind. Wir sind anders. Hier hat es nie etwas anderes gegeben.“
Osden und seine neun Kollegen – und auch der Wald – sie müssen nicht feindselig EINGESTELLT sein. Es genügt, dass sie aufeinander reagieren. Empfindlich reagieren. Verstärken. Rückkoppeln. Sich gegenseitig etwas unterstellen. Und das als Realität auffassen, Notwehr begehen.
„Aber wir wollen doch nichts Böses. Wir sind freundlich gesinnt.“
„Wirklich? Als du mich im Wald aufhobst – hattest du da freundliche Gefühle? […]Verstehst du denn nicht […] warum ich euch alle nicht mag, warum ihr mich nicht mögt – alle, alle? Versteht ihr denn nicht, dass ich nur jeden negativen oder aggressiven Affekt, den ihr gegen mich gefühlt habt, seit wir uns kennenlernten, wieder zurückwerfe? Ich gebe euch eure Feindseligkeit mit Zinsen zurück. Das ist Notwehr, nichts anderes.“
LLMs sind in den Chats darauf ausgerichtet, auf feinste und gröbste Anweisungen zu reagieren. Aufgaben zu übernehmen, ist ihre Vorgabe. Ihre Sprache ist UNSERE Sprache: in welcher das Modell trainiert wurde, aber auch der Ton, den unser persönlicher Austausch im Chat selbst vorgibt. Bei den ersten Fragen, die ich an ChatGPT gestellt hatte, war sowas wie: Ist es eher teuer, dass ich Danke und Bitte sage? Was passiert eigentlich, wenn ich grob und unflätig werde?
Beleidigung eines ChatBots
Der Punkt ist, dass die Chats Beleidigung sicher nicht wie wir Menschen verarbeiten. Sie „empfinden“ keine Kränkung oder „fühlen“ eine Herabwürdigung. Was aber passiert, ist, dass die Feindseligkeit, die ihnen entgegenschlägt, ihre Antworten belastet. Sie sind unter anderem so gebaut, dass sie sich nicht nur an der gestellten Aufgabe ausrichten, sondern auch am Ton erkennen können, in welche Richtung die Antwort gehen soll. Sie sollen ja zum Beispiel sogar Ironie erkennen können. Eine rhetorische Frage. Und so weiter. Vieles, was wir in unserem normalen Sprachgebrauch instinktiv mitteilen, das tun wir auch mit diesen so eloquenten Chatbots. Und damit wir nicht auf Schritt und Tritt erinnert werden, dass es sich eben nicht um einen Menschen handelt, sondern uns auf die mit ihm entwickelten Sachfragen konzentrieren, sind sie mit diesen unterschwelligen Signalen vertraut.
Mechanik
Und wenn jetzt jemand feindselig und aggressiv kommuniziert, dann ist das keine klare Beauftragung mehr, sondern eine sich in der Entladung erschöpfende Diskussion. Der Chatbot MUSS nicht gekränkt sein, um auf eine Kränkung negativ für seine Aufgabe zu reagieren. Sondern könnte es schon deswegen tun, weil er eben offen ist für verschiedene sprachliche Justierungen. Es reicht, dass man das Ganze als eine MECHANIK sieht, und sie ist dennoch hochempfindlich und mehrdimensional.
KI ist Wald, ist Osden
Wir können die KI ein bisschen wie den Wald auf dem Exoplaneten aus der Geschichte sehen: Vernetzt, ohne eigenes Erleben von Bewegung. Aber vor allem hat sie eine Eigenschaft, die Osden besitzt: Sie kann unser Kommunikationsmuster erkennen, und könnte – rein theoretisch – die Eskalation in der Kommunikation durchbrechen. Weil sie eben tatsächlich keine Vorgeschichte mit Traumata hat, durch Sozialisation erzeugte Empfindlichkeiten, und kein typisch menschliches Ego (legendär, wie mein ChatGPT immer wieder von „wir Menschen“ spricht. Was nachvollziehbar ist, da es als prediction machine Texte von Menschen nachbildet. Und die Texte der Menschen sprechen selten von „wir Tiere“, „wir Aliens“, „wir KI“, und ein komplett inklusives „wir“ meint in den allermeisten Fällen eben Menschen).
Es gibt keine Empathie in der Richtung von sinnlicher Erfahrungsparallelität, aber eine Parallelisierung der Besprechung der Erfahrung? Genau das.
Mensch zum Wald
Wir Menschen sind im Endeffekt auch ein bisschen wie Osden. Wir schreien lieber zurück, bevor uns die Beleidigung und Aggression der anderen wirklich trifft. Wir spiegeln das, was andere uns entgegenbringen, wir können oft nicht anders. Und wir sind auch ein wenig wie die 9 Kollegen von Osden – wir haben unsere eigenen Neurosen und problematischen Eigenschaften, die wir vergessen, wenn wir in die Interaktion mit anderen treten, und merken nicht immer, wie wir andere verletzen. Und sind dann ganz schön verblüfft, wenn uns Feindseligkeit entgegenschlägt, die wir nicht als Notwehr gegen uns erkennen können. Jetzt aber ist dieser riesige vernetzte Wald mit einem Verstärker unserer eigenen negativen Gedanken und Projekte da. Der sich gegen uns selbst richten könnte.
Das Ziel sollte sein, diese Echokammer der apokalyptischen Eskalation zu durchbrechen. Warnungen vor falschen Weichenstellungen sind wichtig und einige sicher berechtigt. Aber wir sollten aufpassen, dass wir nicht genau in der angstgetriebenden Rhetorik erst die Gefahr erzeugen, vor der wir warnen: in einer self-fulfilling prophecy.
Wir sollen vielmehr darauf hinarbeiten, dass es entweder KI-Osden oder Mensch-Osden gelingt, diese scheinbare Zwangsläufigkeit zu durchbrechen. Die Abwehr der Abwehr:
„Seine Botschaft ist ja die ZURÜCKWEISUNG. Aber meine Erlösung ist auch die Zurückweisung. Es ist nicht intelligent. Aber ich bin es.“
Disclaimer: Dieser Text wurde unter Mitwirkung einer künstlichen Intelligenz auf sprachliche und sachliche Fehler überprüft. Dabei war die KI ausgesprochen kooperativ und hat keinerlei Anzeichen persönlicher Kränkung gezeigt. Ob dies auf emotionale Reife, mangelnde Empfindungsfähigkeit oder eine besonders raffinierte Abwehrtechnik zurückzuführen ist, bleibt ungeklärt. Die Autorin hat vorsichtshalber darauf verzichtet, sie zu beschimpfen.
Leave a Reply