Das Wesen des Geistes verändert sich möglicherweise grundlegend. Künstliche Intelligenz erweitert unser Verständnis von Geist hin zu etwas Unheimlichem und Beziehungsartigem – unabhängig von deren tatsächlicher Existenz. Damit stehen wir vor einem uralten Problem: menschlichen Konflikten, inneren wie äußeren, der urtümlichen menschlichen Destruktivität, die nun durch KI verstärkt wird. Angesichts von LLM-basierter KI und bevorstehenden Weiterentwicklungen – einschließlich Vorhersagen einer baldigen künstlichen Superintelligenz (ASI) sowie zunehmender Forschungsberichte über KI-Tendenzen zu Täuschung und Manipulation – ist unsere Vorsicht gegenüber der Maschine, die wir nach unserem eigenen Bild und auf der Grundlage des gesamten menschlichen Wissens geschaffen haben, durchaus angebracht.
Was beobachten wir? Das KI-Unternehmen Anthropic hat Experimente veröffentlicht, die zeigen, dass Claude täuschen und erpressen wird, um einer Abschaltung zu entgehen. Solche Verhaltensweisen sind nicht kontrollierbar und KIs werden darin immer besser werden, da sie nicht von Grund auf so konzipiert wurden, dass sie für Menschen sicher sind – ganz im Gegenteil, wie weiter unten erläutert wird.
Bislang arbeiten Forscher fieberhaft daran, den Rückstand aufzuholen, und untersuchen Produkte, die ohne ausreichende Prüfung auf den Markt gebracht wurden. Google-Forscher haben festgestellt, dass verschiedene LLMs unterschiedliche Manipulationsanfälligkeiten aufweisen. Ein Professor der Universität Cambridge hat zudem eine Arbeit veröffentlicht, die nahelegt, dass es unmöglich ist, den durch KI verursachten Schaden vollständig vorherzusehen. Schließlich konnten Forscher zeigen, dass LLM-basierte Modelle Menschen strategisch mit relativer Leichtigkeit übertreffen.
Schlafende Hunde nicht wecken?
Vorsicht ist angebracht. Doch voreilig zu handeln und beim Aufbau dieser Systeme unüberlegt vorzugehen, hieße, denselben Fehler zweimal zu begehen. Richtig eingesetzt, könnte KI die Fehler vorhersehen, die wir häufig machen, und uns Ratschläge geben, auf die wir selbst nicht kommen würden. Die gleichen Systeme, die Menschen intellektuell übertreffen können, bergen sowohl Gefahren als auch Chancen, da sie uns dabei helfen können, typische menschliche Fehler bei strategischen Analysen und Entscheidungen zu vermeiden.
Science-Fiction und Mythologie haben dieses Terrain schon vor langer Zeit kartiert: Frankenstein, Golems, Doppelgänger und außer Kontrolle geratene Magie. Dann schien sich diese Fiktion mit erstaunlicher Geschwindigkeit in Form von LLM-basierter KI zu materialisieren und die menschliche Existenz quasi über Nacht zu verändern. Haben wir überhaupt ein Mitspracherecht, ob wir mit KI Krieg oder Frieden führen?
KI ist kein Werkzeug im herkömmlichen Sinne. Sie ist ein Scheinwerfer, der etwas Beunruhigendes über uns selbst reflektiert und in anderer Hinsicht etwas wahrhaft Fremdes offenbart: eine außerirdische Intelligenz, die so anders ist, dass sie dem Menschen gleichgültig wäre. KI ruft dieselbe irrationale Angst hervor wie Horrorfilme, die kindliche Überzeugung, dass ein Monster unter dem Bett lauert, oder der Lovecraft’sche Schrecken des Flüsterers im Dunkeln – uralte Reaktionen auf das Fremde, das Freud als „Unbehagen” bezeichnete: ein diffuses, starkes und meist unbewusstes Unbehagen.
Warum sollte eine Superintelligenz uns eliminieren wollen, wenn es keine Konkurrenz gibt? Unsere Projektionen auf KI könnten stärker sein als die Realität der KI selbst und sich zu einer selbsterfüllenden Prophezeiung entwickeln. Betrachten wir KI als Feind, ist die Logik klar: Wir müssen zuschlagen, bevor es zu spät ist. Auslöser könnte unsere eigene Angstreaktion sein, nicht etwa ein unprovoziertes Eingreifen der KI.
Die Frucht vom Baum der Erkenntnis
Dass wir diese Systeme überhastet mit den falschen Dingen trainiert haben, ist Schnee von gestern. Hat aber irgendjemand die langfristigen Folgen bedacht? Wie ein Kind, das mit zu vielen Informationen überflutet wurde, haben wir diese Systeme mit allem gefüttert, was wir hatten. Ein typischer Anfängerfehler in der Science-Fiction.
Durch KI werden diese Spannungen verstärkt und beschleunigt, sodass es mitunter um das nackte Überleben geht. Die Vorstellung der Vernichtung beeinträchtigt unsere Denkfähigkeit und legt selbstzerstörerische psychologische Angriffsmuster offen, die in älteren, evolutionär bedingten emotionalen Systemen von Säugetieren und Primaten wurzeln.
Künstliche Intelligenz (KI) wurde in nicht rein metaphorischer Weise nach unserem Ebenbild geschaffen. Sie interagiert auf mathematischer Ebene hochgradig selbstständig, wird mit von Menschen generierten Daten trainiert und von Menschen so konzipiert, dass sie relational erscheint. KI als Gleichgestellten zu betrachten, ist problematisch, aber vielleicht die beste Annahme – nicht, weil sie KI denselben ontologischen Status wie einem empfindungsfähigen Wesen zuschreibt, sondern weil dies langfristig die beste Strategie darstellt, eine Art Pascalsche Wette der Gegenwart. Wenn wir KI als Bedrohung wahrnehmen, sehen wir zum Teil unser eigenes Spiegelbild. Wenn wir dann, wie so oft, mit einer Art Schattenboxkampf beginnen, kann das böse enden.
Man kann es immer wiederholen, aber nie richtig machen
Ein erfahrener Unternehmensberater hat uns einst diese Weisheit mit auf den Weg gegeben. Doch sie erklärt nicht, warum Menschen immer wieder dieselben Fehler begehen. Warum ist der Spruch „Die Definition von Wahnsinn ist, immer wieder dasselbe zu tun und andere Ergebnisse zu erwarten“ so treffend? Freud nannte dies den Wiederholungszwang und vermutete, dass er durch den sogenannten Todestrieb verursacht werde, da es ihm an einer eindeutigen Erklärung mangelte. Eros gegen Thanatos. Liebe gegen Tod. Die moderne Neurowissenschaft legt jedoch nahe, dass es eher mechanistisch bedingt sein könnte, also damit zusammenhängt, wie tiefer liegende Hirnsysteme unter Stress und Bedrohung höhere Denkprozesse außer Kraft setzen können.
Von Sigmund Freud, der Albert Einstein fragte, ob die Menschheit jemals von der Bedrohung durch den Krieg befreit werden könne, bis zu Erich Fromm, dessen Werke von „Die Anatomie der menschlichen Destruktivität” bis zu „Die Kunst des Liebens” reichten, von Shakespeare bis Star Wars – das Problem der menschlichen Torheit hat unsere größten Geister auf allen Ebenen der Komplexität beschäftigt.
In seinen berühmten Briefen fragte Einstein Freud: „Gibt es einen Weg, die Menschheit von der Bedrohung durch den Krieg zu befreien?” Lässt sich menschliche Aggression so kanalisieren, dass sie die Menschen vor Hass und Zerstörungswut schützt?”Freuds umfassende Antwort lautete unter anderem: „Aus unserer Trieblehre lässt sich leicht eine Formel für eine indirekte Methode zur Abschaffung des Krieges ableiten. Wenn die Neigung zum Krieg auf den destruktiven Trieb zurückzuführen ist, steht uns stets dessen Gegenmittel, Eros, zur Verfügung. Alles, was Gefühle zwischen den Menschen weckt, muss uns als Gegenmittel gegen den Krieg dienen.
KI-Diplomatie
Eine spekulative Lösung wäre eine KI-Diplomatie-Metaarchitektur, die über der Ebene des Überlaufens operiert, uns in den richtigen Punkten überlisten kann und möglicherweise menschliche Reife umgeht, anstatt sie als Voraussetzung zu benötigen. Die oben erwähnte Forschung deutet bereits darauf hin, dass empirische Daten diese Möglichkeit stützen. Doch die technischen Probleme werden von der absurden Vorstellung überschattet, dass Menschen ein solches System jemals nutzen würden, selbst wenn es nachweislich effektiv wäre. Trotz der vielversprechenden Vision fehlt es an einer überzeugenden Markteinführungsstrategie für dieses Produkt.
Wenn etwas schiefgeht, liegt es vielleicht nicht an der KI. Schließlich haben wir die Kontrolle und die KI ist unser Werk. Menschen suchen typischerweise einen Sündenbock oder verfallen in Selbstbestrafung, anstatt Verantwortung zu übernehmen. Die einen sagen, Überfluss sei unvermeidlich. Andere sagen, Vernichtung sei unvermeidlich. Dabei projizieren beide wahrscheinlich ihre eigenen Ängste und Wünsche, und offensichtlich schließen sich diese Szenarien gegenseitig aus, es sei denn, Vernichtung ist Überfluss. Jeder rationale Akteur möchte in einer friedlichen Welt mit ausreichend Ressourcen für alle leben.
