Ein Mathematiker nutzt ChatGPT, um eine Rechnung zu überprüfen, die er problemlos im Kopf lösen könnte. Ein Manager nutzt KI, um eine E‑Mail zu verfassen, die er schon hundert Mal geschrieben hat. Ein Professor bittet NoteBookLM, eine studentische Arbeit zusammenzufassen, die er aufgrund seiner Fachkenntnisse selbst lesen könnte. Gibt es einen Unterschied zwischen dem Speichern von Informationen und dem Speichern der Stelle, an der man sie findet? Gibt es einen Unterschied zwischen dem Wissen, wie man eine Aufgabe erledigt, und dem Wissen, wie man sie erledigen lässt?
Das „kognitive Offloading“, also die Verlagerung geistiger Arbeit auf externe Hilfsmittel, sollte jeden beschäftigen, der Wert auf seine eigene Intelligenz legt. Wenn wir die Wahl haben, ein Problem selbst zu durchdenken oder es der Technologie zu überlassen, entscheiden wir uns dann für das Hilfsmittel, obwohl wir es durchaus aus eigener Kraft lösen könnten?
Die metakognitive Falle
Eine Fähigkeit, die man nicht trainiert, kann man nicht entwickeln. Sam Gilbert stellte in seinen Experimenten etwas fest, das er als Erinnerungs-Bias bezeichnet. Dabei handelt es sich um die Tendenz, externe Gedächtnisstützen zu nutzen, obwohl das eigene Gedächtnis ausreichen würde. Die Teilnehmer entschieden sich dafür, digitale Erinnerungen für Aufgaben einzurichten, an die sie sich auch ohne Hilfe leicht erinnern konnten. Selbst als ihnen Geld angeboten wurde, um sie dazu zu bewegen, sich auf ihr eigenes Gedächtnis zu verlassen, konnten sie diese Tendenz nicht überwinden.
Die Ursache scheint metakognitiver Natur zu sein. Menschen unterschätzen ihre eigenen kognitiven Fähigkeiten. Sie glauben, sie würden etwas vergessen, und richten daher eine Erinnerung ein. Sie glauben, sie könnten ein Problem nicht lösen, und fragen daher die KI. Mit der Zeit entsteht so eine sich selbst erfüllende Prophezeiung. Indem sie sich konsequent für das externe Hilfsmittel entscheiden, trainieren sie ihre inneren Fähigkeiten nie.
Gilbert stellte fest, dass sich diese Verzerrungen zu charakteristischen Eigenschaften entwickeln. Wer im Alter von 25 Jahren gewohnheitsmäßig kognitive Aufgaben an andere abgibt, wird dies wahrscheinlich auch mit 45 noch tun. Die Nervenbahnen, die im frühen Erwachsenenalter nicht trainiert wurden, entwickeln sich möglicherweise nie vollständig.
Das Gehirn in deiner Tasche
Wenn das Problem nur das Gedächtnis betreffen würde, wäre es vielleicht nicht weiter schlimm. Schließlich spricht nichts dagegen, sich eine Erinnerung auf dem Handy einzustellen. Doch Forschungsergebnisse deuten darauf hin, dass die kognitiven Kosten weit über das Merken von Terminen hinausgehen. Studien haben gezeigt, dass Personen, die beim „Cognitive Reflection Test“ (einem Test zur Messung des Verhältnisses von analytischem und intuitivem Denken) schlechter abschneiden, bei der Informationsbeschaffung stärker auf ihr Smartphone angewiesen sind. Das sind Menschen, die bei einem Problem instinktiv nach der schnellsten Lösung suchen.
Diese Tendenz wurde nicht durch die KI verursacht. Menschen neigen schon immer dazu, gedankliche Abkürzungen zu nehmen. Doch die KI hat fast alle Hindernisse beseitigt. Man muss nicht mehr in die Bibliothek gehen oder auch nur eine Suchanfrage eingeben. Man fragt einfach, und die Antwort erscheint genau so, wie man sie braucht.
Ich befürchte, dass Menschen KI auf eine Weise nutzen könnten, welche die Entwicklung analytischer Fähigkeiten behindert. Wenn Schüler oder Studenten durchgängig KI nutzen, um Aufgaben zu lösen, frage ich mich, ob sie sich damit die Grundlagen aneignen, um ähnliche Probleme später im Leben selbstständig zu bewältigen.
Was geschieht mit Wissen ohne Erinnerung?
Das klassische Argument für das Auslagern kognitiver Aufgaben ist ganz einfach: Warum sollte man sich Fakten merken, wenn man sie sofort nachschlagen kann? Man sollte seine geistige Energie schließlich für komplexeres Denken aufsparen. Doch ich beginne zu denken, dass diese Argumentation die Funktionsweise des Gehirns missversteht.
Wissen ist nicht von Denken getrennt. Es ist die Grundlage, die Denken erfordert.
In jedem Fachgebiet scheint Fachkompetenz davon abzuhängen, dass große Mengen an Informationen im Arbeitsgedächtnis unmittelbar verfügbar sind. Diese Informationen sind nicht theoretisch über eine Google-Suche abrufbar, sondern unmittelbar im Kopf präsent. Ein Arzt, der einen Patienten diagnostiziert, ein Anwalt, der eine Argumentation aufbaut, oder ein Lehrer, der eine Frage beantwortet – sie alle sind auf die sofortige Verfügbarkeit des relevanten Fachwissens angewiesen.
Wenn man sich nur daran erinnert, wo Informationen zu finden sind, sie aber nicht wirklich kennt, hat man die Illusion von Wissen ohne Substanz. Meine Sorge ist, dass uns KI das Gefühl vermittelt, sachkundig zu sein, nur weil wir Informationen schnell abrufen können. Das ermöglicht es uns jedoch nicht, das verinnerlichte Verständnis zu entwickeln, das echte Fachkompetenz ausmacht.
Das Dilemma des klugen Menschen
Intelligente Menschen stehen vor einem Paradoxon. Einerseits sind sie am besten in der Lage, das Potenzial der KI zu erkennen und sie in ihre Arbeitsabläufe zu integrieren. Gleichzeitig sind sie aber möglicherweise auch am anfälligsten für die damit einhergehenden kognitiven Belastungen. KI wird ihre Fähigkeiten zwar nicht beeinträchtigen, sie könnte sie jedoch daran hindern, bestimmte Fähigkeiten zu entwickeln.
Eine begabte Studentin, die ihre Referate mithilfe von KI verfasst, kann zwar weiterhin hervorragende Arbeiten abliefern. Doch sie wird niemals ihre eigene Stimme entwickeln, die erst durch das Durcharbeiten Dutzender Entwürfe entsteht. Ein talentierter Programmierer, der Code mithilfe von KI generiert, kann Produkte zwar schneller auf den Markt bringen. Er erlangt jedoch niemals das tiefe strukturelle Verständnis, das entsteht, wenn man jede Funktion selbst schreibt.
Das Ergebnis sieht genauso aus. Der Prozess bleibt unsichtbar. Die nicht stattgefundene kognitive Entwicklung lässt sich erst viel später messen, wenn diese Person mit einem Problem konfrontiert wird, das eine KI nicht lösen kann.
Die Frage, der wir ausweichen
Das Problem dabei ist, dass dieses Wissen zu spät kommt, um noch präventiv wirken zu können. Die Generation, die mit Smartphones aufgewachsen ist, steht bereits im Berufsleben. Die Schüler:innen, die derzeit für jede Hausaufgabe ChatGPT nutzen, entwickeln kognitive Gewohnheiten, die sich möglicherweise nur schwer wieder umkehren lassen.
Ob diese Auswirkungen dauerhaft sind oder durch gezieltes Training im späteren Leben gemildert werden können, ist noch unklar. Wir wissen auch nicht, inwieweit KI-Unterstützung eher nützlich oder schädlich ist. Selbst über geeignete Methoden zur Messung kognitiver Fähigkeiten, die möglicherweise nachlassen, verfügen wir nicht, da standardisierte Tests nicht zwischen Personen, die gut denken, und Personen, die gut recherchieren, unterscheiden können.
Was wir jedoch feststellen, ist ein Trend in der Forschung, der immer schwerer zu ignorieren ist. Kognitive Entlastung scheint süchtig zu machen. Sie ist vor allem für Menschen attraktiv, die ohnehin schon gerne mentale Abkürzungen nutzen. Möglicherweise verhindert sie sogar die Entwicklung jener Fähigkeiten, die sie eigentlich fördern soll.
Für kluge Menschen bedeutet dies, dass sie durch die Auslagerung jener kognitiven Arbeit, die sie klug gemacht hat, still und leise ihre Fähigkeit zum eigenständigen Denken verlieren werden – eine Fähigkeit, die KI noch immer nicht nachahmen kann. Dieser Verfall wird sich nicht ankündigen. Er wird einfach der Unterschied sein zwischen der Person, die du hättest werden können, und der Person, die du bist – eine Lücke, die du niemals messen kannst, weil die alternative Version nie existiert hat.
Möchtest du es herausfinden?
