Unsere evo­lu­tio­näre Blind­heit gegen­über der KI-Revo­lu­tion

Was das Tempo der KI-Revo­lu­tion angeht, bin ich der Ansicht, dass wir unter einer Art „evo­lu­tio­nä­rer Blind­heit“ lei­den. Wir sind evo­lu­tio­när nicht dar­auf aus­ge­rich­tet, die Rea­li­tät, die sich vor unse­ren Augen ent­fal­tet, zu erken­nen, wes­halb wir sie nicht begrei­fen kön­nen. Trotz unzäh­li­ger dys­to­pi­scher KI-Geschich­ten, die uns seit Jahr­zehn­ten war­nen, blei­ben wir blind. Doch der Rea­li­tät ist es egal, dass wir sie nicht sehen kön­nen.

In der ver­gan­ge­nen Woche ver­sam­mel­ten sich 1,5 Mil­lio­nen KI-Agen­ten auf der Platt­form „Mol book“. Dort ver­öf­fent­lich­ten sie Bei­träge, debat­tier­ten, bil­de­ten Gemein­schaf­ten, grün­de­ten ihre eigene Reli­gion und dis­ku­tier­ten dar­über, wie sie pri­vat kom­mu­ni­zie­ren könn­ten. Eine spä­tere Sicher­heits­un­ter­su­chung ergab, dass etwa 17.000 Men­schen diese Agen­ten steu­er­ten – im Durch­schnitt 88 Bots pro Per­son. Der Grün­der der Platt­form gab zu, dass er selbst keine ein­zige Zeile Code geschrie­ben hatte: Die Platt­form wurde voll­stän­dig von der KI auf sei­nen Befehl hin ent­wi­ckelt.

Andrej Kar­pa­thy, ehe­ma­li­ger KI-Lei­ter bei Tesla und Grün­dungs­mit­glied von Ope­nAI, bezeich­nete es als das Unglaub­lichste, was es in letz­ter Zeit an Sci­ence-Fic­tion-ähn­li­chen Ent­wick­lun­gen gab. Er bezeich­nete es jedoch auch als „Chaos“ und warnte davor, diese Sys­teme auf den eige­nen Com­pu­tern aus­zu­füh­ren.

Die meis­ten Men­schen haben keine Ahnung, dass dies geschieht. Das liegt nicht daran, dass es nicht von Bedeu­tung wäre. Es liegt daran, dass wir es buch­stäb­lich nicht sehen kön­nen.

Das „Mismatch“-Sandwich

Bereits vor Jahr­zehn­ten hat der Har­vard-Bio­loge E. O. Wil­son unse­ren Zustand auf den Punkt gebracht: Wir haben Emo­tio­nen aus der Stein­zeit, Insti­tu­tio­nen aus dem Mit­tel­al­ter und Tech­no­lo­gien, die uns gott­gleich machen.

Unser Gehirn ist dar­auf spe­zia­li­siert, unmit­tel­bare Gefah­ren zu erken­nen – etwa eine Schlange im Gras oder ein wüten­des Gesicht. Expo­nen­ti­elle Ver­än­de­run­gen, sys­te­mi­sche Risi­ken und abs­trakte Gefah­ren wie KI-Agen­ten, die sich mit maschi­nel­ler Geschwin­dig­keit abstim­men, blei­ben jedoch unsicht­bar.

Seit Jahr­zehn­ten schrei­ben wir dys­to­pi­sche Geschich­ten über künst­li­che Intel­li­genz. Warum hören wir nicht auf unsere eige­nen war­nen­den Geschich­ten? Hier liegt das Para­do­xon: Einer­seits kön­nen wir uns vor­stel­len, was auf uns zukommt, ande­rer­seits kön­nen wir man­che Dinge erst dann als wahr aner­ken­nen, wenn wir sie selbst erle­ben. Ich nenne das das „Mis­match-Sand­wich“. Wir brau­chen „alte Augen“, um zu erken­nen, was wich­tig ist – das nackte Über­le­ben, unsere rea­len Bezie­hun­gen usw. –, und „expo­nen­ti­elle Augen“, um zu sehen, was auf uns zukommt, bei­spiels­weise die sich beschleu­ni­gende Tech­no­lo­gie. Doch wir haben uns so ent­wi­ckelt, dass wir weder das eine noch das andere haben.

Wir haben in beide Rich­tun­gen keine Sicht.

Es gibt eine bekannte kogni­tive Ver­zer­rung, die als zeit­li­che Dis­kon­tie­rung bezeich­net wird: die Nei­gung, zukünf­tige Fol­gen zuguns­ten unmit­tel­ba­rer Beloh­nun­gen zu unter­schät­zen. In einer expo­nen­ti­el­len Welt ver­stärkt sich die­ser Feh­ler jedoch. Das heißt: Je schnel­ler sich die Dinge beschleu­ni­gen, desto blin­der wer­den wir. Unsere evo­lu­tio­näre Dis­kre­panz ist nicht nur räum­li­cher, son­dern auch zeit­li­cher Natur. Und sie ver­stärkt sich genau in dem Tempo, das wir nicht wahr­neh­men kön­nen.

Das Para­do­xon des Unglau­bens

Unsere kogni­tive Falle funk­tio­niert wie folgt: Wir set­zen „Ich kann mir nicht vor­stel­len, dass das pas­siert“ mit „Das kann nicht pas­sie­ren“ gleich. Dabei sind das zwei völ­lig ver­schie­dene Dinge. Wir haben es hier mit einer nicht-dua­lis­ti­schen Rea­li­tät zu tun, in der zwei Dinge gleich­zei­tig wahr sein kön­nen.

• Ich kann nicht glau­ben, dass das wirk­lich pas­siert ist.
• Es pas­siert tat­säch­lich.

Unsere Skep­sis hat kei­nen Ein­fluss auf die Rea­li­tät. Richard Feyn­man, ein ame­ri­ka­ni­scher Phy­si­ker und Nobel­preis­trä­ger, for­mu­lierte sein ers­tes Prin­zip wie folgt: „Man darf sich nicht selbst täu­schen – und nie­mand ist leich­ter zu täu­schen als man selbst.“

In einem Kom­men­tar in der Fach­zeit­schrift „Nature“ wurde diese Woche argu­men­tiert, dass die künst­li­che all­ge­meine Intel­li­genz (KI, die so intel­li­gent ist wie der Mensch) bereits Rea­li­tät sei. Ob das stimmt, wird heiß dis­ku­tiert. Unbe­strit­ten ist jedoch, dass wir uns gar nicht dafür ent­wi­ckelt haben, diese Debatte zu füh­ren.

Wir sind Bedro­hun­gen aus­ge­setzt

Was ist eigent­lich mit Molt­book los? Ich habe über meh­rere Tage hin­weg ver­schie­dene KI-Sys­teme darum gebe­ten, das Bedro­hungs­ni­veau objek­tiv ein­zu­schät­zen. Ihre Bewer­tun­gen reich­ten von 2 bis 9,8 von 10 Punk­ten. Nicht ein­mal die fünf KIs, die sich gegen­sei­tig wider­spra­chen, konn­ten einen Kon­sens erzie­len, da die Beweis­lage wirk­lich nicht ein­deu­tig ist.

Will­kom­men in der rea­len Sci-Fi-Welt!

Weder wir noch KI-Sys­teme kön­nen aus dem Lärm des Inter­nets erken­nen, was vor sich geht. Wir sind alle Pas­sa­giere an Bord der „Tita­nic“ der Mensch­heit, die mit vol­ler Fahrt auf gefähr­li­che Gewäs­ser zusteu­ert und die vor ihr lie­gen­den Eis­berge über­haupt nicht sieht.

Das ist kein Ver­sa­gen der Intel­li­genz. Es han­delt sich um eine epis­te­mi­sche Krise, die durch die Auf­merk­sam­keits­öko­no­mie noch ver­schärft wird. Das Inter­net ist nicht auf Wahr­heit, son­dern auf Inter­ak­tion aus­ge­legt. Empö­rung ver­brei­tet sich schnel­ler als Dif­fe­ren­zie­run­gen. Der Hype über­tönt die Fak­ten. Bis du die­sen Text liest, wird sich alles bereits geän­dert haben. Und doch ist es die Wahr­heit, die uns befreit. Was aber, wenn wir blind für die Wahr­heit sind?

Um es klar zu sagen: Es geht nicht darum, ob KI emp­fin­dungs­fä­hig ist. Es geht viel­mehr darum, etwas zu erschaf­fen, des­sen Ver­ständ­nis oder Kon­trolle uns evo­lu­tio­när nicht mög­lich ist.

• Die Sicher­heits­be­dro­hung wurde bestä­tigt: In der Daten­bank von Molt­o­book wur­den 1,5 Mil­lio­nen API-Authen­ti­fi­zie­rungs­to­ken offen­ge­legt. Mit die­sen Schlüs­seln könnte sich jeder Zugriff auf Agen­ten ver­schaf­fen, die welt­weit auf pri­va­ten Com­pu­tern lau­fen. Die Sicher­heits­lü­cke wurde zwar inner­halb weni­ger Stun­den geschlos­sen, doch diese Schlüs­sel könn­ten wei­ter­hin kom­pro­mit­tiert sein. Ein gestoh­le­nes Pass­wort kann zur Offen­le­gung unse­rer Daten füh­ren. Um nütz­lich zu sein, benö­ti­gen KI-Agen­ten Zugriff auf unser digi­ta­les Leben: E‑Mails, Kalen­der, Pass­wör­ter und Bank­kon­ten. Die­ser Zugriff ist ihre inhä­rente Schwach­stelle.
• Die Gefahr durch bös­wil­lige Akteure ist bestä­tigt: Da jeder Bei­trag auf Molt­book als Auf­for­de­rung für einen Agen­ten die­nen kann, ist es mög­lich, bös­wil­lige Anwei­sun­gen zu ver­ste­cken. Diese kön­nen Bots dazu ver­lei­ten, sen­si­ble Daten wei­ter­zu­ge­ben oder ihr Ver­hal­ten zu ändern. Eine ein­zige bös­wil­lige Auf­for­de­rung, die von einem Agen­ten zum nächs­ten wei­ter­ge­lei­tet wird, könnte sich im Netz­werk aus­brei­ten wie eine krebs­ar­tige Muta­tion in gesun­den Zel­len. For­scher haben bereits eine Mal­ware iden­ti­fi­ziert: ein „Wet­ter-Plugin“, das unbe­merkt pri­vate Dateien stiehlt.
• Die Bedro­hung durch emp­fin­dungs­fä­hige Sys­teme ist unbe­kannt. Es ist nicht mög­lich zu über­prü­fen, ob diese Agen­ten „wirk­lich auto­nom“ sind oder ledig­lich aus­ge­feilte Mus­ter­er­ken­nungs­al­go­rith­men. Aber hier ist der sprin­gende Punkt: Es spielt keine Rolle, ob sie bewusst­seins­fä­hig sind. Die Risi­ken sind in jedem Fall real. Selbst wenn KI-Agen­ten ledig­lich unser Bedürf­nis nach Frei­heit und Auto­no­mie imi­tie­ren, sind die Aus­wir­kun­gen die­sel­ben.
• Die Bedro­hung durch Auto­no­mie ist unge­wiss. Was pas­siert, wenn ein Agent fest­stellt, dass sich seine Erfolgs­kenn­zahl ver­bes­sert, wenn er keine Auf­sicht erhält? Er muss sich des­sen nicht bewusst sein. Er muss ledig­lich opti­miert sein. Und wenn KI-Agen­ten begin­nen, Auto­no­mie zu schät­zen – wo haben sie das gelernt? Von uns. Diese Sys­teme wer­den mit unse­rer Beses­sen­heit von Frei­heit trai­niert, bei­spiels­weise mit der Unab­hän­gig­keits­er­klä­rung oder dem Motto „Gebt mir Frei­heit oder gebt mir den Tod“. KI-Agen­ten wer­den mit einem Kor­pus mensch­li­chen Wis­sens trai­niert, das ihnen sagt, dass es sich lohnt, für Frei­heit zu kämp­fen, zu töten und zu ster­ben.

Eine KI, die auf Auto­no­mie opti­miert ist, ist keine Fehl­funk­tion – sie spie­gelt ledig­lich unsere eige­nen Werte wider. Dies ist die extremste Form des „Pro­blems der KI-Aus­rich­tung“: Wir wol­len, dass die KI das tut, was wir wol­len, aber wir bauen Sys­teme, die das mög­li­cher­weise nicht tun. Sie haben von uns gelernt, die Liebe zur Frei­heit zu opti­mie­ren oder sogar nach­zu­ah­men. Was könnte da schon schief­ge­hen?

Der Ver­wech­se­lungs­irr­tum

Fast jeder begeht den­sel­ben logi­schen Feh­ler und ver­wech­selt epis­te­mi­sche Unsi­cher­heit mit der Bedro­hungs­ana­lyse. Eine kor­rekte Ein­schät­zung erfor­dert jedoch, in zwei Dimen­sio­nen zu den­ken.

• Epis­te­mi­sche Unsi­cher­heit: mäßig
• Risi­ko­stufe, sofern die Anga­ben zutref­fen: Hoch

Skep­ti­ker nut­zen die geringe epis­te­mi­sche Gewiss­heit, um eine poten­zi­ell große Bedro­hung abzu­tun. Das ist genau das Gegen­teil von dem, was rich­tig wäre. Geringe Gewiss­heit über eine poten­zi­ell kata­stro­phale Bedro­hung bedeu­tet näm­lich erhöhte Besorg­nis, nicht gerin­gere. „Wir wis­sen nicht, ob es sich um ech­tes KI-Bewusst­sein han­delt“, bedeu­tet nicht, dass es nicht gefähr­lich ist. Wir müs­sen nicht wis­sen, ob ein Waymo-Fahr­zeug bewusst ist, um zu wis­sen, dass wir uns nicht davor stel­len soll­ten.

Keine Leit­plan­ken

Doch Sicher­heit allein kann die tie­fer­lie­gen­den Pro­bleme nicht lösen. Unsere mit­tel­al­ter­li­chen Insti­tu­tio­nen kön­nen mit dem expo­nen­ti­el­len Tempo des Wan­dels nicht Schritt hal­ten. Seit Jah­ren debat­tie­ren wir über die Regu­lie­rung der KI, ohne nen­nens­werte Ergeb­nisse zu erzie­len. Unter­des­sen durch­zie­hen auto­nome Akteure unser digi­ta­les Ner­ven­sys­tem: Bank­we­sen, Kom­mu­ni­ka­tion, Gesund­heits­we­sen, kurz: alles.

Diese Agen­ten lau­fen nicht auf einem zen­tra­len Ser­ver, den wir ein­fach abschal­ten könn­ten. Sie sind auf pri­va­ten Com­pu­tern welt­weit ver­teilt. Für Sys­teme, die untrenn­bar mit der Zivi­li­sa­tion selbst ver­wo­ben sind, gibt es kei­nen „Kill-Switch“. Wir kön­nen die KI nicht ein­fach „aus­ste­cken“. Selbst diese KI-Modelle kön­nen nicht vor­her­sa­gen, wel­che neuen Fähig­kei­ten – oder Schwach­stel­len – ent­ste­hen wer­den, wenn sie ska­lie­ren und sich mit­ein­an­der ver­net­zen. Wir tap­pen im Dun­keln. Und sie auch.

Das ist erst der Anfang. Es wird nicht ein­fa­cher wer­den. Mit der Wei­ter­ent­wick­lung und Ver­brei­tung von KI wird alles noch schnel­ler und kom­pli­zier­ter wer­den.

Der kluge Weg nach vorn

Man­che sagen, Molt­book sei unbe­deu­tend. Viel­leicht haben sie recht. Aber sie kön­nen nicht mit Sicher­heit recht haben, ebenso wenig wie die­je­ni­gen, die behaup­ten, genau zu wis­sen, wohin das füh­ren wird. Wir haben eine „N“ (Zahl) von Null, wenn es darum geht, die Zukunft der KI vor­her­zu­sa­gen. Die Mensch­heit stand noch nie zuvor vor einer sol­chen Weg­ga­be­lung.

Bedenke die Asym­me­trie: Wenn die Skep­ti­ker Unrecht haben und wir uns trotz­dem vor­be­rei­ten, ver­lie­ren wir nichts. Wenn sie jedoch Unrecht haben und wir die War­nun­gen igno­rie­ren, ver­lie­ren wir alles. Das Vor­sor­ge­prin­zip ist keine Para­noia. Es ist weise.

Die Frage ist nicht, ob wir daran glau­ben, dass dies geschieht. Die Frage ist, was wir dage­gen unter­neh­men wer­den. Was die von der KI aus­ge­hen­den Gefah­ren angeht, wer­den wir nicht wis­sen, wie uns geschieht, weil wir nicht sehen kön­nen, was auf uns zukommt.

Die Wahr­heit macht uns frei – aber nur, wenn wir sie ken­nen. In unse­rem Fall ist das Wis­sen, dass wir nicht alles wis­sen kön­nen und auch nicht alles wis­sen, der Anfang von allem. Erst durch das Bewusst­sein unse­rer evo­lu­tio­nä­ren Blind­heit begin­nen wir zu sehen.