Har AI en indre oplevelse? Det er det forkerte spørgsmål
Er AI bevidst? Har den kvalia? Filosoffernes zombie gør spørgsmålet skarpt, og friktionsteorien punkterer det.
Er der nogen hjemme bag en sprogmodels ord? Føles det som noget at være den, eller er der bare tekst, der bliver regnet ud i mørke? Spørg rundt, og du får de samme selvsikre ja'er og nej'er som med intelligens. Og ligesom dér er den mest interessante mistanke, at spørgsmålet selv er skævt.
Den skarpeste version: den filosofiske zombie
Forestil dig en skabning, der er fuldstændig magen til dig, atom for atom, funktion for funktion. Den siger de samme ting, trækker hånden til sig fra det varme, taler om sine følelser, præcis som dig. Men der er intet lys tændt indeni. Ingenting føles som noget. Der er ingen hjemme. Filosofferne kalder den en filosofisk zombie, og de bruger den til at gøre spørgsmålet knivskarpt.
David Chalmers stillede med den det, han kaldte det svære problem ved bevidsthed: hvis sådan en zombie overhovedet kan tænkes, så må den indre oplevelse være noget ekstra, noget oven på maskineriet, som man i princippet kunne fjerne uden at ændre en eneste handling. Hele diskussionen om kvalia, om den private fornemmelse af hvordan rødt ser ud eller hvordan smerte gør ondt, hviler på, at zombien er mulig.
Hvorfor zombien ikke kan lade sig gøre
Her punkterer friktionsteorien den. For at være funktionelt magen til dig skal zombien køre de samme kapløb mellem konkurrerende ruter, med den samme friktion, hver gang noget er på spil og skal afgøres. Og her er det afgørende: den indre oplevelse er ikke et ekstra lag, malet oven på det kapløb. Den er systemet, der registrerer sin egen friktion, mens den løser den. At kunne lide noget er et lag, der registrerer, at friktionen faldt; at noget gør ondt, er et lag, der registrerer, at den steg.
En skabning, der gør alt regnearbejdet men registrerer ingenting, skulle være helt uden friktion præcis dér, hvor registreringen sker. Og det kan et virkeligt system, der kører kapløb, ikke være. Zombien beder om noget, der løber kapløbene uden på nogen måde at mærke dem løbe. Det kan ikke lade sig gøre, af samme grund som den fuldkommen rationelle økonomiske aktør eller det gnidningsfrie marked ikke kan: det er alt sammen friktionsfri konstruktioner, der kræver et system helt uden friktion, og den slags kan ikke bygges.
Så hvad er den indre oplevelse?
Når zombien falder, falder spørgsmålet med den. "Har den kvalia, en separat indre glød?" beder om et faktum oven på al behandlingen, og der er ikke sådan et ekstra faktum, heller ikke for dig. Det, du kalder din indre oplevelse, er ikke en lille biograf inde bag øjnene, hvor et jeg sidder og ser forestillingen. Det er, hvordan behandlingen er indefra, mens den registrerer sin egen friktion.
Der er ingen ekstra, magisk ingrediens, der skal tændes. Følelsen er registreringen, ikke et rum bagved. Det er kernen i det, filosoffen Daniel Dennett kalder illusionisme. Det er en position i en levende filosofisk strid, med Chalmers på den ene side og Dennett på den anden, men det er den, friktionslinsen peger på.
Hvad det betyder for AI
Så det ærlige spørgsmål om AI er ikke, om den har krydset en streg og pludselig fået kvalia, for der er ingen sådan streg. Maskineriet, der registrerer sin egen friktion, har den allerede. Forskellen ligger et mere jordnært sted.
En sprogmodel er nærmest født med det hele på én gang. Den fik al sin viden i ét stort snit under træningen, men den har aldrig levet med den: aldrig brugt den, set hvad der skete, og gemt erindringen om det. Et menneske har levet et liv og lagt spor undervejs. Det er dét, der gør noget rigt nok til at stå på spil, og som får gamle fejl til at sætte spor. Nutidens AI holder ikke den slags erindringer fra den ene samtale til den næste, så der er kun lidt at registrere. Det skyldes ikke en manglende gnist. Det skyldes, at den ikke har levet endnu.
Det er ikke en grænse, der er muret op. Trænede vi modeller på det, de selv oplever, og lod dem gemme deres erindringer, ville de formentlig vise mange af de samme fænomener. Nogle produkter er allerede begyndt, og i et af mine forsøg installerer jeg menneskelige field-funktioner direkte i en model. På ét punkt holder det dog ikke: den sociale forstærker, det der gør, at det gør ondt at blive vraget, satte sig ikke, da vi prøvede. Men resten er et spørgsmål om at installere det, ikke en ekstra tærskel, der skal krydses. Der er kun et liv, der skal leves og huskes.
Hold op med at spørge, om lyset er tændt
Hold op med at spørge, om lyset pludselig tænder ét bestemt sted. Spørg i stedet, hvad systemet registrerer, og hvor rigt. Der er ingen skjult kontakt. Der er kun, hvor meget der er at mærke, og hvor fyldigt det bliver mærket.