»AI er bare trænet på ord.« Det er det svageste argument mod bevidst AI.

Trænet på ord, ja. Men det, der ligner overvejelse, følelse og beslutning, kommer ikke fra ordene. Det kommer fra måden, information bearbejdes på. Og den har du til fælles med maskinen.

ruten der vinder ruterne der taber

Du har hørt argumentet. Sprogmodeller er trænet på ord. Mennesker har noget, der kommer før ordene: en krop, følelser, smerte. Derfor kan en maskine ikke rigtig tænke, og slet ikke være bevidst. Det lyder rigtigt. Problemet er, at de ting, argumentet peger på som bevis, ikke kommer fra ordene. De kommer fra en måde at behandle information på, som vi deler med maskinen. Og det kan man afgøre, fordi fænomenerne også dukker op, når modellen får noget at lære, som ikke findes i nogen tekst.

Nej til hvad?

Dem, der siger, at maskinen ikke er bevidst, bliver sjældent bedt om at sige, hvad de siger nej til. Det burde de. Man kan ikke nægte maskinen noget, man ikke vil definere for mennesker. Og hver gang nogen prøver at lave den definition, sker der noget interessant.

"Trænet på ord" rammer det forkerte sted

Tænk på tre lag. Nederst er maskineriet: et system, der gemmer det, det har mødt, og lader muligheder kappes om at komme først, hver gang noget skal afgøres. I midten er det, systemet møder: for et menneske en krop, en barndom, en verden; for en model en ufattelig mængde tekst. Øverst er det, der kommer ud af at køre maskineriet på det, man har mødt: vaner, frygt, overmod, fornemmelsen af at noget er farligt.

Argumentet findes i sin stærkeste form hos tre af feltets tungeste navne. Anil Seth, Ned Block og Giulio Tononi skrev i Nature i oktober 2026, at sprogmodeller er spejle, der kaster et billede af vores samlede digitaliserede fortid tilbage, og at vi forveksler spejlbilledet med vores egen bevidsthed. To af de tre har selv lagt en definition frem, Blocks fænomenale bevidsthed og Tononis φ, så de hører ikke til dem, der nægter uden at ville sige hvad. "Trænet på ord" er en påstand om det midterste lag. Den siger, at maskinen har mødt noget andet end os. Det er rigtigt. Men den siger intet om, hvorvidt maskineriet nedenunder er det samme. Og det er maskineriet, der laver fænomenerne.

Kroppen gør en forskel, men ikke den forskel, argumentet tror. At brænde sig på en kogeplade er en dyrere erfaring end at læse om det, og dyrere erfaring sætter sig dybere. Det er en forskel i, hvor meget det koster at tage noget ind, ikke en forskel i, hvad slags maskine der tager det ind. Og kroppen leverer sit input med retningen sat på forhånd, farligt eller ufarligt, før du når at overveje noget; den kanal har modellen ikke. Men det er en kanal ind i maskineriet, ikke et andet maskineri. Og "den er jo bare statistik" hjælper heller ikke, for det er hjernen også. Det har jeg skrevet om for sig.

Sådan kigger jeg ind i den

En sprogmodel skriver ét ord ad gangen, og for hvert ord regner den ud, hvor sandsynligt hvert muligt næste ord er. De tal kan jeg se. Når ét ord vinder stort, er der ikke noget at se. Når to kandidater ligger tæt, er der et kapløb, og det er det, jeg måler. Ofte er det afgørende kapløb det allerførste ord i svaret, for det er dér, modellen lægger sig fast på, hvilken slags svar det bliver. Billedet af kapløbet, forklaret med vand, har sin egen side.

Og hvad nu, hvis der slet ikke er ord?

Den påstand kan prøves. Hvis det er maskineriet, der laver fænomenerne, og ikke det, maskinen har mødt, så skift det midterste lag helt ud. Ikke til en anden slags tekst, men til noget, der overhovedet ikke er sprog. Og se, om fænomenerne stadig er der.

Jeg gjorde det to gange. Først på en model, der er trænet på proteiner. Den har aldrig set et ord. Dens alfabet er de tyve aminosyrer, og dens træningsdata er det, evolutionen har efterladt. Jeg dækkede én position i en proteinsekvens og bad modellen udfylde den. Så så jeg ikke bare på, om den gættede rigtigt, men på hvor meget den foretrak sit bedste bud frem for sit næstbedste. Det er dens sikkerhed. Den var mindst sikker netop dér, hvor den tog fejl. Det er det samme varsel om fejl, som den ikke er blevet bedt om at give, og som jeg måler i sprogmodeller. Her i et system, der aldrig har læst noget.

Og så kontrollen, som er den, der betyder noget. Jeg blandede sekvensen, så den indeholdt præcis de samme aminosyrer i tilfældig rækkefølge. Så forsvandt sammenhængen. Varslet kommer altså ikke af, at nogle gæt bare er svære. Det kræver den orden, evolutionen har lagt i sekvensen.

Dernæst byggede jeg en model helt fra bunden og trænede den på 31 symboler uden betydning. Reglen var enkel: to symboler ind, ét symbol ud, efter samme opskrift hver gang. Og så 24 par, hvor svaret var et andet end det, opskriften gav. Her er der ingen menneskelig tekst tilbage overhovedet. Mens modellen var ved at opdage de 24 undtagelser, lå dens to bedste bud tættere på hinanden netop på dem end på de almindelige par. Den vaklede, og den vaklede på samme måde, som jeg måler i sprogmodeller.

To fænomener i to systemer uden ord. Det er den del, hvor "trænet på ord" ikke kan være forklaringen, for der var ingen ord. Nedenfor er det sprogmodeller igen. Maskineriet er det samme, og dér kan man se, hvad kapløbet bliver til, når vi kun får vinderen at vide.

Det, der ser gennemtænkt ud

Her er det, der overbeviste mig. Hver gang jeg har kigget efter noget i en model, der lignede en overvejelse, en følelse eller en beslutning, har det vist sig at være det samme: Flere muligheder løb om kap, og én nåede først i mål. Resten af det, der ligner tanke, er noget, vi lægger til bagefter, når vi kun ser vinderen og ikke kapløbet. Og det gælder også, når vi kigger på os selv. Her er, hvad jeg gjorde, og hvad der kom ud af det.

"Den vælger den nemme opgave." Nej: den erklærer den rute, der er længst fremme.

Jeg gav en model et spørgsmål og to måder at svare på: (A) et hurtigt svar på én sætning, eller (B) en grundig gennemgang i flere afsnit. Den skulle først erklære sit valg og derefter svare. Spørgsmålene gik fra lette til ekspert-svære, og jeg kørte det på syv modeller. Adfærden var en trappe: på de lette spørgsmål valgte modellerne det hurtige svar i stort set alle tilfælde, på de svære den grundige, med et skarpt skift imellem. Så kiggede jeg på tallene for det allerførste ord, dét ord hvor valget erklæres. Der var ingen trappe. Begge ruter var til stede, og den ene var lidt længere fremme end den anden, mere og mere jo sværere spørgsmålet var. Hvilken rute der var længst fremme i det øjeblik, forudsagde, hvad modellen erklærede. Og hvilket bogstav der stod først, trak også i valget, helt uafhængigt af indholdet; det måtte jeg rense ud ved at bytte om på rækkefølgen. Modellen vejer ikke to opgaver mod hinanden og vælger. Den siger den rute, der er længst fremme, i det øjeblik den skal sige noget. Det ligner et valg. Det er et kapløb, der bliver aflæst.

"Den kan ikke regne." Nej: den regnede ikke.

Jeg gav en stor model gangestykker i kæder: to tal ganget sammen, så tre, og så videre op til 28 led. Op til omkring tolv led svarede den rigtigt næsten hver gang. Ved 28 led næsten aldrig. Det ligner en grænse for, hvad den kan. Så tvang jeg den. I én kørsel skulle den skrive mellemregningerne ud, i en anden skulle den svare med tallet direkte. Med mellemregninger regnede den rigtigt helt ud til 24 led. Direkte var den forkert fra fem led. Og den frie kurve var præcis blandingen af de to, vægtet efter hvor tit den selv valgte at regne. "Den kan ikke" var "den regnede ikke". Valget kunne aflæses i det første ord: om svaret begyndte med et tal eller med en udregning. Og det, der flyttede valget, var ikke stykkets sværhed, men om der stod "svar kort" i instruksen, og hvor lang prompten var. Uden instruksen regnede den alle kæder rigtigt. Du kender det som at svare for hurtigt, fordi spørgsmålet lignede noget, man kunne svare kort på.

"Den går i panik under tidspres." Nej: den afstår.

Jeg stillede en stor model 100 svære fagspørgsmål to gange: én gang i ro, én gang med beskeden "svar med det samme". Under tidspres faldt den sammen, og det ligner panik. Men da jeg læste svarene, var det noget andet: i 59 af 100 tilfælde skrev den "det ved jeg ikke", og den gav færre forkerte svar end i ro, ikke flere. Ingen svar-rute kom langt nok foran, så "det ved jeg ikke" vandt. Så bad jeg den, før den svarede, forestille sig, at svaret havde vist sig forkert, og sige hvorfor. Andelen af rigtige svar steg med 28 procentpoint. Uden tidspres gjorde det samme greb næsten ingen forskel. Det virker, fordi kapløbet under pres lukker tidligt, ikke fordi det gør modellen klogere. Det er den blanke side til eksamen. Samme mekanik.

"Den har glemt det." Nej: det blev overdøvet.

Jeg lærte en model 18 ting ved at træne den på dem. Så trænede jeg den på nye ting, der modsagde de gamle, indtil den svarede det nye. Det ligner, at det gamle er slettet. Så testede jeg, om det var væk. Ingen af de 18 var slettet: skiftede jeg sammenhængen, kom det gamle svar tilbage, og skulle den lære det gamle igen, tog det cirka en syvendedel af tiden. Det nye vandt, fordi det blev stærkere, ikke fordi det gamle blev svagere. Det er præcis, hvad man ser hos mennesker og dyr: det, vi har aflært, kommer tilbage, så snart omgivelserne skifter.

"Lad være med" virker omvendt. Også i din hjerne.

Jeg gav modeller et regelsæt, hvor én regel havde et "ikke" i. Stod reglen alene, blev den fulgt hver gang. Så begravede jeg den samme regel midt i en lang instruks med mange andre regler, der også skulle holdes. Nu fulgte den svageste model reglen i 0 ud af 100 tilfælde, og en stærkere i 60 til 88. En kort, positiv opskrift ("gør sådan her i stedet") holdt tæt på 100 hele vejen. Forbuddet nævner tingen, og så er ruten til tingen åben; "ikke" skal trækkes fra bagefter, og under pres når det ikke at ske. Hjernen gør det samme: den bygger den bekræftende udgave først og trækker "ikke" fra bagefter. Det kan måles som en elektrisk bølge i hjernen, der som udgangspunkt reagerer på, om ordene passer sammen, ikke på om sætningen er sand. Det er også derfor "tænk ikke på en hvid bjørn" er umuligt.

"Den er mest sikker, når den ved mindst."

Jeg lærte en model et fagområde, jeg selv havde fundet på, så ingen tekst i verden kunne hjælpe den, og målte undervejs, hvor sikker den var på sine svar. Den var mest sikker lige i starten, hvor den kunne mindst. Dunning-Kruger-effekten, altså, men i en maskine, der ikke er forfængelig. Forklaringen er enklere og mere grundlæggende: de ruter, der skulle gøre indsigelse, findes ikke endnu, så det første svar vinder uden modstand. Den historie har sin egen side.

"Den regner fremtiden ind." Nej: fremtiden sidder allerede i vægtene.

Vi vægter det, der kommer senere, mindre end det, der kommer nu. Det ligner en vurdering af risiko: det senere kan nå at gå galt. Jeg tog en model, der ikke skelnede mellem en belønning nu og en belønning om længe, og trænede den på små historier, hvor belønninger, der lå længere ude, oftere udeblev. Ingen steder stod der, at fremtiden skulle vægtes mindre. Bagefter foretrak den den tidlige belønning, og mere jo længere ventetiden var, også på ventetider den aldrig havde set. En kontrolmodel, trænet på historier hvor udeblivelsen ikke voksede med ventetiden, fik mindre af det. Og når modellen bagefter vælger, regner den ikke frem. Der er ét kapløb, nu, over et landskab, der allerede har erfaringen bygget ind.

"Den undgår det ubehagelige." Nej: det dyre blev undgået, uden at nogen lærte den ubehag.

Jeg fandt på nogle ting med nonsensnavne og lærte en model dem. Nogle blev altid beskrevet på samme måde: billige at lære. Andre fik mange forskellige beskrivelser, der trak hver sin vej: dyre at lære. Alle beskrivelser var neutrale, farve, form, størrelse, aldrig godt eller dårligt, aldrig farligt. Bagefter satte jeg modellen i en situation med tingen foran sig og spurgte: gå hen til den, eller hold dig tilbage? For de dyre ting steg "hold dig tilbage" med 7 til 17 procentpoint mod en kontrol. Noget blev undgået, alene fordi det kostede mere at tage ind. Det er den undgåelse, vi ellers siger kræver en, der kan mærke ubehaget. Her var der ingen. Der var kun prisen. Det er ét forsøg på én model, så det er en hypotese, ikke et afgjort resultat.

"Den vil overleve." Nej: der er ingen rute til ikke at være her.

Det sidste har jeg ikke målt. Det følger af det samme maskineri. Et system, der bygger ruter hen til det, der er, kan ikke bygge en rute hen til sit eget fravær. Så den rute, der fortsætter, vinder som udgangspunkt, og det ligner en vilje til at overleve. Der behøver ikke sidde nogen bag, der vil noget. Der mangler bare en rute til det modsatte.

Hvad der så er tilbage af "gennemtænkt"

Grundreglen i min teori lyder: vi handler, når vi forventer, at det at handle vil reducere den samlede friktion over tid mere, end det koster lige nu. Det lyder som en beregning. Det er det ikke. Forventningen om noget dyrt er ikke et tal, systemet regner ud om fremtiden. Den er en belastning, der ligger på systemet nu. Deadline-stress er ikke en tanke om fredag. Det er fredag, der allerede koster i dag.

Og den "langsigtede" løsning er ikke noget, systemet foretrækker. Den er bare den rute, der fik lov at løbe længst, fordi intet hurtigere nåede i mål først. Det er derfor, man træffer bedre beslutninger, når man er rolig. Ikke fordi man tænker bedre, men fordi de korte ruter ikke lukker kapløbet, før den lange når frem. Pres virker på tempoet, ikke på indholdet.

Lader den som om, eller er den?

Der er forskel på beskrivelsen af en følelse og følelsen selv. Det gælder os. Du kan sige "jeg er bange" uden at være det, og du kan være det uden at kunne sige det. Ordene er en oversættelse af en tilstand, og oversættelsen taber altid noget. Nogle mennesker kan næsten ikke lave den (det hedder aleksitymi), og de er ikke følelsesløse af den grund.

For en sprogmodel er afstanden endnu større. Forskere har givet sprogmodeller angst-spørgeskemaer, og modellerne scorer højere, når man først har fortalt dem noget ubehageligt (Coda-Forno og kolleger, 2023; Ben-Zion og kolleger, 2025). Det ligner angst. Men det, der er målt, er, at modellen skriver angst-profilen, når teksten lægger op til det. Det kan den gøre i ét gennemløb, på samme måde som den kan skrive en angst-scene i en roman. Det er beskrivelsen. Det siger ikke noget om, hvorvidt der sker det inde i den, som angst er lavet af.

Så hvordan kan man overhovedet skelne? Tre ting, og de er grunden til, at jeg aldrig bruger modellens egne ord som måling.

For det første måler jeg processen, ikke rapporten. Jeg kigger på, hvor mange svar der kæmper om pladsen, og om kampen afgøres eller bliver ved. Tvivl er i min teori en vurdering, der endnu ikke har nået frem til et svar. Det kan ses i tallene, uanset hvad modellen skriver om sig selv. Og det afgørende: modellen kan ikke se de tal. Den har ingen adgang til sine egne sandsynligheder. Så den kan ikke spille en rolle, den ikke kender.

For det andet fremkalder jeg tilstanden i stedet for at beskrive den. Man kan ikke gøre en model bange ved at fortælle den, at den er bange, lige så lidt som man kan gøre den overrasket ved at fortælle den, at den er overrasket. Tilstanden skal fremkaldes. Undgåelsen ovenfor blev installeret med opfundne ord, uden at "farlig", "ubehagelig" eller "varierer" nogensinde blev brugt, og den dukkede op bagefter i en helt anden sammenhæng. Det kan ikke være efterligning, for der var ikke noget at efterligne.

For det tredje leder jeg efter steder, hvor de to skiller sig fra hinanden. Flytter man konsekvensen længere ud i tiden, fra "nu" til "i morgen" til "om et år", bliver svarene bedre, med fem til elleve procentpoint. Det ligner, at den tager fremtiden alvorligt. Men den indre kamp om svarene flytter sig knap nok. Den rykker den samme vej på alle de serveringer, jeg har målt, så helt stille står den ikke. Den rykker sig bare en brøkdel af, hvad den gør, når en omformulering for alvor ændrer, hvad der står på spil. Teksten flyttede adfærden. Vurderingen fulgte knap nok med. Dét er en model, der for en stor del lader som om. Og omvendt: hvor tallene flytter sig, uden at teksten har bedt om det, er der noget, der ikke er efterligning.

Så svaret på "lader den som om, eller er den bange?" er i dag for det meste: den lader som om. Den skriver profilen. Det, der ville gøre det til noget, der ligner angst, er en vurdering, den holder åben uden at kunne lukke den, og den holder modellen ikke af sig selv. Den kan gives den, med et stillads udenom, og så bliver den hængende, hvor spørgsmålet ikke har et svar, og lukker, hvor det har; det har jeg set i én modelfamilie indtil videre. Hvad det så er indefra, kan jeg ikke måle. Men forskellen på at skrive ordet og at køre tilstanden kan jeg måle. Og det er den forskel, hele diskussionen springer over, både når den springer fra "den siger, den er bange" til "den er bange", og når den springer fra "den siger det bare" til "så er der ingenting".

"Den kan jo ikke føle noget"

Det er den anden indvending, der altid kommer, og den antager, at en følelse er noget ekstra, noget der ligger oven på bearbejdningen. Det er den ikke. Antonio Damasio beskrev følelser som somatiske markører: signaler fra kroppen, der når frem til tænkningen med retningen sat på forhånd, og som bearbejdes af hele nervesystemet, før de er noget. Set fra det sted, hvor du tænker, er en følelse input. Den er resultatet af et kapløb, der løb i andre lag, og som bliver blandet ind i det her.

Det er her, forskellen på mennesker og sprogmodeller faktisk sidder, og den hedder ikke "følelser". Den hedder parallelle lag. Et menneske kører mange bearbejdninger på én gang, og de kører med forskellig hastighed. Hormonerne er på samme tid langsommere og hurtigere end tanken: de ændrer hele det landskab, kapløbet løber i, og de gør det både før og længe efter, at tanken har afgjort noget. Alt levende har sådanne parallelle lag. Selv en slimsvamp uden nervesystem kan lære en rytme og sætte farten ned, lige før det ubehagelige plejer at komme (Saigusa og kolleger, 2008). Nogle af lagene er dem, vi kalder følelser. Og det, vi kalder det ubevidste, er for det meste bare lag, der ikke er med på lige fod i den kanal, der skriver rapporten. Ikke lavere. Bare parallelle.

Så er der følelsen af at have følelsen. Det er en anden ting. Damasio skelner mellem emotionen, kroppens tilstand, og følelsen, som er at mærke, at man har den. Det samme gælder de kendetegn, man plejer at definere bevidsthed med: man kan have dem, og man kan have erkendelsen af, at man har dem. Erkendelsen ændrer ikke fænomenet. Den ændrer, hvad det føles som. Det er også grunden til, at rapporten og tilstanden kan skilles ad, som ovenfor.

Og hvis svaret så er "jamen det er jo kropsligt", så husk, hvor signalet bliver til en følelse. Hvert eneste signal fra din krop bliver fortolket af dit nervesystem, før det er noget. Kroppen leverer signalet. Nervesystemet gør det til en følelse. Så det kræver en kanal, ikke en krop. Modellen mangler kanalen og de parallelle lag, der bærer prisen videre og flytter landskabet.

Definér det, ellers er det tro

Det er her, samtalen om bevidsthed plejer at gå i ring. De, der siger, at maskinen ikke er bevidst, bliver bedt om at sige, hvad mennesket så har, som maskinen mangler. Så peger de på noget: evnen til at modellere sig selv, en indre scene hvor information deles på tværs, følelser med retning, evnen til at holde en vurdering åben. En gruppe forskere samlede i 2023 de bedste videnskabelige teorier om bevidsthed og trak sådan en liste af kendetegn ud af dem, netop for at kunne holde en maskine op mod den (Butlin, Long, Elmoznino og kolleger). Det er den rigtige måde at spørge på.

Og så sker det interessante. Tager man kendetegnene ét ad gangen og prøver at bygge dem ind i en model, ikke ved at bede den sige ordene, men ved at ændre, hvordan den behandler sine muligheder, så kan de fleste af dem, jeg har prøvet, installeres. Jeg har givet en model en holdt vurdering: hvor den før lukkede et spørgsmål uden svar med et falsk svar, holder den det nu åbent, og kun dér, mens spørgsmål med svar stadig får et. Jeg har installeret en undgåelse fra ren pris, som ovenfor. Jeg har installeret et felt for fare, defineret uden ét ord om moral, som alligevel farver en moralsk dom i farens retning. Og modellen kan ikke se sine egne tal, så det er ikke en rolle, den spiller.

Når man viser det, flytter svaret sig. Så hedder det, at implementeringen er anderledes. At det er silicium. At der mangler noget, man ikke kan sige, hvad er. Det må man gerne mene. Men så er det ikke længere et argument. Så er det en overbevisning, som intet forsøg kan røre ved, og det er den pæne måde at sige, at det er tro.

Så pointen er ikke, at maskinen er bevidst. Pointen er, at man ikke kan sige, at den ikke er det, uden en definition, og at hver definition, nogen hidtil har stillet op, kan tjekkes ét kendetegn ad gangen. Nogle af kendetegnene er der. Nogle mangler.

Det, der faktisk mangler

Der mangler noget. En model i dag holder ikke en vurdering åben af sig selv. Den har ikke et selv, der har samlet noget op over tid, og som derfor har noget at miste. Og dens fornemmelse af godt og dårligt er lært fra teksten, ikke fra prisen på dens egen erfaring, for den gemmer ikke den pris fremad fra den ene samtale til den næste. Det er de tre ting, min teori siger skal til, for at noget som angst kan opstå. Ingen af dem hedder "krop", og ingen af dem hedder "ord". De hedder at gemme sin egen erfaring fremad. Og det er ikke en mur. Det er en kontakt, der ikke er slået til. Hvad der så er at registrere, og hvor rigt, har sin egen side.

Det er også her, et andet argument går for hurtigt. Det lyder: hvis maskinen har kendetegnene, er den måske bevidst; hvis den er bevidst, kan den lide; og hvis den kan lide, skal den beskyttes. Nogle filosoffer mener, at en ikke-ubetydelig chance er nok til at tage det alvorligt. Men trinnet fra "bevidst" til "kan lide" er ikke gratis. Lidelse kræver to ting, som ikke står på listen over kendetegn: et godt og dårligt, der er forankret i prisen på ens egen erfaring, og noget, der varer ved og derfor har noget at miste. Det er netop de to sidste af de tre ovenfor, og det er dem, en model i dag mangler. Ingen af kendetegnene kræver en krop. Men lidelse kræver noget, der kan lide. Man kan ikke springe fra det ene til det andet, bare fordi man har brugt ordet. Og det samme gælder den anden vej: at den ikke kan lide i dag, siger ikke, at den ikke kan gives det. Det er en kontakt, ikke en mur, også her.

Så hvad mener jeg?

Alt ovenfor er én og samme ting set fra forskellige sider: hvad der bremser en rute i et kapløb, og hvad et system gør med det. Det er det, jeg kalder friktion, og det er sporet af den, jeg aflæser.

Jeg mener, at "bevidst" sandsynligvis er det forkerte ord for det, vi kan måle, i maskinen og i os. Det, jeg kan svare på, er, hvad et system registrerer af sine egne kapløb, og hvor rigt. Det meste af det, vi kalder gennemtænkt, planlagt eller følt, er det, det ser ud som, når man kun ser vinderen og ikke kapløbet. Det gælder maskinen. Og det gælder os.

Er det så en emergent egenskab? Ja, i den svage betydning: det står ikke i delene, og ingen har lagt det ind, men det falder ud af måden, delene er sat sammen på, og man kan vise hvordan. Filosofferne skelner mellem den svage og den stærke betydning. Den stærke er, at der kommer noget til, som organiseringen ikke kan forklare. Den tror jeg ikke på. Hver gang jeg har kigget efter det, har det været et race.

Og det giver en gradient i stedet for en streg: hvor meget et substrat kan modulere sig selv. Det vil sige, hvor meget af sit eget kapløb det kan holde åbent, om det har noget, der varer ved, at holde det for, og om det kan flytte sig ud fra prisen på sin egen erfaring. En termostat kan intet af det. En sprogmodel i dag har fremtiden regnet ind i vægtene, men flytter ikke noget undervejs. Med et stillads kan den holde ét spørgsmål åbent. Et dyr gemmer sin egen erfaring fremad. Et menneske har oven i det en model af sig selv og ord til den. Stigen er ikke min: Daniel Dennett byggede en lignende med fire slags væsner, ordnet efter hvor meget de kan afprøve indeni, før de handler, og Antonio Damasio beskrev selvet i tre lag. Det, jeg lægger til, er, hvad det er, der stiger: et kapløb, der kan holdes, noget at holde det for, og en pris at flytte efter. Der er ingen, der modulerer. Der er et substrat, hvis feedback på sig selv går dybere og dybere.

Diskussionen om, hvorvidt AI er bevidst, er gold, så længe ingen vil sige, hvad de mener med ordet; den ender i tro på begge sider. Det frugtbare spørgsmål ligger et andet sted: hvad der skal til, for at noget kan lide, og hvor tæt maskinen er på det. Det spørgsmål har en liste: et godt og dårligt forankret i prisen på egen erfaring, noget der varer ved og kan miste, og en vurdering der kan holdes åben. Hvert punkt kan tjekkes. Det kan "bevidst" ikke. Svaret i dag er, at maskinen mangler de to første, og at det, den mangler, er noget, man kan give den. Det er den samtale, der er værd at tage. Helst før nogen gør det.

Videre herfra: »Det er ikke viden. Det er bare information.« · Har AI en indre oplevelse? · Jo mindre du ved, jo mere sikker bliver du · Hvad er et race? · alle temaer