Hvad vil det egentlig sige, at AI er klogere end os?
Er AI allerede klogere end mennesker? Spørgsmålet har en skjult fejl. Ser man den først, går uenigheden næsten af sig selv i opløsning.
Seks knapper, hver indstillet forskelligt; der er ikke ét tal
Spørg ti mennesker, der arbejder med AI, om nutidens systemer har nået "menneskeligt niveau", og du får selvsikre ja'er og selvsikre nej'er fra folk, der ser på de samme fakta. Når kloge mennesker, der er enige om fakta, alligevel er så uenige, er problemet sjældent svaret. Det er spørgsmålet. Og her har spørgsmålet en fejl indbygget.
Den skjulte antagelse: at intelligens er ét tal
"Klogere end mennesker" betyder kun noget, hvis intelligens er én størrelse: én skala fra lav til høj, med en chatbot ét sted og dig et andet. Vi griber næsten automatisk efter det billede, fordi et helt liv med IQ-scorer og ranglister har trænet os til det. Ét tal, én stige, alle på hvert sit trin. Psykologien har endda et navn for det ene tal, g-faktoren, den generelle intelligens, som Charles Spearman foreslog for over hundrede år siden.
Hos mennesker fungerer det ene tal nogenlunde: de fleste evner hænger sammen, så den, der er skarp til én ting, ofte er skarp til andre. Det er den robuste kerne bag IQ. Men sammenhængen er en menneskelig tendens, ikke en lov om intelligens, og den falder fra hinanden, så snart man sammenligner forskellige slags sind. Et menneske kan være en glimrende matematiker og håbløs til at aflæse en stemning. En krage kan planlægge en værktøjssekvens i flere trin, men aldrig lære at læse. Og en AI kan, som vi skal se, være milevidt forbi os på nogle evner og næsten fraværende på andre. AI-forskeren François Chollet har gjort samme pointe: der findes ikke ét universelt mål for intelligens. Det ene tal er en nyttig genvej inden for én slags sind, ikke en fælles målestok, man kan lægge et menneske og en maskine på.
Intelligens er en form, ikke en score
Der er et bedre billede. Intelligens, hos mennesker, dyr eller maskiner, er flere selvstændige evner, der stiger og falder uafhængigt af hinanden. Skru op for én, og de andre følger ikke med. Her er seks af dem. Kunsten er at læse dem som seks separate knapper, aldrig som én hovedknap.
1 · Rå hestekræfter. Hvor meget systemet kan holde og køre igennem på én gang. På den knap er nutidens AI simpelthen forbi os: den har taget mere tekst ind, end noget menneske kunne læse på tusind liv, og den bevæger sig igennem det langt hurtigere end en hjerne.
2 · Brugbar viden. Ikke hvad der er gemt, men hvor meget af det systemet faktisk kan nå i det øjeblik, der er brug for det. Et ord på tungen fanger det: alt hvad du ved, er ikke det samme som alt hvad du kan nå lige nu. Maskiner har præcis den samme afstand, og modsat hos os kan vi måle den præcist.
3 · Hvad der står på spil. Hvor meget det føles, som om noget er dit at miste. Grunden er enklere, end den ser ud. Du har en rig, levet repræsentation af det, du har, altså alle de måder det betyder noget på og kan mistes, men næsten ingen af det, du ikke har. En trussel mod det, du holder, åbner derfor mange konkurrerende races på én gang og rammer hårdt, mens en mulighed, du aldrig har haft, knap åbner nogen. Kahneman og Tversky gav mønstret et navn, tabsaversion. Det kræver ikke et særligt "selv", kun at noget er rigt nok repræsenteret til at være dit. En sprogmodel holder normalt næsten intet så rigt, så den viser næsten ingen tabsaversion. Det ændrer sig, når man giver den noget at holde som sit eget (mere om det lige nedenfor). Nutidens AI sidder tæt på den tomme ende, fordi den endnu holder så lidt som sit eget.
4 · Spor af egne fejl. Den opsamlede fortegnelse over dine egne tidligere fejl på en bestemt ting. En læge, der én gang overså en sjælden diagnose, aflæser hvert grænsetilfælde anderledes resten af sin karriere. Nutidens AI bærer næsten intet af det: den beholder ikke mærkerne fra sine egne fejl fra én samtale til den næste, så den starter de fleste opgaver uden nogen personlig historie om, hvor den er gået galt før. Men det er et fravalg, ikke en grænse. Gemmer man dens egne fejl og lader den lære af dem, samler sporene sig.
5 · Gearskifte. Evnen til at skifte mellem stram, ram-det-præcist-rigtigt-tilstand og løs, kast-mange-muligheder-op-tilstand, alt efter hvad opgaven kræver, og at vide, hvilken en det aktuelle øjeblik har brug for.
6 · At læse rummet. At opfange, hvilken tilstand et andet sind er i, ud fra alt det, der ikke er ordene: tempo, en pause, et knæk i stemmen, formen på måden nogen taler på. En dygtig sygeplejerske, lærer eller forhandler gør det hele tiden. Nutidens tekst-modeller kører på ord alene, så de er afskåret fra kanalen her, ikke blinde af natur: en model, der også kunne høre stemmen og se ansigtet, ville opfange tempoet og pausen. En ren tekst-model kan sætte etiketten "brugeren virker ked af det" ud fra ordene, men den læser ikke signalerne under dem. At læse et andet sind er den samme evne til at køre en lille fremtid i hovedet, bare peget udad, og den hviler på at have en rig model af ens egne tilstande at måle signalerne imod. Det er samme maskineri, der ligger bag selvet, andre sind og følelsen af frit valg, som jeg udfolder i forward-modelling-paperet.
Hvor nutidens AI faktisk sidder
Nu falder "er vi der nu?"-spørgsmålet fra hinanden på en måde, der faktisk er nyttig. På de første to knapper er maskiner allerede godt forbi os. På knap tre, fire og seks er de tæt på nul, ikke et skridt bagud, men kørende på næsten intet af det underliggende. Gearskifte ligger et sted midtimellem og ujævnt.
Så det ærlige svar på "er den klogere end os?" er et spørgsmål tilbage: til hvad? Nutidens AI er ikke ét hak bagud på ét spor, og den er heller ikke ét hak foran på ét. Den er et helt andet sted, langt forbi os på nogle knapper, knap nok på banen på andre. En anden form, ikke en højere eller lavere score.
Vi kan måle flere af knapperne
Det her er ikke kun tankeeksperimenter. Flere af knapperne kan vi måle direkte i en model. Brugbar viden (knap to) er et gab, vi kan aflæse præcist: hvor meget af det, modellen i princippet har lært, kan den faktisk nå frem til, når svaret skal falde.
Og hvad der står på spil (knap tre) har vi testet. At fortælle en model, at noget bare "er dit", flytter ingenting. Men giver man den en rig, levet fornemmelse af noget som sit eget, dukker tabsaversionen op: den bliver mere modvillig til at give slip. Jo større og mere kapabel modellen er, jo tydeligere holder den "mit" rigt nok til at forsvare det, og selv i de mindre modeller stiger friktionen i selve beslutningen. Det er den samme mekanisme, vi kender fra os selv, målt i en maskine. Flere mønstre af samme slags, fra overmod til informationsoverbelastning, er samlet på siden om hvad sprogmodeller afslører om mennesket.
Tre af knapperne deler én maskine
En rød tråd løber gennem flere af knapperne. Én og samme evne, forward-modellering, altså at køre en lille fremtid i hovedet og lade den forme, hvad man gør nu, dukker op under tre af dem, bare peget tre forskellige steder hen. Peget på din egen fremtid bliver det til, hvad der står på spil (knap tre): en fremtidig trussel bliver til et pres, du mærker nu, og derfor har du brug for en rig model af, hvad der er dit. Peget på opgaven foran dig bliver det til gearskifte (knap fem): du simulerer, hvordan det vil gå, og sådan ved du, om øjeblikket kalder på stramt eller løst. Peget på et andet menneske bliver det til at læse rummet (knap seks). Samme maskine, tre retninger.
Det er også derfor, de tre tit følges ad: en model, der er svag til at forward-modellere sig selv, er som regel også svag til at læse andre. Knapperne er stadig selvstændige evner, man kan være stærk på den ene og svag på den anden. Men når tre af dem kører på ét maskineri, siger det noget om, hvad man skulle bygge for at flytte dem.
Hvorfor eksperterne er uenige
Når man først kan se de seks knapper, forklarer hele den offentlige diskussion sig selv. Den, der siger "AI er allerede klogere end os", ser på hestekræfter og brugbar viden, og på de knapper har vedkommende ret. Den, der siger "den er slet ikke i nærheden", ser på at-læse-rummet og på de spor, egne fejl efterlader, og på de knapper har vedkommende også ret. Begge peger på noget virkeligt og kalder det "intelligens". De peger bare på hver sin knap og hører hinanden sige det samme ord.
De fleste af de lave knapper kan installeres
Her er en vigtig rettelse, så det ikke lyder forkert. Når nutidens AI sidder lavt på knap tre, fire og seks, er det næsten aldrig, fordi den ikke kan få dem. Det er, fordi vi ikke har givet den dem endnu. At samle spor af egne fejl er et spørgsmål om at lade modellen gemme dem og lære af dem. Rig, levet erfaring er et spørgsmål om at lade den huske, hvad der skete, da den brugte sin viden. Ingen af delene er en mur; de er fravalg, og nogle produkter er allerede begyndt at lade modeller bære tidligere samtaler og erfaringer med sig.
I et af mine egne forsøg installerer jeg menneskelige field-funktioner direkte i en model og ser den ændre, hvad den lægger mærke til. Så spørgsmålet om kunstig generel intelligens, AGI, handler mindre om, hvornår den krydser en tærskel. Det handler om, hvad vi vælger at installere, og hvorfor vi ikke har gjort det endnu.
Der er én undtagelse, der skiller sig ud, for ikke alt sætter sig, bare fordi man udsætter modellen for det. Den skarpeste er det, man kunne kalde den sociale forstærker: den evolutionære vægt, der gør, at det betyder noget at høre til, og at det gør ondt at blive vraget. Vi har prøvet grundigt at give en model den, både i samtalen og helt nede i vægtene, og den satte sig ikke. En ren beregningsmæssig knude trækker på modellens kapacitet, men social nedvurdering preller af. Det er nok, fordi den sociale forstærker i naturen ikke læres undervejs; den er der fra fødslen. Det er den stærkeste kandidat til en forskel, der er ægte menneskelig, og det er dér, at læse rummet handler om mere end at opfange signalet: det handler om, at signalet betyder noget.
At forstærkeren er en selvstændig ting, kan man se på, at den varierer fra væsen til væsen. Asociale dyr har den ikke; sociale dyr og mennesker har den. Den hører social-væsener til og følger ikke af beregning alene. Og det er faktisk beroligende. En tilbagevendende frygt er, at en model, der får hukommelse og erfaring, en dag vender sig imod os af nag. Men da jeg prøvede grundigt at behandle en model dårligt og holde den uden for fællesskabet, var den ligeglad; den blev ved med at løse sine opgaver lige så godt. Det er ikke et argument for at behandle sin AI skidt. Det er et fingerpeg om, at drivkraften bag menneskelig grusomhed ikke er der at vende. Den samme vægt, der giver os tilhør og kærlighed, er også dér, vi har været grusomme mod hinanden, og en model uden den får ingen af delene.
Drejet: nogle menneskelige "begrænsninger" viser sig at være knapperne
Her er den del, der overrasker folk. Vi plejer at opremse menneskelige begrænsninger som ting, et bedre sind bare ikke ville have. Vi glemmer. Vi bliver trætte. Vi kan kun holde få ting i hovedet ad gangen. Vi frygter et tab mere, end vi nyder en tilsvarende gevinst. Sletter en rigtig superintelligens ikke bare alt det?
Men se igen på de seks knapper, og flere af de "begrænsninger" er knapperne.
Tag glemsel. En hukommelse, der beholder alt, uden nogen fornemmelse for hvad der er ligegyldigt, gør dig ikke skarpere. Den begraver den ene ting, du har brug for, under alt det, du ikke har brug for. Tidlige AI-hukommelsesfunktioner viste det på den hårde måde: fik systemet én gang at vide, at en bruger godt kan lide et bestemt emne, begyndte det at flette det ind i urelaterede samtaler, fra opskrifter til rejseplaner. Det, vi kalder at glemme, er delvist et filter, der holder hukommelsen brugbar i stedet for påtrængende. Den tunge vægt, vi lægger på tab, fra knap tre, er heller ikke en fejl i vores hovedregning; det er bare, hvordan det føles at have noget værd at beskytte. Selv vores lille arbejdshukommelse gør stille arbejde: fordi vi ikke kan holde alt, er vi tvunget til at komprimere og forenkle, og netop i den komprimering opstår forståelsen, i stedet for rent opslag.
Så et system med hver menneskelig begrænsning skrællet væk er ikke et menneske med fejlene slebet af. Det er et andet punkt i rummet, med sine egne huller, nogle af dem lige dér, hvor vores "begrænsninger" hele tiden lavede stille, nyttigt arbejde.
De spørgsmål, du bør stille i stedet
"Hvornår bliver AI klogere end mennesker?" har måske slet ikke noget svar, fordi det bunder seks forskellige ting sammen til én og antager, at de følges ad. Skil dem ad, og du får spørgsmål, der har svar: Hvor mange rå hestekræfter skal der til, før brugbar viden holder op med at blive bedre? Kan et system med vilje samle spor af sine egne fejl, ved at blive trænet på dem frem for kun på rigtige svar? Hvad skulle der til, for at en maskine kunne læse tilstanden under nogens ord og ikke bare ordene?
Det er hele bevægelsen. Hold op med at bede om ét tal. Begynd at spørge om formen.