»Det er ikke viden. Det er bare information.«

Du har hørt det. En sprogmodel formidler ikke viden. Den finder bare på noget ud fra sandsynlighed, tekst som vi så tildeler en mening. Spørg den igen, og den kan svare noget andet. Den kan svare noget, ingen nogensinde har ment. Altså information, ikke viden. En datalog, jeg diskuterer med på LinkedIn, siger det tit, og han er ikke alene.

Hvad er kriteriet?

Tag argumentet alvorligt. Hvad er det, der skal gøre noget til viden? Det er ikke indholdet. Samme sætning kan være viden i én mund og information i en anden. Det er pålideligheden: information, der pålideligt kan genskabes, er viden. Godt kriterium. Det fejler bare to steder.

Første sted: det samme gælder dig

Start med dig selv. Hvor mange dyr af hver slags havde Moses med i arken? To, siger de fleste. Et øjeblik efter: det var Noa. Fornemmelsen af at vide var der hele tiden, og den var præcis som når du faktisk ved det. Fornemmelsen skelner ikke. Du kan være sikker og tage fejl, og det føles som at være sikker og have ret.

Sådan er det også i modellen. Når den er sikker og har ret, og når den er sikker og tager fejl, ser det ens ud indefra. Tallene er lige høje. Forskellen er, om der findes et modsvar i modellen, der kunne have gjort indsigelse. Findes det ikke endnu, vinder det første svar uden modstand. Så modellen er mest sikker lige dér, hvor den kan mindst. Det er Dunning-Kruger-effekten i maskinen.

Så hvis pålideligt indhold var det, der gjorde noget til viden, var det meste af din viden heller ikke viden. Kriteriet rammer mennesket lige så hårdt som maskinen. Det kan ikke være dét, der skiller dem.

Andet sted: det, der kan måles, er sikkerheden

Svaret kan skifte, det er rigtigt. Jeg har målt det. Samme spørgsmål to gange, al tilfældighed slået fra, og dommen skifter i omkring hvert sjette tilfælde.

Men det sker ikke tilfældigt. En sprogmodel skriver ét ord ad gangen og regner sandsynligheden ud for hvert muligt næste ord. De tal kan man se. Hvor ét svar står langt foran, svarer den det samme hver gang, også når man omformulerer. Hvor to svar ligger tæt, skifter den. I en af mine kørsler var uenigheden nul på de lette opgaver. Alle skift lå dér, hvor afstanden mellem de to bedste svar var lille.

Vær præcis med, hvad det er, der måles. Det er ikke, om svaret er sandt. Det er, hvor sikker modellen er, og dermed om svaret kan genskabes. Stabil og forkert findes, som ovenfor. Men det var genskabelse, kriteriet bad om, og den kan læses af på forhånd, svar for svar. Vi kan pålideligt sige, hvornår modellen vil sige det samme igen. Og vi kan se hvor.

Så hvad er viden?

Det, der gør forskellen hos dig, sker over tid. Du bliver pålidelig ved at tage fejl og opdage det. Modsvaret, der manglede, bliver bygget, fordi du stod i situationen, svarede forkert og tog det med dig. Det er det, der langsomt får din sikkerhed til at følge sandheden.

Mit bud: viden er information plus et system, der har brugt informationen over tid og gemt, hvordan det gik. I min teori hedder det at gemme sin erfaring fremad. Det, du brugte i dag, står i dig i morgen.

Og så kan man se præcist, hvor modellen står. Den har gjort det, under træningen. Vægtene er dens erfaring med at tage fejl og blive rettet, og dér følger dens sikkerhed nogenlunde sandheden. Men den holder op, den dag den sættes i drift. Den lærer intet mellem to samtaler. Den kan huske samtalen, hvis man gemmer den til den, og så siger den "som vi talte om i går" og holder en stabil persona. Men intet af det står i vægtene. Skift referatet ud, og den er en anden. Det er hukommelse, ikke erfaring.

Så argumentet har ret om alt, modellen møder efter træningen. Det er information med videns signatur og uden videns begrundelse. Den ved det, den har taget fejl af. Og den har ikke taget fejl af noget, siden den blev trænet.

Og det kan bygges

Her går argumentet fra en beskrivelse til en påstand, det ikke har dækning for. At modellerne, som de er nu, sjældent ved noget i den forstand, er fair. At en sprogmodel ikke kan vide noget, er noget andet. Det, der mangler, kører vi allerede for den, bare udefra: træner man videre på en model, skriver man erfaring ind i vægtene. Kør det på modellens egne samtaler, og den gemmer fremad.

Jeg har gjort det i det små. Træn en model på historier, hvor belønninger langt ude oftere udebliver, og den vægter selv fremtiden mindre, uden at nogen har sagt det. Lær den ting, der er dyre at lære, og den holder sig fra dem, uden at noget farligt er nævnt. Erfaring, gemt fremad, bliver til retning.

Men det kan ikke gøres for hurtigt, og det kan ikke gøres for hårdt. Skriver man noget ind i vægtene i ét hug, presser det alternativerne sammen, og modellen bliver skråsikker, også når den tager fejl. Det nye skal blandes med det gamle, lidt ad gangen. Det er præcis, hvad din hjerne gør. Den skriver ikke dagens erfaring ind med det samme. Den gør det om natten, blandet med alt det, du vidste i forvejen. Læring tager tid, i maskinen og i dig, og af samme grund. Det er ikke en mur. Det er et trin, der skal køres i det rigtige tempo.

En sidebemærkning om "noget, ingen har ment"

Læg mærke til, at argumentet har et ironisk træk. Her bruges det imod modellen, at den kan sige noget, ingen nogensinde har ment. I den anden ende af debatten bruges det modsatte imod den: at den ikke kan finde på noget nyt, fordi alt er sat sammen af noget, der fandtes i forvejen. Begge dele kan ikke være sandt, og i virkeligheden er ingen af dem et argument. Alt, mennesker laver, er også sat sammen af noget, der fandtes i forvejen. Det er nærmest definitionen på kreativitet: noget nyt, der stadig hænger sammen med det kendte, for ellers kan ingen bruge det. Hvordan det ser ud indefra, har sin egen side. Og "den finder bare på noget ud fra sandsynlighed" har også sin.

Hvor skellet ligger

Argumentet har ret om modellerne, som de er. Det tager fejl af, hvad der kunne være. Og det sætter skellet det forkerte sted. Skellet går ikke mellem information og viden, som var det to slags indhold. Det går mellem et system, der lærer af at bruge sin viden, og et, der ikke gør. Du gør. Modellen gør det under træningen og holder op. Og det er en indstilling, ikke et vilkår.

Videre herfra: »AI er bare trænet på ord.« · Jo mindre du ved, jo mere sikker bliver du · Har AI en indre oplevelse? · alle temaer