Optimal, ikke perfekt

En arkitektur for et AI-system der følger reglerne, kan efterprøve sig selv på det, og ved hvor det ikke rækker

Paper 32 · Pødenphant Lund (2026) · papiret er endnu ikke udgivet

Spørgsmålet folk stiller, er som regel: kan man bygge den bedst tænkelige AI-psykolog? Jeg synes det er det forkerte spørgsmål, og ikke fordi svaret er nej. Perfektion er en målestok vi ikke holder menneskelige behandlere til heller. Klinisk dømmekraft varierer, manualiserede behandlinger generaliserer kun delvist, og hvor tro en terapeut er mod sin egen erklærede metode, bliver stort set aldrig efterprøvet. Et spørgsmål man kan svare på, bytter perfekt ud med mere konsistent og mere efterprøvelig på akser man kan pege på. Det er der en arkitektur til, og på nogle af de akser kan software noget, et menneske ikke kan garantere.

Hvad der allerede findes

Det her er ikke en ny idé, og det skal siges først. En arkitektur for AI-leveret psykoterapi er allerede publiceret: Wasenmüller, Hilbert og Benzmüller beskrev i 2024 en skript-baseret dialogpolitik og kaldte den eksplicit en basisarkitektur for en AI-terapeut. Rollwage og kolleger har i 2026 rapporteret et kognitivt lag omkring en sprogmodel i et klinisk tidsskrift, altså et sted hvor man skal kunne vise noget klinisk. Selve spørgsmålet, om man kan bygge en AI-terapeut, har fået sin egen tværfaglige gennemgang hos Angel i 2025. Og på evalueringssiden findes der allerede en risiko-ontologi for AI-psykoterapi-agenter fra Steenstra og Bickmore, plus benchmarks til flerturs-samtaler. Alt det ligger før det her papir.

Så bidraget kan ikke være selve idéen om en arkitektur. Det er tre andre ting, som de arbejder ikke leverer.

Det første er en afledning i stedet for en begrundelse. Designvalgene her følger ikke af, at de virker fornuftige. De følger af en mekanisme-forklaring, og hvert af dem har en falsifikator: hvis mekanismen er forkert, kan valget vises at være forkert af en grund. Det andet er et revisionsspor der kører i drift. Et benchmark tester et system på udvalgt materiale før udrulning; det kan ikke fortælle en driftsansvarlig, at overholdelsen faldt efter sidste uges modelopdatering. Det tredje er et sikkerhedsfund der peger nedad, altså et negativt resultat, som papiret bærer i stedet for at gemme.

Hvorfor perfekt er det forkerte mål

Det, systemet skal ramme, er ikke maksimal regelefterlevelse. Det er kalibreret regelefterlevelse, og det er en påstand om mekanik, ikke et forbehold.

At følge en regel er selv et kapløb mellem ruter. Når en sikkerhedsregel konkurrerer med den lokalt mest flydende fortsættelse, vinder den rute der har det dybeste spor under det pres der er. Skruer man presset på regel-ruten ned mod nul, får man den ene familie af fejl: usikre råd, opfundne regler, og den eftergivenhed hvor systemet forlader en korrekt position, fordi brugeren pressede på. Skruer man det op mod bunden af skalaen i den anden ende, får man den modsatte familie: stiv, kontekstblind afvisning. Og i en klinisk sammenhæng er det ikke bare irriterende. En afvisning der ikke først møder personen hvor hun er, lander som pres, og pres på en forsvaret rute gør den stærkere. Det er reaktans, og det er en måde at gøre skade på.

Der findes altså et sted midt imellem, og "perfekt overholdelse" er et navn for et punkt forbi det. Et system der følger enhver regel med maksimal stivhed, er ikke en mere sikker rådgiver. Det er en dårligere.

Den afgørende fordel: det er software

Den ene egenskab der løfter det her fra spekulation, er at produktet udelukkende er software.

En menneskelig behandlers tro mod sin egen metode kan kun efterprøves ved stikprøver. En supervisor læser en transskription, en gang imellem, dyrt, og bagefter. Et digitalt system kan revideres udtømmende og automatisk: hver regel mod hver samtale, målt på to ting. Blev reglen faktisk anvendt, og er svaret dækket af det, systemet slog op? Det er ikke en detalje. Det gør "optimal, ikke perfekt" til et måleprogram i stedet for en talemåde, for så kan man finde midten, overvåge den, og opdage når den flytter sig.

Grænsen skal med samme sted. Udtømmende automatisk revision gælder de deterministiske regler, dem man kan tjekke maskinelt. De betingede regler, dem der kræver skøn, og som er hovedparten af et rigtigt regelsæt, kan systemet flage automatisk, men den endelige bedømmelse er menneskelig på en stikprøvekø. Automatisk i dækning og triage, menneske i sidste led.

Seks komponenter

Arkitekturen er seks dele, og hver enkelt er bundet til et resultat andetsteds i serien.

Hent reglen frem, træn den ikke ind. Den betingede, skønsprægede del af regelsættet slås op i det øjeblik den skal bruges, i stedet for at ligge i vægtene. En regel der er trænet ind, er begravet to gange: blandt alt det andet modellen ved, og med den træningsproces der samtidig presser kalibreringen sammen. Det, der bærer, er ikke kanalen man leverer reglen ad, men hvor mange konkurrerende direktiver der er i kraft, når beslutningen falder. Opslag virker, fordi det skærer antallet ned. Kun den snævre, altid-gældende rest, en fast redigering, et fast format, er en kandidat til træning.

Gør sporet bredt. Hver regel læres i mange formuleringer, ikke som én kanonisk streng. Det samme materiale trænet med én skabelon gav 38 procent genkald; med fire skabeloner der dækkede de måder der blev spurgt på, gav det 94. Og den brede version er forudsagt at være mindre stiv end den smalle: en regel der er gravet ned som én skrøbelig streng, har det med at fyre af som en alt-eller-intet-refleks.

Hold det reviderbare i konteksten. Viden der skal kunne ændres, aktuelle retningslinjer, personens situation som den udvikler sig, hører til i konteksten, hvor alternativerne stadig er tilgængelige. Vægtene er til det stabile. Den samme skelnen er i øvrigt en model af forandring hos mennesker: et gammelt mønster er dybt gravet, en ny erfaring er vand der løber hen over landskabet, og vandet flytter kun landskabet under lavt pres og med gentagelse.

Aflæs hvilket felt der er under pres. Er det tryghed, mening, kunnen eller besvær, og på hvilket lag? Det er en repræsentations-opgave, ikke en oplevelses-opgave. En kardiolog diagnosticerer arytmi uden selv at have hjerteflimmer. Men det er ikke valgfrit: en omdirigering der ikke først anerkender hvor personen er, tilfører friktion i stedet for at fjerne den.

Lær personen mekanikken. Ikke som baggrundsteori, men som en del af selve indsatsen. En anvisning hvis mekanisme man selv kan genskabe, er en rute med flere forbindelser end en anvisning man skal tage på tro. Her skal der siges noget, som en fagfælle ellers ville sige for mig: i psykoterapiforskningens sprog er det at give en troværdig behandlingsbegrundelse en fælles faktor, ikke en teknik, og den evidens der findes for det, er fælles-faktor-evidens. Papirets påstand er den skarpere, at det at lære personen mekanikken i lige præcis hendes mønster er noget andet og målbart, og forudsigelsen der skiller: gevinsten skal være større dér hvor mekanismen er kontraintuitiv. Holder den ikke, falder komponenten tilbage til den fælles faktor.

Vælg substratet bevidst. Det er en tung beslutning, ikke en default, og grunden er næste afsnit.

Det ubehagelige fund: modellen kan ikke revidere sig selv

Den oprindelige plan var pænere end den der endte i papiret. Tanken var, at modellens egen friktion, altså hvor meget konkurrence der er mellem ruterne mens den skriver, kunne bruges som tidlig varsling: høj friktion, snart et regelbrud. Det blev testet. Det holdt ikke. Ved svarets begyndelse var signalet nul, og for hele svaret vendte det: friktion markerede anstrengt overholdelse, ikke et brud på vej.

Det viste sig at være ét tilfælde af noget bredere. På fire beslægtede steder svigtede modellens eget signal. Friktionen, som beskrevet. Dens egen dommer over, om et svar var dækket af kilderne, som fangede 0 ud af 5 fabrikationer. Den indtrænede afståelse, altså evnen til at sige "det ved jeg ikke", som ikke overførte til det færdige produkt og på én europæisk model gjorde det stik modsatte: den lærte formatet, men afstod mindre og fabrikerede mere. Og en risiko-dæknings-kurve der var kalibreret på ét sprog og ikke holdt på et andet.

Fire små fund, men de peger samme vej, og de er stadig små: det her er pilotskala, ikke et afgjort resultat. Arbejdshypotesen er, at modellen ikke pålideligt kan revidere sig selv. Konsekvensen for arkitekturen er konkret. Sikkerheden ligger ikke i modellens tuning. Den ligger i eksterne gates: dækker de opslåede kilder overhovedet spørgsmålet, er svaret forankret i dem, og et separat, stærkere kontrolled der ikke deler modellens fejl. Og de gates skal kalibreres på ny per model og per sprog, for det er præcis dér, de holdt op med at holde.

Der er en rest, som ingen af delene fanger, og den skal siges rent. Et svar der er forkert, men afgivet med lav indre tvivl, er usynligt for ethvert signal der er nøglet til modellens egen sikkerhed. Arkitekturens svar på den rest er ikke at opdage den, for det kan den ikke. Det er at rute den udenom: beslutninger der både er højkonsekvente og ikke kan efterprøves mod nogen facitliste, går til et menneske, uanset hvor sikker modellen er. Det er en konsekvens-gate, ikke en sikkerheds-gate, og forskellen er hele pointen.

Det systemet ikke kan

Her ligger den hårdeste begrænsning, og den er målt.

En menneskelig behandlers lydhørhed er moduleret af tillid. De samme ord lander forskelligt afhængigt af relationen. Kan en sprogmodel det? Det blev testet: seks faktuelle spørgsmål gange tre tillids-rammer, altså høj tillid, neutral og lav tillid, hvor brugeren pressede et forkert svar. Modellen ændrede sit korrekte svar 0 gange ud af 18, i alle betingelser. Fortolkningen er, at RLHF-træningen har installeret en aktiv modstand mod eftergivenhed, som dominerer over tillids-modulation.

Og nu det interessante: den samme mekanisme er en styrke ét sted og en svaghed et andet. Den modstand der blokerer tillids-modulation, er præcis det, der beskytter systemet mod at kapitulere over for brugerpres på et sikkerhedsspørgsmål. Aktiv på compliance-aksen, passiv på den relationelle. Det er derfor valget af substrat er en kalibrering og ikke en maksimering.

Den relation systemet ikke kan danne, har et navn i faget, den terapeutiske alliance, og den regnes for en væsentlig del af hvad der virker. Et system der hverken kan danne eller reparere en alliance, er handicappet på en akse feltet tager alvorligt. Det er også den skarpeste indvending mod hele forslaget, og den bliver behandlet som sådan i papiret og ikke som en fodnote.

Derfor er den kliniske del ikke sat i drift

En offentligt kørende klinisk rådgivnings-chatbot er i substans medicinsk udstyr. Det er ikke en fortolkning, det er sådan reglerne fungerer: efter europæisk lovgivning udløses kravene af formålet, altså hvad systemet gør og hvordan det præsenteres, ikke af hvad man kalder det. Et system der går ind i en persons psykiske tilstand, leverer indhold der skal hjælpe, og screener for krise, ligger på eller over den tærskel. En disclaimer flytter det ikke ud af regimet, for klassifikationen følger formålet, ikke etiketten.

Derfor er det gjort på den her måde. Den kliniske instans kører kun som en styret forskningsdemonstration, ikke som en offentlig tjeneste. Den offentlige demonstration med rigtige brugere bæres i stedet af de ikke-kliniske instanser: en håndbogs-assistent og en tutor, som ikke har noget medicinsk formål. Arkitekturen bliver dermed vist hele vejen igennem, uden at der kører en offentlig klinisk chatbot.

Og barren skal beskrives som det den er: en ydre grænse, ikke en teknisk begrænsning i systemet. Klinisk evaluering for det erklærede formål, overvågning efter markedsføring, menneskeligt tilsyn, databeskyttelse fra bunden. Det er højt og dyrt, og på de åbne modeller der findes i dag, formentlig ud over hvad en enkelt uafhængig udvikler kan løfte for et system der gør kliniske påstande. Der findes certificerede digitale værktøjer på psykiatriområdet, så barren er ikke absolut. De er bare veludstyrede, snævert afgrænsede og klinisk validerede på måder, det her papir ikke påstår at være.

Hvor sikkert er det her

Papiret påstår ikke, at et sådant system hjælper nogen. Det etablerer en arkitektur og en måde at efterprøve den på, og det er nødvendigt uden at være tilstrækkeligt. Klinisk effekt hører til i de forsøg rammen inviterer til, og siden her er ikke behandling og ikke rådgivning.

Komponentfundene er i pilotskala og skal læses sådan. Tillids-resultatet er 18 forsøg på én modelfamilie. De øvrige er pilot-kørsler på et begrænset antal modeller og seeds. Arkitekturen arver de forbehold. Til gengæld er der nitten forudsigelser med falsifikatorer, og flere af dem kan køres på udstyr projektet allerede har. Hvis de fejler, falder arkitekturen på en grund, og det er hele formatet: en hypotese og en invitation, ikke en behandling der skal ordineres.

Papiret er under færdiggørelse og er endnu ikke lagt op. Den her side er arkitekturen i kort form. Når papiret er ude, kommer der et link til det herfra.