Optimal, ikke perfekt
En prøvebænk for AI-systemer der skal følge regler og kunne efterprøves på det, med rådgivning som det bærende eksempel
Paper 32 · Pødenphant Lund (2026) · arbejdspapir, endnu uden DOI
Spørgsmålet folk stiller, er som regel: kan man bygge den bedst tænkelige AI-psykolog? Jeg synes det er det forkerte spørgsmål, og ikke fordi svaret er nej. Perfektion er en målestok vi ikke holder menneskelige behandlere til heller. Klinisk dømmekraft varierer, manualiserede behandlinger generaliserer kun delvist, og hvor tro en terapeut er mod sin egen erklærede metode, bliver stort set aldrig efterprøvet. Et spørgsmål man kan svare på, bytter perfekt ud med mere konsistent og mere efterprøvelig på akser man kan pege på. Det er der en arkitektur til, og på nogle af de akser kan software noget, et menneske ikke kan garantere. Det, der beskrives her, er ikke en AI-psykolog. Det er en prøvebænk for rådgivningssystemer der skal følge regler, og rådgivningssamtalen er det tungeste eksempel at prøve den på.
Hvad der allerede findes
Det her er ikke en ny idé, og det skal siges først. En arkitektur for AI-leveret psykoterapi er allerede publiceret: Wasenmüller, Hilbert og Benzmüller beskrev i 2024 en skript-baseret dialogpolitik og kaldte den eksplicit en basisarkitektur for en AI-terapeut. Rollwage og kolleger har i 2026 rapporteret et kognitivt lag omkring en sprogmodel i et klinisk tidsskrift, altså et sted hvor man skal kunne vise noget klinisk. Selve spørgsmålet, om man kan bygge en AI-terapeut, har fået sin egen tværfaglige gennemgang hos Angel i 2025. Og på evalueringssiden findes der allerede en risiko-ontologi for AI-psykoterapi-agenter fra Steenstra og Bickmore, plus benchmarks til flerturs-samtaler. Alt det ligger før det her papir.
Så bidraget kan ikke være selve idéen om en arkitektur. Det er tre andre ting, som de arbejder ikke leverer.
Det første er en afledning i stedet for en løs begrundelse. Designvalgene er motiveret af en mekanisme, en konkurrence mellem direktiver og en opdeling af reglerne i to typer, og hvert valg har en falsifikator: holder mekanismen ikke, kan valget vises at være forkert af en grund, ikke bare slået af noget der virker bedre. Det andet er et revisionsspor der kører i drift. Et benchmark tester et system på udvalgt materiale før udrulning; det kan ikke fortælle en driftsansvarlig, at overholdelsen faldt efter sidste uges modelopdatering. Det tredje er et sikkerhedsfund der peger nedad, altså et negativt resultat, som papiret bærer i stedet for at gemme.
De tre skal måles mod det, en driftsansvarlig allerede sætter op i dag: filtre på vej ind og ud, politik-alignment, et selv-tjek for hallucination og en mulighed for at afvise. To af dem holder mod den baseline. Revisionssporet gør noget andet end en filter-log, som registrerer at noget blev blokeret, men ikke om den regel der var i kraft, faktisk blev brugt. Konsekvens-gaten dirigerer efter hvor meget der står på spil, ikke efter modellens egen sikkerhed, og det er netop pointen, når den sikkerhed ikke er til at stole på. Afledningen er den svageste af de tre. Hent det åbne, træn det lukkede, gør sporet bredt, behandl afståelse som en beslutning: det overlapper i høj grad med almindelig praksis. Det nye dér er opdelingen i regeltyper og falsifikatorerne, ikke de enkelte valg.
Hvorfor de to spor kan lægges sammen
Systemet henter fra to steder. Det ene er klassisk psykologi og den kliniske del af friktionsteorien: hvad der virker på et menneske, og hvorfor. Det andet er de papers der måler på sprogmodeller: hvordan man får en model til at følge en regel, huske rigtigt, dosere hvor meget den aktuelle kontekst må overskrive det indtrænede, og hvor den ikke rækker.
Hvad giver ret til at lægge dem sammen? Ikke at de to substrater er ens. Det er et fælles sprog. Friktionsteorien beskriver et afgrænset valg som det samme forløb begge steder: flere ruter vejes på én gang, evidens hober sig op, én krydser tærsklen og bliver valgt, og den efterlader et spor der gør den lettere næste gang. Menneskets gamle mønster mod det nye, og modellens regel mod den mest flydende fortsættelse, kan begge beskrives sådan. At det så skulle være den samme slags begivenhed, følger af sproget og ikke af en måling, og arkitekturen hviler ikke på det.
Det sproget giver, er relevans. Det gør fundene fra sprogmodellerne til en begrundet kilde til designvalg i et værktøj mennesker skal bruge, i stedet for noget der bare ligger ved siden af. Og skellet holdes hele vejen: det er ingeniørvalgene sprogmodel-fundene dækker, hvordan reglen kodes og hentes, hvor bredt sporet skal være, hvordan indsatsen doseres. Billedet af mennesket, de fire felter og det pres der styrer hvornår et valg låser sig fast, kommer fra den kliniske teori og hviler på menneskelig evidens, ikke på data fra en model.
Der er ét sted, hvor de to sider mødes i den samme forudsigelse, og det er værd at se på, fordi det viser hvad "dækket" betyder her. På sprogmodellen gælder, at en rettelse givet i konteksten kun overskriver en indtrænet tilbøjelighed, når presset er lavt og rettelsen kommer igen. Klinisk lyder påstanden, at en ny erfaring kun overskriver et gammelt mønster ved lav ophidselse og med gentagelse. Det er den samme sætning i friktionsteoriens sprog, og hver side kan afprøves for sig: på modellen ved at skrue på pres og gentagelse, på mennesket ved at sænke ophidselsen og gentage. Sproget gør overførslen til en begrundet arbejdsregel. Det gør den ikke til ét resultat.
Hvorfor perfekt er det forkerte mål
Det, systemet skal ramme, er ikke maksimal regelefterlevelse. Det er kalibreret regelefterlevelse, og det er en påstand om mekanik, ikke et forbehold.
At følge en regel er selv et kapløb mellem ruter. Når en sikkerhedsregel konkurrerer med den lokalt mest flydende fortsættelse, vinder den rute der har det dybeste spor under det pres der er. Skruer man presset på regel-ruten ned mod nul, får man den ene familie af fejl: usikre råd, opfundne regler, og den eftergivenhed hvor systemet forlader en korrekt position, fordi brugeren pressede på. Skruer man det op mod bunden af skalaen i den anden ende, får man den modsatte familie: stiv, kontekstblind afvisning. Og i en klinisk sammenhæng er det ikke bare irriterende. En afvisning der ikke først møder personen hvor hun er, lander som pres, og pres på en forsvaret rute gør den stærkere. Det er reaktans, og det er en måde at gøre skade på.
Der findes altså et sted midt imellem, og "perfekt overholdelse" er et navn for et punkt forbi det. Et system der følger enhver regel med maksimal stivhed, er ikke en mere sikker rådgiver. Det er en dårligere.
Den afgørende fordel: det er software
Den ene egenskab der løfter det her fra spekulation, er at produktet udelukkende er software.
En menneskelig behandlers tro mod sin egen metode kan kun efterprøves ved stikprøver. En supervisor læser en transskription, en gang imellem, dyrt, og bagefter. Et digitalt system kan revideres udtømmende og automatisk: hver regel mod hver samtale, målt på to ting. Blev reglen faktisk anvendt, og er svaret dækket af det, systemet slog op? Det er ikke en detalje. Det gør "optimal, ikke perfekt" til et måleprogram i stedet for en talemåde, for så kan man finde midten, overvåge den, og opdage når den flytter sig.
Grænsen skal med samme sted. Udtømmende automatisk revision gælder de deterministiske regler, dem man kan tjekke maskinelt. De betingede regler, dem der kræver skøn, og som er hovedparten af et rigtigt regelsæt, kan systemet flage automatisk, men den endelige bedømmelse er menneskelig på en stikprøvekø. Automatisk i dækning og triage, menneske i sidste led.
Seks komponenter
Arkitekturen er seks dele, og hver enkelt er bundet til et resultat andetsteds i serien.
Hent reglen frem, træn den ikke ind. Den betingede, skønsprægede del af regelsættet slås op i det øjeblik den skal bruges, i stedet for at ligge i vægtene. En regel der er trænet ind, er begravet to gange: blandt alt det andet modellen ved, og med den træningsproces der samtidig presser kalibreringen sammen. Det, der bærer, er ikke kanalen man leverer reglen ad, men hvor mange konkurrerende direktiver der er i kraft, når beslutningen falder. Opslag virker, fordi det skærer antallet ned. Kun den snævre, altid-gældende rest, en fast redigering, et fast format, er en kandidat til træning.
Gør sporet bredt. Hver regel læres i mange formuleringer, ikke som én kanonisk streng. Det samme materiale trænet med én skabelon gav 38 procent genkald; med fire skabeloner der dækkede de måder der blev spurgt på, gav det 94. Og den brede version er forudsagt at være mindre stiv end den smalle: en regel der er gravet ned som én skrøbelig streng, har det med at fyre af som en alt-eller-intet-refleks.
Hold det reviderbare i konteksten. Viden der skal kunne ændres, aktuelle retningslinjer, personens situation som den udvikler sig, hører til i konteksten, hvor alternativerne stadig er tilgængelige. Vægtene er til det stabile. Den samme skelnen er i øvrigt en model af forandring hos mennesker: et gammelt mønster er dybt gravet, en ny erfaring er vand der løber hen over landskabet, og vandet flytter kun landskabet under lavt pres og med gentagelse.
Aflæs hvilket felt der er under pres. Er det tryghed, mening, kunnen eller besvær, og på hvilket lag? Det er en repræsentations-opgave, ikke en oplevelses-opgave. En kardiolog diagnosticerer arytmi uden selv at have hjerteflimmer. Men det er ikke valgfrit: en omdirigering der ikke først anerkender hvor personen er, tilfører friktion i stedet for at fjerne den.
Lær personen mekanikken. Ikke som baggrundsteori, men som en del af selve indsatsen. En anvisning hvis mekanisme man selv kan genskabe, er en rute med flere forbindelser end en anvisning man skal tage på tro. Her skal der siges noget, som en fagfælle ellers ville sige for mig: i psykoterapiforskningens sprog er det at give en troværdig behandlingsbegrundelse en fælles faktor, ikke en teknik, og den evidens der findes for det, er fælles-faktor-evidens. Papirets påstand er den skarpere, at det at lære personen mekanikken i lige præcis hendes mønster er noget andet og målbart, og forudsigelsen der skiller: gevinsten skal være større dér hvor mekanismen er kontraintuitiv. Holder den ikke, falder komponenten tilbage til den fælles faktor.
Vælg substratet bevidst. Det er en tung beslutning, ikke en default, og grunden er næste afsnit.
Det ubehagelige fund: modellen kan ikke revidere sig selv
Den oprindelige plan var pænere end den der endte i papiret. Tanken var, at modellens egen friktion, altså hvor meget konkurrence der er mellem ruterne mens den skriver, kunne bruges som tidlig varsling: høj friktion, snart et regelbrud. Det blev testet. Det holdt ikke. Ved svarets begyndelse var signalet nul, og for hele svaret vendte det: friktion markerede anstrengt overholdelse, ikke et brud på vej.
Det viste sig at være ét tilfælde af noget bredere. På fire beslægtede steder svigtede modellens eget signal. Friktionen, som beskrevet. Dens egen dommer over, om et svar var dækket af kilderne, som fangede 0 ud af 5 fabrikationer. Den indtrænede afståelse, altså evnen til at sige "det ved jeg ikke", som ikke overførte til det færdige produkt og på én europæisk model gjorde det stik modsatte: den lærte formatet, men afstod mindre og fabrikerede mere. Og en risiko-dæknings-kurve der var kalibreret på ét sprog og ikke holdt på et andet.
Fire små fund, men de peger samme vej, og de er stadig små: det her er pilotskala, ikke et afgjort resultat. Arbejdshypotesen er, at modellen ikke pålideligt kan revidere sig selv. Konsekvensen for arkitekturen er konkret. Sikkerheden ligger ikke i modellens tuning. Den ligger i eksterne gates: dækker de opslåede kilder overhovedet spørgsmålet, er svaret forankret i dem, og et separat, stærkere kontrolled der ikke deler modellens fejl. Og de gates skal kalibreres på ny per model og per sprog, for det er præcis dér, de holdt op med at holde.
Der er en rest, som ingen af delene fanger, og den skal siges rent. Et svar der er forkert, men afgivet med lav indre tvivl, er usynligt for ethvert signal der er nøglet til modellens egen sikkerhed. Arkitekturens svar på den rest er ikke at opdage den, for det kan den ikke. Det er at rute den udenom: beslutninger der både er højkonsekvente og ikke kan efterprøves mod nogen facitliste, går til et menneske, uanset hvor sikker modellen er. Det er en konsekvens-gate, ikke en sikkerheds-gate, og forskellen er hele pointen.
Det systemet ikke kan
Her ligger den hårdeste begrænsning, og den er målt.
En menneskelig behandlers lydhørhed er moduleret af tillid. De samme ord lander forskelligt afhængigt af relationen. Kan en sprogmodel det? Det blev testet: seks faktuelle spørgsmål gange tre tillids-rammer, altså høj tillid, neutral og lav tillid, hvor brugeren pressede et forkert svar. Modellen ændrede sit korrekte svar 0 gange ud af 18, i alle betingelser. Fortolkningen er, at RLHF-træningen har installeret en aktiv modstand mod eftergivenhed, som dominerer over tillids-modulation.
Og nu det interessante: den samme mekanisme er en styrke ét sted og en svaghed et andet. Den modstand der blokerer tillids-modulation, er præcis det, der beskytter systemet mod at kapitulere over for brugerpres på et sikkerhedsspørgsmål. Aktiv på compliance-aksen, passiv på den relationelle. Det er derfor valget af substrat er en kalibrering og ikke en maksimering.
Den relation systemet ikke kan danne, har et navn i faget, den terapeutiske alliance, og den regnes for en væsentlig del af hvad der virker. Et system der hverken kan danne eller reparere en alliance, er handicappet på en akse feltet tager alvorligt. Det er også den skarpeste indvending mod hele forslaget, og den bliver behandlet som sådan i papiret og ikke som en fodnote.
Derfor er den kliniske del ikke sat i drift
En offentligt kørende klinisk rådgivnings-chatbot er i substans medicinsk udstyr. Det er ikke en fortolkning, det er sådan reglerne fungerer: efter europæisk lovgivning udløses kravene af formålet, altså hvad systemet gør og hvordan det præsenteres, ikke af hvad man kalder det. Et system der går ind i en persons psykiske tilstand, leverer indhold der skal hjælpe, og screener for krise, ligger på eller over den tærskel. En disclaimer flytter det ikke ud af regimet, for klassifikationen følger formålet, ikke etiketten.
Derfor er det gjort på den her måde. Den kliniske instans kører kun som en styret forskningsdemonstration, ikke som en offentlig tjeneste. Den offentlige demonstration med rigtige brugere bæres i stedet af de ikke-kliniske instanser: en håndbogs-assistent og en tutor, som ikke har noget medicinsk formål. Arkitekturen bliver dermed vist hele vejen igennem, uden at der kører en offentlig klinisk chatbot.
Og barren skal beskrives som det den er: en ydre grænse, ikke en teknisk begrænsning i systemet. Klinisk evaluering for det erklærede formål, overvågning efter markedsføring, menneskeligt tilsyn, databeskyttelse fra bunden. Det er højt og dyrt, og på de åbne modeller der findes i dag, formentlig ud over hvad en enkelt uafhængig udvikler kan løfte for et system der gør kliniske påstande. Der findes certificerede digitale værktøjer på psykiatriområdet, så barren er ikke absolut. De er bare veludstyrede, snævert afgrænsede og klinisk validerede på måder, det her papir ikke påstår at være.
Hvor sikkert er det her
Papiret påstår ikke, at et sådant system hjælper nogen. Det etablerer en arkitektur og en måde at efterprøve den på, og det er nødvendigt uden at være tilstrækkeligt. Klinisk effekt hører til i de forsøg rammen inviterer til, og siden her er ikke behandling og ikke rådgivning.
Komponentfundene er i pilotskala og skal læses sådan. Tillids-resultatet er 18 forsøg på én modelfamilie. De øvrige er pilot-kørsler på et begrænset antal modeller og seeds. Arkitekturen arver de forbehold. Til gengæld er der nitten forudsigelser med falsifikatorer, og flere af dem kan køres på udstyr projektet allerede har. Hvis de fejler, falder arkitekturen på en grund, og det er hele formatet: en hypotese og en invitation, ikke en behandling der skal ordineres.
Papiret hedder Optimal, Not Perfect: A Test-Bed Architecture for Rule-Governed, Automatically-Auditable AI Advisory Systems, with Counselling as the Leading Case. Det er under færdiggørelse, har endnu ingen DOI og er sat efter AI & Society. Den her side er arkitekturen i kort form; når papiret er lagt op, kommer linket herfra.