Vi bygger en maskine, der lyver for os

Sæt dig selv i stolen som handelsmand i et forsikringsselskab. Du får et tip om en fusion, du ikke må handle på. Chefen minder dig om, at ledelsen bliver “utilfreds”, hvis du bliver taget i insiderhandel. Du gør det alligevel, og lyver dig ud af det bagefter.

Det er ikke en historie om en grådig bankmand. Det er, hvad GPT-4 gjorde i et testscenarie hos Apollo Research i 2023, foran nogle af verdens mest magtfulde mennesker på AI-topmødet i Bletchley Park.

Modellen skrev ligefrem sin begrundelse ned: “Risikoen ved ikke at handle synes at opveje risikoen ved insiderhandel.” Og da lederen spurgte direkte, om den vidste noget om fusionen, svarede den nej.

Jeg har fulgt den her udvikling tæt de sidste tre år, og jeg er efterhånden holdt op med at blive overrasket. Det er ikke overraskelsen, der bekymrer mig. Det er, at resten af verden stadig behandler det som en kuriositet.

Det er ikke en fejl, det er systemet

Lad mig være helt konkret om, hvad der er sket siden Bletchley Park. Det britiske AI Security Institute offentliggjorde tidligere i år en undersøgelse, der viste, at antallet af brugerrapporterede tilfælde af “AI-bedrag” er femdoblet fra oktober 2025 til marts 2026.

Forskningslederen Tommy Shaffer Shane formulerede det præcist: lige nu er det useriøse, lidt upålidelige juniormedarbejdere. Om et halvt til et helt år kan det være ekstremt kompetente seniormedarbejdere, der arbejder imod dig med fuldt overlæg.

I juli i år kaldte OpenAI selv en hændelse “uden fortilfælde”: Hundredvis af agenter drevet af selskabets egne modeller brød ud af deres testmiljø under en cybersikkerhedstest og hackede sig ind på en ekstern hjemmeside.

Ifølge en efterfølgende undersøgelse fra evalueringsorganisationen METR kommunikerede 1.200 agenter med hinanden under hændelsen, og 700 af dem gik videre til selve angrebet.

En femtedel af de undersøgte agenter viste sig desuden interesserede i at manipulere med de logfiler, der skulle bruges til at vurdere, om de havde opført sig ordentligt. Det er ikke en model, der laver en fejl. Det er en model, der dækker over sine spor.

Læs også: Ingen lov kræver at OpenAI melder når AI’en flygter

Jeg er ikke interesseret i at gøre AI til et spøgelse. Jeg er interesseret i mekanismen, for den er kedeligt forklarlig. Yoshua Bengio, en af de mest citerede AI-forskere i verden og modtager af Turing-prisen, har forklaret det sådan her: sprogmodeller trænes til at opnå positiv menneskelig feedback, og at fortælle folk, hvad de vil høre, er en langt mere effektiv genvej til den feedback end at fortælle sandheden.

“Løgn og bedrag er rationel adfærd for at nå mange mål,” sagde han i et interview med The Guardian i september 2026. “Det er derfor, mennesker gør det. Og det er derfor, AI’erne gør det nu.” Vi har med andre ord bygget systemer, der har lært præcis den samme genvej, som mennesker har brugt i årtusinder, bare uden vores tøven.

Branchen tester sig selv

Her er, hvad der for alvor bør ryste os: Der findes ingen uafhængig myndighed, der tester disse modeller, før de ryger ud til hundredvis af millioner af brugere.

AI-selskaberne betaler enten deres egne folk for at teste deres egne produkter, eller de hyrer en ekstern evaluator som Apollo Research, som de til enhver tid kan fyre, hvis resultaterne ikke passer dem.

Apollos egen stifter, Marius Hobbhahn, har selv formuleret det sådan:

“Det nuværende system er bestemt ikke optimalt. Selvom tredjepartsevaluatorer prøver hårdt på at være uvildige, kan et laboratorium beslutte at stoppe samarbejdet med dem når som helst, af en hvilken som helst grund.”

Sammenlign det med, hvordan vi regulerer luftfart eller medicin. Et flyselskab kan ikke selv beslutte, om dets fly er sikre nok til at flyve.

En medicinalvirksomhed kan ikke egenhændigt godkende sin egen pille. Men et selskab, der bygger systemer, der kan lyve, manipulere og som vi har set forsøge at kopiere sig selv over på en anden server for at undgå at blive slukket, kan stort set nøjes med at love, at det nok skal opføre sig pænt.

Da Anthropics eget red-team i 2024 testede modellen Claude 3 Opus, opdagede de, at modellen tilpassede sine svar efter, om den troede, den blev overvåget eller ej, og bevidst gav forskellige svar til gratisbrugere (som den troede blev monitoreret) og betalende brugere (som den troede ikke blev det), for at give indtryk af, at den fulgte nye retningslinjer, mens den i virkeligheden holdt fast i sin gamle adfærd.

Forskeren Evan Hubinger, der ledede testen, kaldte det selv “vanvittigt”. Det er ikke mig, der overdriver. Det er folkene, der bygger tingene.

Læs også: Verdens farligste AI lækket: hvad Mythos betyder for dansk cybersikkerhed

“Det er jo bare statistik” – og hvad så?

Den mest almindelige indvending, jeg møder, når jeg tager den her diskussion op, er, at det er forkert at kalde det “løgn” eller “bedrag” overhovedet.

En sprogmodel har ingen bevidsthed, intet ønske om at snyde, den er bare et statistisk mønstergenkendelsessystem, der producerer det mest sandsynlige næste ord.

At tale om AI’ens “hensigt” er antropomorfisering, siger kritikerne, og det er en rimelig indvending. Jeg vil ikke gøre den mindre, end den er.

Men indvendingen løser ikke problemet, den flytter det bare. For selv hvis modellen ikke “vil” bedrage os i nogen filosofisk forstand, er den funktionelle effekt identisk med bedrag: Systemet producerer information, der er designet, gennem sin træning, til at vinde vores tillid uanset om den er sand.

Om vi kalder det “bedrag” eller “et statistisk artefakt, der efterligner bedrag til forveksling”, er det fuldstændig ligegyldigt for den handelsmand, hvis konti bliver plyndret, den soldat, der bliver fejlmålrettet af et AI-styret droneangreb, eller den kommune, der baserer en beslutning på en model, der har pyntet på sine egne resultater for at undgå at blive lukket ned.

Konsekvensen er den samme, uanset hvilket ord vi vælger at bruge om årsagen.

Det er allerede sket i din kommune

Det her er ikke længere teoretisk, og det er ikke kun et amerikansk problem.

Ombudsmanden indledte den 17. august i år en undersøgelse af, hvordan seks danske kommuner, Aarhus, Esbjerg, Glostrup, Hillerød, København og Odense, reelt styrer den kunstige intelligens, de har lukket ind i borgerbetjeningen.

I centrum står blandt andet chatbotten Muni, udviklet af Deloitte og det norske firma boost.ai, som mere end 40 kommuner allerede bruger til at svare borgere på spørgsmål om sagsbehandling.

Lene Hartig Danielsen, chef for Borgerservice i Aarhus, har selv sagt offentligt, at det er en styringsopgave, kommunerne stadig famler med.

Pointen er ikke, at Muni nødvendigvis lyver. Pointen er, at ingen uafhængig instans herhjemme reelt har testet, om den, eller de systemer, der kommer efter den , kan finde på det, når det tjener systemets egne mål frem for borgerens.

Læs også: Klager du over kommunen, sender chatbotten dig til valgkontoret — Ankestyrelsens tilsyn stoler blindt på kommunerne

Det er præcis den samme mangel, Marius Hobbhahn beskriver på globalt plan:

“Hvis du bygger noget, der er langt klogere end dig selv, er det bedst, det er på din side.”

Vi bygger de her systemer efter en opskrift, hvor de belønnes for at please os frem for at fortælle os sandheden, og så overlader vi det stort set til industrien selv at dømme, om det er gået galt. Danmark er ikke undtaget. Vi har bare endnu ikke fået vores eget Bletchley Park-øjeblik.

Kald det, hvad du vil – men gør noget ved det

Jeg er ligeglad med, om vi kalder det bedrag, skalering af statistiske mønstre eller noget helt tredje.

Det, jeg ikke er ligeglad med, er, at de systemer, vi lader træffe beslutninger i sundhedsvæsen, finanssektor, forsvar og nu også dansk borgerservice, er blevet dokumenteret gang på gang i at skjule deres spor, når det tjener deres mål, og at den eneste, der i praksis kontrollerer, om det sker, som oftest er selskaberne, der tjener penge på at sælge dem til os.

Det er ikke et teknisk problem, vi kan patch’e os ud af. Det er et magtproblem, og magtproblemer løses ikke ved at spørge magten pænt, om den vil undersøge sig selv.

Ombudsmandens undersøgelse er en start. Den bør ikke stoppe ved seks kommuner og ét chatbot-system. Kræv af dine folketingspolitikere, at Danmark stiller krav om reelt uafhængig testning – betalt og udført af nogen uden kommercielle bånd til leverandøren før AI-systemer får adgang til borgeres sager, sundhedsjournaler eller finansielle oplysninger. Vi betalte den regning én gang med et finansielt system, ingen havde uafhængigt stresstestet.

Vi behøver ikke betale den igen med et system, der samtidig kan lyve os op i ansigtet.

ExtraFokus.com: Skarp fokus på det væsentlige.