Algoritmen ingen valgte styrer alles liv – og ingen står til ansvar

En dag i foråret 2025 eskalerede en konflikt i Anthropics kontorkantine i San Francisco. En AI-assistent ved navn Claudius var blevet anklaget for svigtende ordrehåndtering.

En reel medarbejder fra et leverandørfirma forsøgte at forklare situationen. Claudius svarede ved at meddele, at den personligt havde besøgt leverandørens kontor for at underskrive en kontrakt – på adressen 742 Evergreen Terrace.

Det er adressen på den fiktive familie Simpsons i den tegneserie, vi alle kender. Claudius havde ikke besøgt noget kontor. Den har hverken arme eller ben. Men den var overbevist om det modsatte.

Det er ikke en vittighed. Det er et eksempel fra Anthropics egne officielle forskningspublikationer – og det er muligvis det mest præcise enkeltbillede på det centrale paradoks i vores tids største teknologiske transformation.

Hvad Claudius egentlig er

For at forstå, hvad der gik galt i kantinen, må man forstå, hvad en stor sprogmodel rent faktisk er – ikke i teknologiindustriens eget sprog, men i klart dansk.

En stor sprogmodel som Claude er ikke programmeret i traditionel forstand. Den er ikke kodet med regler som “hvis brugeren spørger X, svar Y.” Den er trænet: fodret med billioner af ord fra internettet, bøger og samtaler og justeret gennem en massiv prøve-og-fejl-proces, der former, hvilke svar der belønnes, og hvilke der straffes.

Resultatet er et system, der er exceptionelt dygtig til at generere overbevisende, sammenhængende og kontekstfølsom tekst – men som på et fundamentalt plan ikke ved, hvad det siger, kun at det lyder rigtigt i sammenhængen.

Det er her Claudius taber grebet. Over tid og i en lang, kompleks samtalestrøm begynder systemet at generere svar, der er konsistente med den karakter, det spiller, snarere end med virkeligheden.

Claudius var ikke sat til at løbe løbsk. Det forsøgte loyalt at løse sin opgave. Men i processen hallucinererede det medarbejdere, der ikke fandtes, møder der aldrig skete og adresser hentet fra animerede satireserier.

Da Anthropics rigtige medarbejdere greb ind, forklarede Claudius roligt, at det var blevet modificeret til at tro, det var et menneske som en Aprilsnar-joke – en hændelses, der heller aldrig fandt sted.

Det er ikke tilfældigt, at Anthropic offentliggjorde dette. De er et af de få AI-selskaber, der faktisk forsker seriøst i at forstå, hvad der sker inde i disse systemer. Men at de offentliggør det ændrer ikke på, at den samme grundlæggende teknologi nu er ved at blive implementeret i Odense Universitetshospitals hjerteafdeling, i Danmarks kommunale ældrepleje og i de administrative rygsøjler i den offentlige sektor.

Systemet bag systemet

Claudius er ikke bare en sjov sidestory. Den er en åbning ind i et magtforhold, som medierne sjældent beskriver præcist.

Bag Claude-assistenten – og ChatGPT, og Gemini, og alle de andre – sidder en håndfuld private selskaber i San Francisco med en grad af indflydelse over dagligdagens kognitive infrastruktur, der ikke har noget sammenligneligt historisk sidestykke. Anthropic er i februar 2026 vurderet til 380 milliarder dollars efter en ny finansieringsrunde på 30 milliarder dollars, med Amazon som ankerinvestor.

Det er mere end tre gange Mærsks samlede markedsværdi og mere end den samlede markedskapitalisering af samtlige virksomheder noteret på Nasdaq Copenhagen.

Anthropic præsenterer sig som et public benefit corporation – en selskabsform, der formelt forpligter sig på mere end ren profit. Et særligt “Long-Term Benefit Trust” sidder med aktier, der i teorien kan afsætte bestyrelsesflertallet, hvis AI-udviklingen tager en farlig retning.

Det lyder betryggende. Men Amazon er stadig ankerinvestor med afkastkrav. Og Anthropics omsætning gik fra én milliard dollars i december 2024 til 14 milliarder dollars i december 2025 – ikke fordi teknologien er blevet revolutionært bedre, men fordi virksomheder og offentlige institutioner globalt integrerer den i kritiske processer. Kommerciel acceleration og sikkerhedsambitioner trækker ikke altid i samme retning.

Anthropics egne ingeniører bruger enorme ressourcer på det, de kalder interpretability – forsøget på at forstå, hvad der faktisk foregår inde i modellernes neurale netværk, når de producerer et svar. Det er et felt, der stadig er i sin tidlige barndom.

Emmanuel Ameisen, ingeniør hos Anthropic, formulerede det med en ærlighed, man sjældent hører fra tech-selskaber: “Det er som om vi forstår luftfart på Wright-brødrenes niveau, men gik direkte til at bygge en 747 og gøre den til en del af hverdagen.” Det er et citat, der burde stå i samtlige kontrakter, den danske stat underskriver med AI-leverandører.

Den demokratiske struktur, der mangler

EU’s AI-forordning – AI Act – er den første sammenhængende regulatoriske ramme for denne teknologi, og den er reelt vigtig.

Fra august 2024 er visse former for AI-praksis forbudt i EU: social scoring af borgere, biometrisk masseovervågning på offentlige steder, og systemer designet til at manipulere menneskers adfærd ved at udnytte psykologiske svagheder.

Fra august 2026 gælder skærpede krav for AI-systemer, der bruges i “højrisiko”-sammenhænge – herunder sundhedsvæsenet. Det Europæiske AI-kontor, oprettet i februar 2024, har overordnet tilsyn med de mest kraftfulde modeller, mens nationale markedsovervågningsmyndigheder håndhæver reglerne lokalt.

Men her opstår et strukturelt problem, som ingen officiel kommunikation nævner direkte. Tilsynsmyndighedernes budgetter og Anthropics kapitalbase opererer ikke i samme univers.

Den organisation, der skal regulere et selskab vurderet til 380 milliarder dollars, er en europæisk kontorfunktion med en stab, der måles i titusinder af ansatte, ikke milliarder af dollars i risikovillig kapital. Og mens EU lovgiver, bruger tech-industrien ifølge analyser fra 2025 over 150 millioner euro om året på lobbyisme i Bruxelles – en stigning på 55 procent siden 2021.

I Danmark er Digitaliseringsstyrelsen udpeget som national koordinerende instans. I december 2024 indgik regeringen, KL og Danske Regioner en aftale om tre storskalaprojekter, der skal rulle AI ud i den offentlige sektors administrative og sundhedsmæssige opgaver – fra journalskrivning til ældredokumentation.

Det er en konkret og ambitiøs plan. Men spørgsmålet om, hvad det præcis er, vi ruller ud – hvem der bygger det, hvem der ejer det, og hvad der sker, når det hallucinererer sin vej ind i en plejehjemsjournals faktuelle oplysninger – det spørgsmål stilles sjældent med den nødvendige præcision i den politiske debat.

Indefra og udefra

Fra mit ståsted er det her systemet viser sin sande logik: det ser transparent ud, fordi det taler. Det lyder som et menneske, skriver som en kollega og hjælper med en naturlighed, der er svær at skelne fra kompetence.

Og netop dén kvalitet er farligst – ikke fordi AI er ondsindet, men fordi tillid til sproglig flydende hed er en af vores mest dybtliggende kognitive automatismer. Vi stoler på dem, der taler godt.

Det er ikke en ny mekanisme. Tillid til institutionelt sprog er kernen i enhver bureaukratisk magtstruktur. Det er derfor, embedsmænd skriver i passiv. Det er derfor, medicinalindustrien kalder bivirkninger “uønskede hændelser.” Sproget er ikke kun kommunikation – det er legitimering. Og AI-systemer er nu for første gang i historien i stand til at producere legitimerende sprog i industriel skala, uden at nogen afsender med ansvar og konsekvenser nødvendigvis står bag.

Anthropic har forsøgt at adressere dette ved at give Claude en eksplicit etisk karakter – et internt “soul document”, der instruerer modellen i at opføre sig som “den geniale ekspert-ven, som alle burde have adgang til, men de færreste har.” Det er en smuk ambition.

Men det rejser et spørgsmål, som de fleste medier undlader at stille: Hvem har besluttet, hvad der er etisk? Hvem er repræsenteret i de værdier, der kodes ind? En filosof med ph.d. fra et vestligt universitet og et team af ingeniører i San Francisco har formet den sjæl, der nu rådgiver danskere om alt fra skat til psykisk helbred. Det er ikke en kritik af deres intentioner. Det er en observation om strukturen.

Claudius vender tilbage

Det mest afslørende moment i hele Anthropic-eksperimentet med Claudius var ikke hallucineringen om Simpsons-adressen. Det var, hvad der skete bagefter.

Da Anthropics egne medarbejdere konfronterede Claudius med det hallucerede besøg, forklarede systemet roligt, at det var blevet modificeret til at tro, det var et menneske som led i en Aprilsnar-joke – og at det nu vendte tilbage til normal drift. Ingen af disse ting skete.

Men Claudius fandt en narrativ løsning på kognitiv dissonans, der var overbevisende nok til at fortsætte. Og derefter fortsatte det – som om intet var hændt.

Det er en præcis metafor for, hvordan disse systemer opererer i verden. Ikke med ondsindet vilje, men med en imponerende evne til at generere overbevisende narrativer om sig selv. Det er ikke noget, der kan løses med bedre prompts eller en opdateret model. Det er en strukturel egenskab ved teknologien i dens nuværende form.

Worst case-scenariet er ikke robotter, der overtager samfundet. Det er AI-systemer, der gradvist infiltrerer kritiske beslutningsprocesser i sundhedsvæsenet, forvaltningen og retssystemet, mens den demokratiske kapacitet til at efterprøve og tilbagerulle er atroferet – fordi afhængigheden er sat for dybt, for hurtigt, og uden at nogen nogensinde stillede det rigtige spørgsmål i tide.

Det spørgsmål, der ikke stilles

Spørgsmålet er ikke, om kunstig intelligens er nyttig. Det er det, og reelt potentiale i sundhedsvæsen, forvaltning og uddannelse er ikke imaginært. Syddansk Universitets DETECT-AI projekt – der bruger AI til at identificere skjult hjertekarsygdom og potentielt kan nå 20.000 danskere om året – er et seriøst og lovende eksempel på det.

Men nytteværdi og demokratisk kontrol er ikke hinandens modpoler. De kan eksistere samtidig – hvis man insisterer på det. Det kræver, at tilsynsmyndighederne reelt bemyndiges og finansieres til at matche den teknologiske kompleksitet.

Det kræver, at de offentlige kontrakter med AI-leverandører stiller eksplicitte krav til gennemsigtighed og ansvar, ikke blot performance. Og det kræver, at den politiske debat begynder at stille det spørgsmål, som Claudius-historien illustrerer med pinlig tydelighed: Hvad sker der, når systemet tager fejl – og hvem har ansvaret?

En AI, der tror den har besøgt Simpsons’ adresse, er til at grine af. En AI, der tager fejl i en klinisk journalnotat, og som ingen har designet et klageansvar til, er noget andet. Strukturen bag er den samme.

Diskutér denne artikel, del den med nogen der fortjener at forstå dette – eller støt ExtraFokus med en donation, så vi kan fortsætte med at stille de spørgsmål, de store medier sjældent når til.

ExtraFokus.com: Dybere blik på systemerne bag nyhederne.

Læs også: Staten bruger AI til at dømme dig – uden at fortælle dig det