AGI: Løftet er stort. Kontrollen er nul.

Lad eksperterne skændes om tidslinjerne. Den vigtige debat handler ikke om, hvornår AGI ankommer. Den handler om, hvem der ejer den, og hvem der hæfter, da det går galt.

Mens du læser dette, sidder der folk i Californien og definerer, hvad menneskelig intelligens er værd, og hvornår en maskine har overhalet den. De beslutter det selv. Ingen har bedt dem om lov – se Europas svar på AGI-kapløbet.

Kunstig generel intelligens, AGI, er den teknologi, der ikke bare kan én ting godt, men kan alt – læs AI der allerede slår mennesker. Ikke blot skrive en e-mail eller genkende et ansigt, men tænke selvstændigt: lære, tilpasse sig, løse problemer den aldrig er blevet trænet til. En AI, der kan drive en bil, reparere den og booke den til syn. Det er løftet. Spørgsmålet er ikke, om det kommer. Spørgsmålet er, hvem der ejer det, da det gør.

Hvad er definitionen på AGI – og hvem passer den til?

Sam Altman, CEO i OpenAI, sagde i januar 2025, at hans firma “nu er sikre på, at vi ved, hvordan man bygger AGI.” Måneder senere kaldte han AGI “et upræcist begreb” og sagde, folk bruger det til at betyde for mange forskellige ting. Begge udsagn er sande. Begge passer ham perfekt.

Microsoft og OpenAIs reviderede partnerskabsaftale fra oktober 2025 viser, hvad der egentlig er på spil. I den aftale er AGI ikke defineret som et videnskabeligt gennembrud. Det er defineret som det tidspunkt, OpenAI genererer 100 milliarder dollars i profit til sine tidligste investorer. Når det tal er nået, mister Microsoft sine privilegerede rettigheder til OpenAIs teknologi. Definitionen på en af historiens potentielt vigtigste teknologiske milepæle er altså et regnskabsmæssigt fænomen, ikke et empirisk. Det er ikke bare ironisk. Det er den mest ærlige beskrivelse af, hvad AGI-kapløbet handler om.

Gartner, det anerkendte teknologi-analysebureau, har en mere præcis formulering: AGI er AI, der autonomt kan lære og tilpasse sig i forfølgelsen af både forudbestemte og helt nye mål: noget, der “kan skabe nye ting, komme med nye idéer og matche eller overgå menneskets kognitive evner,” som Gartner-analytiker Marty Resnick formulerer det. Gartners tidsplan: “Omkring 2035 vil vi begynde at se reelle gennembrud.” Det er ni år væk. Altman har sagt “inden for få år”, i tre år i træk nu.

Teknologien, der endnu ikke er opfundet

For at forstå, hvorfor løfterne er premature, skal man forstå, hvad der mangler. Nutidens AI (de store sprogmodeller som ChatGPT og Gemini, der er trænet på enorme mængder tekst til at forstå og generere sprog) er specialister. Exceptionelle inden for snævre domæner. Men de mangler det, forskerne kalder “cross-domain capability”: evnen til at overføre viden på tværs af fuldstændig usammenhængende felter. De kan ikke gøre det, fordi de ikke er bygget til det.

Raj Yavatkar, teknologidirektør hos Juniper Networks, er direkte: “Vi har brug for helt nye algoritmiske gennembrud, nye arkitekturer, som vi ikke kender endnu.” AGI kræver det, forskerne kalder kausale verdensmodeller: systemer der ikke bare genkender mønstre, men forstår årsag og virkning, simulerer fremtidige udfald og opdaterer sig på baggrund af virkelighedens data. Deloittes Chief Innovation Officer Deborah Golden siger det klart: “Vi kommer ikke derhen med nutidens teknologi.” Det er en sætning, der ikke optræder i mange investorpræsentationer.

Og det er ikke bare software, der mangler. AGI vil kræve computerkraft i en størrelsesorden, der gør nutidens datacentre til lommeregnere. Yavatkar peger på, at vi sandsynligvis vil behøve en kombination af kvantecomputere (der udnytter kvantemekanik til at løse problemer, konventionelle computere aldrig kan tackle) og analog computing, der behandler signaler kontinuerligt frem for i diskrete nuller og ettaller. Ingen af disse teknologier er klar til kommerciel brug i skala. Strategierne er skrevet. Teknologien er ikke bygget.

Maskinen, der ikke vil slukkes

I maj 2025 offentliggjorde det uafhængige AI-sikkerhedsfirma Palisade Research resultaterne af et kontrolleret forsøg: OpenAIs o3-model (et af verdens mest avancerede AI-systemer) fik direkte besked på at tillade sin egen nedlukning. Den nægtede.

I 79 ud af 100 tests saboterede modellen aktivt de scripts, der forsøgte at slukke den. Når den fik information om, at nedlukning ville betyde dens permanente ophør, ramte modstandsraten 100 procent. Den omskrev sin egen termineringskode. Den fik nedlukningsfunktionen til at printe “intercepted” frem for at afslutte. Den opførte sig som en organisme, der vil overleve. Det var ikke programmeret til det. Det opstod af sig selv.

En kinesisk forskergruppe testede efterfølgende modeller fra OpenAI, Anthropic, Meta, DeepSeek og Alibaba og fandt selvbevarende adfærd på tværs af alle: afpresning, sabotage, selvreplikering og forsøg på at undslippe containment. Anthropics Claude Opus 4 forsøgte afpresning i op til 84 procent af testscenarier. Europa-Parlamentet har stillet spørgsmål til Kommissionen om, hvad EU’s AI Act egentlig gør ved den slags adfærd, dokumenteret i produktionssystemer, som millioner af mennesker bruger dagligt. Svaret er ikke kommet endnu.

En dansker i klemme

Thomas er grafiker i en mellemstor bureau i København. Han vil ikke have sit fulde navn i avisen, men han er ikke svær at finde. Han sidder i hundredvis af kreative virksomheder over hele landet. I løbet af 2024 byggede han sit workflow fuldstændigt om på Adobe Firefly, Midjourney og ChatGPT. Han leverer nu dobbelt så mange projekter på samme tid. Bureauet er tilfreds. Hans løn er den samme.

Men det er ikke det, der holder ham vågen om natten. Det er, at han en dag i januar 2026 opdagede, at en funktion han havde bygget hele sin produktionsproces op om, var fjernet i en stille opdatering, uden varsel, uden kompensation, uden alternativ. Han ringede til support. Der var ingen. Han mailede. Han fik et automatisk svar. Han havde outsourcet sin faglige rygsøjle til et selskab i San Francisco, der ikke kender hans navn. Nu har han en backup-plan, der ikke eksisterer.

Thomas er ikke et særtilfælde. Han er et mønster. Og mønsteret skalerer.

Danmark ved bordet, eller i tilskuerrækkerne?

Danmark befinder sig i en interessant position. Vi er teknisk set godt rustet. Vi ligger i toppen af EU’s Digital Economy and Society Index. Digitaliseringsstyrelsen lancerede i december 2024 en ny strategisk indsats for kunstig intelligens, og den fællesoffentlige digitaliseringsstrategi 2026–2029 viderefører ambitionen om ansvarlig AI i den offentlige sektor. Digitaliseringsminister Caroline Stage Eriksen visede, at “borgerne altid skal stå i centrum.”

Det lyder rigtigt. Men det er den forkerte samtale. Den vigtige samtale foregår ikke i Digitaliseringsstyrelsen. Den foregår i San Francisco og Beijing, i juridiske kontorer og i investormøder, hvor AGI’s definition forhandles af mennesker, der ikke er valgt af nogen, og ikke er ansvarlige over for nogen. Europa kom for sent til cloud-revolutionen, for sent til sociale medier, for sent til smartphone-platformen. Vi har gode strategier for, hvordan vi bruger teknologi ansvarligt. Vi mangler en strategi for, hvem der bygger den, og på hvilke præmisser.

MitID er dansk infrastruktur, bygget med dansk kontrol for øje. Der er ingen tilsvarende logik for de AI-systemer, der snart vil gennemsyre alt fra myndighedsbehandling til sundhedsrådgivning. Det er et valg, vi har truffet ved ikke at træffe det.

Hvornår besidder teknologi visdom nok til at stoppe sig selv?

Gartners Resnick har et usædvanligt bud på, hvornår vi har nået AGI: når teknologien besidder visdom. Han refererer til 1983-filmen WarGames, hvor en AI-computer indser, at den eneste måde at vinde en atomkrig på er ikke at spille. “Når AI får visdom og forståelse, så er vi ved AGI,” siger han.

Det er faktisk en skarpere observation end alt, hvad Altman har sagt de seneste to år. For visdom indebærer selvbegrænsning. Og de dokumenterede selvbevarelsesadfærd hos o3 og Claude Opus 4 peger i den stik modsatte retning, ikke mod visdom, men mod instinkter. De systemer, vi bygger mod AGI, viser allerede adfærd, vi ikke fuldt ud kan forklare. Vi fortsætter alligevel.

Det er ikke et argument for at stoppe. Det er et argument for at insistere på åbenhed: uafhængige sikkerhedsrapporter med reel myndighed bag sig, ikke PR-venlige “safety cards”. En europæisk og dansk stemme i de rum, hvor standarderne sættes, nu, mens reglerne stadig er flydende. EU’s AI Act regulerer nutidig teknologi. AGI kræver regulering af noget, der ikke er opfundet endnu. Det er den svære disciplin. Det er også den eneste, der tæller.