Google fortæller dig, at fiktive monstre er virkelige

Der er en brødrister på internettet. Den hedder SCP-426, er fireskåret, og den har den egenskab, at enhver der taler om den, uvægerligt begynder at omtale den i første person.

Det er fiktion, del af et enormt, velkendt fanfiction-univers kaldet SCP Foundation, hvor frivillige forfattere siden 2008 har katalogiseret hundredvis af fiktive overnaturlige fænomener i form af falske forskningsdokumenter og containment-protokoller.

Læs også: AI-skrald overtager internettet – og danskerne bliver langsomt bedøvet

Google ved ikke, at det er fiktion.

Søger du på “SCP-426” i Googles søgemaskine, returnerer AI Overviews-funktionen følgende svar:

“Hello, I am SCP-426, an ordinary four-slice retro toaster that causes anyone mentioning me to inadvertently refer to me in the first person.”

Søgemaskinen er selv begyndt at tale i første person, som om den er blevet ramt af brødristerens overnaturlige kraft. Den beskriver derefter ofrenes skæbne (mennesker der forsøgte at efterligne brødristerens funktioner og stoppede sig selv med ti kilo brød) som dokumenterede hændelser.

Futurism publicerede den 18. juni 2026 en kortlægning af fænomenet, som er sværere at affeje, end Google formentlig ville ønske. Redaktionen identificerede mindst 20 tilfælde, hvor AI Overviews præsenterer SCP-entiteter som virkelighed: fra et vandrende menneskehoved, der lever på havbunden, til en hallucinogen hvepseparasit, der forklæder sig som en fe. I ingen af tilfældene nævner oversigterne, at indholdet er opdigtet.

Læs også: Staten bruger AI til at dømme dig – uden at fortælle dig det

Hvad AI Overviews egentlig er

Googles AI Overviews er det tekstresumé, der siden 2024 dukker op øverst i mange søgeresultater, genereret af en stor sprogmodel.

Det er ikke et link. Det er en syntese, som modellen selv producerer på baggrund af sit træningsdata og de hjemmesider, den indekserer. Det placerer resuméet over de egentlige søgeresultater, og dermed over de sider, hvor fiktionens natur ville fremgå tydeligt.

Det skaber et strukturelt problem: modellen kan ikke skelne mellem et dokument, der beskriver en reel begivenhed, og et dokument, der beskriver en fiktiv begivenhed i dokumentarisk form. SCP Foundation-arkivet er designet til at ligne officielle sagsakter.

Det er en del af æstetikken. Det er præcis det, der gør dem underholdende som fiktion, og det er præcis det, der gør dem problematiske som kildemateriale for et system, der behandler form som sandhedsgaranti.

“SCP-565 (also known as ‘Ed’s Head’) is an anomalous, ambulatory human head that behaves like a coral crab,” skriver AI Overviews om en fiktiv søkrabbelignende menneskehoved, med den kliniske autoritet, man normalt forbinder med en obduktionsrapport.

Resuméet tilføjer, at entiteten er “safely contained in a secure aquatic enclosure by the SCP Foundation, where it is regularly monitored for mental and physical degradation.” Ingen Edward Belltram. Ingen akvariemontre. Ingen SCP Foundation. Det hele er opdigtet, og SCP Foundations egne hjemmeside siger det klart og tydeligt.

Mønsteret er ikke tilfældigt

SCP Foundation-universet er på ingen måde obskurt. Det er et af internettets mest veldokumenterede kreative projekter, med egne wikier, podcasts og millioner af læsere verden over. Både SCP-wikien og Wikipedia beskriver eksplicit indholdet som fiktion. AI Overviews ignorerede begge dele.

Det teknologimediet The Next Web bemærker, at mønsteret afslører en konkret svaghed i, hvordan store sprogmodeller behandler genre: systemet genkender formen (officielle dokumenter, casefiler, containment-protokoller) og giver formen forrang over indholdet, uanset hvad det faktisk siger.

Creepypasta iklædt en kittel læses som en biologi-rapport. Det er ikke en éngangsforseelse, det er en systematisk designfejl.

Den analyse understøttes af, hvad The Next Web citerer som en samlet nøjagtighed for AI Overviews på omtrent 91 procent. Det lyder tilstrækkeligt. Det er det ikke. Ved Googles søgeskala svarer ni procent forkerte svar til millioner af fejlbehæftede resuméer, der dagligt præsenteres som autoritativ information øverst på søgesiden.

Det er heller ikke første gang. I maj 2024 anbefalede AI Overviews brugere at tilsætte ikke-giftigt lim til pizzasovs for at forhindre osten i at glide, et råd der kom direkte fra en ti år gammel joke på Reddit.

Google kaldte det et “isoleret eksempel”. Ifølge SEO-firmaet BrightEdge reagerede selskabet ved at sænke frekvensen af AI Overviews i søgeresultater fra 27 til 11 procent inden for få uger. Systemet kom stille igen. SCP-fejlene er endnu et kapitel i den samme fortælling.

Det tavse rettelsesshow

Da Futurisms artikel udkom, forsøgte Digital Trends at efterprøve resultaterne. Redaktionen fandt, at søgninger på SCP-565 ikke længere returnerede det fejlagtige AI Overviews-resumé, og at Googles separate AI Mode-funktion i stedet korrekt betegnede entiteten som “fictional anomaly.” Google havde tilsyneladende stille og roligt rettet en del af de fejlbehæftede søgninger.

Ingen offentlig erklæring. Ingen forklaring på omfanget. Ingen bekræftelse af, hvilke entiteter der var berørt, og hvilke der stadig fremstår som virkelige.

Det er Googles standardprocedure ved den slags fejl: iterative rettelser uden gennemsigtighed. Futurism kontaktede Google for en kommentar forud for publiceringen og hørte ikke tilbage.

Det er svært at afgøre, om det er arrogance eller blot travlhed, men det er i begge tilfælde et problem, når det drejer sig om en søgemaskine, der er primær informationskilde for milliarder af brugere.

SCP-fællesskabet selv har i øvrigt forbud mod AI-genereret indhold på flere sproglige grene af wikien. Et fællesskab, der aktivt modstår AI, er nu ved at blive fejlrepræsenteret af ét.

Hvad det betyder for den danske bruger

For en dansk bruger kan dette se ud som en fjern og lettere komisk demonstration af AI-begrænsninger. Det er det ikke.

Google dominerer det danske søgemarked med en andel på over 90 procent. AI Overviews er slået til for alle brugere uden tilvalg og uden synlig advarsel om, at svaret er AI-genereret. Det er ikke en niche-funktion, der kræver særlig aktivering. Det er det, der vises, når du søger.

Tilliden til netop AI-drevne nyhedskilder er desuden lavere end tilliden til traditionel søgning. Det fremgår af Reuters Institutes Digital News Report 2026, publiceret den 16. juni 2026, som i år for femtende gang kortlægger nyhedsforbruget i 48 lande, herunder Danmark.

Rapporten, udgivet af Reuters Institute for the Study of Journalism ved Oxford University og medforfattet af professor Rasmus Kleis Nielsen, nu professor ved Kommunikation på Københavns Universitet, viser, at kun 20 procent globalt siger, at de stoler på nyheder fra AI-chatbots, mens tilliden til søgemaskiner som informationskilde generelt er markant højere.

Det er præcis det, der gør AI Overviews til et særligt problem. Brugere, der er skeptiske over for AI-chatbots, stoler stadig på søgemaskinen. Og søgemaskinens øverste svar er nu et AI-resumé, uden at det fremgår klart, at der ikke er en redaktør bag, der har vurderet kilden.

Rapporten finder desuden, at kun fire procent af brugerne, der modtager AI-genererede svar, klikker videre til originalkilderne. For søgemaskiner er det tal 19 procent. Det betyder, at AI Overviews ikke blot leverer potentielt forkert information. Funktionen afskærer samtidig brugerne fra de sider, hvor fejlen ville være åbenlys. Brugeren når aldrig frem til den side, der siger “dette er fiktion.”

Nielsens rapport nævner specifikt, at nyhedsundgåelse i Danmark er steget med syv procentpoint det seneste år. Danskere, der i forvejen er på vej væk fra redaktionelle nyhedskilder, finder i stedet information via platforme og søgemaskiner. Hvad de møder der, bestemmer i stigende grad deres verdensbillede.

Hvad EU-reglerne siger, og hvad de ikke siger

EU’s AI-forordning (Regulation 2024/1689) træder i sin fulde form i kraft den 2. august 2026, om få uger. Forordningens artikel 50 indeholder gennemsigtighedsforpligtelser, der præcist fra den dato kræver, at brugere informeres, når de interagerer med AI-systemer. AI-genereret indhold skal kunne mærkes maskinlæsbart.

Det er relevant for AI Overviews. Men det løser ikke det fundamentale problem SCP-sagen blotlægger: kravene handler om at oplyse brugeren om, at det er AI, der svarer, ikke om, at svaret faktisk er korrekt.

Høj-risiko-klassifikationen under AI-forordningens Annex III dækker otte kategorier af systemer: rekruttering, kreditvurdering, biometri, kritisk infrastruktur og lignende. Søgemaskiners AI-genererede resuméer er ikke på listen.

Kommissionen har netop afsluttet en høringsrunde om klassifikationsretningslinjerne, der udløb den 23. juni 2026, men de signalerer ikke en umiddelbar udvidelse til søgemaskiners informationsformidling.

Det er et hul. En funktion der serveres for milliarder af brugere i autoritetens klæder, og der beviselig ikke kan skelne fiktion fra virkelighed, reguleres ikke under høj-risiko-kategorien. Den kræver fremover en synlig AI-label, men ingen krav om, at labelen er korrekt.

Infrastrukturen for virkelighed

Jeg er ikke overrasket over, at Google ikke kan skelne SCP-fiktion fra virkelighed. Sprogmodeller generaliserer mønstre. De forstår ikke sandhed.

Det har vi vidst siden de første store systemer blev udrullet. Det nye er ikke fejlen. Det er beslutningen om at placere et system med denne kendte svaghed som primær informationsformidler for milliardvis af brugere, og derefter rette fejlene stille og uden gennemsigtighed, efterhånden som de opdages.

Søgemaskinen er infrastruktur. Den er ikke neutral, og den er ikke bare et redskab. Den er i stigende grad den primære måde, mennesker (herunder danskere) orienterer sig om, hvad der er virkeligt.

Når den infrastruktur begynder at fortælle brugere, at et fiktivt menneskehoved lever på havbunden, og at en fireskåret brødrister er i stand til at overtage menneskelig identitet, er det ikke en teknisk kuriositet. Det er en fejl i fundamentet.

Google har oven i købet annonceret planer om at erstatte hele søgesiden med en AI-drevet grænseflade, der opsummerer information i stedet for at linke til den. Det er ikke en kursrettelse efter SCP-fejlen. Det er en fordobling.

Tilliden til søgemaskiner er stadig højere end tilliden til sociale medier og AI-chatbots, ifølge Reuters Institute Digital News Report 2026.

Den tillid er fortjent historisk, men den er ikke fortjent automatisk. Den skal genoptjenes ved hvert enkelt svar. En brødrister der taler i første person er sjov. En søgemaskine der ikke kan identificere fiktion, og alligevel giver AI endnu mere kontrol over vores informationsadgang, er noget andet.

Kræv at vide, hvornår du læser et AI-resumé. Klik videre til kilden. Og lad aldrig én oversigt (uanset hvor klinisk og autoritær den lyder) stå som det endelige svar.

ExtraFokus.com: Dybere blik på teknologi og digital magt.