Staten bruger AI til at dømme dig – uden at fortælle dig det

Brevet kommer ikke med røde blink. Det gør de alvorlige breve sjældent. En pensionist åbner sin post, ser en tør formulering fra en myndighed og forstår først flere linjer nede, at noget i systemet har ændret sig. Ikke fordi et menneske satte sig ned, lyttede og vurderede et liv. Men fordi et mønster et sted i en database lignede noget, der burde undersøges.

Det er dér, historien begynder. Ikke i et seminar om digital innovation. Ikke i endnu en powerpoint om effektivisering. Men ved køkkenbordet, hvor et menneske opdager, at staten allerede har sat maskiner til at sortere i hans sag, uden at han aner, hvilke kriterier der tæller, og hvilke der ikke gør.

Jeg har fulgt det her længe nok til at vide, hvad der kommer næste. Først siger systemet, at det bare er et hjælpeværktøj. Så siger myndigheden, at der altid er et menneske inde over. Og når noget går galt, er der pludselig ingen, der helt kan forklare, hvem der faktisk traf beslutningen. Det er imponerende, hvis man holder af ansvarsforflygtigelse. Mindre imponerende, hvis man er borger.

Sagen er større end én ydelse, ét jobcenter eller én kommune. Danske myndigheder bruger allerede algoritmer og AI-lignende systemer til at screene, prioritere og i praksis styre sagsbehandling på områder, der handler om borgernes økonomi, børn og forsørgelse, mens Datatilsynet selv har kortlagt udbredelsen af kunstig intelligens i den offentlige sektor, og staten samtidig har kørt officielle signaturprojekter i kommuner og regioner for at bringe teknologien ind i driften.

Det sælges som modernisering. Men når kriterierne er uklare, og begrundelsen er tyndere end konsekvensen, er det ikke modernisering. Det er et demokratisk eksperiment med andre menneskers liv.

Staten har allerede sat modellen i arbejde

Lad os begynde med det mest håndgribelige eksempel, fordi tallene er så absurde, at man næsten får lyst til at tro, de må være forkerte. Udbetaling Danmark overvåger hver nat mere end 1,1 millioner pensionister gennem automatiske samkøringer af blandt andet CPR-oplysninger, BBR-data, skatteoplysninger og sundhedsoplysninger med henblik på kontrol.

I samme system screenes også omkring 450.000 sygedagpengemodtagere for det, myndigheden kalder atypisk sygefravær. Det er altså ikke et fremtidsscenarie. Det er drift.

Resultatet er til gengæld næsten komisk, hvis ikke det var så alvorligt. Akademikerbladet dokumenterede via aktindsigt, at den natlige AI-baserede kontrol af pensionister i 2023 førte til 36 sager, mens kontrollen af sygedagpengemodtagere førte til 50 ændringer i ydelser efter gennemgang af 2.821 sager.

Det er her, enhver voksen burde stille det mest enkle spørgsmål i verden: Hvor stor må overvågningen være, når udbyttet er så lille? Ikke for systemet. For borgeren.

Udbetaling Danmarks underdirektør sagde direkte, at myndigheden ikke havde undersøgt, hvad der kendetegner de pensionister, der bliver ramt, eller hvilke menneskelige konsekvenser indsatsen har haft. Det siger mere end en lang rapport kunne gøre.

Myndigheden ved, hvordan man sammenkører data. Den ved ikke, hvad det gør ved mennesker. Det er sådan noget, man normalt ville kalde et faresignal. I den offentlige digitaliseringsverden kaldes det åbenbart fremdrift.

Og nej, det er ikke kun på ydelsesområdet, at modellerne sniger sig ind. Videnskab.dk beskrev, hvordan danske myndigheder og kommuner i flere år har eksperimenteret med algoritmiske beslutningsstøttesystemer som STAR, ASTA og OMAS i beskæftigelsesindsatsen, hvor systemerne skulle forudsige langtidsledighed eller pege sagsbehandlere i bestemte retninger.

STAR-algoritmen eksisterede fra 2015 til 2022, ASTA blev brugt i Lyngby-Taarbæk fra 2017 til 2022, og OMAS i Odense blev efter kort tid droppet, fordi lovligheden var tvivlsom. Strategierne var skrevet. Retsgrundlaget haltede efter.

Det er den klassiske danske version af teknologisk naivitet. Først bygger vi systemet. Så undersøger vi, om det burde have været bygget. Vi så noget lignende med ejendomsvurderingerne, hvor komplekse modeller og mangelfulde forklaringer gjorde det svært for borgerne at gennemskue, hvorfor deres bolig pludselig var sat til noget andet end virkeligheden kunne bære.

Når staten gør det med mursten, er det dyrt. Når staten gør det med børnesager, sygedagpenge og forsørgelse, er det noget værre.

Hvad algoritmen ser, og hvad den overser

Tilhængerne af de her systemer siger noget, der på overfladen lyder rimeligt: Algoritmer kan finde mønstre i store datamængder, prioritere knappe ressourcer og hjælpe sagsbehandlere med at opdage problemer tidligere.

Kommuner har da også i stor stil skrevet AI og digitalisering ind i budgetterne for 2026, og Digitaliseringsministeriet har selv promoveret offentlige AI-signaturprojekter som en vej til bedre opgaveløsning. Den del af argumentet skal man ikke være dumsmart overfor. Selvfølgelig kan data bruges klogt.

Men algoritmer måler kun det, de kan se. Og det, de kan se, er typisk det, der findes i registre: indkomst, adressehistorik, kontakter med myndigheder, sygdomsmønstre, familieforhold, arbejdsløshedsperioder og forskellige former for adfærdsafvigelser.

Det, de ikke kan se, er mindst lige så vigtigt: vold i hjemmet, skam, manipulerende ekskærester, psykisk slid, et barn der holder op med at sove, en far der er ved at gå i stykker, eller en mor der søger hjælp så ofte, at systemet begynder at læse hendes desperation som risiko. Den forskel er ikke akademisk. Den er hele sagen.

Det gælder særligt på børneområdet. Altinget beskrev i 2025, hvordan forskere arbejdede med prædiktive modeller til at opspore børn i mistrivsel, og hvordan forskerne netop forsøgte at fjerne data om køn, etnicitet og socioøkonomisk baggrund for at reducere diskriminerende effekter.

Selv i et forskningssetup med den slags forsigtighed var pointen ikke, at algoritmen kunne erstatte fagligt skøn, men at den højst kunne understøtte det. Det er den del, der har det med at forsvinde, når ideen møder en kommunal spareøvelse.

For sådan ser virkeligheden ud: En socialrådgiver har for mange sager, for lidt tid og et system på skærmen, der markerer noget som rødt. Hvis modellen siger høj risiko, og kalenderen siger 14 minutter til næste møde, er det næsten naivt at tro, at markeringen ikke får vægt.

Videnskab.dk beskrev netop, at sagsbehandlere i praksis ofte enten fulgte algoritmens anbefalinger, når de bekræftede deres intuition, eller tilsidesatte dem, når de ikke gjorde. Det er ikke objektivitet, men automatiseret bekræftelsesbias med kommunalt login.

Derfor er det heller ikke nok at sige, at et system ikke træffer den endelige afgørelse. Hvis det sorterer sagerne, vælger hvem der skal ses nærmere på, sætter tempoet, bestemmer mistanken og farver sagsbehandlerens blik, så har det allerede grebet ind i afgørelsen.

Ikke nødvendigvis som dommer i formel forstand. Men som den assistent, alle retter sig efter, fordi den ser ud til at have styr på tallene. Det er sådan magt flytter sig. Stille. Uden debat. Uden valgplakat.

Retten til en forklaring, der aldrig kommer

Hele det juridiske forsvar for den her udvikling hviler på en sætning, der efterhånden burde udløse en alarm, hver gang den bliver sagt: Der er altid et menneske i loopet.

Professor Thomas Hildebrandt fra ITU har kritiseret netop den forestilling og sagt, at den i praksis ofte giver sagsbehandleren et pseudo-ansvar, fordi vedkommende ikke reelt kan gennemskue den model, der har produceret anbefalingen. Det er et smukt ord, pseudo-ansvar. Det betyder på almindeligt dansk, at man parkerer skylden hos den eneste i kæden, som ikke har designet systemet.

GDPR artikel 22 giver borgere en ret til ikke at være genstand for afgørelser, der alene er baseret på automatisk behandling, når afgørelsen har retsvirkning eller tilsvarende betydelig effekt, og bestemmelsen forudsætter blandt andet mulighed for menneskelig indgriben og for at bestride afgørelsen.

På papiret lyder det som en solid beskyttelse. I praksis falder det hele sammen, hvis borgeren ikke kan få en reel forklaring på, hvordan systemet arbejdede. Man kan ikke anfægte en begrundelse, man aldrig får.

Det er præcis her, forvaltningsretten støder sammen med maskinlogikken. Videnskab.dk beskrev forskning fra juralektor Jøren Ullits, som peger på, at blandt andet ejendomsvurderingssystemet giver borgerne utilstrækkelig information om de mellemregninger, der ligger bag vurderingen, fordi systemet simpelthen er for komplekst at forklare fuldt ud.

Når staten vælger at bruge et system, den ikke kan forklare på en måde, som den ramte borger kan forstå, favoriserer den i praksis systemets bekvemmelighed over borgerens retssikkerhed. Så er det ikke længere borgeren, der skal kunne forstå loven. Det er loven, der skal bøje sig for softwaren.

Datatilsynet har selv udgivet vejledninger og kortlægninger om brug af kunstig intelligens i den offentlige sektor, netop fordi teknologien rejser spørgsmål om lovlighed, gennemsigtighed og ansvar.

Alligevel står man med det paradoks, at staten på én gang anerkender risikoen og fortsætter eksperimentet. Det er lidt som at sætte et advarselsskilt op foran et hul i vejen og derefter lade trafikken køre videre som normalt. Teknisk set informerede man jo.

Det værste er, at den borger, der bliver ramt, ofte ikke engang ved, hvad der skal spørges om. Fik jeg et brev, fordi en sagsbehandler reagerede på noget konkret? Fordi et system fandt et mønster?

Fordi en leverandørs model vægtede ét datasæt højere end et andet? Det er det spørgsmål, de fleste medier springer over, fordi det er besværligt og tørt. Men det er jo selve magtens adresse. Hvem traf beslutningen, og med hvilket grundlag? Hvis ingen kan svare kort og klart, har vi allerede et problem.

Holland viste slutningen før vi begyndte

Man behøver ikke lede længe efter et skræmmeeksempel. Holland leverede det i en så voldsom udgave, at regeringen faldt.

I den såkaldte Toeslagenaffære blev omkring 26.000 familier fejlagtigt ramt i en sag om børnepasningsydelser, hvor skattemyndighedernes kontrol- og risikomodeller blandt andet kom til at lægge vægt på dobbelt statsborgerskab og andre indikatorer, som skabte diskriminerende udfald. Det var ikke bare en teknisk fejl. Det var et statsproduceret sammenbrud i retsstaten.

Berlingske beskrev i 2021, hvordan den hollandske regering trak sig som følge af skandalen.

Politiken beskrev, hvordan hemmelige algoritmer, institutionel racisme og aggressiv kontrol smadrede almindelige familiers økonomi. Europa-Parlamentet tog sagen op som et spørgsmål om både algoritmer og institutionel diskrimination. Når så mange forskellige kilder peger på det samme mønster, er der ikke længere tale om et udenlandsk særtilfælde. Så er det en advarsel.

Den menneskelige pris var heller ikke abstrakt. Videnskab.dk gengav historien om Chermaine Leysner, som blev beskyldt for svindel, pålagt enorme tilbagebetalingskrav og efterfølgende beskrev et liv præget af stress, depression og et familieliv, der brød sammen.

Sådan ser systemfejl ud, når de lander i et menneske. Ikke som en rød markering i et dashboard. Men som søvnløse nætter, gæld, skam og børn, der mærker de voksnes panik.

Det bekvemme danske svar er altid det samme: Ro på, vi er ikke Holland. Måske ikke. Men professor Thomas Hildebrandt sagde direkte, at Danmark heldigvis ikke har haft en tilsvarende skandale endnu. Endnu.

Det lille ord burde få enhver minister, borgmester og direktør til at sætte kaffen fra sig. For det er jo netop sådan skandaler fungerer. De er usynlige, lige indtil de ikke er det længere.

Danmark har allerede sine egne forvarsler. Et ejendomsvurderingssystem, som borgerne har haft svært ved at gennemskue. Beskæftigelsesmodeller, der blev droppet efter år i drift. Natlig datasamkøring af over en million pensionister for at finde promiller af sager. Det er ikke den hollandske slutscene. Men det er heller ikke et land, der med rank ryg kan påstå, at det har styr på balancen mellem teknik og ret.

Hvem sælger systemet, og hvem hænger på fejlen?

Når noget så gennemgribende ruller ind i staten, følger pengene altid med. Dansk Industri har åbent argumenteret for, at kommuner skal satse mere på AI og teknologi, og kommunale budgetforlig for 2026 viser, at mindst 24 kommuner nævner AI eller digitalisering som en del af løsningen på fremtidens velfærdsudfordringer. Digitaliseringsministeriet har samtidig fremhævet evalueringer og taskforcearbejde som led i en større politisk satsning på området. Det er altså ikke en skjult strømning. Det er officiel retning.

Men retningen er ikke det samme som dokumenteret effekt. Regeringens egen evaluering af 40 AI-signaturprojekter viste, at 22 projekter var afsluttet, og at kun seks efterfølgende var taget i drift. Seks ud af fyrre. Hvis en privat virksomhed solgte det som en sikker gevinst, ville man kalde det et problem. I den offentlige sektor kaldes det åbenbart læring.

Og så er der ansvaret. Leverandøren bygger modellen. Kommunen eller styrelsen køber den. Sagsbehandleren bruger den. Borgeren rammes af den. Datatilsynet fører tilsyn med personoplysninger og lovlighed, men går ikke ind og bærer den konkrete afgørelse, og Udbetaling Danmark har selv placeret diskussionen af proportionalitet som et politisk spørgsmål.

Det er en næsten perfekt konstruktion, hvis målet er at sikre, at ingen enkelt aktør nogensinde står alene med regningen, når noget går galt.

Det er her, den danske borger bliver den svageste part i kæden. For systemet har tid, jurister, leverandører, databaser og mødefora. Borgeren har et brev og en klagefrist. Det er hele asymmetrien i én sætning. Og vi har set den før i Danmark, også uden AI-label på æsken: i skattesager, i ejendomsvurderinger, i beskæftigelsessystemer, hvor den enkelte bruger år på at få rettet en fejl, der tog myndigheden sekunder at producere.

Det mest irriterende er næsten, hvor forudsigeligt det er. Vi ved allerede, hvem der bliver forsøgsfelt først: mennesker med lavt overskud, komplekse liv, begrænset økonomi og ringe mulighed for at kæmpe imod.

Ikke direktøren med revisorhold og advokat på speed dial. Men førtidspensionisten. Den enlige mor. Familien med kommunen på besøg lidt for ofte. Dem, der har mindst luft, når systemet lægger en ekstra sten på brystet. Sådan har danske systemfejl altid virket. Hvorfor skulle algoritmer pludselig blive mere socialt elegante end de institutioner, der fodrer dem?

Kend din digitale dommer

Der findes gode argumenter for at bruge data smartere i den offentlige sektor. Ressourcer er knappe. Nogle mønstre kan opdages tidligere. Nogle fejl kan måske findes hurtigere. Det skal man ikke benægte, bare fordi man er skeptisk. Men gevinsten forsvinder i det øjeblik, borgeren ikke ved, at et system har været med til at forme hans sag, ikke kan få en reel forklaring og ikke kan placere ansvaret, når noget går skævt. Så er effektiviteten købt med retssikkerhed. Og det er et bytte, ingen har fået et ærligt ja til at godkende.

Derfor burde minimumskravet være banalt: Enhver borger skal have ret til at få oplyst, om en algoritme eller model har indgået i behandlingen af en sag om skat, ydelse, pension eller børn.

Myndigheden skal kunne forklare med almindelige ord, hvilke data der blev brugt, hvad modellen søgte efter, og hvordan et menneske konkret prøvede resultatet af. Hvis det ikke kan forklares, bør det ikke bruges. Alt andet er bare digital tåge med embedsstempel.

Og så burde der være områder, hvor svaret ganske enkelt er nej. Ikke måske. Ikke under pilotprojekt. Nej. Når staten vurderer spørgsmål, der kan splitte en familie, ændre en forsørgelse eller skubbe et menneske ud i økonomisk ruin, skal et menneske ikke bare være “i loopet”.

Et menneske skal være ansvarligt, synligt og i stand til at forklare sig. Ellers har vi ikke bygget en moderne velfærdsstat. Så har vi bygget en maskine, der taler jura med lukket mund.

ExtraFokus.com: Dybere blik på magten og de oversete historier.