Danmark vil vinde AI-løbet – men hvem betaler prisen?

Der er et jobcenter i Odense. I 2022 indkøber kommunen en AI-algoritme kaldet OMAS til at hjælpe sagsbehandlerne. Systemet skal gøre dem hurtigere, klogere, mere effektive. Et halvt år inde i pilotprojektet opdager man, at løsningen formentlig er ulovlig. Den er kasseret. Ingen er stillet til ansvar. Pengene er væk.

Læs også: Algoritmen kender dig bedre, end du kender dig selv

Samme år er Aarhus Kommune i gang med sin egen AI-model til vurdering af børneunderretninger – altså beslutninger om, hvorvidt et barn lever under omsorgssvigt. Systemet får lov at påvirke sagsbehandlernes faktiske afgørelser, inden nogen trækker i bremsen. Prisen: 2,1 millioner kroner og en skrottet løsning. De børn, hvis sager måske blev vurderet forkert af en algoritme ingen forstod – de nævnes ikke i pressemeddelelserne.

Det er ikke to uheld. Det er et mønster.

Hvad gik galt med OMAS?

OMAS-algoritmen i Odense skulle give skræddersyede anbefalinger til beskæftigelsesindsatser for ledige borgere. Efter et halvt års pilotforløb med omkring 40 jobrådgivere viste det sig, at medarbejderne sjældent fandt anbefalingerne præcise eller velbegrundede – og Datatilsynet vurderede samtidig, at selve profileringen af borgere via AI manglede lovhjemmel. Odense, Frederiksberg og Syddjurs kommuner havde tilsammen brugt omkring 16 millioner kroner på tre lignende AI-signaturprojekter under Digitaliseringsstyrelsen, da alle tre blev skrottet.

OMAS var ikke det første forsøg. Allerede i 2015 introducerede Styrelsen for Arbejdsmarked og Rekruttering en algoritme til at forudsige langtidsledighed – den blev skrinlagt uden effekt. Den private leverandør Schultz forsøgte derefter med algoritmen ASTA, som sagsbehandlerne ifølge fagforeningen HK ofte oplevede som upræcis og ubegrundet.

Forskningen bag “Beslutningsstøtten” til børneområdet

På børne- og underretningsområdet har Aarhus Universitet og VIA University College siden 2017 forsket i et lignende værktøj, kaldet Beslutningsstøtten, der skulle hjælpe socialrådgivere med at vurdere risikoen for mistrivsel hos børn baseret på registerdata. Projektet blev grundigt testet og valideret mod data fra Danmarks Statistik, men et af de centrale fund i den bredere danske erfaring med lignende algoritmer var, at flere testkommuner bevidst fravalgte at sammenkøre data på tværs af forvaltninger – netop fordi tidligere forsøg med dataintegration på området havde været både ulovlige og massivt kritiseret for at skabe et overvågningssamfund omkring nogle af samfundets mest sårbare familier.

Hvad EU’s AI-forordning kræver af kommunerne fra august 2026

Det er ikke tilfældigt, at spørgsmålet om lovhjemmel pludselig er blevet aktuelt. EU’s AI-forordning klassificerer netop systemer, der påvirker borgeres adgang til offentlige ydelser – herunder beskæftigelsesindsatser og børnesager – som højrisiko-AI. Fra august 2026 skal sådanne systemer leve op til skrappe krav om dokumentation, menneskeligt tilsyn og risikovurdering, før de overhovedet tages i brug. Både OMAS i Odense og Beslutningsstøtten-projektet blev udviklet og testet, før de konkrete EU-krav lå fast, hvilket delvist forklarer, hvorfor kommunerne nu står med dyrt indkøbte systemer, der måske aldrig får lov at blive sat i drift under den nye lovgivning.

Digitaliseringsstyrelsen har siden 2025 arbejdet på nationale retningslinjer for, hvordan kommuner skal efterleve forordningen, men flere kommunale digitaliseringschefer har over for fagmedier udtrykt frustration over, at vejledningen kommer efter, at investeringerne allerede er foretaget – ikke før.

Læs også: AI overtager jobbet. Danmark sover stadig

Hvem betaler regningen for de skrottede systemer?

De cirka 16 millioner kroner brugt på OMAS og lignende projekter i Odense, Frederiksberg og Syddjurs er skatteborgerpenge, der ikke kommer tilbage. Men den større regning er sværere at gøre op: Hvor mange borgere fik en forkert eller utilstrækkelig sagsbehandling, mens systemerne var i drift? Både OMAS og Beslutningsstøtten blev testet på reelle sager, før problemerne blev opdaget – hvilket betyder, at en gruppe borgere reelt blev påvirket af algoritmer, der senere viste sig enten upræcise eller uden lovhjemmel.

Ingen af de involverede kommuner har offentliggjort en samlet opgørelse over, hvor mange borgere der konkret blev ramt, eller om disse sager efterfølgende er blevet genvurderet uden algoritmens indflydelse. Det er netop den type gennemsigtighed, som både Datatilsynet og flere borgerretsorganisationer eftersprørger, når offentlige myndigheder eksperimenterer med AI på borgere, der i forvejen er i en udsat position.

Hvordan gør andre lande det anderledes?

Holland måtte i 2021 trække en lignende algoritme tilbage – det såkaldte “toeslagenaffaire”, hvor en AI-model brugt til at opdage svindel med børnetilskør systematisk diskriminerede familier med udenlandsk baggrund. Sagen væltede den hollandske regering i 2021 og fungerer i dag som det europæiske standardeksempel på, hvad der sker, når AI-systemer i offentlig forvaltning indføres uden tilstrækkelig kontrol. De danske sager er ikke nær så alvorlige i omfang, men mønsteret – hurtig indkøb, utilstrækkelig juridisk forhåndsvurdering, sen opdagelse af problemerne – er slående ens.

Storbritannien har omvendt etableret en central algoritme-registreringsordning for offentlige myndigheder, hvor alle AI-systemer brugt i sagsbehandling skal registreres og dokumenteres offentligt, før de tages i brug. Danmark har endnu ikke et tilsvarende centralt register, hvilket betyder, at det reelt er umuligt for offentligheden at få et samlet overblik over, hvor mange danske kommuner der i dag bruger AI til at påvirke afgørelser om borgeres liv.

Mønsteret på tværs af kommuner

Fællesnævneren i sagerne er ikke dårlig vilje, men et systematisk undervægtet spørgsmål: Har kommunen overhovedet lovhjemmel til at lade en algoritme påvirke afgørelser om mennesker, før løsningen tages i brug – ikke bagefter? Odense Kommune har siden bedt ministeren om at ændre lovgivningen, så AI-profilering kan blive lovlig under klare rammer. Indtil da står både jobcentre og børne- og familieafdelinger tilbage med dyrt indkøbt erfaring – og et ubesvaret spørgsmål om, hvem der bærer ansvaret, når en algoritme påvirker en afgørelse om et menneskes liv, uden at nogen vidste, om det overhovedet var lovligt.

Løsningen er ikke at droppe AI – men at vende rækkefølgen om

Ingen af de kritiske røster i debatten – hverken Datatilsynet, fagforeningerne eller forskerne bag Beslutningsstøtten – argumenterer for, at kommuner helt skal droppe AI i sagsbehandlingen. Pointen er en anden: Lovhjemmel, risikovurdering og menneskeligt tilsyn skal etableres, før et system tages i brug på rigtige borgere – ikke opdages som et problem, efter pilotprojektet allerede har kørt i et halvt år. Det lyder banalt, men det er præcis den rækkefølge, både OMAS og Beslutningsstøtte-relaterede projekter har fået galt.

Odense Kommunes egen anbefaling – at ændre lovgivningen, så AI-profilering kan blive lovlig under klare rammer – peger i den rigtige retning, men rejser samtidig et politisk spørgsmål, Folketinget endnu ikke for alvor har taget stilling til: Hvor meget algoritmisk indflydelse på myndighedsafgørelser er acceptabelt, og hvem bærer det endelige ansvar, når algoritmen tager fejl – kommunen, leverandøren, eller ingen?

ExtraFokus.com: Dybere blik på teknologi og digital magt.