Når AI-firmaer tjener på afslag til syge

I USA får private AI-firmaer 25 procent af værdien af de behandlinger, de stopper, før en patient på Medicare når frem til dem. Programmet hedder WISeR, og dokumenter fra en retssag viser nu, at myndigheden CMS inden for de første måneder efter lanceringen i januar skrev til flere af firmaerne om forsinkelser, tekniske fejl og tvivlsomme afslag. Danske kommuner og Udbetaling Danmark bør læse dokumenterne, før næste algoritme får lov at sige nej.

AI-firmaerne får betaling for afslag

WISeR kører siden januar 2026 i seks amerikanske stater: Oklahoma, Arizona, New Jersey, Ohio, Texas og Washington. Ordningen kræver forhåndsgodkendelse til 13 ydelser i traditionel Medicare, som før ikke havde den. Hver stat har en privat leverandør, blandt andre Humata Health, Zyter, Genzeon, Innovaccer og Virtix Health.

Betalingen er kernen. Dokumenterne viser ifølge den amerikanske radiostation KUOW, at firmaerne får 25 procent af værdien af de procedurer, der undgås, og at betalingen kan sænkes med op til 10 procent ved langsom behandling eller fejl. Et notat fra myndighederne anerkender, at systemet kan give incitament til afslag.

Den digitale rettighedsorganisation Electronic Frontier Foundation har fået dokumenterne frem med en retssag om aktindsigt. Den skriver, at leverandørerne får betaling for afslag, dog ikke for afslag der omstødes i klageprocessen. Abe Sutton, der leder CMS’ innovationscenter, siger, at modellen skal reducere upassende behandling uden at forsinke den passende.

Læs også: AI-boomet bygger på gæld

CMS knytter offentligt betalingen til kvalitetsscorer, men dokumenternes dataguide viser ifølge fonden, at lave scorer kun sænker betalingen med 5 til 10 procent. Jeremy Friese, administrerende direktør i Humata Health, siger til KFF Health News, at firmaet giver et øjeblikkeligt ja i 88 procent af sagerne, hvor de kliniske data understøtter en godkendelse. Det er en leverandørs egen opgørelse.

Brevene handler om forsinkelser og tomme afgørelser

CMS skrev i vinter og forår til flere leverandører. Zyter i Arizona fik den 27. februar et brev om, at firmaet ikke udsendte afgørelser til tiden. Virtix Health i Washington fik den 17. marts et brev om langsomme afgørelser, tvivlsomme afslag og tomme afgørelsesbreve. Virtix afviste ifølge dokumenterne 53 procent af 6.096 krav fra Washington i første kvartal.

Problemerne var kendt før start. Innovaccer advarede ifølge fonden CMS en måned før lanceringen om, at firmaets software ikke havde fuld funktionalitet.

Senator Maria Cantwell skrev i en rapport i april, at University of Washington Medicine havde næsten 100 patienter, der ventede på epiduralinjektioner på grund af ventetiden. Electronic Frontier Foundation skriver desuden, at to leverandører afviste 5.944 anmodninger i de første tre måneder. CMS svarer, at tallet for ikke-godkendelser ikke er det samme som afslag på dækning.

CMS’ vicedirektør Kimberly Brandt sagde i oktober: “There are a lot of things about WISeR that are not working.” En talsmand siger, at ingen leverandør har en aktiv korrigerende handlingsplan, og at alle regnes for at overholde reglerne. I Kongressen har et forslag om at stoppe finansieringen passeret House Appropriations Committee, mens et forslag om at ophæve ordningen faldt i Senatet med 46 mod 50 stemmer i juli.

Læs også: Retsstaten bøjer paragrafferne når væmmelsen tager over

Danmark har sin egen algoritmedebat

Amnesty International har i rapporten Coded Injustice kritiseret Udbetaling Danmark og ATP for AI-værktøjer i svindelkontrollen. Ifølge organisationen, som nyhedssiden Dig.watch gengiver den, kan algoritmerne ramme mennesker med handicap, lavindkomstgrupper og migranter. Modellerne Really Single og Model Abroad kan ifølge Amnesty målrette sig mod atypiske familieformer og udenlandsk tilknytning.

Amnesty kræver, at algoritmerne stoppes med det samme, og at oplysninger om udenlandsk tilknytning forbydes i risikovurderinger.

Udbetaling Danmark og ATP afviser ifølge samme gengivelse påstandene om social scoring. De danske algoritmer udpeger sager til kontrol, mens WISeR afgør, om en behandling må begynde. Betalingsmodellen ovenfor er amerikansk, og jeg påstår ikke, at den findes i Danmark.

Jeg vil have to ting, før en dansk kommune eller styrelse køber en algoritme til afgørelser. Ingen leverandør skal have en procentdel af det, systemet sparer ved at sige nej. Og hvordan modellen udpeger sager, skal kunne læses af dem, den rammer. De amerikanske dokumenter kom frem, fordi en organisation måtte føre retssag for at få dem.