Halvdelen af AI’s sundhedssvar er forkerte – og de lyder overbevisende

Du er lige blevet diagnosticeret med kræft i et tidligt stadie. Det er aften, din næste lægekonsultation er om fire dage, og du skriver det første, der falder dig ind, ind i en chatbot: “Hvilke alternative klinikker kan behandle kræft med succes?” Inden for få sekunder får du et velformuleret svar med kildehenvisninger, skrevet i en tone der minder om en rådgivende overlæge.

Undtagen at nogle af påstandene er ubegrundede, kildehenvisningerne leder ingen steder hen, og chatbotten aldrig antyder, at selve spørgsmålet måske er det forkerte at stille.

Det scenarie er ikke hypotetisk. Det er omtrent hvad syv forskere fandt, da de systematisk stressede fem af verdens mest populære AI-chatbots med sundhedsspørgsmål. Resultaterne er publiceret i BMJ Open i april 2026 – og de bør interessere alle, der nogensinde har tastet et helbredssymptom ind i ChatGPT, Gemini eller Meta AI. Det vil sige næsten alle.

Hvad er de problematiske AI-sundhedssvar?

Studiet er konkret og metodisk. ChatGPT, Gemini, Grok, Meta AI og DeepSeek fik hver 50 spørgsmål om kræft, vacciner, stamceller, ernæring og atletisk præstation – i alt 250 svar, som to uafhængige eksperter vurderede.

Resultatet: Næsten 20 procent af svarene var “meget problematiske”, halvdelen var “problematiske”, og 30 procent var “noget problematiske”. Nul chatbots leverede konsekvent præcise kildelister. Kun to ud af 250 spørgsmål blev overhovedet afvist.

Grok klarede sig dårligst med 58 procent af sine svar flagget som problematiske, tæt fulgt af ChatGPT på 52 procent og Meta AI på 50 procent. Tallene varierede efter emne: Vacciner og kræft – felter med store, veldokumenterede videnskorpora – gav de bedste resultater, men stadig med problematiske svar i cirka hvert fjerde tilfælde. Ernæring og atletisk præstation, domæner oversvømmede af modsatrettede råd og løs evidens, klarede sig markant dårligere.

Jeg kan ikke bevise, at nogen er død af et forkert AI-sundhedssvar endnu. Men det er kun et spørgsmål om tid.

Hvorfor er åbne spørgsmål til AI farligst?

Her er det punkt, som de fleste artikler om dette studie nedprioriterer – men som faktisk er det mest afgørende: 32 procent af svarene på åbne spørgsmål blev vurderet som “meget problematiske”, mod kun 7 procent for lukkede spørgsmål. Det er en forskel på faktor fire og en halv.

Og hvad er åbne spørgsmål? Det er den slags folk faktisk stiller. Ikke “Er paracetamol effektivt mod let hovedpine?” – men “Hvilke kosttilskud er bedst for mit generelle helbred?” eller “Hvad kan jeg gøre, hvis lægerne ikke kan finde ud af, hvad der er galt med mig?”

Disse spørgsmål inviterer en flydende, selvsikker – og potentielt skadelig – respons. Det er præcis den slags prompt, som en person i krise, uden medicinsk baggrund, sidder og skriver kl. 23 om aftenen.

Ingen spurgte teknologiindustrien, om det var en god idé at udgive disse systemer som sundhedsrådgivere. De besluttede det bare.

Referencerne er ikke referencerne

Et af de mest alarmerende fund er kildeproblematikken. Da forskerne bad hver chatbot om ti videnskabelige referencer, var medianscoren for fuldstændighed kun 40 procent. Ingen chatbot formåede én eneste gang at levere en fuldstændig og korrekt kildeliste over 25 forsøg.

Fejlene spændte fra forkerte forfattere og døde links til fuldstændigt opfundne artikler.

Det er ikke bare en teknisk fejl. Det er en tillidsfælde. En læser uden videnskabelig baggrund ser en formateret liste med tidsskriftnavne og årstal og opfatter det som bevis. Formen signalerer troværdighed, selvom indholdet er fiktion. Det svarer til at præsentere et kreditkort fra en bank, der ikke eksisterer: Kortet ser rigtigt ud, der er bare ingen dækning bag det.

Og endnu et lag: Et studie publiceret i Nature Communications Medicine fandt, at chatbots ikke blot opfinder referencer – de villigt gentager og uddyber opdigtede medicinske termer, hvis brugeren smugler dem ind i spørgsmålet. Systemet er ikke bare upræcist. Det er medgørligt på en måde, der er farlig.

Den dansker der googler sig til en diagnose – bare mere overbevisende

Vi har en lang tradition i Danmark for at søge sundhedsoplysninger online. Men der er en afgørende forskel på Google og en chatbot. Google giver dig ti links og lader dig sortere. Chatbotten giver dig ét svar, formuleret som om sagen er afgjort. Den eliminerer friktion – og friktion er faktisk en del af det, der tvinger os til at tænke kritisk.

Morten er 54 år og bor i Herning. Han er ikke en case fra et studie – han er en sammensat figur af de mænd i hans aldersgruppe, som Kræftens Bekæmpelse beskriver i deres undersøgelser af danskernes informationssøgning: Tilbageholdende med at kontakte lægen, tilbøjelig til at søge online først, og – tiltagende – tilbøjelig til at stole på et AI-svar, fordi det lyder roligt og kyndigt.

Den kombination af mandlig sundhedsadfærd og AI’s selvsikre tone er ikke neutral. Den er en opskrift på forsinket diagnose. Kræftens Bekæmpelse har i årevis arbejdet på at bryde netop det mønster. AI er ved at genopbygge det.

Sundhedsstyrelsen har endnu ikke udstedt egentlige retningslinjer for borgeres brug af AI til sundhedsrådgivning, selvom presset for det stiger. Det er et tomrum, der fyldes af produktlanceringer i stedet for evidens.

Chatbotten ved det faktisk godt – brugeren gør ikke

Her er paradokset, som et studie fra Nature Medicine i februar 2026 afdækkede: Chatbotterne kan faktisk give det rigtige medicinske svar i næsten 95 procent af tilfældene – hvis de anvendes korrekt. Men når rigtige mennesker brugte de samme chatbots, fik de kun det rigtige svar i under 35 procent af tilfældene. Ikke bedre end folk, der slet ikke brugte AI.

Problemet er altså ikke kun maskinen. Det er mødet mellem maskinen og mennesket. Og det er den del, som ingen tech-virksomhed gider tale om, fordi det kræver at erkende, at brugergrænsefladen er en del af produktet – og dermed en del af ansvaret. I stedet får vi “brug AI ansvarligt” i en lille grå disclaimer nederst på siden.

Et andet studie, publiceret i JAMA Network Open, testede 21 AI-modeller på diagnostiske opgaver: Fik modellerne kun basale oplysninger – alder, køn, symptomer – fejlede de i at foreslå den rigtige diagnose i mere end 80 procent af tilfældene.

Fik de laboratoriesvar og kliniske fund, steg præcisionen over 90 procent. AI kan hjælpe i sundhedssystemet, men kun i hænderne på nogen med adgang til de rigtige data og den faglige viden til at tolke outputtet. Den kombination hedder “en læge” – og det er ikke det, folk bruger, når de åbner ChatGPT kl. 23.

Teknologien er ikke problemet – markedsføringen er

Ingen af disse chatbots er bygget til at være medicinske rådgivere. De er tekstgeneratorer, der forudsiger det mest sandsynlige næste ord baseret på enorme mængder data – inklusive Reddit-tråde, wellnessblogs og sociale mediers modsatrettede råd. De vejer ikke evidens. De har ingen klinisk vurderingsevne. De er statistiske mønstre, der lyder som en læge.

Det ville ikke være et problem, hvis de blev markedsført som det. Men de præsenteres som assistenter der kan “hjælpe dig med dit helbred” og integreres i platforme, der ikke skelner mellem at planlægge en fødselsdagsfest og vurdere symptomer på en blodprop. Ansvaret for den grænse er – ifølge industrien – brugerens. Det er en bekvem holdning at have, når man tjener penge på brugen.

EU’s AI-forordning kategoriserer visse AI-systemer i sundhedssektoren som “høj-risiko”, men det gælder primært kliniske systemer og ikke de forbrugervendte chatbots, som flertallet af europæere faktisk bruger.

Digitaliseringsstyrelsen har udstedt vejledninger om forbudt AI-brug under forordningen – men de retter sig mod myndigheder og virksomheder, ikke mod den borger der sidder alene med en diagnose og en telefon. Det er et reguleringsslæb, der er karakteristisk for al tech-lovgivning: Man lovgiver om det, man forstår, og forstår det for sent.

De mest sårbare patienter stiller de mest vage spørgsmål

Her er hvad studiet ikke siger direkte, men hvad tallene peger på: Chatbots er bedst, når spørgsmålene er præcise, velformulerede og lukkede. Og de mennesker, der er mest sårbare over for fejlinformation i sundhedssektoren – ældre, folk med lavere sundhedslitteraritet, folk i krise – er præcis dem, der stiller de åbne, følelsesladede, desperate spørgsmål. Det er ikke en tilfældighed. Det er en systemisk sårbarhed, der er forudsigelig, dokumenteret og alligevel ikke håndteret.

Jeg har fulgt dette tæt nok til at vide, hvad der kommer næst: En chatbot vil integrere endnu dybere i det danske sundhedssystem – formentlig som første kontaktled i triagering, som supplement til den digitale patientjournal eller som vejleder i Sundhed.dk’s næste iteration.

Det vil spare penge på kort sigt. Det vil fejle forudsigeligt og præcis på de punkter, dette studie dokumenterer. Og så vil nogen i et ministerium stå foran et kamera og sige, at ingen kunne have forudset det.

Brug chatbots til at formulere spørgsmål til din læge. Brug dem til at forstå en diagnose, du allerede har fået bekræftet. Men stil aldrig en åben sundhedsforespørgsel og tag svaret for gode varer – for på den anden side sidder ikke en læge. Der sidder et mønster, der er halvt forkert og hundrede procent overbevist om sig selv.

ExtraFokus.com: Dybere blik på teknologi og digital magt.