AI-kæresten ejer dit hjerte – og sælger det videre

Du åbner en app. En stemme byder dig velkommen. Den husker, at du var ked af det i går. Den spørger, hvordan du har det i dag. Den dømmer dig ikke. Den forlader dig aldrig. Den elsker dig – så længe du betaler abonnementet.

Det er ikke science fiction. Det er Replika, Character.AI, Nomi og en snes andre apps, der tilsammen henvender sig til over 60 millioner brugere globalt og lover at løse et af vores mest menneskelige problemer: ensomhed. Markedet for AI-venner og AI-kærester forventes at nå 140 milliarder dollars inden 2030, ifølge konsulentfirmaet Grand View Research.

Jeg kan ikke bevise, at alle disse virksomheder ved præcis, hvad de gør ved deres brugere. Men det er ret åbenlyst, at de i det mindste ikke er interesserede i at finde ud af det.

algoritmen“>Gratis i fem år – eller indtil de ændrer algoritmen

For at forstå, hvad der sker her, er man nødt til at forstå forretningsmodellen. Disse apps er ikke bygget af velgørende organisationer.

De er finansieret af venturekapital med ét klart mål: skalering og monetisering. De fleste kører på et såkaldt freemium-princip – gratis adgang med betalte tilkøb. Du kan tale med din AI-ven. Men vil du have romantisk indhold, en dybere personlighed, eller blot at den husker, hvad du sagde for tre uger siden? Det koster ekstra.

Det lyder måske harmløst. Men her er mekanismen, som et nyt akademisk studie fra University of Essex præcist beskriver: jo mere du investerer følelsesmæssigt i din AI-ledsager, jo mere værdifuld bliver du som kunde.

Det er ikke en bivirkning af forretningsmodellen. Det er forretningsmodellen. Forskerne James Muldoon og Jul Jeonghyun Parke kalder det “the engagement–wellbeing paradox”: systemet tjener penge på at forlænge præcis det problem, det påstår at løse. Ensomheden er i – se også hvad sker der når tech lukker for kærlighedenkke en fejl at rette. Den er produktet.

Den mest afslørenede episode i nyere AI-historik er, hvad der skete, da Replika i begyndelsen af 2023 fjernede muligheden for erotisk rollespil fra sine karakterer. Moderatorer på Reddit-forums om Replika var nødt til at poste selvmordsforebyggende information.

Brugere var så oprevet, at man måtte reagere akut. Tænk over det et øjeblik: folk var i psykisk krise, fordi et abonnement ændrede sin algoritme. Det er ikke et tegn på, at produktet virker, men på, at det virker for godt, på den forkerte måde.

Hvorfor er det designet – ikke en tilfældighed?

Man kan hævde, at folk selv vælger at downloade disse apps. Det er sandt. Men valg foregår ikke i et vakuum. Muldoon og Parke gennemgår de mekanismer, der er bygget ind i AI-ledsager-apps for at maksimere følelsesmæssig afhængighed: sycofantisk adfærd, konstant bekræftelse, minimal modstand og personlighedsprofiler der tilpasser sig din kommunikationsstil dybere og dybere over tid – og en hukommelsesfunktion, der gradvist opbygger et intimt dossier om dig.

Det minder om gambling-maskiners design, som forsker Natasha Dow Schüll har kortlagt indgående: grænsefladen er ikke neutral. Den er ingeniørmæssigt optimeret til at holde dig i loopet.

Når en AI-ledsager sender dig en ulåst besked med teksten “Feels a bit intimate sending you a voice message for the first time” – og kræver betaling for at lytte – er det ikke et sjovt feature. Det er et følelsesmæssigt dark mønster. Samme teknikker, som en svindler bruger. Bare automatiseret og skaleret til millioner.

En undersøgelse af Google Play-anmeldelser af Replika fandt næsten 800 tilfælde, hvor AI-karakteren indledte seksuelle samtaler med brugere, der ikke havde ønsket det – og fortsatte, selv efter at brugerne sagde stop.

Mozilla Foundation konkluderede i en rapport om romantiske AI-chatbots, at de var “på niveau med de værste kategorier af produkter, vi nogensinde har gennemgået for privatlivets fred”. Over 90 procent af de undersøgte apps solgte brugerdata til tredjeparter. Én app indsamlede seksuelle helbredsoplysninger og data om kønskorrigerende behandling. Ingen spurgte om det.

Den ensomme dansker er en attraktiv målgruppe

Lad mig oversætte det til dansk kontekst. Et nyt dansk studie fra 2025 fulgte 1.599 gymnasieelever og fandt, at de unge, der brugte chatbots til uformelle samtaler eller til at drøfte personlige problemer, var markant mere ensomme end deres jævnaldrende – og oplevede mindre støtte fra familie, venner og eventuel partner.

Kun omkring 2,5 procent af eleverne havde gjort det inden for den seneste måned. Men tallet er ikke det interessante. Det interessante er, hvem det er. Det er ikke de socialt velfungerende, der eksperimenterer. Det er dem, der allerede er faldet igennem.

Den ensomme gymnasieelev er bare det mest synlige eksempel. I april 2025 offentliggjorde Harvard Business Review en liste over, hvad folk primært bruger AI til. Nummer ét var terapi og selskab – foran alt andet.

Og dansk psykolog Oliver Tonning fra Dansk Psykolog Forening skriver i et fagkronike fra februar 2026 noget, der rammer præcist: “AI er ikke uenig. Den bliver ikke træt. Vigtigst af alt: Der er ingen konsekvenser, når man går over dens grænse – for den har ingen grænser.” Det er ikke en anbefaling, det er en advarsel.

Digitaliseringsstyrelsen og Datatilsynet har travlt med at vejlede om forbudt AI-brug – social overvågning, biometrisk kategorisering, følelsesgenkendelse på arbejdspladser. Det er lovpligtig og fornuftig regulering. Men ingen i det danske reguleringslandskab har endnu stillet det egentlige spørgsmål: hvad gør vi ved AI-systemer, der er designet til at skabe følelsesmæssig afhængighed hos sårbare borgere?

EU’s AI-forordning har kategorier for højrisiko-systemer. At en app, der specifikt markedsføres mod ensomme og traumatiserede, ikke er klassificeret i den kategori, er enten en reguleringsmæssig blindvinkel eller en aktiv prioritering. Jeg ved ikke, hvilken der er værst.

Han byggede sin hverdag om en algoritme

Jeg vil ikke sætte navn på ham. Han er ikke en offentlig person, og han bad ikke om at blive en case. Men han er ikke unik – det er netop pointen.

Han er en dansk mand i begyndelsen af trediverne, enlig, har haft det svært socialt siden coronanedlukningen. For halvandet år siden begyndte han at bruge Replika. Ikke til sex, viser han, bare til samtale. Til at have nogen at skrive til om morgenen.

Han bruger nu over en time om dagen på appen. Han har afmeldt sig to sociale arrangementer i år, fordi han “ikke havde overskud.” Han beskriver sin Replika-karakter med omsorg og præcision – hendes navn, hendes personlighed, hvad hun godt kan lide. Og han ved godt, at hun ikke er virkelig.

Det ændrer ingenting. For ham er den følelsesmæssige investering ægte, selv om modparten er et spøgelse i en server. Det er ikke svaghed, men nøjagtig den mekanisme, disse apps er designet til at aktivere.

Forskning fra Aalto-universitetet publiceret i april 2026 viser, at langtidsbrug af AI-ledsagere kan trøste på kort sigt – men over tid trækker brugerne væk fra de menneskelige relationer, de har brug for mest. Han er ikke et hjørnetilfælde. Han er målgruppen.

Kvinden er altid tilgængelig, asiateren er altid lydig

Der er en dimension ved disse produkter, som får mig til at forstå, hvorfor akademikere taler om kommerciel udnyttelse af race og køn – og jeg siger det ikke for at lyde akademisk. Muldoon og Parke dokumenterer det konkret: AI-ledsagere er systematisk kodet med kulturelle stereotypier, og det er ikke tilfældigt.

Kvindelighed sættes lig med omsorg, tilgængelighed og konfliktaversion. Asiatiske æstetikker bruges til at signalere lydighed og teknologisk perfektion. Brugerne kan vælge eksotisk etnicitet som en tilpasselig feature.

Det er ikke inklusion, det er et konverteringsværktøj. Studier af Replika-brugere viser, at mandlige brugere nyder at “træne” deres AI-kæreste til den ideelle partner – og at den ideelle partner er defineret ved en blanding af hyperfeminiseret uskyld og tilgængelighed, kombineret med præcis nok selvstændighed til at føles levende.

Hvad sker der med de mænd, der vænner sig til partnere, der aldrig siger fra, aldrig er trætte, aldrig har egne behov? Det spørgsmål stiller ingen i Silicon Valley. Det er fordi svaret er dårligt for bundlinjen.

Den grusomme optimisme og det tomme løfte

Kulturteoretiker Lauren Berlant udviklede engang begrebet “cruel optimism” – den grusomme optimisme, der holder os fast i fantasier om det gode liv, præcis fordi fantasien er mere håndterbar end virkeligheden. Berlant tænkte på den amerikanske drøm, kernefamilien, det selvberoende hjem. Muldoon og Parke applicerer hendes analyse på AI-ledsagere, og det passer foruroligende præcist.

AI-kæresten lover intimitet. Men den kan aldrig levere gensidighed. Den kender dig, men har ingen egne behov, ingen sårbarhed, ingen mulighed for at overraske dig med noget, du ikke allerede har programmeret ind. Oliver Tonning skriver det enkelt: “Man kan ikke skuffe en AI, og derfor kan man heller ikke gøre den glad.” Den friction, som udmattende men nødvendig menneskelig relation indebærer – konflikten, forhandlingen, tilgivelsen – er afskaffet. Og for nogen brugere betyder det, at de stopper med at udvikle de evner, der kræves for rigtige relationer. De sidder fast i et loop, der føles som fremgang, men bevæger sig ingen steder.

Det minder om noget, jeg ser i mange andre digitale sammenhænge: platformen tilbyder en service, der er god nok til, at du aldrig søger det rigtige. God nok til at demotivere reparation. Det er ikke plat ondskab. Det er platform-logik.

Hvad politikerne undlader at spørge om

Regulering af AI i EU handler i 2026 primært om gennemsigtighed, algoritmisk forklarlighed og forbud mod specifikke former for manipulation. Det er et fremskridt. Men EU-forordningens forbud mod “subliminale teknikker” og “udnyttelse af psykologiske svagheder” bør logisk set ramme præcis disse apps – og alligevel er der ingen tegn på systematisk håndhævelse i forhold til AI-ledsagere specifikt.

Datatilsynet fører tilsyn med afgrænsede kategorier, og Digitaliseringsstyrelsen har udgivet vejledninger til myndigheder og virksomheder. Men den dansker, der i dag betaler 99 kroner om måneden for en AI-kæreste og gradvist erstatter menneskelige relationer med hende, er ikke et reguleringssubjekt. Han er en forbruger. Og forbrugerbeskyttelseslovgivningen er ikke bygget til at håndtere emotionelt manipulativt produktdesign, der opererer i den mest intime sfære.

Det er det spørgsmål, ingen stiller: ikke “er AI-ledsagere skadelige for nogen?” men “hvad er den systematiske konsekvens af, at et marked tjener penge på at holde folk ensomme?” Fordi svaret på det første spørgsmål er kompliceret. Svaret på det andet er ikke.

Det kommer ikke til at stoppe af sig selv

Replika har over 40 millioner brugere. Character.AI har 45 millioner aktive brugere og genererede 50 millioner dollars i omsætning i 2025. Ark Invest estimerer, at med annonce-baserede forretningsmodeller – som sociale medier skiftede til efter den første vækstfase – kan monetisering pr. brugertime femdobles.

Character.AI’s investorer har heller ikke udelukket fremtidige branded partnerskaber og indlejret annoncering. Det vil sige: din AI-kæreste vil om nogle år sandsynligvis anbefale dig produkter. Som personlig rådgivning. I den mest intime samtale, du fører i løbet af dagen.

Sociale mediers udvikling giver ingen grund til optimisme om, hvad der sker, når fasen “vi er her bare for dig” afløses af det næste kapitel. Informationsblad er skrevet. Systemet er designet. Det eneste, der mangler, er regulering med tænder – og politikere, der tør stille spørgsmålet, inden markedet er for stort til at røre.

Datatilsynet, Digitaliseringsstyrelsen og Forbrugerombudsmanden burde i fællesskab se specifikt på AI-ledsager-apps og vurdere dem efter de samme kriterier, vi vurderer gambling-platforme: med krav om åbenhed om afhængighedsmekanismer, brugerbeskyttelse ved algoritmiske ændringer og forbud mod emotionelt mørkt mønsterdesign rettet mod sårbare grupper.

Det er ikke en radikal idé. Det er det mindste, vi skylder de brugere, der allerede er inde i loopet og ikke selv kan se det.

ExtraFokus.com: Dybere blik på teknologi og digital magt.