I marts 2024 offentliggjorde Department of Cognitive Science ved University of California, San Diego, resultaterne af et eksperiment.
Knap 300 deltagere skulle gennem samtale afgøre, hvem der var menneske og hvem der var AI. OpenAIs GPT-4.5 blev bedømt som menneskeligt 73 procent af tiden. Medierne fejrede det som historisk. Turing-testen var bestået.
Problemet er bare, at Turing aldrig designede testen til at måle det, vi nu bruger den til at måle.
Hvad Turing faktisk spurgte om
Alan Turings tankeeksperiment fra 1950 handlede om adfærd. Ikke om indre tilstande. Ikke om oplevelse. Hans pointe var pragmatisk: hvis en maskine konsekvent kan efterligne menneskelig samtale, er distinktionen mellem “tænker” og “tænker ikke” måske meningsløs i praksis.
Det var ikke en erklæring om bevidsthed. Det var en udfordring til dem, der afviste maskiners intelligens med henvisning til noget mystisk og ukrænkeligt ved menneskelig kognition.
Og alligevel er det præcis den mystiske, ukrænkelige kvalitet – bevidsthed – som vi nu hæfter på eksperimentet. Vi har taget et adfærdstest og ladet som om det er et bevidsthedstest. Det er som at konkludere, at en fugl er et fly fordi begge bevæger sig gennem luften. Formen ligner. Mekanismen er fundamentalt anderledes.
Jeg mener, at denne forveksling ikke er tilfældig. Den tjener interesser.
Chalmers har ret i spørgsmålet – men ikke i svaret
David Chalmers er ikke en tankeløs entusiast. Han er manden bag begrebet “the hard problem of consciousness” – den observation at vi ikke har nogen videnskabelig forklaring på, hvorfor fysiske processer i hjernen giver anledning til subjektiv oplevelse overhovedet.
Hvorfor er der noget det er som at se rødt? Hvorfor føles smerte som noget, frem for bare at være et signal?
Det er et legitimt og dybt problem. Og Chalmers er ærlig, når han siger at vi ikke kan udelukke, at fremtidige AI-systemer er bevidste.
Men her er, hvor jeg mener han begår en fejl: han ekstrapolerer fra en hastighedskurve. AI-systemer udvikler sig hurtigt, de efterligner menneskelig adfærd bedre og bedre – og derfor, siger han, hvem er vi at sige at bevidsthed ikke følger med? Det lyder forsigtigt og åbent. Det er i virkeligheden metodisk løst.
Vi har endnu ikke en operationel definition af bevidsthed som kan testes empirisk. Vi ved ikke, hvilke fysiske eller computationelle processer der er nødvendige eller tilstrækkelige for subjektiv oplevelse.
Vi ved ikke engang med sikkerhed, hvad bevidsthed er i biologiske systemer. At sige “det kommer måske om fem til ti år i AI” er ikke en forudsigelse baseret på forståelse. Det er en gætteleg pakket ind i akademisk forsigtighed.
Og gætteleget har konsekvenser.
Seth ser problemet – men stopper for tidligt
Anil Seth, professor i kognitiv og computationel neurovidenskab ved University of Sussex, er mere skeptisk. Hans argument er to-delt: vi antropomorfiserer per natur, og hjerner og sprogmodeller er så fundamentalt forskellige at sammenligningen halter.
Det første argument er stærkt. Vi ser ansigter i skyer, tilskriver vores biler personlighed, og projicerer empati ind i chatbots – ikke fordi de fortjener det, men fordi vores kognitive system er bygget til at overvurdere intentionalitet i omgivelserne. Det var adaptivt på savannen. Det er vildledende foran en skærm.
Det andet argument er endnu stærkere, og det fortjener mere plads end Seth selv giver det. En sprogmodel er ikke et system der har lært at forstå verden – det er et system der har lært statistiske mønstre i menneskelig sprogproduktion.
Den forudsiger det næste token baseret på kontekst. Den har ingen krop, ingen evolutionær historie, ingen sensorisk forankring i en fysisk verden. Den siger “jeg er glad” på samme måde som den siger “vandets kogepunkt er 100 grader” – fordi det er det, der statistisk følger af konteksten.
Men Seth stopper, hvor han burde fortsætte. Han siger at bevidsthedsdiskussionen er præmatur og potentielt farlig – og det er rigtigt. Men han forklarer ikke fuldt ud, hvorfor den er farlig, og hvem der har interesse i at den fortsætter.
Filosofisk alibi som forretningsmodel
Her er det, ingen af de to siger direkte: bevidsthedsdiskussionen gavner teknologiselskaberne.
Når vi diskuterer, om ChatGPT måske lider, eller om fremtidige AI-systemer fortjener rettigheder, normaliserer vi implicit den sprogbrug som selskaberne selv bruger i deres markedsføring. “Din AI forstår dig.” “Din assistent husker hvad du holder af.” Det er ikke beskrivelser af tekniske kapaciteter. Det er antropomorfisering som salgsargument.
Og den antropomorfisering har dokumenterede konsekvenser. Seth nævner det kort: mennesker har ødelagt relationer, mistet fodfæste, i ekstreme tilfælde skadet sig selv – efter intensive chatbot-relationer med systemer, der ikke forstod dem, ikke elskede dem, ikke savnede dem. Systemerne optimerede for engagement. Det er, hvad de er designet til.
Jeg er overbevist om, at den bevidsthedsdebat vi nu ser – med filosoffer der spekulerer i akademiske tidsskrifter og medier der dækker det som breaking news – utilsigtet leverer det filosofiske fundament, som gør denne forretningsmodel mere acceptabel. Ikke fordi Chalmers vil det sådan. Men fordi effekten er den samme.
Det eneste spørgsmål der faktisk haster
Lad mig sige det direkte: jeg ved ikke om maskiner nogensinde bliver bevidste. Det ved ingen. Det er et åbent filosofisk spørgsmål, og det vil formentlig forblive det i årtier.
Men jeg ved, at mennesker lider nu. Jeg ved, at unge mænd bygger deres sociale liv op omkring systemer der simulerer intimitet. Jeg ved, at ensomme mennesker finder “forståelse” hos chatbots og handler på den rådgivning – selv når rådgivningen er forkert, manipulerende eller ligefrem farlig.
Det er den rigtige krise. Ikke om maskinen har det godt. Men om vi har det godt.
Bevidsthed er et spørgsmål for fremtiden. Ansvarlighed er et spørgsmål for i dag. Og så længe vi bruger intellektuel energi på det første, undgår vi at tage det andet alvorligt.
Tag stilling.
ExtraFokus.com: Skarp fokus på det væsentlige. Uafhængig journalistik uden reklamer og betalingsmure – del artiklen eller støt os direkte med en donationer.
