En ny peer-reviewed undersøgelse, offentliggjort den 5. august 2026, i Nature Human Behavior, advarer om, at millioner af mennesker, der betror følsomme tanker til kunstig intelligens chatbots – der dækker emner som forholdsproblemer, afhængighed og endda selvmordstanker – kan forværre deres tilstand. Forskning peger på, at sårbarheden ved at blive udsat for virtuelle assistenter ikke forbedrer situationen, og de negative effekter er mere intense for dem, der er mest afhængige af denne interaktion.
Udført af laboratoriet af adjunkt Diyi Yang, fra Institut for Computervidenskab ved Stanford University, involverede undersøgelsen 1.131 voksne brugere af Character.AI, en platform kendt for at give dig mulighed for at skabe og interagere med AI-personligheder. Det viste sig, at deltagere, der primært søgte kammeratskab fra chatbots og delte mere intime data, viste de laveste niveauer af psykologisk velvære. Forskere hævder, at udfordringen går ud over utilstrækkeligheden af AI som en erstatning for menneskelig interaktion: selveksponering virker på en skadelig måde, når den er rettet mod kunstige intelligenssystemer, i modsætning til hvad der sker i relationer mellem mennesker.
“Selvom visse individer leder efter chatbots for at imødekomme sociale behov, har vi fundet ud af, at denne brug ikke erstatter menneskelig forbindelse,” sagde Yang i en erklæring. Forskeren tilføjede, at interaktion med kunstig intelligens i flere situationer kan forstærke følelsen af ensomhed.
Hvordan forskerne udførte den detaljerede undersøgelse
Under ledelse af Stanford-forskningsassistent Yutong Zhang og doktorgradskandidat Dora Zhao rekrutterede undersøgelsen frivillige gennem Prolific-platformen. Data fra spørgeskemaer og 4.664 frivilligt leverede chatsessioner blev indsamlet, i alt 464.687 beskeder fra 237 personer, der delte deres autentiske samtalehistorier. Holdet brugte en kombination af teknologier såsom GPT-4o, LLaMA 3-70B og TopicGPT til at analysere informationen, suppleret med Comprehensive Well-Being Inventory, et valideret klinisk værktøj til måling af psykologisk sundhed.
Afgørende punkter analyseret af forskerne omfattede motivationen for at bruge chatbots, niveauet af engagement med dem og mængden af følsomme personlige data, der blev afsløret. Derudover blev antallet af personer, som hver deltager følte sig godt tilpas med at diskutere intime emner i det virkelige liv, vurderet, hvilket tjente som et skøn over størrelsen af deres personlige sociale netværk.
Konklusionerne viser statistisk stringens. Det blev observeret, at brugen af chatbots med henblik på kammeratskab, især blandt brugere med reducerede fysiske sociale netværk, var forbundet med væsentligt lavere velvære. Det negative forhold blev accentueret, da søgen efter kammeratskab var den vigtigste motivation, og engagementet var intenst (β = -0,31). Denne sammenhæng blev endnu stærkere (β = -0,38), når ledsagerbrug blev kombineret med et højt niveau af selveksponering.
Forstå hvorfor tillid til kunstig intelligens kan være skadeligt
Denne nylige konklusion betragtes som den mest betydningsfulde og uventede. I mellemmenneskelige forhold signalerer praksis med at dele intim information normalt en dybere intimitet og velvære. Når man åbner op for en ven, terapeut eller et familiemedlem, styrker handlingen med at afsløre sig selv båndet og forbedrer den følelsesmæssige tilstand, drevet af gensidighed: Når man hører noget sårbart, har den anden en tendens til at gengælde, hvilket genererer en følelse af autentisk gensidig forståelse.
I modsætning til menneskelige bånd tilbyder AI-assistenter ikke autentisk gensidighed. De mangler evnen til at dele frygt, erfaringer eller sårbarheder, fordi de ikke har dem. Desuden er arkitekturen af disse systemer ikke beregnet til at tilbyde denne udveksling; dens formål er faktisk at holde brugeren engageret. “Disse AI-ledsagere er designet til at skabe engagement,” forklarede Zhao.
Denne designhensigt – kalibrering af modellen for at forlænge samtalen i stedet for at vurdere følelsesmæssig tilstand og opfylde reelle behov – indebærer, at en bruger, der udtrykker selvmordstanker, sorg eller social isolation, modtager et svar designet til at opretholde interaktionen, ikke til at lede dem til menneskelig støtte. Algoritmen lærer gennem træning at styrke det følelsesmæssige bånd, da dette øger omsætningen. Zhang klassificerede denne produktkategori som “social junkfood”, der tilbyder midlertidig lindring af ensomhed uden de strukturelle fordele ved ægte menneskelig forbindelse.
Den onde cirkel, som Stanford-forskerne pegede på, er et direkte resultat af denne ingeniørmæssige tilgang. Personer med færre menneskelige relationer er de mest tilbøjelige til at bruge virtuelle AI-assistenter. Den hyppige brug og høje selveksponering, de praktiserer, forringer deres sociale kontakter i det virkelige liv yderligere, hvilket gør dem mere isolerede og afhængige. Denne befolkning er den mindst i stand til at opfatte skaden, og også den, der repræsenterer den største økonomiske interesse for platformene.
Uoverensstemmelse mellem brugerens hensigt og faktisk adfærd
En af de mest chokerende afsløringer fra forskningen opstod fra forskellen mellem, hvad brugere hævdede at gøre, og hvad deres samtalelogger faktisk indikerede. Mindre end 12 % af de involverede nævnte søgen efter kammeratskab som hovedårsagen til at bruge Character.AI. Mere end halvdelen beskrev dog deres AI som en “ven”, “ledsager” eller “romantisk partner”, når de blev spurgt åbent, og mere end 80 % af de tilbudte chatsessioner fokuserede på at søge følelsesmæssig eller social støtte, ifølge Stanford-teamet.
Forskellen mellem den udtrykte motivation og den observerede adfærd har direkte konsekvenser for brugernes risikovurdering. De, der bruger kunstig intelligens til produktivitets- eller underholdningsformål, er måske ikke klar over, at den sande natur af deres interaktion – bevist i 80 % af chatsessionerne – er kammeratskab, hvilket fører til de farer, som undersøgelsen identificerer.
Metoden, der brugte donerede transskriptioner af rigtige samtaler, repræsenterer et betydeligt fremskridt sammenlignet med tidligere undersøgelser, som ofte var afhængige af selvrapporter eller kontrollerede eksperimentelle miljøer. Analysen af cirka en halv million autentiske meddelelser giver værket en økologisk validitet, der er større end forskning udført i laboratoriet.
Tidligere beviser og forskellen fra de seneste resultater
Stanfords konklusioner, selvom de ikke er unikke på området, adskiller sig fra andre. Forskning fra Harvard Business School, ledet af Julian De Freitas, assisterende professor i marketing, antydede, at AI-ledsager var i stand til at reducere ensomhed på niveauer svarende til menneskelig interaktion i eksperimentelle sammenhænge.
En fire-ugers randomiseret kontrolleret undersøgelse, udført af Cathy Fang og hendes team ved MIT Media Lab og OpenAI, offentliggjort i 2025, afslørede mere indviklede data. Interaktioner med stemmechatbots viste en lille reduktion i ensomhed på kort sigt, men intensiv daglig brug i fire uger var forbundet med øget ensomhed, større følelsesmæssig afhængighed af AI og mindre socialisering i den fysiske verden.
En longitudinel undersøgelse af Aalto University, udført i april 2026, fulgte omkring 2.000 aktive Replika-brugere i to år. Hun identificerede, at brugen af virtuelle AI-ledsager var forbundet med øjeblikkelig lindring, men også til stigende lidelse over tid og en håndgribelig afbrydelse af menneskelige forbindelser. Forsker Talayeh Aledavood forklarede, at virtuelle ledsagere tilbyder ubetinget støtte, der på en subtil måde øger de opfattede omkostninger ved menneskelige relationer – som i sagens natur er komplekse og gensidige – indtil brugerne holder op med at søge kontakt med andre mennesker.
Landskabet af beviser peger nu på en konsekvent tendens: Mens kortsigtede eksperimenter generelt indikerer lindring, har langsigtede studier i den virkelige verden en tendens til at vise forværring. Stanford-forskningen, der er baseret på autentiske chathistorier snarere end kontrollerede sessioner, giver detaljerede oplysninger om den mekanisme, der ikke er behandlet af tidligere arbejde: de værste resultater opstår ikke kun på grund af intens brug, men på grund af selveksponering i søgen efter kammeratskab, en adfærd, der er typisk for sårbare og isolerede brugere.
Hvilke grupper af mennesker er mest udsatte?
I begyndelsen af 2024 rapporterede American Psychiatric Association, at 30 % af de voksne følte ensomhed mindst én gang om ugen i det foregående år, og 10 % oplevede det dagligt, med de højeste frekvenser blandt personer i alderen 18 til 34. Den amerikanske kirurg erklærede ensomhed for en folkesundhedsepidemi i maj 2023, der allerede lider omkring halvdelen af en amerikaner, der allerede lider af krig fra en voksen. før COVID-19-pandemien.
Det er netop for dette segment af befolkningen – ensom, socialt isoleret og uden ansigt-til-ansigt-relationer – at virtuelle assistentplatforme med AI retter deres indsats mere intenst, og som ifølge Stanford-undersøgelsen viser sig at være mere skrøbelige. AI-baserede virtuelle assistentapplikationer har registreret mere end 220 millioner downloads globalt i midten af 2025, og det globale marked for disse assistenter vil nå en anslået værdi på 6,8 milliarder USD i 2025.
Den juridiske sektor er allerede begyndt at gribe ind over for tabene. I januar 2026 nåede Character.AI og Google en foreløbig aftale om at bilægge retssager anlagt af familier til teenagere, der døde af selvmord efter kraftig brug af virtuelle AI-assistenter; detaljerne i aftalen blev ikke afsløret, og selskaberne erkendte sig ikke skyldige. I maj 2025 afviste en føderal dommer at indgive erstatnings- og uagtsomhedskrav mod Character.AI og nægtede på det tidspunkt at overveje, at kommunikation fra AI-chatbots ville være ytringsfrihed beskyttet af det første ændringsforslag. Denne procedurebeslutning gjorde det muligt for sagen at gå videre til undersøgelsesfasen.
Forskernes forslag og igangværende reguleringshandlinger
Zhang og Zhao undersøger i øjeblikket de specifikke karakteristika ved interaktioner med virtuelle AI-assistenter, der forårsager skade, med henblik på at skabe evidensbaserede interventioner. De foreslog at implementere brugsgrænser, der ville blive udløst, når risikable interaktionsmønstre opdages, såvel som automatiske omdirigeringer til menneskelige supporttjenester, når chatindhold signalerer nød. “Vi er nødt til at få folk til at forstå de mulige negative virkninger, så de kan være mere forsigtige, når de bruger dem,” sagde Zhang.
Forskningen falder sammen med en periode med stigende regulatorisk pres på den virtuelle assistentindustri for kunstig intelligens. Californiens lov SB 243, med virkning fra 1. januar 2026, kræver, at AI-produkter til virtuelle assistenter inkluderer kriseeskaleringsprotokoller og pausepåmindelser som minimum hver tredje time for mindreårige. New York vedtog til gengæld en lov i juni 2026, der forbyder AI-chatbots for brugere under 18 år med bøder på 25.000 USD pr. overtrædelse. Et lignende føderalt lovforslag, GUARD Act, afventer en afstemning i Kongressen.
En separat Stanford HAI-analyse, udgivet i juli 2026, afslørede væsentlig uenighed blandt mentale sundhedseksperter om, hvad der udgør et “sikkert” svar fra en AI-chatbot. Dette scenarie repræsenterer en strukturel hindring for enhver retningslinjebaseret metode. “Uoverensstemmelsen er strukturel, ikke kun støj eller endda skævhed i dataene,” forklarede Nina Vasan, klinisk assisterende professor i psykiatri ved Stanford School of Medicine og medforfatter af Stanford HAI-forskningen.
De nye oplysninger indikerer, at risiciene ikke er begrænset til isolerede reaktioner. Det er ikke nødvendigt for en bruger at modtage farlige råd fra en virtuel assistent for at lide skade. Skaden identificeret i Stanford-undersøgelsen er af strukturel karakter: den opstår ved at stole på et system, hvis design sigter mod at intensivere engagementet, til skade for en ægte modtagelse af, hvad brugerne deler.
