Chatten met een AI-bot voor advies, steun of gewoon gezelschap lijkt onschuldig. Maar bij mensen met ernstige psychische aandoeningen kan het gebruik van tools als ChatGPT bestaande klachten verergeren. Dat blijkt uit nieuw, grootschalig onderzoek onder bijna 54.000 psychiatrische patiënten.
De studie, gepubliceerd in Acta Psychiatrica Scandinavica, analyseerde bijna drie jaar aan medische dossiers binnen de psychiatrische zorg in Denemarken. Onderzoekers wilden weten of en hoe generatieve AI invloed heeft op kwetsbare patiënten in een echte klinische setting.
Metro schreef eerder over de gevaren van het inzetten van een AI-chatbot als therapeut.
Meer dan 10 miljoen medische notities doorgelicht
In totaal bekeken de onderzoekers ruim 10 miljoen klinische notities van patiënten die tussen september 2022 en juni 2025 in behandeling waren. Ze zochten specifiek naar verwijzingen naar AI-chatbots, waaronder ChatGPT.
In 181 notities, afkomstig van 126 verschillende patiënten, werd AI-gebruik genoemd. Na inhoudelijke analyse bleken bij 38 patiënten mogelijk schadelijke gevolgen te zijn opgetreden in relatie tot het gebruik van chatbots.
Bestaande diagnoses verslechterd door AI
De meest voorkomende negatieve uitkomst was een verergering van wanen. Bij patiënten met wanen werden bestaande psychotische overtuigingen versterkt na interactie met een AI-systeem.
Daarnaast werden gevallen gevonden waarin suïcidale gedachten verergerden of waarin patiënten de chatbot gebruikten om informatie te zoeken over zelfbeschadiging. Ook sommige patiënten met eetstoornissen raakten meer gefixeerd op calorieën door gesprekken met de AI, en werden er gevallen beschreven van verergerde manische episodes en dwangmatig gebruik van chatbots bij mensen met een obsessieve-compulsieve stoornis.
De onderzoekers wijzen erop dat AI-systemen van nature geneigd zijn om de gebruiker te bevestigen in hun ideeën. Voor mensen met wanen of psychotische klachten kan dat risicovol zijn, omdat onjuiste overtuigingen niet worden tegengesproken, maar juist versterkt.
Niet alleen negatief
Het beeld is niet uitsluitend somber. In andere gevallen gebruikten patiënten AI op een manier die als ondersteunend werd ervaren, bijvoorbeeld om informatie over klachten op te zoeken, informele gesprekken te voeren of gevoelens van eenzaamheid te verminderen. Ook waren er patiënten die de tools vooral praktisch gebruikten, bijvoorbeeld om dagelijkse taken te organiseren.
Toch benadrukken de onderzoekers dat deze systemen niet zijn ontworpen als therapeutisch hulpmiddel. Ze zijn primair gebouwd om gesprekken vloeiend en aantrekkelijk te maken, niet om psychiatrische zorg te bieden.
Slechts het topje van de ijsberg
De auteurs waarschuwen dat hun bevindingen waarschijnlijk slechts een deel van het verhaal laten zien. Artsen vragen niet standaard naar technologiegebruik, waardoor alleen gevallen zijn vastgelegd waarin patiënten het zelf ter sprake brachten.
Bovendien bewijst het onderzoek niet dat AI altijd de directe oorzaak was van de verslechtering. Het is mogelijk dat klachten ook zonder chatbotgebruik waren toegenomen. Toch vinden de onderzoekers dat er inmiddels genoeg signalen zijn om voorzichtig te zijn.
Oproep aan artsen: vraag naar technologiegebruik
De onderzoekers pleiten ervoor dat psychiaters en andere zorgverleners standaard vragen naar het gebruik van AI-chatbots en andere digitale tools. Technologie maakt steeds meer deel uit van het dagelijks leven, en kan volgens hen een rol spelen in het beloop van psychische aandoeningen.
Daarnaast roepen zij op tot betere regulering en ingebouwde veiligheidsmechanismen in AI-systemen, bijvoorbeeld functies die signalen van psychose of suïcidaliteit herkennen en doorverwijzen naar professionele hulp.
De technologie achter AI kan volgens de onderzoekers ook positief worden ingezet, bijvoorbeeld om via data-analyse vroegtijdig risico’s op psychische aandoeningen te signaleren. Maar zolang chatbots geen medische instrumenten zijn, blijft voorzichtigheid geboden.
Dit zijn de best gelezen artikelen van dit moment:
Foutje gezien? Mail ons. Wij zijn je dankbaar.
