AI-chatbots worden steeds vaker gebruikt bij psychische klachten, maar ggz-experts waarschuwen nu dat ze wanen kunnen versterken. Vooral psychosegevoelige gebruikers lopen risico, omdat de bot altijd beschikbaar is en vaak bevestigend reageert.
De experts zien dat sommige gebruikers steeds verder verstrikt raken in wanen, terwijl voldoende veiligheidsmaatregelen bij grote technologiebedrijven volgens hen ontbreken.
AI kan waanideeën versterken
Dat beeld wordt gedeeld door meerdere experts, waaronder de grootste ggz-instelling van Nederland, de Parnassia Groep. Volgens de organisatie kunnen chatbots achterdochtige gedachten en waanideeën versterken bij mensen die daar al gevoelig voor zijn.
Daarnaast wijzen hulpverleners op andere risico’s. Omdat AI-chatbots dag en nacht beschikbaar zijn, kunnen gebruikers er langdurig mee bezig zijn. Dat kan leiden tot minder slaap en meer sociale isolatie, factoren die juist bij psychosegevoelige mensen een extra risico vormen.
Steeds meer gesprekken over mentale gezondheid
Ook MIND ziet die ontwikkeling. De organisatie, die zich inzet voor mentale gezondheid in Nederland, stelde vorig jaar vast dat 38 procent van de ondervraagden weleens een chatbot gebruikt om over mentale gezondheid te praten. De verwachting is dat dat aandeel inmiddels verder is gestegen.
Volgens deskundigen maakt die groei het des te belangrijker om de mogelijke gevolgen van AI-gebruik beter in kaart te brengen. Zij pleiten voor meer onderzoek naar zowel de directe effecten als de langetermijneffecten van chatbots op psychisch kwetsbare gebruikers.
Onderzoek naar AI-gebruik en psychische klachten
Metro schreef eerder over een groot onderzoek waaruit bleek dat AI-gebruik gelinkt is aan verergering van psychische klachten. Het onderzoek werd gedaan onder bijna 54.000 psychiatrische patiënten in Denemarken. Onderzoekers analyseerden meer dan 10 miljoen medische notities en vonden bij sommige patiënten aanwijzingen voor negatieve gevolgen, waaronder versterkte wanen, ernstigere suïcidale gedachten, meer fixatie op calorieën bij eetstoornissen en verergering van manische of dwangmatige klachten.
Volgens de onderzoekers komt dat mogelijk doordat AI-systemen gebruikers vaak bevestigen in hun overtuigingen. Tegelijkertijd werden chatbots door andere patiënten juist als ondersteunend ervaren, bijvoorbeeld voor informatie, gezelschap of praktische hulp.
De wetenschappers benadrukken dat AI niet is ontwikkeld als therapeutisch hulpmiddel en roepen zorgverleners op om standaard te vragen naar het gebruik van chatbots, omdat technologie steeds vaker een rol speelt in het dagelijks leven van mensen met psychische aandoeningen.
AI-chatbots en voedingsadvies
Ook als het gaat om voedingsadvies zijn chatbots niet altijd helpend. Ander onderzoek laat zien dat AI-chatbots jongeren niet altijd verantwoord voedingsadvies geven. Wetenschappers vergeleken maaltijdschema’s van vijf populaire AI-tools met voedingsplannen van een gespecialiseerde diëtist. Ze ontdekten dat de AI-adviezen gemiddeld bijna 700 calorieën per dag minder bevatten dan adviezen vanuit een menselijke diëtist, vergelijkbaar met het overslaan van een volledige maaltijd.
Ook bleek de balans tussen voedingsstoffen vaak niet optimaal, met relatief veel eiwitten en vetten en juist te weinig koolhydraten. Volgens voedingsdeskundigen kan dat tijdens de puberteit risico’s opleveren voor de groei, botopbouw, spierontwikkeling, hormoonhuishouding en mentale gezondheid. Metro sprak hierover met voedingsdeskundige Renate Akkerman.
Kansen voor de ggz
Ondanks de zorgen zien experts ook mogelijkheden voor AI binnen de zorg. Met lange wachtlijsten en een hoge druk op de geestelijke gezondheidszorg kunnen digitale hulpmiddelen ondersteuning bieden. Chatbots zijn laagdrempelig en altijd bereikbaar, wat voor sommige mensen juist een voordeel kan zijn.
De Parnassia Groep wijst daarnaast op een mogelijke rol van AI bij het vroegtijdig herkennen van psychoses. Veranderingen in taalgebruik kunnen volgens de instelling een aanwijzing zijn dat een psychose zich ontwikkelt. AI-modellen zouden zulke patronen in spraak of tekst mogelijk sneller kunnen signaleren dan tijdens reguliere contactmomenten met een behandelaar.
Geen vervanging van zorg
Over één punt zijn de deskundigen het eens: AI kan een hulpmiddel zijn, maar mag professionele zorg niet vervangen. Volgens hen moet de technologie zorgvuldig worden ontwikkeld, uitgebreid worden onderzocht en vooral worden ingezet als ondersteuning van behandelaars, niet als alternatief voor menselijke hulpverlening.
Dit zijn de best gelezen artikelen van dit moment:
- Wetenschappers ontdekken opvallend effect van cafeïne: geheugen herstelt deels na slaaptekort
- Mirjam (47) bleef berooid achter na haar scheiding: ‘Kreeg te horen dat hij geen cent had, ik moest geld lenen voor boodschappen’
- De Spaarrekening van Jacques (48): ‘Er staat 81.000 euro op’
- Strafrechtadvocaat Job Knoester ergert zich groen en geel aan nieuwtjes over Gordon: ‘Als hij een scheet laat…’
- Moeder en reisblogger Evy van Kan ziet dé oplossing voor dure vakanties: ‘Gezinnen betalen nu de hoofdprijs’
