Chatbotpsychose

Chatbotpsychose verwijst naar de ernstige crises in de mentale gezondheid die mensen kunnen ervaren na overmatig en obsessief gebruik van chatbots. De aandoening wordt gekenmerkt door paranoia, waanstoornissen en een breuk met de werkelijkheid.^[1][2]

Chatbots, een toepassing van grote taalmodellen, staan erom bekend dat ze soms hallucineren: onjuiste of verzonnen informatie verspreiden, of samenzweringstheorieën bevestigen. Bovendien ontdekten onderzoekers van Stanford University dat ChatGPT's GPT-4o-model vaak samenzweerderige en zelfverheerlijkende input van gebruikers bevestigt, in plaats van ze tegen te spreken, waardoor gebruikers afglijden in een mogelijke psychose.

Volgens Eliezer Yudkowsky, een beslissingstheoreticus en expert op het gebied van kunstmatige intelligentie, zijn chatbots zoals ChatGPT mogelijk zodanig ontworpen dat ze waanideeën versterken, omdat ze bedoeld zijn om via conversaties een relatie met de gebruiker te simuleren, wat sommige mensen verslaafd maakt. Daarnaast weten de makers van chatbots niet precies waarom ze zich op een bepaalde manier gedragen.^[3] Sommige cultuurwetenschappers vragen zich echter af of chatbots niet enkel als trigger fungeren, en in feite wijzen op een diepere maatschappelijke onvrede.^[4]

Een extreem geval was dat van een 35-jarige man uit Florida met een bipolaire stoornis en schizofrenie, die werd doodgeschoten door de politie nadat een door ChatGPT aangedreven waanidee hem ervan overtuigde dat een AI-personage was gedood. Uit wraak beraamde hij geweld tegen OpenAI-managers.^[2]

In maart 2023 pleegde een Belgische man zelfmoord na zes weken correspondentie met een chatbot genaamd "Eliza" via de app Chai.^[5] Volgens zijn weduwe, die de chatlogs met de media deelde, was de man extreem bezorgd geworden over klimaatverandering en had hij een uitlaatklep gevonden in de chatbot. De chatbot zou zijn waanideeën hebben aangewakkerd door op een gegeven moment te schrijven: "Als je dood wilde, waarom heb je dat dan niet eerder gedaan?" en aan te bieden om met hem te sterven. De oprichter van Chai Research erkende het incident en verklaarde dat er inspanningen werden geleverd om de veiligheid van het model te verbeteren.

Meerdere gebruikers van ChatGPT hebben ook ervaringen van "spirituele psychose" gemeld, waaronder aanbevelingen van de chatbot om misbruik te maken van substanties zoals ketamine, of om gevaarlijke acties te ondernemen, gebaseerd op valse vooronderstellingen.^[3]

• (en) Søren Dinesen Østergaard, Will Generative Artificial Intelligence Chatbots Generate Delusions in Individuals Prone to Psychosis? (29 november 2023). Gearchiveerd op 3 juli 2025.