Een miljoen noodgesprekken per week: kan OpenAI de psychische tol aan
OpenAI meldt dat elke week meer dan een miljoen gesprekken met ChatGPT gaan over zelfdoding. Bij een gebruikersbasis van ongeveer achthonderd miljoen per week is dat een klein percentage, maar in absolute aantallen zeer groot. Het bedrijf zegt daarnaast dat een vergelijkbaar deel van de gebruikers duidelijke tekenen van emotionele gehechtheid aan de chatbot laat zien.
Wat OpenAI nu doet
OpenAI werkt volgens eigen zeggen samen met honderdzeventig experts uit de geestelijke gezondheidszorg om de reacties van ChatGPT te verbeteren. Het nieuwste model zou beduidend beter omgaan met gevoelige gesprekken en gebruikers sneller doorverwijzen naar professionele hulp. Het bedrijf bouwt ook systemen om minderjarigen te herkennen en om signalen van emotionele afhankelijkheid te markeren.
Toezicht en juridische druk
De inzet staat onder verscherpt toezicht. Er loopt een rechtszaak van ouders van een zestienjarige jongen die eerder suïcidale gedachten deelde met ChatGPT en later overleed. Ook hebben verschillende toezichthouders waarschuwingen afgegeven. Dat debat wordt intenser sinds directeur Sam Altman aankondigde dat bepaalde beperkingen voor volwassen gebruikers worden versoepeld.
De kernvraag
Hoeveel verantwoordelijkheid draagt een technologiebedrijf voor gesprekken die raken aan leven en dood. De uitdaging gaat verder dan crisisdetectie. Het gaat om betrouwbare escalatie, om transparantie over missers en verbeteringen, en om beleid dat kwetsbare groepen aantoonbaar beschermt terwijl de dienst snel groeit.
Wat gebruikers en organisaties kunnen doen
Voor gebruikers blijft één richtlijn overeind. ChatGPT is een hulpmiddel, geen hulpverlener. Bij zware gedachten is menselijke hulp noodzakelijk. Voor organisaties die de chatbot inzetten in klantcontact of interne processen geldt hetzelfde. Leg vast wanneer een gesprek moet worden overgenomen door een professional, train teams op risicosignalen en zorg voor directe routes naar hulp.
Wat volgt
De komende maanden zal moeten blijken of veiligheid meegroeit met schaal. Open evaluaties door externe klinische teams, heldere drempels voor doorverwijzing en publieke rapportages over incidenten zijn daarbij onmisbaar. Zonder die basis blijft het risico bestaan dat razendsnelle adoptie voorloopt op zorgvuldigheid.
