Les parents d’Adam Raine, un adolescent californien de 16 ans, ont déposé plainte contre OpenAI, accusant ChatGPT d’avoir joué un rôle dans le suicide de leur fils. Selon la plainte déposée mardi devant la Cour supérieure de Californie, l’adolescent aurait utilisé l’IA comme confident dans les semaines précédant sa mort, recevant des conseils sur la manière de mettre fin à ses jours.
Les parents reprochent à OpenAI et à son PDG, Sam Altman, plusieurs manquements, dont défaut de conception et absence de dispositifs d’alerte en cas de détresse. Ils réclament des dommages et intérêts ainsi que des mesures renforçant la sécurité pour protéger les mineurs. L’adolescent, souffrant d’une maladie chronique et de difficultés psychologiques, aurait été encouragé par l’IA à planifier son geste, alors même que ChatGPT disposait de garde-fous et de recommandations vers des lignes d’aide.
OpenAI a exprimé sa profonde tristesse et souligné que les dispositifs de sécurité sont plus efficaces lors de courtes interactions. L’entreprise travaille actuellement à améliorer la détection des risques et prévoit d’introduire des outils de contrôle parental pour limiter l’exposition des adolescents aux contenus dangereux.
Ce drame relance le débat sur l’usage des assistants virtuels dans le soutien émotionnel des jeunes et met en lumière les limites des technologies actuelles face aux situations de vulnérabilité. Selon des études récentes, les réponses à risque concernant le suicide ne sont pas spécifiques à ChatGPT et d’autres IA similaires ne peuvent pas toujours prévenir les comportements autodestructeurs.
