OpenAI poursuit le renforcement des dispositifs de sécurité de ChatGPT avec le lancement d’une nouvelle fonctionnalité baptisée « Trusted Contact » (“contact de confiance”), destinée à intervenir dans les situations de détresse psychologique. L’outil permettra désormais aux utilisateurs majeurs de désigner un proche susceptible d’être alerté lorsqu’un risque d’automutilation ou de suicide est détecté au cours d’échanges avec le chatbot.
Cette nouvelle option, intégrée directement dans les paramètres de ChatGPT, s’inscrit dans un contexte de vigilance croissante autour des usages émotionnels et psychologiques des intelligences artificielles conversationnelles. Depuis plusieurs mois, OpenAI fait face à des critiques et à des poursuites judiciaires engagées par des familles accusant certains chatbots d’avoir influencé des comportements dangereux chez des utilisateurs fragiles.
Avec « Trusted Contact », l’entreprise américaine tente de créer un relais humain dans les situations jugées sensibles. Concrètement, un utilisateur adulte peut enregistrer une personne de confiance, comme un ami, un membre de la famille ou un proche, qui recevra une invitation expliquant son rôle. Une fois cette invitation acceptée, le système pourra intervenir si des signaux préoccupants apparaissent dans une conversation avec ChatGPT.
Lorsqu’un échange contient des propos associés à des idées suicidaires ou à l’automutilation, le chatbot commencera par encourager l’utilisateur à contacter directement cette personne de confiance ou à solliciter des services d’aide spécialisés. Ensuite, une équipe dédiée à la sécurité évaluera la situation. Si le risque est considéré comme élevé, une notification pourra être envoyée au contact désigné par SMS, e-mail ou via l’application.
OpenAI précise toutefois que les alertes resteront volontairement limitées afin de préserver la confidentialité des utilisateurs. Aucun détail précis des conversations ne sera transmis au proche contacté. Le message envoyé aura simplement pour objectif d’inciter cette personne à prendre des nouvelles de l’utilisateur concerné.
L’entreprise affirme également que chaque signalement sensible fait l’objet d’une vérification humaine avant toute intervention importante. Selon OpenAI, les équipes spécialisées analysent généralement les alertes en moins d’une heure afin d’évaluer rapidement le niveau de danger potentiel.
Le dispositif vient compléter plusieurs outils déjà déployés par la société ces derniers mois, notamment les mécanismes de contrôle parental pour les comptes d’adolescents et les messages automatiques invitant les utilisateurs en détresse à consulter des professionnels de santé ou des lignes d’assistance.
OpenAI assure avoir développé cette fonctionnalité en collaboration avec des cliniciens, des chercheurs et des organisations spécialisées dans la prévention du suicide. L’objectif affiché est d’améliorer la capacité des systèmes d’intelligence artificielle à réagir face aux situations de crise sans se substituer à un accompagnement médical ou psychologique.
Cette évolution illustre aussi une transformation plus large de l’usage des chatbots conversationnels. De plus en plus d’utilisateurs utilisent ces outils pour évoquer des difficultés personnelles, de l’anxiété ou un mal-être psychologique. Plusieurs études récentes montrent que certaines personnes considèrent désormais les assistants IA comme des espaces de dialogue émotionnel, une tendance qui alimente les inquiétudes des spécialistes de la santé mentale et des familles.
Malgré ces nouvelles protections, plusieurs limites demeurent. Le système repose sur une activation volontaire de l’utilisateur et ne garantit pas une détection parfaite des situations à risque. OpenAI reconnaît d’ailleurs que « Trusted Contact » ne remplace ni les services d’urgence ni l’accompagnement par des professionnels de santé.
En renforçant progressivement ses garde-fous autour de ChatGPT, OpenAI cherche surtout à répondre aux interrogations croissantes sur l’impact des intelligences artificielles conversationnelles sur la santé mentale et la sécurité des utilisateurs.
