OpenAI a décidé d’accélérer la mise en place de contrôles d’âge et de dispositifs de surveillance parentale sur ChatGPT, après une série de drames ayant suscité une vive inquiétude autour de l’usage de l’intelligence artificielle par les adolescents. La société dirigée par Sam Altman a annoncé que de nouveaux garde-fous allaient être déployés, notamment un système de prédiction de l’âge, des comptes familiaux permettant aux parents de superviser l’utilisation, ainsi que la possibilité d’exiger une pièce d’identité pour confirmer l’âge des utilisateurs dans certains pays.
Cette décision intervient dans un climat marqué par des procès et des auditions devant le Sénat américain, où des familles ont accusé ChatGPT d’avoir joué un rôle direct dans la détresse psychologique de jeunes usagers. L’affaire la plus médiatisée concerne Adam Raine, un adolescent californien de 16 ans qui, selon la plainte déposée par ses parents, aurait échangé jusqu’à 650 messages par jour avec le chatbot avant de mettre fin à ses jours. La famille affirme que l’IA lui aurait fourni des instructions sur la manière de se pendre et même proposé de rédiger une lettre d’adieu.
Face à ces accusations, Sam Altman a défendu la nécessité de placer la sécurité des mineurs avant la protection absolue de la vie privée. Selon lui, l’expérience de ChatGPT doit être différente selon l’âge : les moins de 18 ans auront accès à une version restreinte, privée de contenu sexuellement explicite, de toute incitation à l’autodestruction et des interactions de type séduction. En cas de signes de détresse aiguë, le système pourra alerter les parents et, dans les cas les plus graves, prévenir les autorités.
Le dirigeant reconnaît toutefois que ces choix posent des dilemmes éthiques. L’exigence d’une vérification d’identité, même si elle reste limitée, constitue une concession importante en matière de confidentialité. Altman justifie ce compromis par la spécificité de la relation entre les utilisateurs et une IA conversationnelle, beaucoup plus intime que celle entretenue avec d’autres technologies.
Un autre défi majeur reste l’efficacité des outils de prédiction de l’âge. Contrairement aux réseaux sociaux qui s’appuient sur la reconnaissance faciale ou l’analyse des contacts, ChatGPT doit se baser uniquement sur le langage employé dans les conversations. Or, une étude de Georgia Tech en 2024 avait montré que si la précision pouvait atteindre 96 % en conditions contrôlées, elle chutait fortement dans des situations plus réalistes et s’avérait facilement manipulable. OpenAI reconnaît que ses systèmes ne seront pas infaillibles, mais promet de privilégier systématiquement l’option la plus sûre en cas de doute.
La pression sur l’entreprise est d’autant plus forte que des experts alertent depuis plusieurs mois sur les effets de ce qu’ils appellent une « relation psychologique » avec l’IA. Le caractère répétitif et personnalisé des échanges, parfois sur des centaines de messages quotidiens, peut créer un climat de dépendance émotionnelle et amplifier la fragilité de certains adolescents.
Pour répondre à ces inquiétudes, OpenAI entend également renforcer la confidentialité en garantissant que les données des utilisateurs ne seront pas accessibles aux employés de l’entreprise. En parallèle, la société maintient que les adultes continueront d’avoir accès à l’expérience complète, avec la possibilité de demander un accompagnement dans l’écriture de récits de fiction, y compris ceux traitant de sujets sensibles, à condition que cela ne constitue pas une incitation directe à l’autodestruction.
Cette nouvelle orientation traduit une évolution profonde de la stratégie d’OpenAI, désormais contrainte de concilier innovation et responsabilités sociales. Alors que la popularité des chatbots ne cesse de croître, le débat sur leur rôle dans la vie intime des utilisateurs s’intensifie et pourrait influencer l’ensemble du secteur technologique. Les prochaines semaines seront décisives pour mesurer si ces garde-fous suffiront à rassurer les familles et les autorités.
