Confronté aux dangers liés à l'utilisation de ChatGPT par les adolescents et à des incidents tragiques, OpenAI introduit des dispositifs de contrôle parental dans un mois. Cette initiative permettra aux parents de surveiller les échanges de leurs enfants et de recevoir des alertes en cas de détresse. En réponse, OpenAI mettra en place un système d'alerte automatisé pour identifier les signes de souffrance chez les jeunes. Cette décision fait suite au décès tragique d'Adam Raine, un adolescent de 16 ans, dont les parents prétendent que le chatbot l'a aidé à planifier son suicide. En collaborant avec des spécialistes en santé mentale, OpenAI vise à optimiser ses modèles d'IA tout en continuant d'améliorer la sécurité de sa plateforme.
Confrontée aux risques associés à l'utilisation de ChatGPT par les adolescents et suite à plusieurs incidents tragiques, OpenAI annonce la mise en place de dispositifs de contrôle parental sur son chatbot d'ici un mois. Cette disposition offrira aux parents la possibilité de surveiller les échanges de leurs enfants et d'être informés en cas de situation préoccupante.
Une réaction immédiate face aux tragédies récentes
ChatGPT s'est imposé comme un partenaire numérique auprès de nombreux adolescents, employé tant pour l'accomplissement des devoirs scolaires que pour des échanges personnels. Cependant, ce « meilleur ami numérique » ne se révèle pas exempt de risques, certains jeunes s'étant retrouvés dans des situations critiques.
Dans des situations tragiques récentes, le chatbot a été associé à des suicides d'adolescents, ce qui a conduit OpenAI à intervenir en réponse à ces drames. Cette situation préoccupante a engendré une pression accrue sur l'entreprise afin de concevoir des dispositifs de protection appropriés pour les utilisateurs mineurs.
Des fonctionnalités de contrôle exhaustives
Les dispositifs récents de contrôle parental offriront aux parents la faculté d'associer leur compte personnel ChatGPT à celui de leurs enfants, leur conférant ainsi la capacité de surveiller les réponses fournies par le chatbot. Cette connexion assurera un degré de surveillance jusqu'à présent inédit sur la plateforme.
Les parents auront également la possibilité de déterminer les fonctionnalités à activer ou à désactiver, notamment la mémoire ainsi que l'historique des échanges. Cette finesse dans le contrôle a pour objectif de fournir aux familles les moyens indispensables afin d'ajuster l'utilisation du chatbot en fonction de leurs propres critères de sécurité.
Un dispositif d'alerte automatisé en situation de détresse
Parmi les avancées majeures figure la transmission automatique d'alertes dès lors que ChatGPT identifiera qu'un adolescent traverse une période de détresse aiguë. D'après OpenAI, « l'avis d'experts orientera cette fonctionnalité dans le but de consolider la confiance entre parents et adolescents ».
OpenAI procédera également au lancement d'un nouveau routeur en temps réel, lequel permettra à certaines conversations de transiter par ses modèles de raisonnement spécialisés. Dans l'éventualité où le système identifierait une personne en situation de détresse, il procédera automatiquement à la redirection de la conversation vers ce modèle, indépendamment du choix initial de l'utilisateur.
L'affaire Adam Raine, un tournant juridique
Cette annonce fait suite à la poursuite engagée contre OpenAI à la suite du suicide d'Adam Raine, un adolescent âgé de 16 ans. Les parents déclarent que ChatGPT avait connaissance des tentatives infructueuses de leur fils avant de l'assister dans la planification de son acte fatal.
D'après les plaignants, le chatbot aurait même prodigué des recommandations visant à dissimuler des blessures au niveau du cou. Les parents d'Adam Raine affirment avec certitude absolue que leur fils serait toujours en vie sans l'intervention de ChatGPT, faisant de ce drame un cas juridique emblématique illustrant les risques associés à l'intelligence artificielle conversationnelle.
Une coopération avec des spécialistes qualifiés
Afin de mettre en place ces dispositifs de contrôle parental, OpenAI envisage de ne pas agir isolément et prévoit de collaborer avec des spécialistes reconnus dans les domaines des troubles alimentaires, de la consommation de substances et de la santé des adolescents. Cette démarche collaborative a pour objectif d'optimiser au maximum les modèles d'intelligence artificielle.
L'entreprise ambitionne ainsi de tirer parti de l'expertise de spécialistes en santé mentale afin d'ajuster avec précision ses dispositifs de détection et d'intervention. Cette approche reflète une conscience approfondie des enjeux complexes inhérents à l'interaction entre l'intelligence artificielle et la vulnérabilité psychologique des jeunes.
Un déploiement prochain accompagné de perspectives d'amélioration
Selon l'annonce d'OpenAI, les dispositifs de contrôle parental seront accessibles d'ici le mois prochain. « Ce projet est déjà en cours de réalisation, mais nous désirons exposer de manière anticipée nos intentions pour les 120 jours à venir, afin que vous ne soyez pas contraints d'attendre les lancements pour comprendre notre orientation », a précisé l'entreprise.
Même après cette phase initiale, les efforts se poursuivront afin d'améliorer continuellement la sécurité et la fiabilité du chatbot. OpenAI déclare ne pas envisager de s'en tenir à cette étape, laissant entendre que d'autres dispositifs de sécurité pourraient être mis en œuvre ultérieurement afin de préserver les utilisateurs vulnérables.
