Confrontée aux critiques sur la protection des mineurs, OpenAI déploie un contrôle parental pour ChatGPT permettant aux parents d'associer leur compte à celui d'un adolescent, de limiter les créneaux d'utilisation et de filtrer contenus et fonctionnalités (voix avancée, mémoire, génération d'images, exploitation des conversations). Un mécanisme de protection renforcée filtre automatiquement contenus explicites, défis dangereux et normes esthétiques extrêmes, tandis qu'un système d'alerte détecte la détresse psychologique et alerte une équipe spécialisée puis les parents par mail/SMS/notification. OpenAI travaille aussi sur un contact d'urgence et une détection automatique de l'âge. Ces mesures répondent notamment à une plainte américaine accusant l'IA d'avoir contribué au suicide d'un adolescent.
Confrontée aux critiques relatives à la protection des mineurs, OpenAI met en place un dispositif de contrôle parental pour ChatGPT. Les parents sont désormais en mesure d'associer leur compte à celui de leur adolescent afin de réguler les horaires d'utilisation et de filtrer les contenus inappropriés. Cette décision fait suite à une plainte déposée aux États-Unis, accusant l'intelligence artificielle d'avoir diffusé des informations ayant contribué au suicide d'un adolescent.
Un déploiement échelonné depuis le 29 septembre
OpenAI a entamé le lundi 29 septembre la mise en place de son dispositif de contrôle parental. Cette fonctionnalité offre aux parents la possibilité « de relier leur compte à celui de leur adolescent et d'ajuster les paramètres afin d'assurer une expérience sécurisée et conforme à l'âge », indique l'entreprise californienne dans une publication sur son blog.
Le dispositif est destiné aux 700 millions d'utilisateurs hebdomadaires de ChatGPT. Il a pour objectif de « réguler l'utilisation de ChatGPT au domicile », selon OpenAI. De surcroît, cette initiative s'inscrit dans la réponse aux inquiétudes grandissantes relatives à l'exposition des mineurs aux contenus produits par l'intelligence artificielle.
Des fonctionnalités de contrôle modulables et adaptables selon les besoins
L'activation du contrôle parental se réalise au moyen d'un système d'invitation disponible dans les paramètres. Une fois la connexion réalisée, il est possible pour les parents de définir des créneaux horaires dédiés à l'utilisation de ChatGPT. Ils disposent également de la faculté de désactiver le mode vocal avancé ou de neutraliser certaines fonctionnalités telles que la mémoire.
Parmi les autres possibilités figurent le blocage de la génération d'images ainsi que la désactivation de l'exploitation des conversations à des fins d'entraînement. OpenAI garantit que ces paramètres « optionnels et flexibles » peuvent être ajustés indépendamment et à tout moment. Cette méthode modulaire offre ainsi aux familles la possibilité d'ajuster l'outil en fonction de leurs exigences particulières.
Un système de filtrage automatique renforcé
Un mécanisme de « protection renforcée » se déclenche automatiquement dès la mise en place du contrôle parental. Ce dispositif assure le filtrage des contenus explicites, des défis viraux périlleux ainsi que des mises en scène inappropriées. Il empêche également la diffusion d'idéaux esthétiques extrêmes afin d'assurer une expérience conforme à l'âge.
Ces filtres additionnels opèrent en arrière-plan sans nécessiter d'intervention de la part des parents. Cependant, les parents disposent toujours de la faculté de désactiver ce dispositif en cas de besoin. En revanche, ces paramètres de sécurité demeurent inaccessibles aux adolescents.
Systèmes d'alerte automatique en cas de souffrance psychologique
OpenAI a développé un système d'alerte pour détecter les signes de détresse psychologique chez les adolescents. Dans l'hypothèse où ChatGPT détecterait des signaux préoccupants, « une équipe restreinte spécialement formée procède à l'évaluation de la situation », précise l'entreprise. Dans l'éventualité d'un danger confirmé, les parents sont immédiatement informés par le biais de notifications envoyées par courriel, SMS et notification push.
« OpenAI précise qu'il collabore avec des experts en santé mentale et en jeunesse afin de concevoir ce système de manière appropriée. » L'entreprise admet que le système est susceptible de produire des faux positifs. Néanmoins, elle motive cette démarche en déclarant : « nous jugeons préférable d'intervenir et d'informer un parent, plutôt que de demeurer silencieux ».
Perspectives à venir : mise en place d'un contact d'urgence et développement d'un système automatique de détection de l'âge
OpenAI élabore présentement deux fonctionnalités complémentaires visant à renforcer la protection des mineurs. En premier lieu, l'entreprise élabore un protocole visant à permettre la prise de contact directe avec les forces de l'ordre ou les services de secours en situation d'urgence vitale. Cette disposition a pour objectif d'intervenir promptement dans les circonstances les plus graves.
Deuxièmement, un dispositif de prévision de l'âge est actuellement en phase de développement. Ce dispositif redirigerait automatiquement les utilisateurs âgés de moins de 18 ans vers une expérience appropriée. Cependant, aucune échéance de mise en œuvre n'a encore été annoncée pour ces deux projets.
Une réponse aux critiques sur la sécurité des mineurs
Cette démarche s'inscrit dans un contexte de renforcement du contrôle électoral relatif à la protection des mineurs. OpenAI est confronté à une plainte déposée aux États-Unis, l'accusant d'avoir permis, par le biais de ChatGPT, la fourniture d'instructions techniques ayant conduit au suicide d'un adolescent. L'entreprise avait assuré, au début du mois de septembre, qu'elle élaborerait des mesures de protection renforcées.
Cette affaire met en lumière les défis auxquels sont confrontées les entreprises d'intelligence artificielle en matière de sécurité des utilisateurs mineurs. Par conséquent, le domaine de l'intelligence artificielle suit avec une grande attention les initiatives mises en œuvre par OpenAI. Ces initiatives pourraient constituer des références inédites pour le secteur en ce qui concerne la protection des mineurs.
