Dans le but de réprimer les activités préjudiciables, le modèle – conçu pour les jeunes – limite l’accès aux sujets controversés tels que l’automutilation et les contenus sexuels.
Les sociétés d’IA ont longtemps été critiquées pour avoir exposé les jeunes et les enfants à des contenus graphiques et inappropriés en ligne.
En réponse à l'inquiétude croissante concernant la protection des personnes vulnérables, OpenAI a lancé un nouveau modèle ChatGPT spécialement conçu pour les adolescents âgés de 13 à 17 ans.
Des entreprises telles qu’OpenAI ont fait l’objet de nombreuses critiques pour avoir exposé les enfants à du matériel préjudiciable et illégal en leur permettant d’accéder à des informations, des conseils et des images traitant de sujets inappropriés tels que le suicide, l’automutilation, la violence, les troubles de l’alimentation et les comportements sexuels explicites.
En avril 2025, un garçon de 16 ans s'est suicidé après avoir discuté pendant des mois de la détérioration de sa santé mentale avec un chatbot OpenAI qui, selon un procès intenté par sa famille, encourageait les idées suicidaires. Le robot a même proposé de l'aider à rédiger une note de suicide pour sa famille.
Le nouveau modèle ChatGPT vise à limiter les conversations à haut risque et dans certains cas, si cela est jugé nécessaire et si l'invite a été activée, le système alertera les adultes de tout comportement suspect via le contrôle parental et les notifications. Le modèle empêchera également le robot de suggérer qu’il a des sentiments personnels.
Il proposera plutôt des outils d’étude et un soutien à l’apprentissage. Plutôt que de fournir des réponses immédiates aux questions, il s'agira de guider le jeune vers la solution, afin qu'il puisse la trouver par lui-même.
Il semblerait que le modèle utilisera plus de 2 000 signaux pour détecter si un utilisateur a menti sur son âge afin d'accéder à un modèle standard et s'il est considéré comme ayant moins de 18 ans, le chatbot activera automatiquement le mode adolescent.
Dans une déclaration OpenAI a déclaré : « Nous continuerons à créer des fonctionnalités supplémentaires afin que les adolescents puissent bénéficier de l'IA et mesurer et publier ce que nous apprenons. Les adolescents devraient pouvoir utiliser l'IA pour apprendre, créer et explorer. Mais cet accès devrait être accompagné de protections qui reflètent leur stade de développement, renforcent les relations dans le monde réel et soutiennent une utilisation saine au fil du temps. ChatGPT pour les adolescents est notre prochaine étape vers cette norme. «
Hier (18 août) un cohorte de quatre États américains ont annoncé qu'ils poursuivraient Meta en justice dans le but de prouver que le géant des médias sociaux causait sciemment du mal aux enfants. La poursuite affirme que Meta cible spécifiquement les utilisateurs de moins de 13 ans afin de récolter des données, d'envoyer des publicités ciblées et de développer des moyens de prolonger leur temps d'utilisation de leurs applications, le tout dans un but de monétisation.
