OpenAI déploie progressivement un environnement spécifique pour les utilisateurs âgés de 13 à 17 ans. L’entreprise ne modifie pas seulement les contenus accessibles aux mineurs : elle adapte également la manière dont ChatGPT interagit avec eux.
Le système repose notamment sur un dispositif de prédiction de l’âge, rapporte France 24. ChatGPT peut analyser différents signaux liés au compte et à son utilisation afin d’estimer si son titulaire est âgé de moins de 18 ans. Lorsqu’un doute existe, le service peut appliquer par défaut l’expérience destinée aux adolescents.
Moins de contenus sensibles et davantage de garde-fous
Les comptes placés dans l’expérience destinée aux adolescents bénéficient de protections renforcées contre certains contenus sensibles.
Cela concerne notamment les contenus violents ou graphiques, les défis dangereux diffusés en ligne, les jeux de rôle sexuels, romantiques ou violents, ainsi que les contenus encourageant les comportements alimentaires malsains, les standards de beauté extrêmes ou l’automutilation. (OpenAI Help Center)
OpenAI cherche également à limiter les interactions susceptibles de favoriser une relation excessivement émotionnelle avec l’intelligence artificielle.
ChatGPT doit aider à apprendre plutôt qu’à faire le travail à la place de l’élève
L’entreprise insiste particulièrement sur l’utilisation éducative de l’intelligence artificielle.
OpenAI affirme vouloir développer une expérience qui privilégie l’apprentissage et la compréhension, plutôt que la simple fourniture de réponses toutes faites. L’objectif est d’aider les adolescents à développer leurs compétences et leur autonomie face aux outils d’IA. (OpenAI)
Les familles peuvent également mettre en place des « heures de silence », pendant lesquelles ChatGPT devient inaccessible. Le contrôle parental permet aussi de gérer certaines fonctionnalités du compte adolescent. (OpenAI)
Les parents peuvent recevoir des alertes en cas de situation préoccupante
Le nouveau dispositif renforce également le rôle du contrôle parental.
Lorsqu’un compte adolescent est lié à celui d’un parent ou d’un tuteur, ce dernier peut recevoir des notifications limitées lorsqu’OpenAI détecte certains signes pouvant indiquer qu’une intervention urgente d’un adulte est nécessaire.
Ces mécanismes ne donnent toutefois pas aux parents un accès aux conversations privées de l’adolescent. Le système vise plutôt à trouver un équilibre entre protection des mineurs et respect de leur vie privée. (OpenAI)
Le changement intervient après plusieurs controverses autour de l’utilisation de l’IA par les jeunes
Le renforcement des protections intervient dans un contexte de préoccupations croissantes concernant l’impact des chatbots sur les mineurs.
OpenAI a progressivement renforcé ses politiques destinées aux utilisateurs de moins de 18 ans, en s’appuyant notamment sur des experts du développement de l’enfant et de la santé mentale. L’entreprise affirme vouloir adapter le comportement de ChatGPT aux besoins spécifiques des adolescents. (OpenAI)
Le secteur technologique se dirige vers des restrictions liées à l’âge
OpenAI n’est pas la seule entreprise à revoir son approche.
Les acteurs de l’intelligence artificielle sont de plus en plus confrontés à la nécessité de distinguer les expériences destinées aux adultes de celles proposées aux mineurs. Parallèlement, les autorités américaines et européennes cherchent à définir de nouvelles règles concernant l’âge des utilisateurs, la sécurité des mineurs et la responsabilité des plateformes.
Dans l’Union européenne, OpenAI indique que son système de prédiction de l’âge sera déployé dans les prochaines semaines, afin de tenir compte des exigences réglementaires régionales. (OpenAI Help Center)
ChatGPT ne sera plus nécessairement le même service pour tous les utilisateurs
L’évolution de la politique d’OpenAI traduit un changement plus profond dans la conception des assistants d’intelligence artificielle.
L’époque du « même ChatGPT pour tout le monde » laisse progressivement place à une expérience adaptée à l’âge et au niveau de risque de l’utilisateur. Pour les mineurs, les restrictions sont renforcées, certaines fonctionnalités peuvent être contrôlées par les parents et des mécanismes spécifiques de protection sont activés par défaut.
Cette évolution pourrait devenir un nouveau standard pour l’ensemble du secteur : plus l’IA s’intègre dans la vie quotidienne des adolescents, plus les entreprises doivent démontrer non seulement l’utilité de leurs produits, mais aussi leur capacité à en limiter les risques.