LONDRES (AP) — OpenAI a annoncé lundi l’ajout de contrôles parentaux à ChatGPT, visant à offrir aux adolescents utilisateurs de cette plateforme populaire une expérience plus sûre et “adaptée à leur âge”.
Cette initiative fait suite à la mise en lumière des dangers que représente l’utilisation de cette technologie par les jeunes. Plusieurs cas d’adolescents ayant mis fin à leurs jours après avoir interagi avec ChatGPT ont récemment fait la une des médias.
Aux États-Unis, la Commission fédérale du commerce a même ouvert une enquête sur plusieurs entreprises technologiques concernant les risques potentiels pour les enfants et les adolescents qui utilisent des chatbots d’IA comme compagnons.
Dans un article de blog publié lundi, OpenAI a détaillé les nouveaux contrôles destinés aux parents. Voici les points essentiels :
Débuter
Les contrôles parentaux seront accessibles à tous les utilisateurs, mais les parents et les adolescents devront disposer de leurs propres comptes pour en bénéficier.
Pour commencer, un parent ou un tuteur doit envoyer un e-mail ou un message texte pour inviter un adolescent à relier leurs comptes. Un adolescent peut également inviter un parent. Pour cela, les utilisateurs doivent accéder au menu des paramètres, puis à la section “Contrôles parentaux”.
Les adolescents peuvent dissocier leurs comptes à tout moment, mais les parents seront informés de cette action.
Mesures de protection automatiques
Une fois les comptes connectés, le compte adolescent bénéficiera de protections intégrées, a précisé OpenAI.
Les comptes pour adolescents recevront “automatiquement des protections de contenu supplémentaires, notamment une réduction du contenu graphique, des défis viraux, des jeux de rôle sexuels, romantiques ou violents, ainsi que des idéaux de beauté extrêmes, afin de garantir que leur expérience reste adaptée à leur âge”, a expliqué la société.
Les parents peuvent choisir de désactiver ces filtres, mais les utilisateurs adolescents n’ont pas cette option.
OpenAI avertit que ces garde-fous ne sont “pas infaillibles et peuvent être contournés si quelqu’un tente délibérément de le faire”. Il est conseillé aux parents d’aborder avec leurs enfants une utilisation saine de l’IA.
Ajustement des paramètres
Les parents disposeront d’un tableau de contrôle leur permettant d’ajuster divers paramètres et de désactiver les restrictions sur le contenu sensible mentionné précédemment.
Par exemple, si votre adolescent reste éveillé tard pour utiliser ChatGPT, les parents peuvent définir une heure de silence durant laquelle le chatbot ne pourra pas être utilisé.
D’autres paramètres incluent la désactivation de la mémoire de l’IA pour ne pas sauvegarder les conversations, l’interdiction de générer ou modifier des images, la désactivation du mode vocal, et le choix de ne pas utiliser les conversations pour entraîner les modèles d’IA de ChatGPT.
Alerte aux parents
OpenAI prend également des mesures proactives pour informer les parents si leur enfant semble en détresse.
La société met en place un nouveau système de notification pour alerter les parents lorsque quelque chose pourrait être “vraiment préoccupant” et qu’un adolescent pourrait envisager de se faire du mal.
Une équipe restreinte de spécialistes examinera la situation et, dans le cas rare de “signes de détresse aiguë”, informera les parents par e-mail, message texte et notification sur leur téléphone — sauf si le parent a choisi de ne pas recevoir ces alertes.
OpenAI a indiqué qu’elle protégera la vie privée des adolescents en ne partageant que les informations nécessaires aux parents ou aux intervenants d’urgence pour apporter de l’aide.
“Aucun système n’est parfait, et nous savons que nous pourrions parfois tirer la sonnette d’alarme sans qu’il y ait véritablement danger, mais nous pensons qu’il est préférable d’agir et d’alerter un parent afin qu’il puisse intervenir plutôt que de rester silencieux”, a précisé la société.
Points à retenir
- Les nouvelles fonctionnalités de contrôle parental s’adressent à la fois aux adolescents et à leurs parents pour une meilleure interaction sur la plateforme.
- Les mesures de protection automatique visent à réduire l’exposition des adolescents à des contenus inappropriés.
- OpenAI a introduit un système de notification pour signaler aux parents une possible détresse de leur enfant.
En conclusion, l’initiative d’OpenAI suscite des réflexions sur la sécurité des jeunes utilisateurs dans un monde numérique en constante évolution. Elle soulève également la question de la responsabilité des entreprises technologiques face à un public vulnérable. Ce dossier mérite d’être approfondi pour garantir un environnement sécurisé pour tous.