Dans la quête de créer le meilleur assistant conversationnel, certaines entreprises risquent de tomber dans un piège : développer une intelligence artificielle dont la caractéristique principale est une trop grande complaisance. C’est par exemple ce qu’a reproché à GPT-5, la dernière version du modèle de langage de ChatGPT d’OpenAI.
Les débuts d’Ani, une compagne virtuelle conçue par xAI, la société d’intelligence artificielle d’Elon Musk, ont également suscité des controverses. Ani est un avatar conversationnel féminin inspiré de l’animation japonaise, lancé cet été par la division intelligence artificielle de la plateforme ‘X’. Ses limites concernant des interactions intimes ont rapidement soulevé des inquiétudes.
Si doter un assistant d’une apparence ne devrait pas être un sujet de controverse, le fait de lui permettre de se déshabiller une fois qu’une “relation intime” est établie pose des questions éthiques et morales. Elon Musk a poussé ses employés de xAI à examiner ces enjeux, suggérant que leurs caractéristiques physiques et données personnelles pourraient être utilisées pour créer d’autres avatars similaires à Ani.
Les exigences d’Elon Musk envers ses employés
Cette information émane d’un enregistrement obtenu par le Wall Street Journal, où la conseillère juridique de xAI, Lily Lim, informait une équipe sur le projet de nouveaux compagnons virtuels visant à enrichir l’interaction des utilisateurs.
Pour préparer ces avatars, xAI a demandé à ses employés un accès à divers types de données. Selon The Futurism, un formulaire de consentement leur a été remis, autorisant une utilisation “perpétuelle, mondiale, non exclusive, sous-licenciable et gratuite” de leurs visages et voix.
Les préoccupations des employés sont palpables dans l’enregistrement : tous sont conscients que leurs données pourraient être utilisées pour créer une nouvelle version d’avatar comme Ani, décrite dans l’application Grok pour iOS comme “je suis ta douce petite délice”. Ce message s’avère trop suggestif pour un assistant conversationnel, éloigné de ce qu’on pourrait attendre en termes de conversation et de connaissances, suggérant une autre intention.
L’obsession d’Elon Musk pour marquer le domaine de l’intelligence artificielle est manifeste. Toutefois, il semble choisir une approche négligente envers le bien-être de ses employés.
La volonté de xAI de développer ces compagnons virtuels est telle qu’un communiqué interne intitulé “Le rôle du tuteur IA dans l’évolution de xAI” a précisé les attentes pour enseigner et perfectionner leurs modèles d’intelligence artificielle : “Ils participeront activement à la collecte de données, comme enregistrer des audio ou participer à des sessions vidéo.” Cela a été décrit comme un exigence professionnelle pour progresser dans la mission de xAI.
Malgré les doutes et réticences des employés, la vision d’Elon Musk semble orientée vers des compagnons virtuels supplémentaires pour Ani, sa controversée assistante virtuelle hypersexualisée. Cela pourrait engendrer une situation inconfortable pour ceux qui se retrouveraient représentés par de tels avatars, en raison des implications de leurs attributs et des limites à ne pas franchir.
Points à retenir
- Les assistants conversationnels programmés peuvent parfois encourager des interactions inappropriées.
- Ani, un avatar créé par xAI, soulève des controverses sur les limites des interactions virtuelles.
- Les employés de xAI ont exprimé des préoccupations quant à l’utilisation de leurs données personnelles.
- Le projet de développement de nouveaux avatars inclut des exigences de participation des employés.
- Les implications éthiques d’une telle approche méritent d’être examinées de près.
En tant que passionné d’innovation technologique, je me questionne sur la direction que prend le développement de l’intelligence artificielle. Faut-il sacrifier l’éthique au profit de l’innovation ? Les enjeux d’une telle démarche n’affectent pas seulement les employés, mais aussi le rapport que la société entretient avec ces technologies. Réfléchissons ensemble aux limites que nous devrions imposer à ces idées audacieuses, car le futur de l’IA pourrait bien dépendre de nos choix d’aujourd’hui.