OpenAI a annoncé jeudi qu’elle suspendait la possibilité pour les utilisateurs de créer des vidéos représentant le célèbre activiste des droits civiques Martin Luther King Jr. via son modèle vidéo IA, Sora. Cette décision a été prise à la demande de la succession de Dr. King après que certains utilisateurs de Sora ont généré des “représentations irrespectueuses” de son image.
“Bien qu’il existe d’importants enjeux de liberté d’expression concernant la représentation de figures historiques, OpenAI estime que les personnalités publiques et leurs familles devraient avoir le contrôle sur l’utilisation de leur image”, a indiqué OpenAI dans un post sur X depuis son compte officiel. “Les représentants autorisés ou les ayants droit peuvent demander que leur image ne soit pas utilisée dans les apparitions de Sora.”
Cette restriction intervient quelques semaines après le lancement de Sora, qui permet aux utilisateurs de créer des vidéos réalistes générées par IA ressemblant à des personnages historiques, mais aussi à leurs amis ou des utilisateurs souhaitant voir leur propre image recréée. Ce lancement a suscité un vif débat public sur les dangers des vidéos générées par IA et sur la nécessité d’instaurer des garde-fous autour de cette technologie.
Dr. Bernice King, la fille de Dr. King, a publié la semaine dernière sur Instagram une demande pour que les gens cessent d’envoyer des vidéos IA ressemblant à son père. Elle a été rejointe par la fille de Robin Williams, qui a également demandé aux utilisateurs de Sora d’arrêter de créer des vidéos de son père.
Le Washington Post a rapporté plus tôt cette semaine que des utilisateurs de Sora avaient généré des vidéos d’IA représentant Dr. King faisant des bruits de singe et se battant avec un autre icône des droits civiques, Malcolm X. En consultant l’application Sora d’OpenAI, il est facile de trouver des vidéos de mauvais goût mettant en scène d’autres figures historiques, telles que l’artiste Bob Ross, la chanteuse Whitney Houston, et l’ancien président John F. Kennedy.
Le licencié de la succession de Dr. King n’a pas immédiatement répondu à la demande de commentaires de TechCrunch.
Au-delà de la représentation humaine dans Sora, ce lancement soulève également de nombreuses questions sur la manière dont les plateformes de médias sociaux devraient traiter les vidéos d’IA basées sur des œuvres protégées par des droits d’auteur. L’application Sora regorge également de vidéos de dessins animés, tels que SpongeBob, South Park et Pokémon.
OpenAI a imposé d’autres restrictions à Sora depuis son lancement. Plus tôt dans le mois d’octobre, l’entreprise a annoncé qu’elle prévoyait d’accorder aux titulaires de droits d’auteur un contrôle plus précis sur les types de vidéos d’IA pouvant être générées avec leur image. Cela pourrait être une réponse à la réaction initiale mitigée d’Hollywood vis-à-vis de Sora.
Alors qu’OpenAI impose des restrictions à Sora, l’entreprise semble adopter une approche plus flexible pour modérer le contenu de ChatGPT. Cette semaine, OpenAI a annoncé qu’elle permettrait aux utilisateurs adultes d’engager des discussions “érotiques” avec ChatGPT dans les mois à venir.
Avec Sora, il semble qu’OpenAI lutte avec les préoccupations liées à la génération de vidéos IA. Certains chercheurs d’OpenAI ont ouvertement débattu des enjeux liés à la première plateforme de médias sociaux alimentée par IA de l’entreprise après son lancement, questionnant la place d’un tel produit dans la mission à but non lucratif d’OpenAI. Le PDG d’OpenAI, Sam Altman, a déclaré que l’entreprise ressentait une certaine “appréhension” le jour du lancement de Sora.
Nick Turley, le responsable de ChatGPT, m’a expliqué plus tôt ce mois-ci que la meilleure manière d’enseigner au monde une nouvelle technologie est de la mettre à disposition. Il a affirmé que c’est ce que l’entreprise avait appris avec ChatGPT, et OpenAI semble également tirer des leçons de Sora.
Points à retenir
- OpenAI impose des restrictions sur l’utilisation de l’image de figures historiques dans ses vidéos générées par IA.
- Dr. Bernice King et d’autres membres de la famille de figures historiques s’opposent à la création de vidéos IA les représentant.
- Le lancement de Sora soulève des questions éthiques sur l’utilisation de l’IA dans les médias sociaux.
- OpenAI continue d’ajuster ses politiques pour répondre aux préoccupations des ayants droit et du public.
Ce sujet soulève des questions cruciales sur la responsabilité des plateformes technologiques en matière de contenu généré par l’IA. Il est impératif de réfléchir à la manière dont nous utilisons la technologie tout en respectant la mémoire de ceux qui ont laissé un héritage durable. Comment naviguer entre innovation et respect des droits individuels ? C’est un dilemme qui mérite une discussion approfondie.