 |
Des célébrités ont prêté leur voix pour des analyses de jeux vidéo. Photo : Meta. |
Récemment, les réseaux sociaux, notamment TikTok, ont vu une prolifération de vidéos capturant des sessions de jeu, principalement agrémentées de commentaires par des célébrités. Des artistes tels que Huong Giang, Bich Phuong et Phuong My Chi, ainsi que des créateurs de contenu comme Huy Forum et Tho Nguyen, se sont fait remarquer en proposant des analyses sur le jeu “Lien Quan Mobile” et le sport.
Néanmoins, il s’avère qu’aucun de ces artistes n’a réellement enregistré ces voix. Les utilisateurs ont eu recours à l’intelligence artificielle pour dupliquer leurs timbres vocaux. En suivant les instructions d’un compte particulier, les utilisateurs utilisent l’outil Minimax pour transformer des textes en voix.
Minimax Technology, une entreprise chinoise à la réputation établie dans le domaine de la reproduction vocale à partir de courtes séquences, a réussi à faire tomber les barrières technologiques, permettant ainsi à quiconque de créer la voix d’une personne de leur choix. Minimax bénéficie du soutien de grandes entreprises telles que Tencent et Alibaba, ainsi que de divers fonds de capital-risque, lui permettant de proposer des services dans des secteurs variés comme les jeux vidéo, l’éducation et le divertissement.
Les courtes vidéos intégrant la voix de célébrités peuvent rapidement devenir tendances, captivant les spectateurs, qui trouvent un nouvel intérêt lorsqu’ils entendent leurs personnalités favorites discuter de jeux ou mentionner des phrases populaires.
La majorité des utilisateurs reconnaissent qu’ils entendent une voix générée par IA et laissent intentionnellement des commentaires élogieux. Des influenceurs comme Huong Giang et Huy Forum ont même exprimé leur contentement de voir leurs voix utilisées de manière humoristique en partageant ces contenus.
 |
Huong Giang et Huy Forum ont tous deux partagé des vidéos générées par IA utilisant leurs voix. Photo : TikTok. |
Étant donné le nombre limité de séquences disponibles, les utilisateurs n’ont qu’à entrer le contenu qu’ils souhaitent et, après quelques minutes, se retrouvent avec une vidéo finalisée. Une multitude de nouveaux comptes surgissent ainsi, combinant des noms de célébrités et de jeux pour produire et publier des vidéos. Un internaute a même plaisanté : “Il y a rarement une célébrité qui ne joue pas à Lien Quan.”
Bien que cette fonctionnalité apporte une dose de divertissement, certains individus en abusent à des fins malveillantes. Les escroqueries à l’IA vocale deviennent de plus en plus sophistiquées, avec des cas où la voix d’un proche est utilisée pour extorquer des fonds en cas d’urgence.
En Vietnam, l’une des arnaques récemment répandues consiste à appeler des parents pour prétendre que leur enfant est victime d’un accident et qu’un virement immédiat est requis pour couvrir des frais médicaux.
À l’étranger, un cadre dans une entreprise britannique a été dupé de plus de 240 000 dollars par un appel se présentant comme celui de son “patron”. Une autre escroquerie a eu lieu à Hong Kong, où un employé a été arnaqué de 3,3 millions de dollars après avoir reçu une demande de son “chef”.
Bien que des entreprises de voix AI, telles que Minimax, appliquent des règles stipulant qu’aucune voix humaine ne peut être utilisée sans autorisation, leur mise en œuvre réelle s’avère être un défi. Cette technologie rappelle la technique de deepfake, souvent utilisée pour de la publicité illégale, des déclarations controversées ou la propagation de fausses nouvelles.
Même si de nombreux artistes internationaux comme Drake et The Weeknd se sont exprimés concernant les “covers” réalisés à l’aide de leur voix, la problématique de la vie privée abusée par l’IA et des fake news continue d’alimenter le débat dans plusieurs pays, avec un besoin urgent d’un cadre juridique approprié.
En dehors de ses applications dans le divertissement, la reproduction vocale pourrait également avoir des usages positifs, comme la restitution de voix de personnes décédées ou le soutien aux personnes ayant perdu leur capacité à s’exprimer. Cependant, il est crucial d’informer toutes les personnes concernées sur ces utilisations afin de maîtriser et de minimiser les risques d’abus.
Points à retenir
- L’usage de l’IA pour reproduire des voix de célébrités se répand dans des contenus engageants sur des plateformes comme TikTok.
- Minimax Technology offre une solution innovante, mais pose aussi des questions éthiques quant à son exploitation.
- Les arnaques liées à la technologie vocale augmentent, soulignant la nécessité d’une vigilance accrue et d’un cadre législatif adapté.
La question ouverte est de savoir jusqu’où la technologie peut influencer notre quotidien et nos relations sociales. En équilibrant innovation et responsabilité, peut-on garantir des usages éthiques tout en préservant la créativité ?
Frédéric, votre article souligne bien les enjeux éthiques autour de l’IA vocale. Il est essentiel d’en parler pour garantir une utilisation respectueuse de cette technologie fascinante.
C’est fascinant de voir comment la technologie peut jouer avec nos perceptions, mais les abus potentiels, comme les arnaques, là, ça fait réfléchir. À utiliser avec précaution!
Cette innovation technologique, tout en étant captivante, soulève des inquiétudes sur notre rapport à l’authenticité des voix et des émotions. Une ligne fragile entre charme et abus.
C’est fascinant de voir comment l’IA transforme notre façon de consommer le contenu! Mais j’espère qu’on trouvera un juste équilibre entre innovation et respect de la vie privée.
C’est fascinant de voir comment l’IA transforme notre façon d’interagir avec le jeu et les célébrités ! Mais il faut rester vigilant face aux abus. Qu’en pensez-vous ?
Frédéric, cet article est fascinant ! L’utilisation de l’IA pour les voix de célébrités est à la fois amusante et préoccupante. On doit vraiment réfléchir aux implications éthiques.