L’expert en intelligence artificielle, Dominic Lees, a exprimé son indignation face à la décision de Morgan Neville de recréer la voix d’Anthony Bourdain à l’aide d’une technologie d’IA dans le documentaire « Roadrunner », la qualifiant d' »absolument choquante ».
Bourdain est décédé par suicide en 2018.
« Neville voulait que ce soit un hommage, presque un éloge funèbre. Ce film déborde de bonnes intentions », a ajouté Lees. « Il voulait donner l’impression que Bourdain parlait depuis l’au-delà, à la manière de ‘Sunset Boulevard’. »
Dans le film, l’artiste David Choe lit un e-mail que le célèbre chef lui avait envoyé peu avant son décès, avant que la voix « de Bourdain » ne prenne le relais.
« Le public a commencé à se demander s’il y avait un problème. Qui enregistre un e-mail ?! Neville a admis : ‘D’accord, j’ai utilisé un clone vocal.’ Cependant, il n’a pas informé l’audience de cette décision. Il a également déclaré à ses détracteurs : ‘J’ai utilisé la technologie dans trois autres passages de ce film et je ne vous dirai pas où.’ »
Intervenant lors de la Conférence sur l’éthique du documentaire au Festival International de Documentaire de Ji.hlava, Lees a affirmé que cette controverse avait des conséquences très sérieuses sur la réputation de Neville.
« Personnellement, je ne peux plus regarder un documentaire de Morgan Neville sans penser : ‘Vous m’avez trompé délibérément.’ La relation de confiance entre moi, le public, et vous, le cinéaste, est complètement brisée. »
Il a soutenu que le manque de transparence dans l’utilisation de l’IA pourrait « briser » le lien avec les spectateurs. Un autre problème soulevé est celui du consentement.
« Au cœur de la controverse de ‘Roadrunner’, Neville a déclaré : ‘J’ai demandé à l’ancienne femme de Bourdain et elle a dit que ça serait bien.’ Cependant, elle a répondu : ‘Non, je ne l’ai pas dit.’ Cela a encore plus terni sa crédibilité. »
Lors d’un discours principal au festival tchèque, Lees a également abordé la société de production axée sur l’IA, Particle 6, qui s’est déjà illustrée avec l’« actrice IA » Tilly Norwood et se concentre également sur les documentaires historiques.
Ils ont affirmé que Tilly Norwood serait représentée par des agents d’Hollywood et jouerait dans des films, mais ils considèrent également que les documentaires sont un axe majeur de leur futur. Lees a montré leur bande démo, qualifiant leurs efforts de « comiques ».
« Les esclaves dans l’Égypte ancienne portent des serviettes blanches éclatantes, comme s’ils venaient de sortir d’un sauna. C’est ainsi que Particle 6 espère séduire les documentaristes travaillant dans le domaine de la télévision et des reconstitutions historiques. »
De nombreuses entreprises espèrent qu’une déclaration éthique créera de la confiance, a-t-il affirmé, en citant Gennie, spécialisée dans les documentaires et les reconstitutions historiques.
« Ils ont leurs ‘Commandements de Gen’, un code éthique public qui ‘promeut l’exactitude historique, la transparence, l’équité en matière de représentation et le respect de la ressemblance humaine’. Mais nous devons rester très, très vigilants face aux entreprises affichant leurs éthiques en termes de promotion. »
Revenant à la question de la manipulation vocale, Lees a mentionné le documentaire de National Geographic « Endurance », qui retrace la mission d’Ernest Shackleton en Antarctique. Les producteurs ont décidé de recréer sa voix et d’ajouter un avertissement dans les crédits de fin.
« La productrice Ruth Johnston a dû réfléchir à sa relation avec le public. ‘J’ai utilisé l’IA dans mon film. Que dois-je faire ?’ Elle précise clairement que ces voix ont été recréées grâce à l’intelligence artificielle », a indiqué Lees, soulignant que « la transparence est l’une des questions éthiques centrales concernant l’utilisation de l’IA générative par les documentaristes. »
Cependant, créer des voix, notamment celles de figures historiques, peut se révéler délicat. Le court-métrage de Jan Rehwinkel « History Will Teach Us Nothing », présenté au festival, met en scène Hitler.
« Une fois que vous avez créé votre avatar ou clone vocal en deepfake, c’est un actif persistant qui existera éternellement. Et qui le contrôle ? Les documentaristes estiment qu’ils n’ont pas à s’inquiéter, car ils ont terminé leur film. Mais il s’agit d’un modèle de la voix d’Adolf Hitler qui est accessible. N’importe qui peut l’utiliser. L’éthique s’étend à la technologie dans son ensemble, pas seulement aux documentaristes eux-mêmes. »
Felix Moeller a rencontré un dilemme similaire dans « Jud Süss 2.0: De la propagande nazie à l’antisémitisme en ligne », décidant finalement de ne pas recréer la voix d’Henry Ford.
« Il était l’un des hommes les plus riches du monde dans les années 1920 et 1930, et un antisémite, ce qui établit des parallèles avec notre époque actuelle. Il s’était emparé de ce faux document, ‘Les Protocoles des Sages de Sion’ », a expliqué Lees.
« Ils se sont demandé : ‘Serait-il possible d’entendre Henry Ford lire son propre texte antisémite ?’ C’est absolument terrible, mais en tant que documentariste, vous souhaitez exprimer à quel point l’antisémitisme était abominable en Amérique à l’époque. Ils me l’ont montré et j’ai été inquiet pour plusieurs raisons. Un antisémite pourrait exploiter cela pour sa propre propagande au XXIe siècle. »
Il a ajouté : « C’est une question essentielle à considérer pour les documentaristes. J’ai l’opportunité d’utiliser l’IA générative, qui peut très bien compléter l’impact créatif de mon film, mais je peux aussi décider à tout moment que ce n’est pas la bonne voie. »
Évoquant des exemples d’utilisation de l’IA dans des documentaires comme « Welcome to Chechnya », où des deepfakes masquent l’identité d’activistes LGBTQ qui seraient autrement en danger, il a noté : « À l’ère de l’IA, le public est de plus en plus conscient que ce qu’il voit à l’écran peut ne pas être authentique. L’authenticité a toujours été un débat dans la réalisation documentaire, mais nous faisons face à un problème bien plus sérieux aujourd’hui. »
Points à retenir
- L’utilisation de l’IA pour recréer des voix pose des questions éthiques cruciales.
- La transparence est essentielle pour maintenir la confiance entre cinéastes et audience.
- Le consentement des protagonistes est primordial lorsque l’on traite de sujets sensibles, particulièrement après leur décès.
- Des sociétés de production se tournent vers l’IA, mais leurs intentions doivent être scrutées de près.
- Le débat sur l’authenticité dans le cinéma documentaire est relancé par les avancées technologiques.
Le sujet de l’utilisation de l’intelligence artificielle dans le documentaire soulève des questions fascinantes pour nous en tant que consommateurs de contenu. À une époque où la frontière entre réalité et simulation devient de plus en plus floue, comment pouvons-nous naviguer dans ce paysage ? L’innovation technologique offre des possibilités créatives, mais elle exige également de nous une vigilance accrue quant à l’éthique qui devrait régir son utilisation. En tant que passionné de documentaire, je me demande jusqu’où nous devrions aller pour raconter nos histoires, sans sacrifier l’intégrité ni le respect des personnes concernées. Qu’en pensez-vous ?