Google a retiré une fonctionnalité qui alliait les capacités de son IA Nano Banana à des photographies satellites disponibles sur Google Earth. Cette option permettait aux utilisateurs de modifier les images et a rapidement conduit à la diffusion d’une multitude de deepfakes.
Parmi les images partagées, on trouvait des visualisations d’une Moscou bombardée, d’une centrale nucléaire iranienne en explosion, ou encore d’avions s’écrasant sur les gratte-ciels de New York. Un journaliste a même illustré les dangers de cette fonctionnalité en créant une image montrant un grand nombre de migrants à la frontière entre le Mexique et les États-Unis.
Une fonctionnalité disparue en un jour
Entre jeudi et vendredi de la semaine dernière, Google avait permis aux utilisateurs d’Earth, sa plateforme cartographique, de modifier des images terrestres à l’aide de l’intelligence artificielle générative de Nano Banana 2, son modèle de langage dédié à la création d’images. La fonction a été retirée après un peu plus de 24 heures, en raison de son utilisation pour créer des deepfakes, des images altérées susceptibles de propager des fausses informations.
Les deepfakes élaborés avec Nano Banana
Les deepfakes les plus répandus réalisés avec Google Earth incluaient des scènes de New York montrant des avions s’écrasant sur les gratte-ciels, en écho aux attaques du 11 septembre 2001. D’autres images dépeignaient Moscou détruite par des bombardements ou une centrale nucléaire en Iran en pleine explosion.
Le journaliste Henk van Ess, spécialiste de l’IA, a souligné le péril de cette fonctionnalité, en réalisant aisément une image représentant des milliers de personnes entassées à la frontière entre le Mexique et les États-Unis.
La réponse de Google
Face à la situation, Google a décidé de suspendre la fonctionnalité, précisant dans un message sur X qu’elle n’avait pas anticipé son utilisation de cette manière. L’objectif de l’intégration de la génération d’images dans Google Earth était, selon l’entreprise, d’assister dans la planification des espaces ouverts et la géographie.
Dès le premier jour, plusieurs « professionnels du secteur géospatial » utilisaient Nano Banana 2 sur Google Earth pour leur travail. En raison de cela, Google envisage de relancer cette fonctionnalité à l’avenir, mais avec de meilleures mesures de sécurité.
Google face à de nouveaux défis en matière d’IA
Google se trouve dans une situation délicate concernant l’IA. Avec son chatbot, Gemini, il est l’un des rares à pouvoir rivaliser avec ChatGPT en termes d’utilisateurs. Sa large intégration dans les divers produits d’Alphabet, sa maison mère, lui offre un avantage en matière de diffusion. Techniquement, toutefois, il semble prendre du retard.
Les laboratoires de pointe comme OpenAI et Anthropic déplacent les limites avec des modèles de langage plus avancés en comparaison à ceux de DeepMind, l’entité IA de Google. Récemment, des changements notables ont eu lieu chez DeepMind. Son fondateur, le prix Nobel Demis Hassabis, a quitté son poste de PDG pour devenir président, un poste moins exécutif, et Koray Kavukcuoglu a été nommé à sa place après avoir occupé le rôle de directeur technique.
Points à retenir
- Google a suspendu une fonctionnalité de Google Earth en raison de son utilisation pour créer des deepfakes.
- Celle-ci permettait aux utilisateurs de modifier des images satellites avec l’IA de Nano Banana.
- Des exemples de deepfakes incluent des événements catastrophiques fictifs, tels que des explosions et des accidents d’avion.
- La décision de Google de retirer la fonction a été motivée par des préoccupations de désinformation.
- Google prévoit de relancer cette fonctionnalité avec des mesures de sécurité renforcées.
Il est fascinant de réfléchir aux conséquences que des outils aussi puissants que ceux d’IA peuvent avoir sur l’information que nous consommons. À l’ère numérique, la frontière entre la réalité et la fiction devient de plus en plus floue, et cela soulève un véritable débat sur la responsabilité des entreprises technologiques. En tant que consommateurs avertis, il est crucial de rester vigilant face à ces avancées technologiques. Qu’en pensez-vous ?