Une nouvelle tendance préoccupante circule actuellement sur Internet : des utilisateurs exploitent ChatGPT pour identifier les lieux représentés sur des images.
Cette semaine, OpenAI a dévoilé ses derniers modèles d’IA, o3 et o4-mini, dotés de la capacité unique de “raisonner” sur les images téléchargées. En pratique, ces modèles peuvent recadrer, faire pivoter, et zoomer sur des photos – même celles qui sont floues ou déformées – pour les analyser minutieusement.
Ces fonctionnalités d’analyse d’images, combinées à la capacité des modèles de naviguer sur le web, en font un outil puissant pour localiser des lieux. Les utilisateurs sur X ont rapidement découvert que o3, en particulier, est assez efficace pour déduire des villes, des monuments, et même des restaurants à partir d’indices visuels subtiles.
Wow, nailed it and not even a tree in sight. pic.twitter.com/bVcoe1fQ0Z
— swax (@swax) April 17, 2025
Dans de nombreux cas, il semblerait que les modèles ne s’appuient pas sur des “souvenirs” de précédentes conversations avec ChatGPT, ni sur les données EXIF — les métadonnées associées aux photos qui révèlent des détails comme l’emplacement où la photo a été prise.
Des exemples abondent sur X, où les utilisateurs soumettent à ChatGPT des menus de restaurants, des clichés de quartiers, des façades et des selfies, en demandant à o3 d’imaginer qu’il joue à “GeoGuessr”, un jeu en ligne qui défie les joueurs de deviner des emplacements à partir d’images de Google Street View.
this is a fun ChatGPT o3 feature. geoguessr! pic.twitter.com/HrcMIxS8yD
— Jason Barnes (@vyrotek) April 17, 2025
Cela soulève un évident problème de confidentialité. Rien n’empêche un individu malveillant de faire une capture d’écran, par exemple, d’une Story Instagram et d’utiliser ChatGPT dans le but de démasquer l’utilisateur.
Bien entendu, cette technique était déjà réalisable avant le lancement de o3 et o4-mini. TechCrunch a testé plusieurs photos avec o3 et un ancien modèle dépourvu de capacités de raisonnement sur images, le GPT-4o, pour comparer les compétences des modèles en matière d’estimation de localisation. De manière surprenante, GPT-4o parvenait souvent à donner la même réponse correcte que o3, mais le faisait en une durée plus courte.
Lors de nos tests, il y a eu au moins une instance où o3 a trouvé un lieu que GPT-4o n’a pas réussi à retrouver. En présentant une image d’une tête de rhinocéros monté dans un bar à la lumière tamisée, o3 a correctement identifié qu’il s’agissait d’un speakeasy à Williamsburg — et non, comme l’a supposé GPT-4o, d’un pub au Royaume-Uni.
Cela ne veut pas dire que o3 soit infaillible. Plusieurs de nos tests se sont soldés par des échecs — o3 est resté bloqué dans une boucle, incapable de donner une réponse satisfaisante, ou a proposé un emplacement erroné. Les utilisateurs sur X ont également remarqué que o3 pouvait être souvent éloigné de la réalité dans ses déductions.
Cependant, cette tendance met en évidence certains des nouveaux risques associés à des modèles d’IA de raisonnement plus avancés. Il semble y avoir peu de protections mises en place pour éviter ce type de “recherche de localisation inversée” sur ChatGPT, et OpenAI, la société derrière ChatGPT, n’aborde pas cette question dans son rapport de sécurité pour o3 et o4-mini.
Nous avons contacté OpenAI pour obtenir des commentaires. Nous mettrons à jour notre article si nous recevons une réponse.
Cet article est initialement paru dans TechCrunch. https://techcrunch.com/2025/04/17/the-latest-viral-chatgpt-trend-is-doing-reverse-location-search-from-photos/
Points à retenir
- Les nouvelles fonctionnalités d’OpenAI soulignent la puissance croissante de l’intelligence artificielle dans l’analyse visuelle.
- Les utilisateurs doivent rester conscients des implications en matière de confidentialité lors de l’utilisation de ces outils.
- La recherche de localisation pourrait évoluer vers des usages problématiques si des mesures de sécurité ne sont pas mises en œuvre.
- Les tests comparatifs entre anciens et nouveaux modèles indiquent que l’IA peut parfois donner des résultats cohérents, mais elle n’est pas toujours fiable.
Cette situation soulève des questions importantes sur la responsabilité des entreprises technologiques dans le développement de solutions sûres et éthiques. Quelles mesures devraient être adoptées pour protéger les utilisateurs face aux dérives potentielles de ces technologies? La discussion est ouverte.