Plus de 100 000 conversations entre les utilisateurs de ChatGPT et la plateforme d’intelligence artificielle restent accessibles via des recherches sur Internet, malgré les tentatives du développeur OpenAI de les supprimer après ce qui a été qualifié d’« expérience de courte durée », comme l’a rapporté une enquête.
L’unité de journalisme d’investigation en ligne Digital Digging a indiqué que la majorité de ces échanges, conservés dans leur intégralité, étaient « inoffensifs », mais certains ne l’étaient pas.
Parmi les exemples cités dans le rapport, on trouve un avocat italien discutant des moyens d’acquérir des terres d’une communauté autochtone d’Amazonie pour le compte d’une multinationale souhaitant construire une centrale hydroélectrique, un Égyptien cherchant à utiliser l’IA pour critiquer le régime autoritaire de son pays et un chercheur documentant des cas de fraude académique.
Cette étude fait suite à un incident survenu à la fin du mois dernier, lorsque des milliers d’utilisateurs de ChatGPT ont réalisé qu’ils avaient coché une case rendant leurs conversations visibles pour des moteurs de recherche comme Google, souvent sans comprendre les implications.
Ce dispositif, décrit par un haut responsable d’OpenAI comme une « expérience de courte durée », a rapidement été désactivé, et quelque 50 000 conversations ont été « nettoyées » par l’entreprise.
Des experts affirment que l’article de Digital Digger met en lumière la difficulté d’effacer des publications en ligne une fois qu’elles ont été rendues publiques. L’incident révèle également des préoccupations concernant la compréhension de l’IA parmi le nombre croissant d’utilisateurs de cette technologie.
Les conséquences peuvent aller bien au-delà de la simple moquerie ou de l’embarras, explique Pradeep Sanyal, conseiller à San Francisco pour des conseils d’administration et des dirigeants d’entreprise sur les stratégies en matière d’IA.
« Certaines publications exposent des informations sensibles sur le plan commercial, des stratégies juridiques, des opinions politiques dans des contextes autoritaires et des affaires personnelles confidentielles telles que des problèmes de santé, » a-t-il précisé. « Cela pourrait entraîner des dommages à la réputation, un désavantage concurrentiel, un examen réglementaire, voire des risques pour la sécurité personnelle selon la juridiction. »
« Des révélations qui, si elles sont attribuées à un individu ou une organisation, pourraient avoir des conséquences significatives. L’exemple d’un avocat discutant d’une stratégie pour déplacer des communautés autochtones au prix le plus bas n’est pas simplement embarrassant ; il pourrait avoir des implications légales et éthiques, » a-t-il indiqué.
Barry Scannell, partenaire en droit et en politique de l’IA chez William Fry solicitors et membre du Conseil consultatif de l’IA nommé par le gouvernement, a déclaré que sa « mâchoire s’est décrochée » en voyant certains des matériaux originaux accessibles aux recherches Google habituelles.
Lundi, il a souligné que les enjeux soulevés par l’incident « mettent en lumière la nature des informations que les gens partagent avec les outils d’IA, certaines étant profondément sensibles sur le plan commercial, alors qu’ils cherchent à s’aider dans leurs stratégies ou à traiter d’autres problèmes d’affaires, tandis que d’autres sont d’une nature profondément personnelle, où ils traitent l’IA comme un thérapeute. »
« Cela me rappelle les débuts de la communication électronique, lorsque certaines personnes étaient très désinvoltes sur ce qu’elles envoyaient par e-mail, ce qui était parfois révélé au cours de processus de découverte. C’est certainement un autre rappel de l’importance pour les entreprises d’avoir des processus et des politiques clairs concernant l’utilisation de ces technologies par leurs employés. »
Points à retenir
- Les conversations avec ChatGPT, bien que majoritairement inoffensives, soulèvent des préoccupations relatives à la confidentialité et à la sécurité.
- La facilité de recherche d’informations en ligne souligne l’importance de la prudence dans le partage de données sensibles avec des outils d’IA.
- Les incidences sur la réputation et la sécurité des individus montrent que l’usage de l’IA nécessite une réflexion éthique et juridique approfondie.
La situation actuelle avec ChatGPT met en lumière les enjeux complexes de l’utilisation de l’intelligence artificielle dans notre quotidien. Alors que ces technologies continuent à évoluer et à s’intégrer dans divers aspects de nos vies, il est vital d’encourager une compréhension critique de leur fonctionnement et de leurs implications. Comment pouvons-nous naviguer dans cet écosystème numérique tout en préservant notre vie privée et notre sécurité ?