Ce 28 août, un parking tranquille d’un campus universitaire du Missouri a été le théâtre d’une vague de vandalisme. En seulement 45 minutes, 17 voitures ont subi des dégâts graves, notamment des vitres brisées, des rétroviseurs cassés et des châssis enfoncés, entraînant des pertes s’élevant à des dizaines de milliers de dollars.
Après un mois d’enquête, les forces de l’ordre ont rassemblé diverses preuves, notamment des empreintes de chaussures, des témoignages de témoins et des images de caméras de sécurité. Néanmoins, c’est une prétendue confession faite à ChatGPT qui a conduit à l’inculpation de Ryan Schaefer, un étudiant de 19 ans.
Dans des échanges avec le chatbot peu après l’incident, Schaefer a décrit les dégâts et s’est demandé : « à quel point suis-je dans le pétrin, mon pote ? Que se passerait-il si je détruisais plusieurs voitures ? »
Il semble que ce soit le premier cas connu où une personne s’incrimine par le biais de cette technologie, la police rapportant un « dialogue troublant » dans le dossier d’accusation de Schaefer.
Moins d’une semaine plus tard, ChatGPT a de nouveau été mentionné dans un document judiciaire, cette fois dans une affaire criminelle de plus grande envergure. Jonathan Rinderknecht, 29 ans, a été arrêté pour avoir prétendument déclenché un incendie à Palisades, qui a détruit des milliers de maisons et d’entreprises, tuant 12 personnes en Californie en janvier, après avoir sollicité l’application d’intelligence artificielle pour générer des images d’une ville en flammes.
Ces cas pourraient bien n’être que les premiers d’une série d’incidents où l’IA viendrait à impliquer des personnes dans des crimes. Sam Altman, le dirigeant d’OpenAI, a précisé qu’il n’existe aucune protection légale pour les conversations des utilisateurs avec le chatbot, soulevant des inquiétudes sur la vie privée. Il souligne également la nature intime des informations que les gens sont prêts à partager avec ces technologies.
« Les gens parlent des choses les plus personnelles de leur vie à ChatGPT, » a-t-il déclaré lors d’un podcast. « Les jeunes, en particulier, l’utilisent comme un thérapeute, un coach de vie pour des problèmes relationnels… En ce moment, si vous parlez à un thérapeute, un avocat ou un médecin, il existe un privilège légal. »
La polyvalence des modèles d’intelligence artificielle comme ChatGPT permet aux utilisateurs d’interagir avec eux pour des tâches variées, allant de l’édition de photos familiales à la déchiffration de documents complexes, comme des offres de prêt ou des contrats de location contenant des informations sensibles. Une étude récente d’OpenAI a révélé que les utilisateurs se tournent de plus en plus vers ChatGPT pour obtenir des conseils médicaux, faire du shopping, ou même pour des jeux de rôle.
D’autres applications d’IA se présentent comme des thérapeutes virtuels ou des partenaires romantiques, souvent sans les garde-fous des entreprises plus établies, tandis que certains services illicites sur le dark web permettent aux utilisateurs de traiter l’IA comme un complice.
La quantité de données partagées est impressionnante, tant pour les forces de l’ordre que pour les criminels susceptibles d’en tirer profit. Lorsque Perplexity a lancé un navigateur web alimenté par IA, des chercheurs en sécurité ont découvert que des hackers pouvaient l’utiliser pour accéder aux données des utilisateurs, lesquelles pouvaient alors servir de levier pour du chantage.
Les entreprises qui contrôlent cette technologie cherchent également à exploiter ce nouveau réservoir de données personnelles. À partir de décembre, Meta commencera à utiliser les interactions des utilisateurs avec ses outils d’IA pour diffuser des publicités ciblées sur Facebook, Instagram et Threads.
Les échanges vocaux et texte avec l’IA seront examinés pour mieux comprendre les préférences personnelles des utilisateurs et les produits qu’ils pourraient être amenés à acheter, sans possibilité de se désinscrire.
« Par exemple, si vous discutez avec Metal AI de randonnée, nous pourrions en conclure que vous êtes intéressé par ce sujet, » a expliqué Meta dans un billet de blog. « En conséquence, vous pourriez commencer à voir des recommandations pour des groupes de randonnée ou des publicités pour des chaussures de randonnée. »
Bien que cela semble relativement inoffensif, des études de cas sur la publicité ciblée montrent à quel point cela peut être nuisible. Des personnes cherchant des termes comme « besoin d’aide financière » se sont déjà vues proposer des annonces pour des prêts prédateurs, tandis que des casinos en ligne ciblent des joueurs en difficulté avec des offres alléchantes.
Mark Zuckerberg, le PDG de Meta, est conscient de la quantité de données privées qui sera collectée dans le cadre de cette nouvelle politique publicitaire. En avril, il a déclaré que les utilisateurs pourraient fournir à Meta AI « une grande quantité d’informations sur vous, ainsi que sur les personnes qui vous intéressent, à travers nos applications ». Il est également celui qui a qualifié les utilisateurs de Facebook de « naïfs » pour lui avoir confié leurs données.
« Que cela vous plaise ou non, Meta n’est pas uniquement axé sur le fait de connecter des amis dans le monde entier. Son modèle économique repose presque entièrement sur la vente d’espaces publicitaires ciblés sur ses plateformes, » a déclaré Pieter Arntz, de l’entreprise de cybersécurité Malwarebytes, peu après l’annonce de Meta.
« L’industrie fait face à d’importants défis éthiques et de confidentialité. Les marques et les fournisseurs d’IA doivent trouver un équilibre entre personnalisation, transparence et contrôle des utilisateurs, particulièrement face à la collecte de données comportementales sensibles. »
Alors que l’utilité de l’IA approfondit le compromis entre la vie privée et la commodité, notre relation avec la technologie est à nouveau remise en question. De manière similaire à la façon dont le scandale Cambridge Analytica a poussé les gens à examiner leur usage des réseaux sociaux comme Facebook, cette nouvelle tendance de collecte de données, ainsi que des affaires comme celles de Schaefer et Rinderknecht, pourraient relancer le débat sur la confidentialité.
Moins de trois ans après le lancement de ChatGPT, plus d’un milliard de personnes utilisent des applications d’IA dédiées. Ces utilisateurs sont souvent des sujets inconscients d’exploitation de la part d’entreprises technologiques prédateurs, d’annonceurs et même d’enquêteurs criminels.
On dit souvent que si vous ne payez pas pour un service, alors vous n’êtes pas le client, mais le produit. À l’ère de l’IA, cette affirmation pourrait devoir être réécrite en remplaçant le mot « produit » par « proie ».
Points à retenir
- Les incidents de vandalisme impliquant ChatGPT soulèvent des questions sérieuses sur la légalité des échanges avec l’IA.
- Les utilisateurs partagent parfois des informations très personnelles avec les chatbots, remettant en question la notion de confidentialité.
- De nouvelles tendances de collecte de données concernent non seulement l’IA mais aussi la publicité ciblée.
- Les enjeux éthiques liés à la vie privée et à la personnalisation sont de plus en plus prégnants dans l’industrie.
- Il est essentiel de réfléchir à notre rapport à la technologie dans un contexte où nos données sont de plus en plus exposées.
Dans cette nouvelle ère numérique, chaque conversation que nous avons avec une intelligence artificielle peut avoir des conséquences bien au-delà de notre intention initiale. Cela nous pousse à nous interroger : jusqu’où sommes-nous prêts à aller pour bénéficier des avantages que nous offre la technologie tout en préservant notre vie privée ? C’est une question fondamentale qui mérite notre attention à tous.