Interrogée sur les implications en matière de vie privée des chatbots comme ChatGPT et Claude, la présidente de Signal, Meredith Whittaker, a déclaré : “Ce ne sont pas vos amis. Ce ne sont pas des êtres conscients. Ce ne sont pas des interlocuteurs sensibles.”
Whittaker a formulé ces propos lors d’une interview avec Bloomberg où elle abordait des thématiques comme la politique, la vie privée et Signal. Elle a reconnu utiliser des outils d’IA “pour mettre en forme des documents par ci par là”, tout en précisant : “Je ne leur pose pas de questions. Je prends très au sérieux mes réflexions et mes écrits, et je ne souhaite pas que le processus de développement d’une idée soit entravé ou éclipsé par la réponse d’un système qui se base sur ce qui existe déjà.”
Concernant la prédiction de Mustafa Suleyman, PDG de Microsoft AI, selon laquelle les utilisateurs pourraient confier à Microsoft Copilot l’intégralité de leurs achats de Noël cette année, Whittaker a mis en garde contre ce scénario, arguant que cela impliquerait de donner accès “à ma carte de crédit, à mon navigateur, à mon Signal, la capacité de message mes frères et sœurs en mon nom, à mon adresse personnelle [et] à mon calendrier.”
“Ce que vous venez de décrire est un système ayant un accès très étendu à plusieurs applications et services,” a déclaré Whittaker. “Dans le contexte de Signal, cela constituerait une sorte de porte dérobée.”
Points à retenir
- Les chatbots ne sont pas des entités conscientes, comme le rappelle Whittaker.
- Elle utilise des outils d’IA pour des tâches ponctuelles, sans interagir profondément avec eux.
- La gestion des achats en ligne via des outils automatisés pose des questions de sécurité.
- L’accès illimité d’un système pourrait compromettre la confidentialité des utilisateurs.
En tant que société, nous nous trouvons à un carrefour où l’innovation technologique se heurte à des questions cruciales sur la vie privée. Il est impératif de réfléchir à la façon dont nous interagissons avec ces technologies et de maintenir une vigilance critique. Alors, jusqu’où sommes-nous prêts à aller pour rendre nos vies plus faciles, tout en préservant notre intimité ? C’est une question passionnante qui mérite d’être explorée.