Google aurait conclu un accord avec le Pentagone américain pour utiliser ses modèles d’intelligence artificielle dans des activités classifiées. Cette collaboration place l’entreprise technologique aux côtés de plusieurs autres géants de la siliconne qui ont signé des contrats similaires avec l’armée américaine.
Selon un rapport de l’Information, cet accord permet au Pentagone d’utiliser l’IA de Google pour « tout objectif gouvernemental légal », rejoignant ainsi les rangs d’OpenAI et de l’entreprise xAI d’Elon Musk. Cependant, ces ententes, tant chez Google que chez d’autres entreprises d’IA, suscitent des controverses importantes au sein du Pentagone et engendrent une forte opposition de la part des employés.
Les réseaux classifiés sont utilisés pour gérer une variété de travaux sensibles, y compris la planification de missions et le ciblage d’armements. Le Pentagone a signé des accords pouvant atteindre jusqu’à 200 millions de dollars chacun avec des laboratoires d’IA majeurs, tels qu’Anthropic et OpenAI. L’agence gouvernementale a poussé les principales entreprises d’IA, comme OpenAI et Anthropic, à rendre leurs outils accessibles sur les réseaux classifiés sans les restrictions habituelles imposées aux utilisateurs.
Selon le rapport, l’accord de Google exige que l’entreprise aide à ajuster ses paramètres de sécurité et ses filtres à la demande du gouvernement. Le contrat précise que « les parties s’accordent à convenir que le système d’IA n’est pas destiné à, et ne doit pas être utilisé pour, la surveillance massive domestique ou les armes autonomes (y compris la sélection de cibles) sans une supervision et un contrôle humain appropriés ». Néanmoins, il indique également que cet accord ne confère pas à Google le droit de contrôler ou de s’opposer aux décisions opérationnelles légales du gouvernement.
Le Pentagone n’a pas souhaité commenter cette affaire.
Google a affirmé soutenir les agences gouvernementales dans des projets tant classifiés que non classifiés. Un porte-parole de l’entreprise a déclaré que Google restait attaché à l’idée que l’IA ne devrait pas être utilisée pour la surveillance massive des citoyens ni pour des armes autonomes sans supervision humaine appropriée. “Nous pensons que fournir un accès API à nos modèles commerciaux, y compris sur l’infrastructure Google, avec des pratiques et des conditions conformes aux normes de l’industrie, représente une approche responsable pour soutenir la sécurité nationale”, a-t-il ajouté.
Le Pentagone a indiqué qu’il n’avait pas d’intérêt à utiliser l’IA pour surveiller les Américains ou développer des armes létales fonctionnant sans intervention humaine, mais souhaite permettre « toute utilisation légale » de l’IA. Anthropic a récemment fait face à des problèmes avec le Pentagone après avoir refusé de supprimer les garde-fous contre l’utilisation de son IA pour des armes autonomes ou la surveillance domestique, ce qui a conduit le département à considérer le créateur de Claude comme un risque dans la chaîne d’approvisionnement.
L’accord entre Google et le Pentagone se met en place malgré les craintes des employés que leurs travaux ne soient utilisés de manière inhumaine ou extrêmement nuisible, comme l’indique une lettre de travailleurs de Google. Plus de 600 employés ont signé une lettre ouverte au PDG, Sundar Pichai, exprimant leurs inquiétudes sur les négociations entre Google et le Pentagone. “Nous estimons que notre proximité avec cette technologie crée une responsabilité de mettre en lumière et de prévenir ses usages les plus contraires à l’éthique et dangereux”, écrivent-ils. “Par conséquent, nous vous demandons de refuser de rendre nos systèmes d’IA disponibles pour des charges de travail classifiées.”
L’année précédente, le propriétaire de Google, Alphabet, avait levé une interdiction concernant l’utilisation de l’IA pour des armes et des outils de surveillance. L’entreprise avait retiré des formulations de ses directives éthiques qui promettaient de ne pas poursuivre “des technologies qui causent ou sont susceptibles de causer un préjudice global”. Le responsable de l’IA de l’entreprise, Demis Hassabis, avait déclaré dans un billet de blog que l’IA était devenue essentielle pour protéger “la sécurité nationale”. Certains employés avaient exprimé leurs inquiétudes sur ce changement de langage sur le tableau de discussion interne de l’entreprise. L’un d’eux avait même demandé : “Sommes-nous les méchants ?”
L’utilisation de l’IA et des technologies en temps de guerre a longtemps été une source d’anxiété pour les employés de Google, dont l’activisme précédent sur ce sujet a rencontré un certain succès. En 2018, des milliers de travailleurs de Google avaient signé une lettre de protestation contre l’implication de leur entreprise dans un contrat avec le Pentagone utilisant ses outils d’IA pour analyser des images de surveillance par drone. Google avait finalement décidé de ne pas renouveler le contrat du Projet Maven après un large mécontentement interne, laissant à l’entreprise Palantir le soin de prendre la relève.
Points à retenir
- Google collabore avec le Pentagone pour l’utilisation de son IA dans des projets classifiés.
- Des accords similaires existant entre d’autres entreprises d’IA et le gouvernement américain.
- Les employés de Google s’opposent à cette direction, craignant un usage nuisible de la technologie.
- Le Pentagone affirme qu’il n’a pas d’intention de surveiller les citoyens américains.
- Les préoccupations éthiques persistent au sein des entreprises technologiques.
À titre personnel, je trouve fascinant de voir comment la convergence entre la technologie et la défense soulève des questions essentielles sur l’éthique et la responsabilité des entreprises. La volonté de certaines entreprises de participer à la sécurité nationale, tout en respectant des lignes rouges en matière de droits de l’homme, est un enjeu crucial qui mérite d’être débattu. Quels compromis sont acceptables dans le contexte de la sécurité et de l’innovation ? Cette dynamique est préoccupante et nous invite à réfléchir sur l’avenir de l’IA et son impact sur la société.