Sundar Pichai, PDG d’Alphabet Inc., lors du forum Business, Government, and Society de Stanford en Californie, le 3 avril 2024.
Justin Sullivan | Getty Images
Google a récemment retiré son engagement à ne pas utiliser l’intelligence artificielle (IA) pour des applications potentiellement nuisibles, telles que les armes et la surveillance, selon une mise à jour de ses « principes en matière d’IA ».
La version précédente de ces principes stipulait que l’entreprise ne s’engagerait pas dans des « armes ou d’autres technologies dont le principal objectif ou la mise en œuvre est de causer ou de faciliter directement des blessures aux personnes », ni dans des « technologies qui collectent ou utilisent des informations à des fins de surveillance en violation des normes internationalement acceptées ».
Ces objectifs ne figurent plus sur le site des principes d’IA de Google.
« Il existe une compétition mondiale pour le leadership en matière d’IA dans un paysage géopolitique de plus en plus complexe », déclare un article publié mardi, coécrit par Demis Hassabis, PDG de Google DeepMind. « Nous croyons que les démocraties devraient mener le développement de l’IA, guidées par des valeurs fondamentales telles que la liberté, l’égalité et le respect des droits de l’homme. »
La mise à jour des principes reflète les ambitions croissantes de Google d’offrir sa technologie et ses services d’IA à un plus grand nombre d’utilisateurs et de clients, y compris des gouvernements. Ce changement s’inscrit également dans une rhétorique croissante des dirigeants de la Silicon Valley concernant une course à l’IA où le vainqueur récoltera tous les bénéfices, notamment avec la déclaration du CTO de Palantir, Shyam Sankar, affirmant que « cela nécessitera un effort national qui s’étend bien au-delà du ministère de la Défense pour que notre nation puisse gagner. »
La version précédente des principes mentionnait que Google prendrait en compte un large éventail de facteurs sociaux et économiques. Les nouveaux principes d’IA stipulent que Google « agira lorsque nous croyons que les avantages globaux probables dépassent considérablement les risques et inconvénients prévisibles. »
Dans son article de blog de mardi, Google a indiqué qu’il resterait « en accord avec les principes largement acceptés du droit international et des droits de l’homme – en évaluant toujours des travaux spécifiques par une évaluation minutieuse des bénéfices par rapport aux risques potentiels. »
Les nouveaux principes ont été rapportés pour la première fois par le Washington Post, juste avant les résultats financiers du quatrième trimestre de Google, qui ont manqué les attentes en matière de revenus de Wall Street, entraînant une chute de 9 % de son action lors des échanges après la clôture.
Des centaines de manifestants, dont des employés de Google, se sont rassemblés devant les bureaux de Google à San Francisco, bloquant la circulation sur une portion de One Market Street le 14 décembre 2023, demandant la cessation des travaux de l’entreprise avec le gouvernement israélien et protestant contre les attaques israéliennes à Gaza.
Anadolu | Getty Images
Google a établi ses principes d’IA en 2018 après avoir refusé de renouveler un contrat gouvernemental appelé Project Maven, qui aidait le gouvernement à analyser et interpréter des vidéos de drones à l’aide de l’intelligence artificielle. Avant de mettre fin au contrat, plusieurs milliers d’employés avaient signé une pétition contre celui-ci, et des dizaines avaient démissionné en opposition à l’implication de Google. L’entreprise s’est également retirée de l’appel d’offres pour un contrat cloud de 10 milliards de dollars avec le ministère de la Défense, car elle ne pouvait pas être certaine que cela serait compatible avec ses principes d’IA à l’époque.
Sous la direction de Pichai, l’équipe de direction de Google a activement poursuivi des contrats avec le gouvernement fédéral, ce qui a entraîné des tensions dans certaines parties de l’entreprise au sein d’une main-d’œuvre souvent éloquente.
« Nous croyons que les entreprises, les gouvernements et les organisations qui partagent ces valeurs devraient collaborer pour créer une IA qui protège les personnes, promeut la croissance mondiale et soutient la sécurité nationale », a déclaré le blog de Google mardi.
L’année dernière, Google a mis fin à plus de 50 contrats d’employés après une série de manifestations contre le Project Nimbus, un contrat de 1,2 milliard de dollars avec Amazon fournissant à l’État israélien des services cloud et d’IA. Les dirigeants ont affirmé que le contrat ne violait aucun des « principes d’IA » de l’entreprise.
Cependant, des documents et des rapports ont montré que l’accord permettait à Israël d’accéder à des outils d’IA comprenant la catégorisation d’images, le suivi d’objets, ainsi que des provisions pour des fabricants d’armes détenus par l’État. Le New York Times a rapporté en décembre que quatre mois avant la signature de Nimbus, des responsables de Google avaient exprimé des inquiétudes quant à la réputation de l’entreprise, craignant que « les services cloud de Google puissent être utilisés pour ou liés à des violations des droits de l’homme. »
En parallèle, l’entreprise a intensifié la répression des discussions internes concernant les conflits géopolitiques, comme la guerre à Gaza.
Google a annoncé en septembre des directives mises à jour pour son forum interne Memegen, restreignant davantage les discussions politiques sur les contenus géopolitiques, les relations internationales, les conflits militaires, les actions économiques et les différends territoriaux, selon des documents internes consultés par CNBC à l’époque.
Google n’a pas immédiatement répondu à une demande de commentaire.
REGARDEZ : Le combat difficile de Google pour l’IA en 2025
Points à retenir
– Google a récemment modifié ses principes d’IA, supprimant les engagements antérieurs liés à l’utilisation de l’IA pour des applications néfastes.
– Un intérêt croissant pour la technologie d’IA auprès des gouvernements et une compétition mondiale entre les États-Unis et la Chine influencent cette décision.
– La mise à jour des principes a suscité des tensions internes au sein de Google, notamment en raison des préoccupations des employés concernant les collaborations avec des gouvernements.
– Google a une histoire de résistance aux contrats militaires, mais la dynamique semble évoluer sous l’impact des ambitions stratégiques actuelles.
À la lumière de ces évolutions, il serait pertinent de réfléchir à la façon dont ces changements pourraient influencer l’engagement de Google envers la responsabilité sociale et l’éthique de l’IA. Cette question soulève également des interrogations sur l’équilibre entre des mandats gouvernementaux et la mission initiale d’une entreprise technologique en matière d’innovation.
L’évolution des principes d’IA de Google est une danse délicate entre innovation et éthique. Il est crucial de ne pas perdre de vue la responsabilité sociale.
La décision de Google soulève des questions éthiques cruciales sur l’utilisation des technologies d’IA. Un équilibre délicat entre innovation et responsabilité est nécessaire pour l’avenir.
Google semble naviguer dans des eaux troubles, oscillant entre éthique et ambitions, un ballet fascinant où l’innovation pourrait bien perdre son âme. Quelle direction prendre ?
C’est fascinant de voir comment Google redéfinit son approche de l’IA. Cela pourrait vraiment changer notre façon de voyager et d’interagir avec la technologie.
Ce changement de cap de Google sur l’IA soulève des questions éthiques fascinantes. Un pas en avant ou un risque pour notre société ? À méditer!
Cette évolution des principes d’IA de Google soulève des questions éthiques cruciales. L’impact sur notre société doit être discuté avec soin, surtout sur des sujets aussi sensibles.