Le scientifique a été essentiel dans l’avancée des réseaux neuronaux artificiels. Sans ses travaux, des outils tels que ChatGPT, Bard ou Midjourney n’auraient probablement jamais existé.
L’un des précurseurs dans le domaine de l’intelligence artificielle (IA) a quitté Google afin de mettre en garde contre les dangers potentiels de cette technologie. Geoffrey Hinton, 75 ans, a révélé au New York Times sa démission de l’entreprise de Mountain View, où il travaillait à temps partiel depuis 2013.
En 2012, épaulé par deux de ses étudiants de l’Université de Toronto, il démontre la suprématie de cette approche, qui reproduit le fonctionnement du cerveau, en surpassant les meilleurs algorithmes de reconnaissance d’images.
Cela lui vaut de recevoir en 2019 le prix Turing, la récompense la plus prestigieuse pour un chercheur en informatique, qu’il partage avec deux autres précurseurs de l’IA, le Français Yann Le Cun et un ancien collaborateur, le Canadien Yoshua Bengio. Dix ans plus tard, ce sont ses travaux qui ont permis de concevoir les IA conversationnelles ChatGPT et Bard ou encore l’IA de génération d’images Midjourney.
Dans un article publié lundi 1er mai par le journal américain, il soutient que « les futures itérations de cette technologie pourraient représenter un péril pour l’humanité ». Il affirme même qu’une « partie de lui-même regrette l’œuvre de sa vie », a-t-il confessé. Le chercheur canado-britannique, issu des neurosciences et de la psychologie, a été un acteur majeur dans le développement des IA basées sur les réseaux de neurones.
Désormais, les perspectives d’avenir de l’IA sont « plutôt terrifiantes pour l’avenir des humains »
a déclaré le scientifique sur la BBC, la chaîne publique britannique. « Pour le moment, elles ne sont pas plus intelligentes que nous, pour ce que j’en sais. Mais je pense qu’elles pourront bientôt l’être », ajoute-t-il. Actuellement, ses inquiétudes concernent la production massive de vidéos, photos et articles trompeurs sur Internet. Il craint ainsi que
« les gens ordinaires ne puissent plus discerner le vrai du faux ».
Sa démission de Google marque un tournant dans sa carrière et souligne l’importance de réfléchir à l’utilisation future de l’IA
Les dangers de l’IA suscitent des avalanches de critiques
Les avertissements sur les dangers de l’intelligence artificielle continuent de s’accumuler, Geoffrey Hinton a évoqué la possibilité de voir des armes autonomes, comme des robots guerriers émerger à cause de l’évolution constante des technos d’intelligence artificielle. Il a également évoqué des scénarios « cauchemardesques » si ces technologies tombaient entre de mauvaises mains, citant la Russie de Vladimir Poutine comme exemple potentiellement inquiétant.
Les critiques de Hinton rejoignent celles de milliers d’experts en IA qui ont récemment signé une lettre ouverte appelant à une pause dans les recherches en cours, le temps de mettre en place des réglementations sur ces technologies qu’ils considèrent comme dangereuses pour l’humanité. Cette lettre a été signée par des personnalités telles que Yoshua Bengio ou Elon Musk, PDG de Tesla et cofondateur d’OpenAI.
Source / Crédits : Linda Nylind / eyevine.com
Bien que Hinton n’ait pas signé cette lettre en tant qu’employé de Google, il a exprimé ses préoccupations après avoir quitté la société. Dans un tweet, il a expliqué qu’il avait quitté Google pour pouvoir parler librement des dangers de l’IA sans se soucier de l’impact sur son ancien employeur. Il a également salué la responsabilité de Google sur la BBC. Le dirigeant de Google AI, Jeff Dean, a réagi en soulignant que l’entreprise était attentive aux risques émergents de cette technologie tout en continuant d’innover.
Tweet du compte officiel de Geoffrey Hinton
Les inquiétudes de Hinton sont alimentées par la concurrence féroce dans le secteur de l’IA, alimentée par des investissements massifs de géants de la technologie tels que Microsoft, Google et Meta, qui financent des projets pour venir talonner ChatGPT.
Avec des critiques et des avertissements qui se multiplient, il semble que l’IA soit toujours sous le feu des projecteurs et que la question de la réglementation de ces technologies soit plus urgente que jamais.
Source:
