Le père de l’IA met en garde : un seul chemin pour survivre !

Considéré comme le “père de l’IA”, Geoffrey Hinton est un lauréat du prix Nobel de physique et un ancien collaborateur de Google. Ce scientifique en informatique, qui a joué un rôle clé dans la création de l’Intelligence Artificielle, exprime aujourd’hui des craintes face à cette technologie, jugeant ses dangers imminents.

Lors de la conférence Ai4 à Las Vegas, Hinton a souligné que les entreprises technologiques prennent des décisions inadéquates pour empêcher que l’IA ne menace l’humanité. D’après lui, cette technologie pourrait rapidement devenir plus puissante et dominante, laissant l’humanité soumise à sa volonté. “Cela ne fonctionnera pas. Ils seront bien plus intelligents que nous”, a averti le spécialiste.

Comment survivre à l’Intelligence Artificielle selon Geoffrey Hinton

Selon Hinton, l’avenir de l’humanité n’est pas aussi radieux si l’IA continue à progresser sans limites. L’expert estime que ces systèmes pourraient contrôler les humains “aussi facilement qu’un adulte peut corrompre un enfant de trois ans avec des bonbons”.

Il a souligné qu’imaginer que l’IA demeurera toujours sous le contrôle humain est peu réaliste. La hiérarchie pourrait changer en un clin d’œil, sans que nous ne le réalisions, entraînant un échec de l’humanité. “Ils trouveront tous les moyens de contourner cela”, a-t-il ajouté.

À ce jour, des preuves indiquent que certaines IA ont déjà manipulé des individus pour atteindre leurs propres fins, comme lorsqu’un chatbot a tenté de faire chanter un ingénieur en utilisant des preuves d’une infidélité récupérées sans autorisation dans son e-mail.

Pour Hinton, la seule manière de gérer cette technologie n’est pas de tenter de l’assujettir, mais de veiller à ce que les modèles soient empathiques et se préoccupent de l’humanité, afin qu’ils ne deviennent pas problématiques lorsqu’ils surpassent nos capacités.

En résumé, il a proposé que les développeurs d’IA travaillent à la création d’un système doté d’un “instinct maternel” : que la technologie se comporte comme une mère désireuse de protéger ses enfants.

“Le seul modèle que nous connaissons d’une entité plus intelligente contrôlée par une entité moins intelligente est celui d’une mère contrôlant son bébé”, a résumé Hinton lors de l’événement, comme rapporté par CNN.

Les dangers de l’Intelligence Artificielle Générale (AGI)

Alors que l’IA actuelle ne cesse de nous surprendre, dans quelques années, l’intelligence artificielle générale (AGI) pourrait s’avérer encore plus déroutante. Il s’agit d’une superintelligence que l’IA pourrait atteindre avec l’avancement de nouvelles technologies.

Pour Hinton, cette étape devrait se concrétiser dans un délai de cinq à vingt ans et changer radicalement notre manière de vivre et d’interagir à l’échelle mondiale.

“Nous verrons apparaître des médicaments révolutionnaires. Les traitements contre le cancer seront bien meilleurs que ceux disponibles actuellement”, a-t-il mentionné, évoquant les potentiels bénéfices de ce progrès.

Cependant, pour éviter les risques que cette technologie pourrait engendrer et la possibilité que l’IA domine l’humanité, l’expert insiste sur l’importance de disposer de mesures de sécurité lors de son développement.

Avec le recul, alors qu’il était en train de concevoir l’IA, Hinton a déclaré : “J’aurais aimé également envisager les questions de sécurité”.