L’ancien PDG de Google, Eric Schmidt, appelle à déconnecter l’IA à ses capacités critiques

Eric Schmidt, ancien PDG de Google, a exprimé la nécessité pour les États-Unis de remporter la course actuelle à l’intelligence artificielle (IA) face à la Chine, tout en soulignant que cette technologie en pleine évolution doit être régulée. Lors d’une interview sur ABC News avec George Stephanopoulos, il a déclaré : “Nous serons bientôt en mesure d’avoir des ordinateurs fonctionnant de manière autonome, décidant ce qu’ils souhaitent faire.”

Schmidt a poursuivi : “Tout cela se construit à partir d’une série de décisions. Nous passons d’agents à des objectifs plus puissants, et finalement nous disons à l’ordinateur : ‘apprends tout et fais tout’. C’est un point dangereux. Quand le système peut s’auto-améliorer, nous devons réfléchir sérieusement à le débrancher.” En réponse à une suggestion de Stephanopoulos selon laquelle un système d’IA ayant cette capacité pourrait contrer les tentatives de le déconnecter, Schmidt a répondu : “En théorie, nous ferions mieux d’avoir quelqu’un pour maintenir le branchement – au sens figuré.”

Il a également informé que le gouvernement a un rôle à jouer pour encadrer le développement de l’IA. Schmidt prévoit que l’administration Trump sera axée sur la compétitivité des États-Unis face à la Chine, ce qui est selon lui une bonne chose. Concernant les dispositifs de sécurité potentiels pour l’IA, il a indiqué : “Tant que les valeurs humaines – et par cela, j’entends les valeurs libérales démocratiques au sens classique de la liberté individuelle et du respect de l’individu – sont préservées, nous devrions être en sécurité.”

Schmidt a signalé que, alors que les États-Unis étaient jadis considérés à la pointe de l’IA par rapport à la Chine, cette dernière a rattrapé son retard de manière remarquable. “Il y a un moment, peut-être dans un an ou deux, où les systèmes pourront commencer à faire leurs propres recherches, étant appelés des scientifiques de l’IA, en opposition aux scientifiques humains. Cela passe de 1 000 scientifiques humains à un million de scientifiques de l’IA. Cela rend le paysage concurrentiel très compliqué,” a-t-il ajouté. “Il est crucial que l’Amérique remporte cette course au niveau mondial, et en particulier, avant la Chine.”