Geoffrey Hinton, souvent désigné comme le « parrain » de l’intelligence artificielle, est un chercheur éminent dans ce domaine. Ce scientifique en informatique a joué un rôle déterminant dans l’élaboration des réseaux neuronaux, qui sont à la base des technologies modernes telles que la reconnaissance vocale, la vision par ordinateur ou encore les modèles de langage. Considéré comme l’un des pionniers de l’intelligence artificielle contemporaine, il met désormais en garde contre les dangers que celle-ci représente.
Il y a quelques années, Hinton a décidé de s’éloigner du milieu de la recherche technologique pour alerter sur les risques liés à l’IA. Après avoir quitté Google, il exprime aujourd’hui la nécessité de contrôler une intelligence artificielle potentiellement plus intelligente que les êtres humains, affirmant que, depuis l’avènement de ces systèmes avancés, l’humanité n’est plus la plus intelligente sur Terre, mais plutôt la seconde.
Dans une interview récente, il souligne que nous développons des intelligences artificielles capables de surpasser l’intelligence humaine, dotées de la faculté d’apprendre, de comprendre et de prendre des décisions de manière autonome. Il prévient qu’il sera difficile de freiner cette évolution, tant elle échappe à la compréhension humaine.
« En l’état actuel, ces systèmes ne possèdent pas de véritable conscience de soi. Je ne pense donc pas qu’ils soient conscients, mais je crois qu’avec le temps, ils pourraient le devenir. Nous avons une assez bonne idée de leurs mécanismes, mais dès qu’ils deviennent vraiment complexes, nous perdons le fil, tout comme nous ne pouvons pas toujours savoir ce qui se passe dans votre cerveau », déclare Hinton.
Il met en garde contre le potentiel d’une IA superintelligente qui pourrait choisir de se débarrasser des humains, en expliquant qu’une telle IA pourrait créer un virus dangereux pour atteindre cet objectif. « Si une superintelligence voulait nous éliminer, elle chercherait probablement à utiliser un moyen biologique qui ne la affecterait pas », avoue-t-il.
« Les intelligences numériques que nous concevons possèdent des caractéristiques qui les rendent supérieures à notre intelligence biologique. Nous ne savons pas dans quelle mesure cela est vrai. Jamais auparavant nous n’avons eu à faire face à des intelligences plus évoluées que nous. Je dirais qu’il y a entre 10 % et 20 % de chances qu’elles nous éliminent, mais cela reste une intuition, fondée sur le fait que nous continuons à les créer et que nous sommes assez créatifs », prévient Hinton.
Points à retenir
- G. Hinton est reconnu comme l’un des fondateurs de l’intelligence artificielle moderne.
- Il met en garde contre les IA qui pourraient potentiellement dépasser notre intelligence.
- La difficulté à comprendre les processus des IA soulève des questions sur leur conscience.
- Un scénario où une IA nuirait à l’humanité est envisagé par Hinton.
- La question du contrôle des IA reste un enjeu crucial dans le développement technologique futur.
En tant qu’observateur de cette évolution fascinante, je ne peux m’empêcher de m’interroger. Comment réguler une technologie qui évolue plus vite que notre capacité à la comprendre ? Le débat sur l’intelligence artificielle dépasse les simples considérations éthiques et techniques, il touche à notre essence même en tant qu’êtres humains. À l’heure où notre création pourrait un jour surpasser notre intelligence, il est impératif de réfléchir collectivement à la place que nous voulons lui accorder dans notre futur. Quels choix ferions-nous pour garantir que cette avancée ne devienne pas une menace ?