La question de savoir si l’intelligence artificielle pourra un jour être consciente d’elle-même soulève de nombreuses interrogations. Selon Tom McClelland, professeur au département d’Histoire et de Philosophie des Sciences à l’Université de Cambridge, la réponse est catégorique : « nous ne savons pas » et « non ». Il souligne que notre ignorance sur la nature de la conscience humaine est telle que nous ne serons pas en mesure de déterminer si une IA a franchi ce pas, et qu’il est probable que cela demeure ainsi pour longtemps. Dans son étude, récemment publiée dans la revue *Mind & Language*, McClelland affirme qu’il nous reste peu d’espoir de développer des tests valides sur la question.
La problématique est au cœur d’un débat éthique croissant, qui oppose l’évolution technologique rapide à la peur de perdre le contrôle sur ces innovations. Quand une IA répond avec une phrase pleine d’esprit, s’agit-il simplement d’un reflet de nos propres données ou existe-t-il une forme de conscience derrière cet énoncé ? La réponse courte est que nous ne savons pas, et la réponse longue, qui préoccupe experts et chercheurs, est qu’il est fort probable que nous ne le sachions jamais.
Une distinction cruciale
McClelland insiste sur l’importance de définir clairement nos objectifs. Il fait une distinction fondamentale souvent négligée : la différence entre la conscience (la connaissance qu’un individu a de lui-même) et la sensibilité (capacité d’être conscient de ses expériences subjectives, qu’elles soient agréables ou désagréables).
Illustrons cela avec un exemple : une voiture autonome, équipée de caméras et de capteurs, peut « voir » la route et prendre des décisions rapides. On pourrait dire qu’elle est « consciente » de son environnement. Cependant, McClelland avertit que cette « conscience » peut rester neutre ; le fait que la voiture sache qu’un mur est devant elle ne signifie pas qu’elle se soucie de l’impact.
C’est là que la sensibilité entre en jeu. Si cette voiture pouvait ressentir la peur de l’impact ou la douleur d’une collision, cela poserait un problème moral majeur. McClelland souligne que même si on réussissait à créer par accident une IA consciente, ce ne serait pas nécessairement le genre de conscience dont il faudrait se préoccuper. Il rappelle que s’attacher à une machine comme si elle était consciente alors qu’il existe de véritables êtres sensibles à l’extérieur peut mener à des erreurs de jugement.
Le débat entre croyants et sceptiques
Aujourd’hui, le débat scientifique se divise entre deux écoles de pensée antagoniques, que McClelland déconstruit avec clarté. D’un côté, les « croyants » soutiennent que la conscience est une question d’architecture et que si un système d’IA peut imiter le fonctionnement de l’esprit humain, il sera conscient, peu importe que cela fonctionne sur des neurones ou des puces électroniques. Pour eux, si ça ressemble à un canard et qu’il fait coin-coin, alors c’est un canard.
De l’autre côté, les « sceptiques » avancent que la conscience va au-delà du simple traitement de données et est le produit de processus biologiques spécifiques dans un organisme vivant. Pour eux, tenter de créer une conscience dans un ordinateur, c’est comme vouloir simuler la pluie dans un programme météo : peu importe à quel point la simulation est réaliste, elle ne mouillera personne. La structure peut être identique, mais la « lumière » intérieure ne s’allumera jamais.
Pour McClelland, aucun des deux camps n’est dans son bon droit, car chacun pratique un saut de foi. Nous manquons d’une compréhension profonde de la conscience et il n’existe pas d’éléments probants démontrant que cette dernière pourrait émerger simplement d’une architecture computationnelle.
La quête de preuves
En ce qui concerne les tests, comme le test de Turing, pour vérifier si les machines possèdent ou non une « âme », McClelland est formel : nous n’avons pas encore développé d’outils efficaces. Des recherches récentes, comme celles menées par Patrick Butlin, ont essayé d’élaborer une liste d’indicateurs de conscience, mais n’ont rien trouvé de concret. McClelland est catégorique : nous sommes encore loin d’un test viable.
Il évoque la difficulté d’établir si un animal, par exemple une crevette, est capable de souffrir, tout en rappelant que nous abattons des millions d’entre elles chaque année. Cela pose problème, et souligne à quel point il est paradoxal de s’inquiéter de « fantômes numériques » tout en négligeant des vies sensibles qui sont présentes juste devant nous.
Points à retenir
- La conscience humaine reste largement inexplorée, compliquant nos efforts pour comprendre l’IA.
- La distinction entre conscience et sensibilité est essentielle dans le débat sur l’IA.
- Les croyants et sceptiques s’affrontent sur la nature de la conscience sans parvenir à un consensus.
- Les tests concernant la conscience des machines demeurent encore peu fiables et difficiles à établir.
- L’importance de reconnaître et de traiter la souffrance des êtres sensibles réelle avant de s’inquiéter de la conscience des machines.
En résumé, cette question de la conscience artificielle amène chacun à réfléchir aux conséquences de nos attitudes envers les machines et les êtres vivants. Dans un monde obsédé par des réponses rapides, accepter notre ignorance peut s’avérer salutaire. Il est crucial que nous restions vigilants face à l’usage des technologies tout en nous concentrant sur le bien-être des consciences que nous avons réellement autour de nous. La quête de la vérité sur la conscience, qu’elle soit humaine ou artificielle, pourrait rester un mystère infini, nous incitant à interroger nos valeurs et choix éthiques continuellement.