L’intelligence artificielle (IA) est au cœur des discussions actuelles, qu’elles soient sérieuses ou plus légères, divisant les opinions entre pessimisme face aux risques et optimisme technologique. Cependant, il est rare de croiser des auteurs véritablement éclairés et critiques sur ce sujet fascinant.
Le livre Intelligences. Éthique et politique de l’IA, rédigé par Mario De Caro et Benedetta Giovanola, constitue une exception notable. Cet ouvrage pose des questions essentielles concernant l’éthique et la politique liées à la présence omniprésente de l’intelligence artificielle dans notre quotidien, tout en évitant les prises de position extrêmes. Les auteurs s’engagent dans une analyse approfondie des implications de l’émergence d’agents autonomes dans toutes les sphères de la vie humaine.
UN APPROCHE SANS DOGMATISME caractérise le livre, particulièrement en ce qui concerne la possible création d’agents intelligents qui pourraient posséder compréhension, conscience et créativité. Les thèses opposées sont présentées sans tenter de donner une définition unique aux agents artificiels.
Les auteurs s’interrogent également sur l’éthique à adopter face aux défis que posent ces agents. Ils suggèrent une analogie intéressante : nous sommes passés de systèmes universalistes basés sur le raisonnement symbolique à des solutions empiriques issues du machine learning. Pour gérer ces systèmes plus complexes, il ne suffira pas d’appliquer une éthique généraliste, qu’elle soit utilitariste ou déontologique. Il convient plutôt d’adopter une éthique contextuelle, où la détermination de ce qui est juste dépend des spécificités de chaque situation.
Dans ce cadre, les auteurs privilégient l’éthique des vertus, incarnée par la sagesse pratique, une approche qui nécessite interaction et pragmatisme. L’entraînement éthique des systèmes artificiels devrait être supervisé, même si cela implique une supervision humaine légère. Ils soulignent l’urgence d’établir des principes éthiques pour réguler ces acteurs souvent indéfinis qui influencent nos vies de manière inattendue.
LE TROISIÈME CHAPITRE se penche sur la dimension politique de l’IA, un aspect sous-exploré qui mérite une attention accrue. En effet, les systèmes de machine learning s’appuient sur des volumes énormes de données, que nous contribuons tous à générer. Les enjeux de la justice sociale et de l’élimination des préjugés dans les systèmes algorithmiques sont préoccupants, notamment à cause du manque de transparence dans les décisions prises par ces systèmes.
Le rôle des entreprises militaires dans le développement de l’IA est crucial, mais souvent négligé par les régulations européennes. Les auteurs rappellent la nécessité de comprendre comment l’exploitation des données par les géants technologiques occulte la gestion de l’information et du pouvoir, ce qui peut influencer l’opinion publique et les résultats électoraux.
L’IA est intimement liée à des systèmes sociotechniques qui dépendent des activités humaines. Des interventions collectives, souvent inconscientes, orientent les fonctions de ces systèmes algorithmiques, résultant parfois en solutions simplistes et discriminantes. Cela soulève une question cruciale sur l’objectivité et la représentation de la réalité par ces algorithmes, façonnée selon des perspectives qui favorisent l’engagement et la captation de l’attention.
BIEN QUE NOUS NE PUISSIONS AFFIRMER quoi que ce soit sur la véritable intelligence des systèmes artificiels, il est primordial de reconnaître le besoin humain de collectivité et de confiance dans nos sources d’information. Alan Turing a souligné que notre perception de l’intelligence dépend largement de notre ignorance, et nos compétences cognitives sont influencées par divers facteurs. Pour Turing, il était nécessaire d’exposer les machines à l’expérience du monde de la même manière que nous le sommes.
Nous pourrions en venir à penser que les méthodes d’apprentissage automatique répondent à cette nécessité d’expérience, bien qu’elles soient biaisées par la digitalisation. Ces machines pourraient se révéler aussi intéressantes qu’imprévisibles, à l’instar de l’humain, comme Turing l’a anticipé.
POUR PRÉSERVER nos acquis en matière de droits démocratiques et sociaux, il est crucial de promouvoir une citoyenneté active, capable de questionner les informations accessibles. Il est urgent de ne pas être que réactif, mais de tirer parti des systèmes artificiels pour contrer les monopoles de la surveillance, tout en veillant à la justice sociale, en protégeant ceux qui en ont le plus besoin.
Les choix entourant l’implémentation de l’IA ont des répercussions politiques et épistémiques sur notre société. Lire cet ouvrage permet de clarifier les enjeux, dépassant les débats abstraits sur une superintelligence hypothétique.
Points à retenir
- L’intelligence artificielle soulève des inquiétudes éthiques et politiques clés.
- Les approches universalistes peuvent être insuffisantes pour traiter les défis complexes liés à l’IA.
- L’éthique contextuelle pourrait offrir une réponse adaptée aux problématiques posées par les agents autonomes.
- Le rôle des entreprises dans le développement de l’IA nécessite une transparence accrue.
- La perception de l’intelligence dépend souvent des biais humains et nécessite une éducation critique.
En somme, l’avenir de l’intelligence artificielle ne dépend pas seulement de la technologie elle-même, mais aussi de la manière dont nous, en tant que société, choisissons de l’intégrer et de l’évaluer. Chaque avancée doit être questionnée, car c’est notre responsabilité collective d’orienter ces outils vers un avenir qui soit équitable et respectueux des droits de tous. La discussion est ouverte, et nous devons être prêts à y participer avec passion et discernement.