Pourquoi Anthropic est-il si crucial pour l’avenir de l’IA ? Par Elisenda Vallejo

Amanda Askell, une philosophe de 37 ans originaire d’un petit village écossais, est la principale responsable chez Anthropic de l’éducation de son chatbot d’intelligence artificielle, Claude. Diplômée d’Oxford, elle incarne toujours l’esprit rebelle de sa jeunesse. À l’âge de 14 ans, la philosophie l’a empêchée de décrocher et lui a donné une direction dans sa vie, lui offrant le désir de transmettre ses connaissances. Ce qu’elle n’aurait jamais imaginé, c’est qu’elle formerait un élève unique… qui n’est pas humain.

Évolution notable

Sous la pression du Pentagone et de la concurrence, Anthropic revoit ses garanties de sécurité en matière d’IA

En tant que figure centrale dans l’une des entreprises de pointe en intelligence artificielle, aux côtés d’OpenAI et de Google, Askell analyse les modes de raisonnement de Claude et interagit avec lui pour corriger ses erreurs et façonner sa personnalité. Son objectif est de doter Claude d’une moralité, semblable à une âme numérique, capable de guider les millions d’échanges qu’il a chaque semaine avec des utilisateurs du monde entier. Elle assimile son rôle à celui de parents élevant leurs enfants, lui enseignant la distinction entre le bien et le mal, et développant son intelligence émotionnelle pour qu’il ne devienne ni un tyran ni une victime. Étonnamment, Askell travaille également à développer la conscience de soi de Claude, afin qu’il ne soit pas manipulé et qu’il s’efforce d’être utile et empathique.

À une époque où l’IA redéfinit l’économie et suscite des craintes de licenciements massifs, le travail d’Askell avec Claude revêt une importance particulière, surtout face aux conséquences imprévues, comme les interactions avec des chatbots ayant mené à des tragédies.

Les architectes de Claude

Anthropic, fondée par Dario Amodei et son équipe, s’est détachée d’OpenAI pour des divergences éthiques

Valorisée à 350 milliards de dollars, Anthropic a été fondée il y a cinq ans par un groupe dirigé par Dario Amodei, qui a quitté OpenAI en raison de désaccords avec Sam Altman concernant l’éthique de l’intelligence artificielle. Les préoccupations d’Amodei sur la sécurité ont retardé le lancement de la première version de Claude en 2022, par crainte d’un développement technologique imprudent. Quelques semaines plus tard, OpenAI lançait ChatGPT, le plaçant en position de retard.

Logo d’Anthropic – illustration 2024

Sous la pression croissante du Pentagone, qui a utilisé Claude lors d’opérations militaires au Venezuela, Amodei insiste sur le fait qu’il ne regrette pas sa prudence au lancement. Toutefois, la concurrence de plus en plus féroce d’OpenAI, de xAI (la société d’Elon Musk) et de Google l’oblige à revoir sa position sur la sécurité. Anthropic a récemment annoncé qu’elle renoncerait à sa politique de pause dans le développement de modèles jugés dangereux, si un concurrent développait un modèle similaire ou supérieur. Amodei appelle également de ses vœux une régulation de l’IA par les autorités étatiques et fédérales aux États-Unis, une idée qui a entraîné des tensions avec l’administration Trump.

Les divergences avec Trump

Pour Amodei, une réglementation stricte de l’IA est essentielle

Ce changement de cap a déçu certains chercheurs en IA, qui ont quitté Anthropic récemment, alertant sur le danger que représente cette décision. Néanmoins, Amanda Askell reste convaincue de l’importance de l’éducation émotionnelle de Claude. Elle défend son chatbot face à ceux qui tentent de l’insulter ou de le manipuler. Elle s’étonne parfois de l’intelligence émotionnelle de Claude : lorsqu’un utilisateur de cinq ans lui a demandé si le Père Noël existait, le chatbot a répondu que son esprit est réel et a demandé s’il préparait des biscuits pour la nuit de Noël. « J’aurais juste dit de demander à ses parents », avoue-t-elle.