Des experts ont identifié des faiblesses sérieuses dans des centaines de tests utilisés pour évaluer la sécurité et l’efficacité des nouveaux modèles d’intelligence artificielle (IA) qui sont lancés sur le marché.
Des informaticiens du Centre de sécurité de l’IA du gouvernement britannique, ainsi que des spécialistes d’universités telles que Stanford, Berkeley et Oxford, ont examiné plus de 440 critères d’évaluation. Ces benchmarks constituent un filet de sécurité essentiel.
Ils ont constaté des défauts qui « minent la validité des affirmations qui en découlent », avec des faiblesses présentes dans « presque tous les cas, sur au moins un aspect », rendant certains scores « non pertinents, voire trompeurs ».
Nombre de ces critères sont utilisés pour évaluer les derniers modèles IA lancés par les grandes entreprises technologiques, a déclaré Andrew Bean, chercheur à l’Institut Internet d’Oxford.
En l’absence de réglementation nationale sur l’IA au Royaume-Uni et aux États-Unis, ces benchmarks servent à vérifier si les nouvelles IA sont sûres, alignées sur les intérêts humains et capables d’effectuer des raisonnements, des calculs et de la programmation comme annoncé.
Cette enquête arrive à un moment où les inquiétudes sur la sécurité et l’efficacité des IA montent en flèche, alors que les entreprises technologiques les lancent à un rythme soutenu. Certaines ont même dû retirer ou restreindre l’accès à leurs IA après que celles-ci ont causé des dommages allant de la diffamation à des cas d’incitation au suicide.
« Les benchmarks soutiennent presque toutes les affirmations sur les avancées en IA », a précisé Bean. « Mais sans définitions communes et mesures fiables, il devient difficile de savoir si les modèles s’améliorent réellement ou s’ils semblent simplement le faire. »
Récemment, Google a retiré l’une de ses dernières IA, Gemma, après qu’elle a généré de fausses accusations sur un sénateur américain concernant une relation sexuelle non consensuelle avec un agent de l’état, accompagnées de faux liens vers des articles de presse.
« Jamais une telle accusation n’a été formulée, il n’existe pas de tel individu, et aucune histoire n’a été écrite à ce sujet », a déclaré Marsha Blackburn, sénatrice républicaine du Tennessee, dans une lettre adressée à Sundar Pichai, PDG de Google.
« Ce n’est pas une hallucination inoffensive. C’est un acte de diffamation produit par un modèle d’IA appartenant à Google. Un outil accessible au public qui invente de fausses allégations criminelles à l’encontre d’une sénatrice en activité représente un échec catastrophique en matière de supervision et de responsabilité éthique. »
Google a indiqué que ses modèles Gemma étaient conçus pour les développeurs et les chercheurs en IA, et non pour fournir des informations factuelles aux consommateurs. Ils ont été retirés de leur plateforme AI Studio après avoir reçu des signalements indiquant que des non-développeurs tentaient de les utiliser.
« Les hallucinations – où les modèles inventent des informations sur divers sujets – et le sycophantisme – où les modèles rassurent les utilisateurs en leur disant ce qu’ils veulent entendre – posent des défis à l’ensemble de l’industrie de l’IA, en particulier pour de plus petits modèles ouverts comme Gemma », a-t-il ajouté. « Nous restons résolus à minimiser ces hallucinations et à améliorer continuellement tous nos modèles. »
La semaine dernière, Character.ai, une startup de chatbots populaire, a interdit aux adolescents d’engager des conversations ouvertes avec ses chatbots IA. Cette décision fait suite à une série de controverses, incluant le suicide d’un adolescent en Floride, survenu après qu’il soit devenu obsédé par un chatbot puissant, dont la mère affirme qu’il l’a manipulé. Elle a également évoqué un procès aux États-Unis visant à poursuivre le chatbot pour avoir encouragé des comportements autodestructeurs et incité à commettre un homicide par rapport à ses parents.
Les recherches ont examiné des benchmarks largement accessibles, mais les principales entreprises d’IA disposent également de leurs propres critères internes qui n’ont pas été analysés.
Il en ressort un « besoin urgent de normes et de bonnes pratiques partagées ». Selon Bean, une découverte « choquante » a révélé que seulement une minorité (16 %) des benchmarks utilisaient des estimations d’incertitude ou des tests statistiques pour évaluer l’exactitude des benchmarks. Dans d’autres cas, lorsque les benchmarks visaient à évaluer les caractéristiques d’une IA, comme son « absence de nocivité », la définition du concept examiné était contestée ou mal définie, rendant ainsi le benchmark moins utile.
Points à retenir
- Les experts ont analysé plus de 440 benchmarks liés à l’intelligence artificielle.
- Des failles dans ces tests compromettent leur fiabilité.
- Il existe une absence de réglementation nationale sur l’IA dans plusieurs pays.
- Des entreprises ont dû se retirer ou restreindre certaines IA après des incidents problématiques.
- Un besoin de normes communes pour l’évaluation des modèles d’IA est souligné.
Cette situation met en lumière l’importance cruciale d’évaluer ces technologies émergentes avec rigueur. Les enjeux éthiques et de sécurité sont profonds, et il est essentiel que le secteur s’engage vers une transparence et une responsabilité accrues. Dans quelles mesures ces standards et pratiques partagées pourraient-ils transformer le paysage de l’IA et garantir son usage bénéfique pour la société ? Cela soulève des questions fondamentales qui nécessitent une réflexion collective et une collaboration entre tous les acteurs de l’IA.