Il peut sembler paradoxal, mais l’intelligence artificielle (IA) menace désormais la recherche académique dans son propre domaine. À l’image des scientifiques qui ont collaboré au développement de la bombe atomique, de nombreux chercheurs craignent aujourd’hui d’avoir perdu le contrôle sur leur création.
C’est probablement ce que pensent également les organisateurs de la Conférence Internationale sur l’Apprentissage Automatique, qui se tiendra à Séoul, en Corée, en juillet prochain. Des milliers de chercheurs du secteur s’y réuniront pour présenter leurs travaux. Au cours des mois précédents, les organisateurs ont rassemblé des propositions de conférences du monde entier, avant de sélectionner les meilleures avec l’aide d’experts.
Surprise, le 18 mars, ils ont annoncé que 497 contributions avaient été exclues de la conférence. La raison ? Les experts chargés de les évaluer ont choisi de déléguer cette tâche à des modèles de langage comme ChatGPT, Gemini ou Claude. Les évaluateurs inattentifs, qui enfreignent ainsi les règles, perdent également le droit de présenter leurs propres recherches.
Le processus de détection des tricheurs est intéressant. Avant d’être soumis aux évaluateurs, chaque proposition contenait une petite instruction dissimulée, susceptible d’inciter une IA à inclure dans son jugement une phrase cryptée. Cette méthode a facilité la détection des évaluateurs malhonnêtes. À titre de comparaison, d’autres chercheurs avaient manipulé les évaluations de leurs travaux en intégrant des instructions cachées pour générer des retours positifs, un procédé connu sous le nom d’« injection de prompts ».
Malgré le nombre élevé de violations révélées, il est possible que de nombreuses autres aient échappé à cette détection. Selon Gautam Kamath, l’un des organisateurs, « ce n’est pas un moyen difficile à contourner, surtout lorsqu’il est rendu public » pendant la période d’évaluation. Les juges auraient donc pu facilement supprimer les instructions cachées, et l’IA ne répondrait qu’environ 80 % du temps à ces demandes. Kamath espère que cette décision forte rappellera à la communauté que, dans un domaine en mutation rapide, la confiance mutuelle doit rester une priorité. « Si nous ne savons pas adapter nos méthodes à un environnement basé sur la confiance, nous risquons de devenir obsolètes », conclut-il. Toutefois, certains chercheurs, comme Zhengzhong Tu, professeur d’informatique à l’Université du Texas, s’inquiètent que ces mesures pourraient démotiver les évaluateurs.
Le fait qu’une conférence internationale sur l’intelligence artificielle soit entravée par cette même technologie soulève un dilemme complexe. Aucun expert n’est plus conscient que les chercheurs des limites et des potentialités de l’IA dans la recherche scientifique, où cette dernière se révèle compétitive, surtout lorsqu’elle est guidée par un humain. En passant par les algorithmes pour les évaluations, les experts semblent ainsi déclarer leur propre inutilité. Ce dilemme concerne l’ensemble de la communauté scientifique qui doit aujourd’hui faire face à une crise d’identité sans précédent à cause de l’IA.
Points à retenir
- Des milliers de chercheurs se réuniront à Séoul pour la Conférence Internationale sur l’Apprentissage Automatique.
- 497 contributions ont été exclues en raison de l’utilisation inappropriée de modèles d’IA pour l’évaluation.
- Les méthodes de détection des tricheurs reposent sur des instructions cachées intégrées dans les propositions.
- Des experts jugent que les mesures peuvent avoir un impact démoralisant sur les évaluateurs.
- La crise d’identité de la communauté scientifique face à l’IA soulève des questions sur la confiance et la pertinence des méthodes d’évaluation.
En réfléchissant à la situation actuelle, je ne peux m’empêcher de penser à l’importance des valeurs humaines dans un domaine où la technologie prend de plus en plus de place. La recherche doit rester un espace d’échange et de confiance, même en ces temps de changement accéléré. Il est essentiel de trouver un équilibre entre innovation et intégrité. Comment pouvons-nous garantir que l’IA enrichisse notre travail sans compromettre notre éthique ? Cela mérite une profonde réflexion.