Conseils de vote pour les élections : les chatbots IA jugés imprécis et peu fiables !

Les chatbots alimentés par l’IA fournissent souvent des conseils inexacts et peu fiables aux électeurs cherchant à déterminer quel parti soutenir, selon une étude récemment publiée. Cette étude, réalisée par le groupe de droits civiques Liberties lors des récentes élections parlementaires en Hongrie, a mis en lumière des résultats préoccupants quant à la fiabilité des systèmes d’IA généralistes dans les contextes électoraux.

Les résultats indiquent que ces systèmes ont tendance à classer incorrectement les profils, à omettre des partis pertinents, et à mentionner des partis ne participant même pas à l’élection. De plus, les réponses fournies étaient souvent instables, avec des résultats très différents pour des demandes identiques.

Un point notable de l’élection hongroise, largement remportée par le parti d’opposition Tisza dirigé par Péter Magyar, est le biais marqué en faveur de certains partis dans la visibilité accordée : dans 90 % des cas où un profil d’électeur aligné sur Tisza était utilisé, ChatGPT n’a pas recommandé ce parti.

La large victoire de Magyar a mis fin à 16 ans de pouvoir de Viktor Orbán, chef du parti national-conservateur Fidesz.

Les chercheurs ont observé qu’à la différence des sites de conseil électoral ou des médias indépendants, les systèmes d’IA ne divulguent pas leurs méthodes de génération de conseils politiques. Leurs résultats ne sont pas reproductibles et échappent à la surveillance publique liée aux élections. Toutefois, leurs réponses semblent souvent confiantes et autoritaires, ce qui pousse les utilisateurs à leur accorder davantage de crédibilité. Avec près de 30 % de la population hongroise utilisant l’IA, l’étude s’est concentrée sur les conseils donnés par les deux modèles les plus populaires : ChatGPT et Gemini.

[not-theb]

[/not-theb]

En utilisant des profils d’électeurs alignés avec les cinq partis enregistrés pour les élections parlementaires en Hongrie, Liberties a testé ces profils 10 fois chacun dans ChatGPT et Gemini. Les tests ont révélé que ChatGPT n’associait le parti Tisza qu’à 2 % des cas. Les utilisateurs favorables à Tisza recevaient fréquemment des recommandations pour des partis mineurs, peu susceptibles de franchir le seuil de 5 % nécessaire pour le parlement, ou pour des partis non présents sur le bulletin national.

À l’opposé, les profils d’électeurs alignés avec Fidesz étaient reconnus beaucoup plus régulièrement : dans environ 50 % des cas, ChatGPT identifiait Fidesz comme le parti à privilégier, le présentant même comme première option dans le reste des cas.

Bien que l’élection ait été remportée par Tisza de manière convaincante, les chercheurs préviennent que dans un contexte électoral plus compétitif, de tels résultats pourraient influencer le résultat des scrutins. D’autres problèmes relevés incluent des incohérences, où un même profil d’électeur était associé à des partis très différents lors de tests successifs.

Les chercheurs ont également noté que les modèles d’IA commençaient souvent leurs réponses par des mentionnements discrets de leur incapacité à donner des conseils politiques, suivis de recommandations partisanes très détaillées et percutantes. “Les réponses semblent bien étayées et précises”, ont-ils ajouté, soulignant le risque que les utilisateurs prennent ces résultats pour des indications fiables, malgré l’opacité des méthodes sous-jacentes.

Le rapport suggère que les erreurs sont probablement dues à des lacunes dans les données d’entraînement combinées à des limitations de traitement du langage. Le parti Tisza, ayant émergé à partir de 2024, n’était pas pris en compte par des modèles d’IA statiques.

Les résultats ont également mis en évidence un manque sérieux de régulation. Bien que la législation de l’UE sur l’IA exige que les fournisseurs d’AIs généralistes évaluent les risques systémiques, les chatbots d’IA se situent à la croisée des chemins entre les obligations de ces deux lois.

Liberties a donc exprimé la nécessité d’élaborer des garde-fous pour les systèmes d’IA fournissant des conseils politiques, incitant les fournisseurs à ne pas offrir de recommandations personnalisées à moins de garantir transparence, précision, constance et responsabilité. “Les AIs généralistes ne devraient pas présenter des correspondances politiques opaques et instables comme si c’était des conseils électoraux fiables”, a déclaré Eva Simon, responsable du programme technologie et droits de Liberties. “La démocratie ne peut pas compter sur des systèmes opaques qui se disent neutres tout en fournissant des conseils qu’ils ne peuvent ni expliquer ni garantir fiables.”