Le gouvernement britannique a récemment dévoilé que son outil d’intelligence artificielle, baptisé Humphrey, repose sur des modèles développés par des géants de la tech comme OpenAI, Anthropic et Google. Cette révélation soulève des questions sur la dépendance croissante de l’administration publique vis-à-vis des mastodontes du numérique.
Les ministres mise sur l’IA pour transformer le service public, espérant gagner en efficacité grâce à un déploiement massif de cet outil. Tous les fonctionnaires d’Angleterre et du Pays de Galles seront formés à son utilisation.
Pourtant, loin d’avoir conclu des accords commerciaux globaux avec ces firmes, le gouvernement utilise des modèles de paiement à la consommation via ses contrats cloud existants, ce qui lui permet de changer d’outils lorsque de meilleures options émergent.
Cette stratégie soulève la critique, notamment face au contexte houleux autour de la formation des intelligences artificielles sur des œuvres protégées par le droit d’auteur sans compensation ni reconnaissance. En effet, un projet de loi autorise désormais l’utilisation de ce matériel par défaut, sauf si le détenteur des droits choisit de s’y opposer, ce qui a provoqué la colère d’artistes renommés tels qu’Elton John, Paul McCartney ou Kate Bush.
Une demande d’accès à l’information a révélé que les outils du gouvernement — Consult, Lex et Parlex — s’appuient sur GPT d’OpenAI pour analyser les consultations et modifications législatives. Humphrey comprend également Redbox, qui aide les fonctionnaires dans leurs tâches quotidiennes, et combine plusieurs modèles IA issus d’OpenAI, Anthropic et Google.
Ed Newton-Rex, directeur de Fairly Trained, une organisation luttant contre l’utilisation non rémunérée d’œuvres créatives dans la formation de l’IA, souligne un paradoxe : « Le gouvernement ne peut pas réguler efficacement ces entreprises s’il les intègre aussi rapidement dans ses propres activités. Ces modèles exploitent le travail des créateurs sans leur consentement. »
Il alerte également sur les erreurs récurrentes des IA, parfois qualifiées d’« hallucinations », qui pourraient se répercuter sur les décisions publiques, préconisant plus de transparence dans le suivi des erreurs de Humphrey.
Shami Chakrabarti, membre de la Chambre des Lords et défenseure des libertés civiles, appelle à la prudence en rappelant les biais et erreurs constatés dans d’autres systèmes automatisés, à l’instar de Horizon, responsable d’une erreur judiciaire majeure.
Selon des sources gouvernementales, chaque outil de Humphrey traite les erreurs différemment et des évaluations régulières sont publiées afin d’en vérifier la fiabilité. Un guide d’utilisation de l’IA accompagne les fonctionnaires dans une intégration rapide tout en gardant le contrôle humain aux étapes clés.
Les coûts liés à l’emploi de l’IA publique devraient augmenter avec la généralisation de Humphrey, mais les prix à l’usage ont tendance à baisser, les modèles gagnant en efficacité. Par exemple, l’analyse de réponses à une consultation par le gouvernement écossais a coûté moins de 50 £ tout en économisant plusieurs heures de travail.
La prise de notes automatisée lors d’une réunion d’une heure revient à moins de 50 pence et permettrait de gagner en moyenne une heure d’administration par session.
Un porte-parole du ministère de la Science, de l’Innovation et de la Technologie souligne : « L’IA offre un potentiel considérable pour rendre les services publics plus efficaces en automatisant les tâches administratives de base, laissant aux experts le temps de se concentrer sur leur véritable mission. » Il assure également que cette utilisation ne limite pas la capacité du gouvernement à réguler ces technologies, à l’image du NHS qui achète et contrôle les médicaments.
Lorsque le média The Guardian a interrogé ChatGPT sur les modèles sous-jacents de Humphrey, le système n’a pas été en mesure de fournir cette information, preuve que le secret reste partiellement gardé.
Au moment de son lancement, le gouvernement avait indiqué vouloir revoir sa stratégie d’investissements technologiques de 23 milliards de livres par an, en favorisant notamment les startups plus petites.
Points à retenir
- Humphrey, l’outil IA du gouvernement, mélange savamment des modèles issus des grands noms du secteur – autrement dit, du « prêt-à-penser » numérique made in big tech.
- Au lieu d’un contrat global, l’usage se fait à la carte, façon buffet à volonté, ce qui permet de sauter d’un modèle à l’autre au fil des promos.
- Le projet de loi sur la réutilisation des œuvres protégées a provoqué un tollé chez les artistes, mais le gouvernement n’a guère fléchi devant la pression culturelle.
- Les IA ont la fâcheuse habitude de « halluciner », autrement dit de vous sortir des erreurs parfois grotesques : attention aux notes gouvernementales faites par machine !
- La transparence et la rigueur sont censées encadrer l’usage, mais c’est un peu comme demander à un chat de surveiller le poisson rouge : c’est à surveiller de près.
- Les économies annoncées pourraient bien plaire au Trésor, mais la qualité du service rendu mérite sans doute un suivi attentif.
Dans ce grand jeu d’ombres numériques, on assiste peut-être à la naissance d’une administration 2.0 où la machine fait le boulot… seulement si elle ne se trompe pas trop souvent. Entre progrès technique et risques de dépendance vis-à-vis des géants du numérique, on peut s’interroger : l’État est-il en train de devenir un client captif, ou simplement un consommateur éclairé d’algorithmes ? J’avoue que, moi, je penche pour un cocktail des deux, assaisonné d’un soupçon de naïveté gouvernementale.