Les entreprises technologiques mettent en avant leur consommation élevée de tokens comme un signe de productivité croissante. Pourtant, les analyses montrent que leur véritable utilité est bien plus modeste. Selon TechCrunch, si l’intelligence artificielle (IA) peut générer rapidement une grande quantité de code, elle entraîne par la suite un besoin accru de travail pour les développeurs.
Les employés encouragés à utiliser l’IA
Traditionnellement, le nombre de lignes de code écrites était un indicateur clé de la performance des développeurs. Avec l’arrivée d’outils d’IA performants, cette mesure a perdu de son importance. Désormais, les développeurs se vantent plutôt de la quantité de tokens consommés dans leurs travaux. Les systèmes d’IA décomposent le langage en petits éléments textuels pour les traiter, et un taux de consommation élevé de tokens est de plus en plus perçu comme un indicateur de succès.
Depuis le début de l’engouement pour l’IA, de nombreuses entreprises technologiques incitent leurs collaborateurs à utiliser ces outils pour augmenter leur productivité. Par exemple, le PDG de Nvidia, Jensen Huang, aurait affirmé que ses employés seraient « fous » de ne pas tirer parti de l’IA dans un maximum de leurs tâches. De même, chez Meta, le PDG Mark Zuckerberg encourage ses équipes à participer à des formations sur l’IA plusieurs fois par semaine. L’utilisation de ces outils est même intégrée dans les évaluations de performance.
Le code généré par l’IA nécessite souvent des révisions
Les analyses démontrent que le phénomène appelé “tokenmaxxing” n’est pas nécessairement synonyme d’une productivité accrue. Bien que les outils d’IA générative puissent produire davantage de code que les développeurs humains, il arrive que ce code doive être retravaillé, un aspect souvent négligé. Alex Circei, directeur de Waydev, qui collabore avec 50 entreprises comptant plus de 10 000 ingénieurs en logiciel, explique que ces entreprises affichent des taux d’acceptation de code de 80 à 90 %. Néanmoins, cela ne prend pas en compte la nécessité pour les développeurs de retoucher ce code dans les semaines suivantes, faisant chuter le véritable taux d’acceptation entre 10 et 30 %.
Faros AI, une plateforme spécialisée dans l’analyse des processus d’ingénierie, a constaté des résultats similaires. L’étude de données clients sur deux ans révèle qu’une forte utilisation de l’IA accroît la fluctuation du code – la proportion de lignes supprimées par rapport à celles ajoutées – de 861 %. L’analyse de Jellyfish a également montré que les développeurs avec les budgets de tokens les plus élevés génèrent plus de demandes d’intégration, mais cette augmentation ne se traduit pas proportionnellement en productivité : pour doubler leur performance, les coûts en tokens augmentent de dix fois.
Le suivi des tokens pourrait devenir la norme
Simultanément, un nouveau mouvement émerge autour du « suivi des tokens ». Étant donné les coûts élevés associés à l’utilisation des outils d’IA, certaines entreprises commencent à analyser leur consommation et à mettre en relation ces données avec leurs résultats. Par exemple, le journaliste tech Kevin Roose a cité le cas d’un développeur d’OpenAI ayant consommé 210 milliards de tokens en une semaine, ce qui correspondrait à environ 525 000 dollars pour les tokens d’entrée et plus de 3 millions de dollars pour les tokens de sortie, en se basant sur les prix de l’API officielle d’OpenAI.
Brian Jabarian de la Booth School of Business à l’Université de Chicago voit également le suivi des tokens comme une évolution nécessaire. « Tout le monde pensait que l’on pouvait simplement utiliser des tokens IA pour gagner en productivité, mais la réalité est bien plus complexe », a-t-il déclaré au Wall Street Journal. Derrière ces chiffres abstraits se cache un immense coût en ressources, de plus en plus critiqué.
Points à retenir
- Le secteur technologique met l’accent sur l’utilisation des tokens en tant qu’indicateur de succès.
- Les outils d’IA ne garantissent pas une augmentation linéaire de la productivité.
- Le suivi rigoureux de la consommation de tokens est en train de devenir une pratique courante.
- Les développeurs peuvent se retrouver à re-travailler considérablement le code généré par l’IA.
- Une évolution nécessaire semble s’annoncer sur la gestion des ressources dans le développement logiciel.
En réfléchissant à ces problématiques, je suis frappé par les implications de l’IA dans le monde technologique. Il est fascinant de voir comment les outils qui devraient accélérer notre travail requièrent en réalité davantage d’attention et de ressources. Cela soulève des questions sur l’avenir du développement logiciel et sur la manière dont nous allons gérer cette complexité. Comment les entreprises vont-elles s’adapter à ce nouvel environnement tout en préservant la qualité et l’efficacité ? C’est un débat qui mérite d’être prolongé.