Au début de la pandémie de COVID-19, les consommateurs se sont rués sur le papier toilette et la levure. Le papier était un produit de première nécessité, tandis que la levure symbolisait l’engouement pour la panification maison. Cependant, il est intéressant de se demander combien de personnes ont réellement fait du pain. Aujourd’hui, un phénomène analogue se produit dans les centres de données, où les géants du cloud ont investi des milliards dans des GPU pour l’intelligence artificielle, mais où 95% de ces équipements restent souvent inactifs.
Tout cela est alimenté par la peur de manquer une opportunité.
Kubernetes. Avant d’aller plus loin, clarifions ce qu’est Kubernetes. C’est un système de gestion dans les centres de données, une sorte de “chef d’orchestre” qui organise et supervise tous les logiciels déployés. Imaginez un centre de données comme un supermarché, où les étagères représentent les serveurs et les produits, les applications.
Exemple de tableau de bord
Ce “chef” s’assure que chaque produit est placé au meilleur endroit et surveille en permanence la circulation des données pour garantir un fonctionnement optimal. En somme, il s’agit d’un logiciel qui gère des milliers de serveurs de manière efficace 24 heures sur 24.
La situation actuelle. Selon le rapport 2026 sur l’optimisation de Kubernetes de Cast AI, une ineficacité majeure est mise en lumière : l’utilisation des ressources dans les centres de données est alarmante. En analysant près de 23 000 clusters sur des plateformes telles qu’AWS, Azure et GCP, ils ont constaté que l’utilisation moyenne des GPU n’était que de 5%.
Cela signifie que 95% des GPUs restent inactifs, poussant les entreprises à investir dans une capacité de calcul largement supérieure à leurs besoins réels. Cette réalité soulève des questions sur la pertinence du marché actuel, notamment en ce qui concerne les coût élevés des RAM et SSD.
Une tendance inquiétante. Cast AI signale que c’est la troisième année consécutive où ils relèvent une détérioration des chiffres. L’utilisation des CPU a chuté de 10% l’année précédente à 8% aujourd’hui, tandis que l’utilisation de la mémoire est passée de 23% à 20%.
Un besoin excessif. Même si l’utilisation des ressources diminue, les géants du cloud continuent d’acheter à un rythme effréné. Leur surapprovisionnement en CPU est passé de 40% à 69%, alors qu’en matière de mémoire, ce chiffre a atteint 79%.
La peur de manquer. Récemment, un dirigeant de SMIC, un important acteur de la technologie en Chine, a évoqué la frénésie d’achat des grandes entreprises tech, qui semblent investir massivement en anticipant leurs besoins sur la prochaine décennie, mais en seulement quelques années. Ils créent ainsi des infrastructures surdimensionnées sans une réelle demande.
Ce phénomène, connu sous l’acronyme FOMO (fear of missing out), contraint les entreprises à faire des achats impulsifs, alimentant un cycle de pénurie de composants qui impacte tant les consommateurs que l’industrie elle-même. Bien que ce soit compréhensible d’acheter maintenant en raison des délais de livraison prolongés, ces délais résultent précisément du fait que tout le monde achète trop.
Des équations qui ne tiennent pas. Bien que certains clusters atteignent un bon niveau d’exploitation, avec 49% d’utilisation de leurs GPUs ou 30% pour d’autres modèles, ces cas restent des exceptions. L’inefficacité générale entraîne des pertes économiques, car la sous-utilisation des machines ne permet pas de rentabiliser les investissements. En moyenne, une CPU inactive coûte quelques centimes par heure, tandis qu’une GPU inactif peut coûter plusieurs dollars.
Les centres de données comme Amazon et Azure ne se contentent pas de répondre à leurs propres besoins, mais louent également leur capacité de calcul. En raison de leur sous-utilisation, les tarifs de ces locations ont considérablement augmenté ces derniers mois.
L’avenir incertain. Cast AI présente peu d’optimisme, affirmant que la plupart des acteurs préfèrent continuer à assumer ces coûts plutôt que de modifier leurs habitudes, de peur que la demande n’augmente et qu’ils ne soient pas prêts. En d’autres termes, il se pourrait que je ne puisse jamais obtenir ma Steam Machine, tant que tout le monde se concentre sur du matériel destiné à l’IA.
Image | NVIDIA
Points à retenir
- Baisse significative de l’utilisation des GPU dans les centres de données, avec un taux moyen de 5%.
- Surapprovisionnement en ressources malgré une utilisation en déclin.
- Des délais de livraison allongés dus à une demande excessive.
- Les taux de location des capacités de calcul en hausse, impactant les utilisateurs.
- Un besoin d’adaptation des habitudes d’achat au sein des entreprises pour éviter les excès.
Ce rapport met en lumière des problématiques cruciales qui méritent d’être discutées. La tendance observée dans les centres de données illustre un paradoxe saisissant : comment des investissements colossaux peuvent-ils déboucher sur une telle inefficacité ? Cette question appelle à une réévaluation globale des stratégies d’approvisionnement et d’utilisation des ressources, tant au niveau des entreprises que des consommateurs. Qu’en pensez-vous ?