Malgré des puces maison plus économes chez Google, Amazon et Microsoft, NVIDIA garde la main sur l'IA : le fabricant concentre encore plus de 90 % du marché des accélérateurs de data center. Sa force ne tient pas qu'au silicium, mais à un écosystème logiciel que personne n'a réussi à égaler.

Le verrou s'appelle CUDA

Le vrai fossé de NVIDIA, c'est CUDA : la couche logicielle qui permet de programmer ses GPU, mûrie depuis bientôt deux décennies et adoptée par environ cinq millions de développeurs. Les grands frameworks d'IA, PyTorch en tête, sont profondément optimisés pour CUDA. Migrer un projet vers une puce concurrente suppose de réécrire du code, de réoutiller des équipes et d'absorber une dette technique : pour la plupart des entreprises, le chemin le plus simple reste un GPU NVIDIA, souvent loué chez leur fournisseur cloud habituel.

À cela s'ajoute NVLink, l'interconnexion propriétaire à très haut débit qui relie des milliers de GPU dans un même cluster. C'est elle qui rend possible l'entraînement des modèles de pointe, où les puces doivent se synchroniser en permanence. Les ASIC concurrents s'appuient sur des liaisons maison (mesh optique, fabric Azure, EFA d'Amazon) qui n'ont pas encore la maturité du fabric de NVIDIA. Résultat : pour l'entraînement des grands modèles, le GPU reste l'option par défaut.

Les ASIC grignotent par l'inférence

La parade des géants du cloud, c'est la puce spécialisée (ASIC), conçue pour une tâche précise et donc plus efficace en énergie et en coût. Google aligne son TPU v7 « Ironwood », Amazon son Trainium 3 (qui revendique jusqu'à 50 % d'économie face aux instances NVIDIA), Microsoft sa puce Maia 200 et Meta ses accélérateurs MTIA. Ces composants, souvent co-conçus avec Broadcom ou Marvell, visent en priorité l'inférence — faire tourner un modèle déjà entraîné — qui représente désormais près des deux tiers des cycles de calcul d'IA.

C'est là que les économies pèsent le plus : Midjourney aurait ramené sa facture mensuelle de 2,1 à 0,7 million de dollars en passant aux TPU. Le marché des ASIC progresse à un rythme bien plus rapide que celui des GPU, et certains analystes voient la part de NVIDIA sur l'inférence reculer vers 20-30 % d'ici 2028, tout en restant dominant sur l'entraînement.

Mais les hyperscalers jouent double jeu : ils réservent leurs puces maison à leurs propres charges tout en restant d'énormes clients de NVIDIA. Tant que CUDA et NVLink garderont leur avance, et que la pénurie de capacité chez TSMC maintiendra les prix sous tension, le pari du GPU restera le réflexe par défaut de la plupart des acteurs qui dépensent dans l'IA.