Google a présenté deux nouvelles configurations de ses processeurs d’intelligence artificielle développés en interne, renforçant ainsi sa concurrence face à la domination de Nvidia sur le marché des puces IA. Le TPU 8tx est conçu pour les organismes publics et les entreprises des secteurs réglementés qui doivent protéger les informations sensibles pendant leur traitement. Le TPU 8i Max est conçu pour les systèmes d’IA qui doivent traiter de grandes fenêtres de contexte. Le TPU 8t cible l’entraînement de l’IA à grande échelle, tandis que le TPU 8i standard se concentre sur le raisonnement et l’inférence en temps réel. Cette expansion intervient alors que l’activité puces de Google occupe une place de plus en plus importante dans ses opérations cloud.La Tensor Processing Unit (TPU) est un circuit intégré spécifique à une application (ASIC) de type unité de traitement neuronal (NPU) développé par Google pour l'apprentissage automatique basé sur les réseaux neuronaux. TensorFlow, Jax et PyTorch sont des frameworks pris en charge par les TPU. Google a commencé à utiliser les TPU en interne en 2015, puis les a mis à la disposition de tiers en 2018, à la fois dans le cadre de son infrastructure cloud et en commercialisant une version plus compacte de la puce. Actuellement, Google Cloud tire l'essentiel de ses revenus liés aux produits de la vente de systèmes TPU.
Récemment, Google a présenté deux nouvelles configurations de ses processeurs d’intelligence artificielle développés en interne, renforçant ainsi sa concurrence face à la domination de Nvidia sur le marché des puces IA. Ces systèmes, baptisés TPU 8tx et TPU 8i Max, sont des versions spécialisées des unités de traitement tensoriel (TPU) de huitième génération existantes de Google, plutôt que des puces entièrement nouvelles. Google a initialement développé les TPU pour ses propres produits, notamment Search, YouTube et ses modèles d’IA Gemini. Depuis, l’entreprise les a rendus disponibles via Google Cloud et a commencé à fournir des systèmes TPU directement aux centres de données de certains clients.
Le TPU 8tx est conçu pour les organismes publics et les entreprises des secteurs réglementés qui doivent protéger les informations sensibles pendant leur traitement. Construit à partir du même silicium que le TPU 8t de Google et associé à des processeurs AMD personnalisés, il utilise des protections au niveau matériel pour isoler les données et les paramètres des modèles d’IA pendant leur utilisation active. Google a indiqué que le système offre une vitesse pouvant atteindre le double de celle du TPU 8t pour certaines opérations, sans pratiquement aucune perte de performances due à ses mesures de sécurité.
Le TPU 8i Max est conçu pour les systèmes d’IA qui doivent traiter de grandes fenêtres de contexte, telles que des bases de code logiciel entières ou des heures de vidéo. Google a combiné deux processeurs TPU 8i dans un seul boîtier, doublant ainsi la puissance de calcul, la mémoire intégrée et la capacité de mémoire à haute bande passante. Cette configuration est destinée à des applications exigeantes, notamment les assistants de codage, le raisonnement mathématique, la recherche scientifique et la découverte de médicaments. Ces deux systèmes portent à quatre le nombre de produits de la gamme de huitième génération de Google. Le TPU 8t cible l’entraînement de l’IA à grande échelle, tandis que le TPU 8i standard se concentre sur le raisonnement et l’inférence en temps réel.
L’action Alphabet a progressé de plus de 3 % en début de séance aux États-Unis à la suite de cette annonce. Cette expansion intervient alors que l’activité puces de Google occupe une place de plus en plus importante dans ses opérations cloud. Le chiffre d’affaires de Google Cloud a progressé de 103 % par rapport à l’année précédente pour atteindre 30,7 milliards de dollars au troisième trimestre, Alphabet soulignant que les ventes de systèmes TPU y avaient largement contribué. La société s’attend à ce que les ventes de TPU continuent de croître au cours du quatrième trimestre, avant une hausse plus importante du chiffre d’affaires en 2027.
Voici l'annonce de Google :
Nos tout derniers TPU : 8tx et 8i Max, conçus pour l’ère des agents
Nous avons conçu nos premiers TPU il y a plus de dix ans pour répondre aux besoins internes de Google, notamment en matière de reconnaissance vocale et de traduction. Huit générations de TPU plus tard, les cas d’utilisation se sont multipliés, couvrant : i) l’entraînement et le déploiement de nos propres modèles Gemini, ii) les charges de travail « agentic », iii) la fourniture de services aux clients de Google Cloud sur notre infrastructure cloud, et plus récemment, iv) la possibilité pour les clients de déployer des TPU directement dans leurs propres centres de données. Les TPU constituent désormais une activité en pleine croissance, avec près de 100 clients, parmi lesquels des laboratoires de recherche de pointe, des sociétés de trading, des détaillants, des universités et bien d’autres encore.
Lors de la conférence Google Cloud Next en avril, nous avons présenté deux nouveaux TPU spécialisés de la même génération : le 8t pour l’entraînement à grande échelle et le 8i pour le raisonnement en temps réel. Les TPU 8t et 8i offrent respectivement des performances d’entraînement jusqu’à 2,7 fois supérieures et un rapport prix/performances en inférence amélioré de 80 % par rapport à notre génération précédente de TPU.
Aujourd’hui, nous allons encore plus loin en élargissant notre gamme de TPU de huitième génération avec deux systèmes supplémentaires : le TPU 8i Max, destiné aux fenêtres de contexte massives et offrant la plus haute densité de calcul par rack, et le TPU 8tx, conçu pour une inférence sécurisée et confidentielle. C’est la première fois que nous lançons quatre systèmes TPU au cours d’une même année.
Bien que nous ayons toujours conçu nos TPU en partenariat avec Google DeepMind, nous recevons désormais de plus en plus de retours d’organisations externes concernant leurs besoins spécifiques. Alors que le calcul passe de l’échelle humaine à celle des agents, les entreprises réclament des accélérateurs capables d’effectuer des raisonnements sur les fenêtres de contexte massives des modèles d’IA. De plus, certains clients soumis à une réglementation stricte demandent des capacités de chiffrement spécialisées pour des charges de travail spécifiques.
Les nouveaux systèmes TPU que nous annonçons aujourd’hui répondent à cette nouvelle réalité. Conjuguées à nos récentes annonces concernant PyTorch, nos initiatives visent à rendre les TPU plus facilement accessibles à tous les développeurs et clients du Cloud. En combinant des puces modulaires sur mesure avec une pile logicielle ouverte et facile à utiliser, nous pouvons proposer de nouvelles configurations matérielles et système au rythme de l’évolution du secteur de l’IA.
Construire l’ordinateur autour de la puce
Aujourd’hui, nous annonçons deux nouveaux systèmes TPU — et il existe une différence importante entre une nouvelle puce et un nouveau système.
Concevoir une nouvelle puce implique de disposer des milliards de transistors microscopiques sur une plaquette de silicium, au cours d’un processus s’étalant sur plusieurs années, soumis aux lois de la physique et à un cycle de fabrication complexe et de longue durée. Un système, en revanche, concerne la manière dont nous regroupons les capacités de calcul, de mise en réseau et de stockage autour de la puce. Cela peut inclure la façon dont ces éléments sont intégrés aux puces, afin de répondre rapidement aux besoins émergents des clients et aux cas d’utilisation issus de la recherche.
Lorsque nous avons conçu notre tout premier TPU il y a plus de dix ans, nous savions que les logiciels d’IA évolueraient bien plus rapidement que ne le ferait jamais la fabrication de silicium. Nous avons donc misé dès le départ sur l’équilibre et la modularité du système, en concevant nos TPU comme des modules constitutifs de notre hyperordinateur d’IA, afin que les ingénieurs puissent adapter rapidement l’encapsulation, la mémoire haute vitesse, la mise en réseau optique et la sécurité autour de ceux-ci. Cette approche nous permet de fournir des supercalculateurs spécialisés en quelques mois plutôt qu’en plusieurs années.
Spécialisation pour une IA sécurisée et à fort contexte
Chaque système de notre gamme de TPU de huitième génération cible une étape distincte du cycle de vie de l’IA.
Les TPU 8t et TPU 8i ont établi la référence pour cette génération de puces :
- Le TPU 8t a été conçu pour être une véritable centrale de formation pour les modèles de base massifs, avec un « goodput » maximal — c’est-à-dire l’intelligence utile fournie par watt d’énergie consommé.
- Le TPU 8i est le moteur de raisonnement, conçu pour repousser les limites de la mémoire, en réduisant de moitié les délais de communication entre puces.
Aujourd’hui, alors que les entreprises déploient des agents autonomes en production, nous avons créé deux nouvelles configurations de ces systèmes fondamentaux pour relever deux nouveaux défis urgents : la sécurité des données au niveau matériel et l’échelle contextuelle de plusieurs millions de tokens.
TPU 8tx
Le TPU 8tx, notre troisième système de huitième génération, est optimisé pour une inférence sécurisée et confidentielle, et convient également parfaitement à l’entraînement à petite échelle. Il est conçu pour les entreprises soumises à une réglementation et les administrations publiques qui exploitent des modèles de pointe ou propriétaires, ainsi que des agents autonomes, aux côtés de leurs données les plus sensibles.
En règle générale, les données sont chiffrées lorsqu’elles sont stockées ou transmises sur un réseau, mais doivent être déchiffrées en mémoire pendant leur traitement par l’ordinateur. Construit sur la même puce que le TPU 8t et associé à des hôtes équipés de processeurs AMD EPYC de 5e génération, le TPU 8tx intègre la sécurité directement au niveau matériel, garantissant ainsi la protection et l’isolation des données sensibles et des poids des modèles, même lorsqu’ils sont activement utilisés. De plus, en adoptant le même réseau Boardfly à faible latence que nous avons créé pour le raisonnement en temps réel, le TPU 8tx assure le fonctionnement continu des agents à plusieurs étapes, offrant une latence jusqu’à deux fois inférieure à celle du TPU 8t, avec une perte de performances quasi nulle.
La combinaison d'une puissance de calcul dédiée à l'entraînement et d'un réseau d'inférence rapide permet également aux entreprises d'exécuter et de personnaliser simultanément leurs modèles sur un seul et même système. Le TPU 8tx permet aux équipes d'affiner leurs modèles à l'aide de leurs données privées, de réduire la taille des modèles volumineux et de former leurs agents par apprentissage par renforcement, le tout sans avoir à transférer de données sensibles entre différents clusters.
TPU 8i Max
Notre quatrième système, le TPU 8i Max, est conçu pour répondre à un autre défi : la barrière de la mémoire.
Lorsque des dizaines d’agents d’IA travaillent simultanément sur l’intégralité d’une base de code logiciel ou sur des heures de vidéo, la bande passante mémoire devient rapidement un goulot d’étranglement. Nous avons donc pris deux puces TPU 8i à faible latence et les avons combinées au sein d’un seul boîtier.
Le TPU 8i Max fait évoluer la puissance de calcul et la mémoire de manière synchronisée, offrant le double de la puissance de calcul, le double de la SRAM et le double de la bande passante HBM du TPU 8i. Ainsi, les processeurs restent alimentés en données essentielles et les charges de travail volumineuses ne sont pas ralenties. De plus, comme le TPU 8i Max intègre deux fois plus de silicium dans l’encombrement existant d’un rack, les centres de données peuvent déployer une puissance de calcul nettement supérieure par pied carré et par watt.
Tout en offrant une grande flexibilité pour toutes sortes de charges de travail, les quatre systèmes de notre huitième génération de TPU fournissent aux clients un accélérateur spécialement conçu pour chaque étape du cycle de vie des agents. Le TPU 8t pour l’entraînement à grande échelle, le TPU 8i pour le raisonnement à faible latence, le TPU 8tx pour le calcul confidentiel et le TPU 8i Max pour les fenêtres de contexte massives et la plus haute densité de calcul par rack.
Rendre les TPU accessibles à tous les développeurs
Lorsque nous avons lancé le premier TPU il y a plus de dix ans, seules quelques entreprises exécutaient des charges de travail nécessitant la puissance de traitement d’un TPU. Les cas d’utilisation étaient spécialisés ; les ingénieurs devaient donc recourir à des frameworks optimisés et à du code réglé manuellement.
Au fil des années, à mesure que l’IA progressait, de plus en plus d’entreprises ont commencé à utiliser des accélérateurs. Aujourd’hui, l’adoption de l’IA a atteint un stade où les TPU constituent une solution idéale pour un large éventail d’entreprises et de cas d’utilisation. C’est pourquoi nous avons travaillé de manière systématique à lever les obstacles à leur adoption, afin que les TPU soient aussi faciles à utiliser que du matériel à usage général.
Cet investissement se concrétise aujourd’hui dans les domaines clés suivants :
- Ouverture du développement TPU à tous les développeurs PyTorch ; aucune réécriture de code n’est nécessaire : le mois dernier, nous avons open-sourcé TorchTPU ; ainsi, le code PyTorch et les modèles Hugging Face s’exécutent désormais en mode natif sur les TPU, parallèlement à des backends TPU prêts à l’emploi pour les principaux moteurs d’inférence open source tels que vLLM et SGLang. Et pour faciliter l’optimisation matérielle, notre nouvelle suite d’agents TPU open source (actuellement en préversion) s’intègre directement à des outils de codage tels que Claude Code, Cursor et Google Antigravity afin d’automatiser la mise en service des TPU en quelques minutes, de diagnostiquer les goulots d’étranglement et d’ajuster automatiquement les noyaux personnalisés à l’aide d’un langage naturel. Pour les déploiements en production, notre nouveau moteur de service XLA open source vous permet d’entraîner des modèles en Python et de les exécuter directement dans un environnement d’exécution C++ à faible latence sur les TPU, les GPU et les CPU.
- Des performances de production de pointe selon les benchmarks InferenceX et AgentX : En production, ce qui compte vraiment, ce sont les résultats obtenus sur des charges de travail d’IA réelles, plutôt que les vitesses de pointe théoriques des puces. Sur les benchmarks InferenceX et AgentX, références du secteur qui testent le codage agentique réaliste et le traitement de contextes longs, notre pile logicielle native vLLM-TorchTPU sur TPU a atteint des scores de rapport prix-performance de pointe. De nouvelles évaluations démontrent que ces avantages s’étendent à un large éventail de modèles ouverts de pointe et de piles de service open source, tout en conservant une grande précision des...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.