La conférence annuelle Google I/O a eu son lot d’annonces, aussi du côté matériel. Depuis quelque temps, Google utilise ses propres processeurs pour des opérations sur les réseaux neuronaux : des TPU (tensor processing unit), d’abord pour de l’inférence, puis aussi de l’entraînement de ces réseaux. En 2018, la troisième génération de ces processeurs devrait débarquer dans les centres informatiques de Google. La conception améliorée devrait augmenter fortement la densité de calcul : une capsule de TPU devrait offrir une puissance huit fois supérieure à une capsule de seconde génération, chaque processeur étant approximativement deux fois plus puissant (chacun pourrait offrir jusqu’à trois cent soixante téraflops !).
Comme pour la deuxième génération, chaque carte TPU est composée de quatre puces, mais aussi d’un caloporteur pour le refroidissement par de l’eau, nécessaire par l’augmentation de la densité. La quantité de mémoire augmente fortement, pour atteindre cent vingt-huit gigaoctets de mémoire à très haute bande passante par carte (le double de la génération actuelle) : ces processeurs seront donc bien mieux adaptés aux modèles actuels et aux quantités de données de plus en plus importantes qu’ils doivent traiter.
La comparaison à la concurrence est cependant difficile. Pour cet équipement, Google compte les opérations sur des nombres à virgule flottante sur seize bits avec un format propriétaire (plus de bits pour l’exposant et moins pour la mantisse par rapport à la norme IEEE 754, implémentée par les processeurs conventionnels). Il n’empêche que Google offre maintenant des processeurs graphiques dans son service infonuagique, en plus de ses propres TPU. À n’en pas douter, cependant, ces derniers seront de plus en plus privilégiés…
Source : Google Offers Glimpse of Third-Generation TPU Processor.
Et vous
Qu'en pensez-vous ?Voir aussi
Google revient sur les forces et faiblesses de ses TPU, pour les réseaux neuronaux et donne quelques éléments sur la deuxième génération Google confirme son intention de présenter le premier ordinateur quantique de 49 qubits au monde, avant la fin de l'année 2017 Google veut livrer ses ordinateurs quantiques sous forme de services de cloud computing, et encourage le développement d'applications dédiées