NVIDIA a dévoilé ce 6 janvier 2025 le projet Digits, un supercalculateur personnel d'IA qui permet aux chercheurs en IA, aux data scientists et aux étudiants du monde entier d'accéder à la puissance de la plateforme NVIDIA Grace Blackwell. Digits est un superordinateur suffisamment petit pour tenir sur un bureau, mais il est très performant. Son cœur est la puce Superchip GB10 Grace Blackwell, co-développée avec MediaTek et, avec 128 Go de mémoire unifiée et jusqu'à 4 To de stockage NVMe, Digits est taillé sur mesure pour gérer de grandes charges de travail d'IA.
Le projet Digits de Nvidia ouvre de nouvelles portes à une grande variété d'utilisateurs :
- Développeurs : Construisez et entraînez des modèles avancés sans dépendre de services cloud tiers.
- Chercheurs : Testez des scénarios d'IA complexes en interne sans investissements massifs.
- Étudiants et amateurs : Explorez les capacités de l'IA qui étaient autrefois hors de portée des utilisateurs non professionnels.
« L'IA va se généraliser dans toutes les applications et dans tous les secteurs d'activité. Avec le projet Digits, la puce Superchip Grace Blackwell se met à la portée de millions de développeurs », a déclaré Jensen Huang, fondateur et CEO de NVIDIA. « Placer un supercalculateur d'IA sur le bureau de chaque data scientist, de chaque chercheur en IA et de chaque étudiant leur permet de s'engager et de façonner l'ère de l'IA. »
La puce Superchip GB10 fournit un pétaflop de performance IA économe en énergie
Le projet Digits est équipé de la nouvelle puce Superchip NVIDIA GB10, un système sur puce (SoC) basé sur l'architecture Grace Blackwell de NVIDIA, qui offre une performance informatique d'IA jusqu'à 1 pétaflop avec une précision FP4 pour le prototypage, la mise au point et l'exécution de grands modèles d'IA.
« Le projet Digits, avec la nouvelle puce GB10 conçue avec MediaTek, rend notre plus puissante plateforme Grace Blackwell plus accessible, la plaçant entre les mains des développeurs, des chercheurs et des étudiants pour résoudre les problèmes les plus urgents de notre époque », a déclaré Jensen Huang, PDG de Nvidia, au moment du lancement.
La puce GB10 est équipée d'un GPU NVIDIA Blackwell avec des cœurs CUDA de dernière génération et des cœurs Tensor de cinquième génération, connectés via l'interconnexion puce à puce NVLink-C2C à un CPU NVIDIA Grace de haute performance, qui comprend 20 cœurs économes en énergie construits avec l'architecture Arm. MediaTek, leader du marché des conceptions de SoC basés sur Arm, a collaboré à la conception du GB10, contribuant à son efficacité énergétique, ses performances et sa connectivité, les meilleures de sa catégorie.
La Superchip GB10 permet au projet Digits d'offrir des performances puissantes en utilisant uniquement une prise électrique standard. Chaque projet Digits est doté de 128 Go de mémoire unifiée et cohérente et d'une capacité de stockage NVMe pouvant atteindre 4 To.
Digits n'est pas seulement puissant, il est aussi polyvalent. Avec le supercalculateur, les développeurs peuvent faire tourner des grands modèles de langage comportant jusqu'à 200 milliards de paramètres, une métrique qui mesure la complexité du modèle, pour stimuler l'innovation en matière d'IA. Cela change la donne pour les amateurs et les chercheurs qui avaient auparavant besoin de services cloud coûteux ou de configurations personnalisées pour exécuter des modèles d'IA avancés.
Avec le projet Digits, les utilisateurs peuvent développer et exécuter l'inférence sur des modèles en utilisant leur propre système de bureau, puis déployer de manière transparente les modèles sur une infrastructure accélérée de cloud ou de centre de données.
Pour aller plus loin ? Il suffit de connecter deux machines Digits à l'aide de l'interconnexion à grande vitesse de Nvidia pour exécuter des modèles aussi vastes que Llama de Meta, avec 405 milliards de paramètres. Cette fonctionnalité place Digits dans une ligue à part pour l'expérimentation avec des modèles d'IA proches de l'état de l'art.
Le supercalculateur Grace Blackwell AI à portée de main
Grâce à l'architecture Grace Blackwell, les entreprises et les chercheurs peuvent prototyper, affiner et tester des modèles sur des systèmes locaux Project Digits fonctionnant sous Linux avec NVIDIA DGX OS, puis les déployer en toute transparence sur NVIDIA DGX Cloud, des instances cloud accélérées ou une infrastructure de centre de données.
Les développeurs peuvent ainsi prototyper l'IA sur Project Digits, puis la faire évoluer sur une infrastructure cloud ou de centre de données, en utilisant la même architecture Grace Blackwell et la plateforme logicielle NVIDIA AI Enterprise.
Les utilisateurs de Project Digits peuvent accéder à une vaste bibliothèque de logiciels d'IA de NVIDIA pour l'expérimentation et le prototypage, notamment des kits de développement logiciel, des outils d'orchestration, des frameworks et des modèles disponibles dans le catalogue NVIDIA NGC et sur le portail NVIDIA Developer. Les développeurs peuvent affiner les modèles avec le framework NVIDIA NeMo, accélérer la science des données avec les bibliothèques NVIDIA RAPIDS et exécuter des frameworks communs tels que PyTorch, Python et les notebooks Jupyter.
Pour créer des applications d'IA agentique, les utilisateurs peuvent également exploiter les Blueprints NVIDIA et les microservices NVIDIA NIM, qui sont disponibles pour la recherche, le développement et les tests via le programme des développeurs NVIDIA. Lorsque les applications d'IA sont prêtes à passer de l'expérimentation aux environnements de production, la licence NVIDIA AI Enterprise fournit une sécurité de niveau entreprise, un support et des versions de produits du logiciel d'IA de NVIDIA.
Bien que Digits ne puisse pas encore égaler la puissance des systèmes propriétaires utilisant GPT-4 d'OpenAI ou Gemini de Google, il comble le fossé entre le matériel d'IA destiné au grand public et celui destiné aux entreprises. Il complète également la gamme Jetson de Nvidia, qui propose du matériel d'IA à partir de 250 dollars pour les petits modèles ou les applications robotiques.
Digits est plus qu'un simple outil, c'est une déclaration. Nvidia mise beaucoup sur la démocratisation de l'IA, en permettant à un plus grand nombre de personnes de construire, de tester et d'innover avec des technologies d'IA avancées. Avec Digits, l'avenir de l'IA n'est pas seulement dans le cloud, il est aussi sur le bureau.
Cette nouvelle initiative de Nvidia renforce la position clé de l'entreprise dans le domaine de l'IA. Poursuivant son ascension fulgurante, Nvidia a dépassé Apple et Microsoft pour devenir l’entreprise avec la plus grosse capitalisation boursière au monde au cours du mois de juin 2024. Avec une valorisation boursière impressionnante de 3,335 trillions (1 trillion étant 1 000 milliards) de dollars américains, Nvidia a vu ses actions grimper de 3,5%, atteignant 135,58 dollars par action. Cette montée en puissance est principalement attribuée à la demande croissante pour les technologies d’IA, un domaine où les processeurs avancés de Nvidia sont devenus incontournables.
Et vous ?
Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative de Nvidia crédible ou pertinente ?
Voir aussi :
Le chiffre d'affaires de Nvidia explose de 94 % grâce à la demande dans l'IA et les puces de centres de données, atteignant 35,08 milliards de dollars et dépassant les attentes de 1,8 milliard de dollars
Le patron de Nvidia, Jensen Huang, prévoit que la puissance de calcul pour l'IA sera multipliée par un million dans une décennie, rejetant l'idée que l'IA « se heurte à un mur »
Nvidia va mettre en open source Run:ai, le logiciel qu'elle a acquis pour 700 millions $ afin d'aider les entreprises à gérer les GPU pour l'IA, l'ouverture permettra d'étendre la disponibilité du logiciel