Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Cerebras lance une énorme puce de 22 cm pour l'entraînement de réseaux neuronaux
400 000 cœurs avec 18 Go de registres

Le , par dourouc05

33PARTAGES

22  0 
Le domaine de l'"intelligence artificielle" (en pratique, juste des réseaux neuronaux profonds) nécessite d'énormes quantités de calculs, donc d'énergie : pour entraîner et optimiser les hyperparamètres d'un modèle (un total de 4789 tentatives, 239 942 heures de calcul), il faut entre cent et trois cent cinquante mille dollars (en louant de la puissance de calcul). En émissions de CO2 (méthodes de calcul dans l'article, section 2), on parle de 35 600 kg ; en comparaison, une voiture en émet, sur toute sa durée de vie, 57 000 kg.

L'entraînement de ces réseaux neuronaux a commencé sur des CPU, puis sur des cartes graphiques, avec une grande diminution des temps de calcul et de la consommation énergétique. Pour aller plus loin, une jeune société, Cerebras, propose de changer d'approche. Un CPU compte quelques milliards de transistors, des GPU jusqu'une vingtaine, le processeur de Cerebras monte à mille milliards de transistors, sur une puce bien plus grande (cinquante-six fois plus grande que le plus grand GPU actuel). Un seul tel processeur pourrait remplacer plusieurs centaines de GPU, notamment grâce à une grande réduction des communications entre processeurs.


Cette puce comporte une très grande quantité de mémoire : 18 Go de registres (SRAM) sur la puce ; une quantité aussi astronomique de cœurs de calcul : 400 000. En comparaison, la carte de calcul la plus superlative de NVIDIA (la T4) monte à 16 Go de mémoire (GDDR6, bien plus lente que de la SRAM) et 2560 cœurs. D'une certaine manière, cette puce est un interposeur sur silicium. À terme, la société envisage de vendre des serveurs complets construits autour d'une telle puce, plutôt que de les vendre à l'unité ou comme cartes d'extension ; aucun prix n'a encore été annoncé.

Ces puces sont fabriquées par TSMC, certains membres de la société en ont parlé comme des plus grandes puces jamais fabriquées. De manière générale, les puces sont fabriquées par photolithographie sur des galettes (circulaires) de silicium, d'un diamètre souvent de 300 mm : on ne peut placer qu'une seule puce de Cerebras sur une telle galette, par conception. D'habitude, on peut placer plusieurs centaines de puces sur une même galette ! Cette distinction a même fait que TSMC a dû adapter ses machines.

Source : To Power AI, This Startup Built a Really, Really Big Chip.

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Steinvikel
Membre expérimenté https://www.developpez.com
Le 20/08/2019 à 10:49
Mon parcourt d'électronicien me dirait qu'évidemment oui, à l'image du pourquoi un SSD peut consommer beaucoup en regard de sa capacité de stockage.
... mais mes connaissances du marché et de la thermodynamique ponctuent grandement cette affirmation :

- à moins que le routage de l'énergie se fasse sur des fils de graphènes ou nanotube de carbone, leur section /proximité impose un courant /tension limite, sous peine de s'échauffer grandement.

- bien que des avancés ont été faites sur le routage de la chaleur, elles sont recentes, brevetés, et pas transcendantes... ce qui limite grandement la puissance potentielle (moins sous helium liquide) ^^

- une nouvelle manière de fabriquer, concevoir graver... présente toujour son joyeux lot de défauts, ainsi les produits qui ont pour but d'en remplacer d'autres se presentent bien souvant simplement concurrentiels, et non comme une domination absolu sur tout les domaines.

Mon avis persos :
c'est voué à être utilisé avec un refroidissement démesuré, et comsommera peut-être pas proportionnellement au nombre de coeur, en regard d'un CPU classique, mais enormement plus tout de même... pourquoi pas une fourchette entre 1'000-10'000 W
PS: un CPU moyen /haut de gamme a déjà des pic de consommation qui dépasse 500 W.
(oui, des pic à un peu plus de 40 A sur les broches 12V du connecteur CPU... on comprend pourquoi les cables intègrent parfois des condensateurs)
3  0 
Avatar de LittleWhite
Responsable 2D/3D/Jeux https://www.developpez.com
Le 20/08/2019 à 9:24
Bonjour,

Je me demande si cela a un impact sur la consommation électrique (je veux dire : est-ce que la puce va consommer énormément plus qu'une puce "classique").
2  0 
Avatar de Steinvikel
Membre expérimenté https://www.developpez.com
Le 21/08/2019 à 19:14
Les 40A sur le connecteur CPU 4/8 broches ne dépendent pas de la carte-mère (si l'on néglige les pertes de l'étage d'alimentation CPU), mais dépend uniquement de la "consomation" du CPU.
Ces "pic" de 40A ne durent pas, ils se compte en micro/mili-secondes, ce qui n'est pas suffisant pour créer un échauffement perceptible. En revanche l'oxydation du connecteur y place une grande résistivité parasite suffisante pour faire fondre les broches et le plastique pendant un "usage" poussé sur une dizaines de secondes seulement... attention aux pièces humides donc ! ^^'

Toutes alim de "marque" qui se respecte (cad pas les no name, ni celles à 10€) peuvent dépasser allègrement les valeurs nominales, jusqu'à un certain seuil, sur une durée restreinte évidement. Toute personnes te prétendant le contraire, n'y connait rien, ou alors elle vulgarise, ne parlant pas dans un contexte absolu.

PS: est-ce qu'aujourd'hui un PC moyen de gamme (900-1300€) peut se contenter d'une alim 400W ?
--> non, parce que le couple CPU/GPU ont des pic de conso cumulés qui peuvent dépasser ces seuils et provoquer la mise en sécurité de l'alim (OCP), ça resemble à une coupure de courant en plus sec du point de vu du PC (adieux les SSD mal équipé en sécurité electrique --> des histoires de mappage, briqué, etc.)
exemple: AMD 2600 + Nvidia 2060 ...ont besoin d'une alim 550W pour s'assurer que l'on active jamais la protection de dépassement de courant. Sinon c'est la loterie en fonction de l'usage, du logiciel, de l'âge de l'alim, de l'environnement physique (les seuils s'abaissent avec la monté en température), etc.

je vais éditer ce message dans quelques jours pour mettre les valeurs concrètes à l'exemple cpu/gpu

je suis sûr que tu trouvera un semblant de ressemblance sur les tests d'alim de feu www.hardware.fr
3  1 
Avatar de onilink_
Membre expérimenté https://www.developpez.com
Le 20/08/2019 à 10:34
Impressionnant! J'imagine qu'au niveau de la consommation ça reste beaucoup plus intéressant que les 50 gpu équivalents, sinon ça n'aurait aucun intérêt (enfin à part le "Whoho"), mais j'imagine que ça consomme pas mal car dans l'article original ils parlent de refroidissement avec des conduits d'eau directement sur la puce car elle chauffe énormément.
Most computers keep cool by blowing air around, but Cerebras had to design a system of water pipes that run close by the chip to prevent it from overheating.
Par contre je me demande comment ils gèrent le cas ou il y aurait des impuretés sur des parties du waffer. J'imagine qu'ils ont des moyens efficaces de désactiver des cores endommagés.

C'est dingue en tout cas, j'ose pas imaginer le coût...
1  0 
Avatar de Alexcouter
Membre du Club https://www.developpez.com
Le 21/08/2019 à 15:56
Citation Envoyé par Steinvikel Voir le message
PS: un CPU moyen /haut de gamme a déjà des pic de consommation qui dépasse 500 W.
?? Je ne vois pas comment, étant donné qu'une MB va au grand maximum demander 150W et qu'un PC en burn peut tenir sur une alimentation de 400W avec un GPU à côté.
De plus, avec 40A, vu les câbles des broches 12V, ils seraient fondus au premier démarrage. Je me trompe peut-être, mais c'est la première fois que je lis ça..
1  1 
Avatar de Steinvikel
Membre expérimenté https://www.developpez.com
Le 20/08/2019 à 14:17
...et le pic de 40 A se passe sur le connecteur 12V, c'est à dire avant l'étage d'alimentation de la carte-mère pour CPU et avant le second de régulation intègré au processeur, qui régule autour de 3V & 1,5V.

PS : en général on discrimine en Ampères pour les questions d'échauffement, et en Volt pour les questions de perturbation locales, mais si la récursivité du circuit de "transport" devient non négligeable (contextuel), il faut également tenir compte des Watts (Ampères x Volts)

Citation Envoyé par onilink_ Voir le message
(...) mais j'imagine que ça consomme pas mal car dans l'article original ils parlent de refroidissement avec des conduits d'eau directement sur la puce car elle chauffe énormément.
pas exactement, il y est intercalé une "plaque froide" sur laquelle est interfacé le watercooling.

Citation Envoyé par onilink_ Voir le message
Par contre je me demande comment ils gèrent le cas ou il y aurait des impuretés sur des parties du waffer. J'imagine qu'ils ont des moyens efficaces de désactiver des cores endommagés.
ils utilisent une architecture ou plusieurs coeur distincts font le même travail pour en finalité avoir une architecture redondante mais résiliente.
Donc en vérité on est plus proche de la centaine de milliards de transistors que du millier de milliards (1'200 milliards), plus proche de 40k coeurs logiques que des 400k physiques. =\
0  1 
Avatar de Alexcouter
Membre du Club https://www.developpez.com
Le 21/08/2019 à 20:36
Citation Envoyé par Steinvikel Voir le message
Toutes alim de "marque" qui se respecte (cad pas les no name, ni celles à 10€) peuvent dépasser allègrement les valeurs nominales, jusqu'à un certain seuil, sur une durée restreinte évidement. Toute personnes te prétendant le contraire, n'y connait rien, ou alors elle vulgarise, ne parlant pas dans un contexte absolu.

PS: est-ce qu'aujourd'hui un PC moyen de gamme (900-1300€) peut se contenter d'une alim 400W ?
--> non, parce que le couple CPU/GPU ont des pic de conso cumulés qui peuvent dépasser ces seuils et provoquer la mise en sécurité de l'alim (OCP), ça resemble à une coupure de courant en plus sec du point de vu du PC (adieux les SSD mal équipé en sécurité electrique --> des histoires de mappage, briqué, etc.)
exemple: AMD 2600 + Nvidia 2060 ...ont besoin d'une alim 550W pour s'assurer que l'on active jamais la protection de dépassement de courant. Sinon c'est la loterie en fonction de l'usage, du logiciel, de l'âge de l'alim, de l'environnement physique (les seuils s'abaissent avec la monté en température), etc.
Ah d'accord, merci pour la petite explication (Je connais bien HFR, et meme CPC avec ses tests Heden/Advance)

Perso je suis sur une Corsair 450W avec i7-7700k et 1070 avec 5HDD + 5 Ventilos. J'ai jamais eu de soucis de charge. Après c'est pas tous les jours que je tire à 100% sur le PC (même avec un build). Le ventilo de l'alim a jamais soufflé.

Citation Envoyé par Steinvikel Voir le message
je vais éditer ce message ds qq jours pour mettre les valeurs concrètes à l'exemple cpu/gpu
Avec plaisir
0  1 
Avatar de Steinvikel
Membre expérimenté https://www.developpez.com
Le 28/08/2019 à 13:49
Citation Envoyé par Steinvikel Voir le message
PS: est-ce qu'aujourd'hui un PC moyen de gamme (900-1300€) peut se contenter d'une alim 400W ?
--> non, parce que le couple CPU/GPU ont des pic de conso cumulés qui peuvent dépasser ces seuils et provoquer la mise en sécurité de l'alim (OCP)
(...)
je vais éditer ce message dans quelques jours pour mettre les valeurs concrètes à l'exemple cpu/gpu
Pour l'exemple de conso, j'aurais préféré directement éditer mon message, mais a priori, au-delà d'un certain délai, il n'est plus possible d'éditer. bref, me voilà de retour chez moi.
contexte : démonstration qu'une alim classique de 400 W nominal n'est pas toujours suffisante, même en moyen de gamme.

config à 1200 €
GPU : AMD RX Vega 56 (<300€), pic de conso à 280 W
CPU : AMD R5 2600 (<150€), pic de conso à 135 W (180 W pour la version X)
...on est donc à 415 W sur de la torture. disons que l'on retire 20% pour se rapprocher de la réalité --> 332 W, il faut rajouter la conso des autres composants.
SSD : (PCIe) Gigabyte Aorus RGB AIC, 512 Go (175€) --> 1-15 W
CM : chipset AMD B450 --> ASRock B450 Pro4 (100€) --> 1-10 W
RAM : 2x 8 Go 3200 MHz (<120€) --> 4-7 W
HDD : 2 To (50€) --> 5 W (HDD bas de gamme, juste là pour archiver, pas pour opérer avec des traitements lourd)
CPU fan : 1x 120mm (<20€) --> 1,5 W (2,5 max)
CPU case : 2x 140mm (20€) --> 2,5 W (3,3 max) + 1x 120mm --> 6 w (9 max)
USB : charge ou alimentation 2A --> 10 W

résumons : 333 W (en pic) pour le CPU/GPU + 57 W (constant, comparativement aux pic de quelques centaines de ms) --> 390 W presque exclusivement sur le rail 12 Volt, sur une alim de 400 W, en tenant compte du fait que l'on a pris une marge optimiste de 20% sur la consommation en torture (test synthétique).
si je prend une alim haut de gamme --> 400 W à 120€ (80+ Platinium) --> Seasonic Fanless SS-400FL (X-400 Fanless) ...elle permet 396 W sur son rail 12W, mais seulement 400W en tout en combinant les autres rails (3,3V, 5V...)
si je prend n'importe quelle alim premier prix (de marque) --> 450 W à 40€ (80+ bronze) --> Corsair Builder Series VS350 ...elle ne permet que 300 W sur son rail 12V, et encore moins si d'autres tensions sont sollicités (consommation combiné). De plus, elle chauffe plus (beaucoup plus) et voit donc ses seuils protection être plus strict (se déclenche à des seuils plus petits).
Avec cette dernière alim' Corsair, on est plutôt large pour jouer avec du League of Legends, beaucoups moins sur des jeux optimisés ou gourmands. En jouant à Ashe of the Singularity par exemple, en poussant les réglages de jeux au max, on est sur de faire sauter l'alim.
0  1 
Responsable bénévole de la rubrique Hardware : chrtophe -

Partenaire : Hébergement Web