Une puce comportant 2,6 billions de transistors, contre 5,4 milliards pour la plus puissante de Nvidia, et 56 fois plus grande. Avec WSE-2, « Cerebras a le plus gros circuit du monde, juge Fabien Clermidy, expert au CEA-List. Là où les autres constructeurs fabriquent 200 circuits dans une plaque de silicium de 300 millimètres de largeur, la start-up américaine prend toute la plaque pour n’y construire qu’un seul circuit, ultra-connecté, afin d’obtenir une mémoire interne 200 fois plus importante que les autres. »
Le processeur est donc adapté à l’apprentissage des très gros réseaux de neurones. Et pas n’importe lesquels. D’après Wired, Cerebras a proposé au leader du domaine, l’américain OpenAI, d’utiliser WSE-2 pour entraîner sa prochaine génération d’intelligence artificielle, GPT-4.
Vous lisez un article publié dans L'Usine Nouvelle n°3699 de novembre 2021
