Nvidia Opte Pour Les Processeurs Xeon D’Intel Pour Ses Boîtiers DGX B300
Table of Contents
PARIS – 29 mai 2024 – Nvidia fait un choix stratégique en intégrant les processeurs Xeon d’Intel dans ses nouveaux boîtiers DGX B300. Cette alliance,dévoilée lors du Computex,vise à booster les performances des systèmes d’intelligence artificielle (IA). On découvre ici pourquoi et comment Nvidia se tourne vers Intel, en examinant les implications de cette collaboration pour l’avenir de l’IA. Poursuivez votre lecture pour décrypter les enjeux de cette surprenante alliance et ses répercussions sur le marché.
Nvidia Opte Pour Les Processeurs Xeon D’Intel Pour Ses Boîtiers DGX B300
Une analyze approfondie de la collaboration entre Nvidia et Intel pour les systèmes d’IA de pointe.
L’Alliance Surprenante : Nvidia Et Intel Unissent Leurs Forces
Alors que Nvidia dévoilait son processeur Grace basé sur Arm en 2021, beaucoup y voyaient une menace directe pour Intel et AMD. Quatre ans plus tard, bien que le silicium basé sur Arm soit au cœur des systèmes d’IA les plus puissants du géant des GPU, il n’a pas complètement remplacé x86.
Lors du Computex, Intel a révélé trois nouveaux processeurs Xeon 6, dont un qui servira de processeur hôte dans la plateforme DGX B300 de Nvidia, annoncée lors de la GTC en mars.
Selon Intel, chaque système B300 sera équipé de deux processeurs Xeon 6776P à 64 cœurs, chargés d’alimenter les 16 GPU Blackwell Ultra de la plateforme. (Au cas où vous l’auriez manqué, Nvidia compte désormais les matrices GPU comme des accélérateurs individuels.)
Le Saviez-Vous ? Nvidia a utilisé les processeurs Xeon de quatrième et cinquième génération d’Intel dans ses plateformes DGX H100, H200 et B200.
Cependant, les puces annoncées ne sont pas des Xeon typiques. Contrairement au reste de la gamme Xeon 6, celles-ci ont été optimisées spécifiquement pour superviser les GPU.
Xeon 6776P : Optimisé Pour L’IA
Alors que la plupart des gens associent l’IA générative à des cartes graphiques énergivores, les processeurs jouent un rôle essentiel dans l’alimentation de ces GPU avec des données. C’est là que les Xeon 6776P entrent en jeu.
Ces processeurs sont conçus pour offrir un débit d’E/S élevé, une capacité mémoire et des performances par watt optimales, ce qui les rend idéaux pour les charges de travail d’IA.
Conseil Pratique : Lors du choix d’un processeur pour les charges de travail d’IA, tenez compte non seulement du nombre de cœurs, mais également du débit d’E/S et de l’efficacité énergétique.
Le Passé Et Le Futur De La Collaboration Nvidia-Intel
La décision de Nvidia de faire appel à Intel pour ses boîtiers DGX de nouvelle génération n’est pas si surprenante. Les Xeon de quatrième et cinquième génération de chipzilla ont été utilisés dans les plateformes DGX H100, H200 et B200 de nvidia.La dernière fois que Nvidia a fait appel à AMD pour ses systèmes DGX, c’était en 2020, lors du lancement de l’A100.
Nvidia n’est pas le seul à avoir une affinité pour les processeurs d’Intel, du moins en matière d’IA. Lorsqu’AMD a lancé son concurrent du H100 fin 2023, la maison de Zen n’a pas hésité à attacher les puces à une pièce d’Intel si cela signifiait battre Nvidia.
Nvidia s’en tient également à x86 pour ses serveurs RTX Pro nouvellement lancés, mais comme il s’agit plus d’une conception de référence que d’une offre DGX de première partie, il appartiendra à Lenovo, HPE, Dell et autres de décider quels processeurs ils souhaitent associer aux huit GPU RTX Pro 6000 Server du système.
Pendant Ce Temps, De Retour À Arm-Land
Avec l’introduction de NVLink Fusion cette semaine, Nvidia étendra bientôt la prise en charge à encore plus de plateformes de processeurs, y compris les prochaines puces de serveur basées sur Arm de Qualcomm et Fujitsu.
Comme nous l’avons vu la semaine dernière, la technologie permettra aux fournisseurs de processeurs tiers d’utiliser le tissu d’interconnexion NVLink rapide de 1,8 TBps du géant des GPU pour communiquer directement avec les graphiques Nvidia. Dans une décision plus surprenante, Nvidia prendra également en charge la liaison d’accélérateurs d’IA tiers à ses propres processeurs Grace.
Même si Nvidia ouvre la porte à de nouvelles plateformes de processeurs, l’entreprise de puces continue d’investir dans son propre silicium basé sur Arm, cultivé en interne.
Lors de la GTC en mars, Nvidia a offert le meilleur aperçu à ce jour de sa prochaine plateforme de processeur Vera. Nommé d’après l’astronome américaine Vera Rubin,le processeur devrait remplacer Grace l’année prochaine.
La puce comportera 88 “cœurs Arm personnalisés” avec un multithreading simultané poussant le nombre de threads à 176 par socket, ainsi que la dernière interconnexion NVLink-C2C de 1,8 TBps de nvidia.
Malgré le nombre de cœurs plus élevé de la puce, son TDP de 50W suggère que ces cœurs peuvent être réduits au strict minimum nécessaire pour maintenir les GPU en marche. Bien que cela puisse sembler une idée étrange, bon nombre de ces systèmes d’IA pourraient tout aussi bien être des appareils avec lesquels vous interagissez via une API.
Vera devrait faire ses débuts aux côtés des GPU Rubin de 288 Go de Nvidia l’année prochaine.
Spécifications Techniques Des Processeurs Xeon 6700P
Modèle | Sockets | Cœurs | TDP | Fréquence De Base | Fréquence Turbo (Tous Cœurs) | Fréquence Turbo (1-2 Cœurs) | Fréquence Turbo (Max) | Cache | UPI | Mémoire | PCIe Voies | Autres |
---|---|---|---|---|---|---|---|---|---|---|---|---|
6780P | 2S | 144 | 330W | 1.9 GHz | 3.2 GHz | 3.5 GHz | 3.7 GHz | 360MB | 12 | DDR5-6400 / MCRDIMM 8800 | 96 | |
6776P | 2S | 128 | 300W | 2.0 ghz | 3.3 GHz | 3.6 GHz | 4.0 GHz | 320MB | 12 | DDR5-6400 / MCRDIMM 8800 | 96 | |
6772P | 2S | 72 | 500W | 2.7 GHz | 3.6 GHz | 3.9 ghz | 4.4 GHz | 432MB | 12 | DDR5-6400 / MCRDIMM 8800 | 96 | |
677P | 2S | 64 | 350w | 2.3 ghz | 3.6 GHz | 3.9 GHz | 4.6 GHz | 336MB | 8 | DDR5-6400 / MCRDIMM 8000 | 88 | |
6774P | 1S | 64 | 350w | 2.5 GHz | 3.6 GHz | 3.9 GHz | 4.6 GHz | 336MB | 8 | DDR5-6400 / MCRDIMM 8000 | 136 |
FAQ
Pourquoi Nvidia utilise-t-il des processeurs Intel dans ses systèmes DGX ?
Nvidia utilise des processeurs Intel pour leur débit d’E/S élevé, leur capacité mémoire et leurs performances par watt optimales, ce qui les rend idéaux pour les charges de travail d’IA.
Qu’est-ce que NVLink Fusion ?
NVLink Fusion est une technologie qui permet aux fournisseurs de processeurs tiers d’utiliser l’interconnexion NVLink de Nvidia pour communiquer directement avec les graphiques Nvidia.
Qu’est-ce que le processeur Vera de Nvidia ?
Vera est la prochaine plateforme de processeur de Nvidia, basée sur Arm, qui devrait remplacer Grace l’année prochaine. Elle comportera 88 cœurs Arm personnalisés et une interconnexion NVLink-C2C de 1,8 TBps.