L’intelligence artificielle (IA) est là et elle est là pour rester. « Chaque industrie deviendra une industrie technologique », selon la fondatrice et PDG de NVIDIA, Jensen Huang. Les cas d’utilisation de l’IA sont pratiquement illimités, des percées en médecine à la prévention de la fraude de haute précision. L’IA transforme déjà nos vies tout comme elle transforme chaque industrie. Elle commence également à transformer fondamentalement l’infrastructure du centre de données.
Les charges de travail de l’IA entraînent des changements importants dans la façon dont nous alimentons et refroidissons les données traitées dans le cadre de l’informatique haute performance (HPC). Un bâti informatique typique utilisé pour exécuter des charges de travail de 5 à 10 kilowatts (kW) et des bâtis fonctionnant à des charges supérieures à 20 kW ont été considérés comme haute densité – une rare vue en dehors d’applications très spécifiques avec une portée étroite. L’informatique est accélérée avec des processeurs graphiques pour répondre aux besoins informatiques des modèles d’IA, et ces puces d’IA peuvent nécessiter environ cinq fois plus de puissance et cinq fois plus de capacité de refroidissement1 dans le même espace qu ’un serveur traditionnel. Mark Zuckerberg a annoncé qu’à la fin de 2024, Meta dépensera des milliards pour déployer 350 000 processeurs graphiques H100 de NVIDIA. Les densités de bâti de 40 kW par bâti sont maintenant à la partie inférieure de ce qui est nécessaire pour faciliter les déploiements d’IA, les densités de bâti dépassant 100 kW par bâti devenant courantes et à grande échelle dans un avenir proche.
Cela nécessitera des augmentations importantes de la capacité sur l’ensemble du groupe motopropulseur, du réseau aux puces dans chaque bâti. L’introduction de technologies de refroidissement par liquide dans l’espace blanc du centre de données et, éventuellement, dans les salles de serveurs d’entreprise sera une exigence pour la plupart des déploiements, car les méthodes de refroidissement traditionnelles ne seront pas en mesure de gérer la chaleur générée par les GPU exécutant les calculs d’IA. Les investissements pour mettre à niveau l’infrastructure nécessaire pour alimenter et refroidir le matériel d’IA sont substantiels et il est essentiel de relever ces nouveaux défis de conception.
La transition vers la haute densité
La transition vers l’informatique accélérée ne se fera pas du jour au lendemain. Les concepteurs de centres de données et de salles de serveurs doivent chercher des moyens de préparer l’infrastructure d’alimentation et de refroidissement pour l’avenir, en tenant compte de la croissance future de leurs charges de travail. L’alimentation de chaque bâti nécessite des mises à niveau du réseau au bâti. Dans l’espace blanc, cela signifie probablement des bus de grande intensité et des PDU bâtis à haute densité. Pour rejeter la quantité massive de chaleur générée par le matériel exécutant des charges de travail d’IA, deux technologies de refroidissement liquide émergent comme options principales :
- Refroidissement liquide direct sur la puce : Les plaques froides reposent sur les composants générateurs de chaleur (généralement des puces comme les processeurs et les processeurs graphiques) pour évacuer la chaleur. Le fluide monophasé ou biphasé pompé extrait la chaleur de la plaque froide pour l’envoyer hors du centre de données, échangeant de la chaleur, mais pas des fluides avec la puce. Cela peut éliminer environ 70 à 75 % de la chaleur générée par l’équipement dans le bâti, laissant 25 à 30 % que les systèmes de refroidissement par air doivent éliminer.
- Échangeurs thermiques de porte arrière : Les échangeurs de chaleur passifs ou actifs remplacent la porte arrière du bâti IT par des serpentins d’échange de chaleur par lesquels le fluide absorbe la chaleur produite dans le bâti. Ces systèmes sont souvent combinés à d’autres systèmes de refroidissement comme stratégie pour maintenir la neutralité de la pièce ou comme conception transitionnelle pour commencer le processus de refroidissement liquide.
Bien que le refroidissement liquide directement sur la puce offre une capacité de refroidissement de densité significativement plus élevée que l’air, il est important de noter qu’il y a encore un excès de chaleur que les plaques froides ne peuvent pas capturer. Cette chaleur sera rejetée dans la salle de données à moins qu’elle ne soit contenue et retirée par d’autres moyens tels que les échangeurs de chaleur de la porte arrière ou le refroidissement de l’air ambiant. Pour plus de détails sur les solutions de refroidissement liquide pour les centres de données, consultez notre livre blanc.
Trousses de démarrage avec IA pour la modernisation et les nouvelles constructions
L’alimentation et le refroidissement deviennent des parties intégrantes de la conception de la solution informatique dans la salle de données, brouilleant les frontières entre les équipes informatiques et les équipes des installations. Cela ajoute un degré élevé de complexité en matière de conception, de déploiement et d’exploitation. Les partenariats et l’expertise en matière de solutions complètes sont les principales exigences pour une transition en douceur vers des densités plus élevées.
Pour simplifier le passage à la haute densité, Vertiv a introduit une gamme de conceptions optimisées, y compris la technologie d’alimentation et de refroidissement capable de prendre en charge des charges de travail allant jusqu’à 100 kW par bâti dans un ensemble diversifié de configurations de déploiement.
| Résumé de la conception | Supports | Densité/rack | Champ vert/brun | Élimination de la chaleur | |
|---|---|---|---|---|---|
| du serveur | de la pièce | ||||
|
Projets pilotes de modèle de formation, inférence à l’échelle |
|||||
| Petite réfection HPC minimale | 1 | 70 kW | Champ brun | eau/glycol | air |
| Petit réaménagement HPC pour système d'eau réfrigérée | 1 | 100 kW | Champ brun | eau/glycol | eau/glycol |
|
Formation centralisée pour les entreprises, coin IA dans le centre de données |
|||||
| Mise à niveau HPC de taille moyenne optimisée pour les coûts | 3 | 100 kW | Champ brun | eau/glycol | frigorigène |
| HPC de taille moyenne avec capture de chaleur accrue | 4 | 100 kW | Champ brun Champ vert |
eau/glycol+air | eau/glycol |
| Modernisation pragmatique HPC de taille moyenne pour les salles d’ordinateurs refroidies à l’air | 5 | 40 kW | Champ brun Champ vert |
air | frigorigène |
| HPC de taille moyenne | 5 | 100 kW | Champ brun Champ vert |
eau/glycol | eau/glycol |
|
Usine d’IA à grande échelle |
|||||
| Grande neutralité de la pièce de préservation HPC | 12 | 100 kW | Champ brun Champ vert |
eau/glycol+air | eau/glycol |
| Grand bâtiment HPC vers l’échelle | 14 | 100 kW | Champ brun Champ vert |
eau/glycol | eau/glycol |
Ces conceptions offrent plusieurs chemins aux intégrateurs de systèmes, aux fournisseurs de colocation, aux fournisseurs de services infonuagiques ou aux utilisateurs d’entreprise pour atteindre le centre de données de l’avenir, maintenant. Chaque installation spécifique peut avoir des nuances avec le nombre de bâtis et la densité des bâtis dictées par la sélection de l’équipement informatique. À ce titre, cette collection de conceptions offre un moyen intuitif de réduire définitivement la conception d’une base et de l’adapter exactement aux besoins de déploiement.
Lors de la modernisation ou de la repositionnement des environnements existants pour l’IA, nos conceptions optimisées aident à minimiser les perturbations des charges de travail existantes en tirant parti de l’infrastructure de refroidissement disponible et du rejet de chaleur dans la mesure du possible. Par exemple, nous pouvons intégrer le refroidissement liquide direct à la puce avec un échangeur de chaleur de porte arrière pour maintenir une solution de refroidissement neutre de la pièce. Dans ce cas, l’échangeur de chaleur de la porte arrière empêche l’excès de chaleur de s’échapper dans la pièce. Pour une installation refroidie par air qui cherche à ajouter de l’équipement de refroidissement liquide sans aucune modification au site lui-même, nous avons des options de conception liquide-air disponibles. Cette même stratégie peut être déployée dans un seul bâti, dans une rangée ou à grande échelle dans un déploiement HPC important. Pour les conceptions à bâtis multiples, nous avons également inclus des busway à ampérage élevé et des PDU à bâti haute densité pour distribuer l’alimentation à chaque bâti.
Ces options sont compatibles avec une gamme d’options de rejet de chaleur qui peuvent être associées au refroidissement liquide. Cela établit une transition propre et rentable vers le refroidissement liquide à haute densité sans perturber les autres charges de travail dans la salle de données. Consultez nos solutions de salle de données d’IA pour en savoir plus.
Bien que de nombreuses installations ne soient pas conçues pour les systèmes à haute densité, Vertiv possède une vaste expérience pour aider les clients à développer des plans de déploiement afin de passer en douceur à une haute densité pour l’IA et HPC.
1 Estimations de la direction : Comparaison de la consommation d’énergie et de la production de chaleur au niveau du bâti pour 5 serveurs Nvidia DGX H100 et 21 serveurs Dell PowerStore 500T et 9200T dans un bâti standard de 42U basé sur les fiches techniques du fabricant