Yapay zeka (AI) burada ve burada kalacak. NVIDIA kurucusu ve CEO'su Jensen Huang, “Her sektör bir teknoloji sektörü haline gelecek” diyor. Yapay zeka için kullanım durumları, tıpta çığır açan gelişmelerden yüksek doğrulukta sahteciliği önlemeye kadar neredeyse sınırsızdır. Yapay zeka, her bir sektörü dönüştürdüğü gibi yaşamlarımızı da dönüştürüyor. Ayrıca, veri merkezi altyapısını temelden dönüştürmeye de başlıyor.
Yapay zeka iş yükleri, yüksek performanslı bilgi işlemin (HPC) bir parçası olarak işlenen verileri destekleme ve soğutma şeklimizde önemli değişiklikler yaratıyor. 5-10 kilovat (kW) arasındaki iş yüklerini çalıştırmak için kullanılan tipik bir BT kabini ve 20 kW 'tan daha yüksek yükleri çalıştıran kabinler yüksek yoğunluklu olarak kabul edildi – dar erişimli çok özel uygulamaların dışında nadir bir görüş alanı. Yapay zeka modellerinin bilişim ihtiyaçlarını desteklemek için GPU'larla BT hızlandırılıyor ve bu yapay zeka çipleri, geleneksel bir sunucuyla aynı alanda yaklaşık beş kat daha fazla güç ve beş kat daha fazla soğutma kapasitesi 1 gerektirebilir . Mark Zuckerberg, 2024 sonu itibarıyla Meta'nın NVIDIA'dan 350.000 H100 GPU dağıtmak için milyarlarca harcayacağını duyurdu. Kabin başına 40 kW ’lık kabin yoğunlukları artık AI yerleştirmelerini kolaylaştırmak için gerekenin alt ucundadır ve kabin başına 100 kW’ı aşan kabin yoğunlukları yaygın hale gelir ve yakın gelecekte büyük ölçektedir.
Bu, şebekeden her raftaki çiplere kadar tüm güç aktarma organlarında kapsamlı kapasite artışları gerektirecektir. Geleneksel soğutma yöntemleri yapay zeka hesaplamalarını çalıştıran GPU'lar tarafından üretilen ısıyı kaldıramayacağından, sıvı soğutma teknolojilerinin veri merkezi beyaz alanına ve nihayetinde kurumsal sunucu odalarına getirilmesi çoğu dağıtım için bir gereklilik olacaktır. Yapay zeka donanımlarını güçlendirmek ve soğutmak için gereken altyapıyı yükseltmeye yönelik yatırımlar önemli ve bu yeni tasarım zorluklarında gezinmek kritik öneme sahip.
Yüksek Yoğunluğa Geçiş
Hızlandırılmış bilişime geçiş bir gecede gerçekleşmeyecektir. Veri merkezi ve sunucu odası tasarımcıları, güç ve soğutma altyapısını geleceğe hazır hale getirmenin yollarını aramalı ve iş yüklerinin gelecekteki büyümesine ilişkin değerlendirmeleri yapmalıdır. Her bir rafa yeterli güç sağlamak, ızgaradan rafa yükseltmeler gerektirir. Özellikle beyaz alanda, bu muhtemelen yüksek amperli veri yolu hattı ve yüksek yoğunluklu kabin PDU'ları anlamına gelir. Yapay zeka iş yüklerini çalıştıran donanım tarafından üretilen çok büyük miktarda ısıyı reddetmek için birincil seçenek olarak iki sıvı soğutma teknolojisi ortaya çıkıyor:
- Doğrudan çipe sıvı soğutma: Soğuk plakalar ısıyı çekmek için ısı üreten bileşenlerin (genellikle CPU ve GPU gibi çipler) üzerinde bulunur. Pompalanan tek fazlı veya iki fazlı akışkan, soğuk plakadan ısıyı çekerek veri merkezinden gönderir, ısıyı değiştirir ancak talaşla sıvıları değil. Bu, kabindeki ekipman tarafından üretilen ısının yaklaşık %70-75'ini yok edebilir ve hava soğutma sistemlerinin %25-30'unu çıkarması gerekir.
- Arka kapı ısı eşanjörleri: Pasif veya aktif ısı eşanjörleri, IT kabininin arka kapısını, sıvının kabinde üretilen ısıyı emdiği ısı alışverişi bobinleri ile değiştirir. Bu sistemler genellikle diğer soğutma sistemleriyle ya oda nötrlüğünü koruma stratejisi ya da sıvı soğutma yolculuğuna başlayan geçiş tasarımı olarak birleştirilir.
Doğrudan çipe sıvı soğutma, havadan önemli ölçüde daha yüksek yoğunluklu soğutma kapasitesi sunarken, soğuk plakaların yakalayamadığı aşırı ısının hala olduğunu unutmamak önemlidir. Bu ısı, arka kapı ısı eşanjörleri veya oda hava soğutması gibi başka yollarla içeri alınmadığı ve uzaklaştırılmadığı sürece veri odasına reddedilecektir. Veri merkezleri için sıvı soğutma çözümleri hakkında daha fazla bilgi için teknik dokümanımızı inceleyin.
İyileştirme ve Yeni Yapılar için Yapay Zeka Başlangıç Kitleri
Güç ve soğutma, veri odasında BT çözümü tasarımının ayrılmaz bir parçası haline geliyor ve BT ve tesis ekipleri arasındaki sınırları bulanıklaştırıyor. Bu, tasarım, dağıtım ve operasyon söz konusu olduğunda yüksek derecede karmaşıklık ekler. Ortaklıklar ve tam çözüm uzmanlığı, daha yüksek yoğunluklara sorunsuz geçişler için en önemli gereklilikler arasında yer alır.
Vertiv, yüksek yoğunluğa geçişi basitleştirmek için çeşitli dağıtım konfigürasyonlarında kabin başına 100 kW ’a kadar iş yüklerini destekleyebilen güç ve soğutma teknolojisi dahil olmak üzere bir dizi optimize edilmiş tasarım tanıttı.
| Tasarım özeti | Raflar | Yoğunluk/raf | Yeşil/Kahverengi alan | Isı giderme | |
|---|---|---|---|---|---|
| sunucudan | odadan | ||||
|
Eğitim modeli pilotları, ölçekte edge çıkarımı |
|||||
| Küçük HPC minimum güçlendirme | 1 | 70 kW | Kahverengi alan | su/glikol | hava |
| Soğutulmuş su sistemi için küçük HPC iyileştirmesi | 1 | 100 kW | Kahverengi alan | su/glikol | su/glikol |
|
Veri merkezinde kurumsal, yapay zeka köşesi için merkezi eğitim |
|||||
| Orta boy HPC maliyet açısından optimize edilmiş iyileştirme | 3 | 100 kW | Kahverengi alan | su/glikol | soğutucu |
| Artırılmış ısı yakalama ile orta boy HPC | 4 | 100 kW | Kahverengi alan Yeşil alan |
su/glikol+hava | su/glikol |
| Hava soğutmalı bilgisayar odaları için orta ölçekli HPC pragmatik yenilemesi | 5 | 40 kW | Kahverengi alan Yeşil alan |
hava | soğutucu |
| Orta ölçekli HPC | 5 | 100 kW | Kahverengi alan Yeşil alan |
su/glikol | su/glikol |
|
Büyük ölçekli yapay zeka fabrikası |
|||||
| Oda nötrlüğünü koruyan büyük HPC | 12 | 100 kW | Kahverengi alan Yeşil alan |
su/glikol+hava | su/glikol |
| Ölçek için büyük HPC binası | 14 | 100 kW | Kahverengi alan Yeşil alan |
su/glikol | su/glikol |
Bu tasarımlar, sistem entegratörleri, sunucu barındırma sağlayıcıları, bulut hizmeti sağlayıcıları veya kurumsal kullanıcıların geleceğin veri merkezine ulaşması için şimdiden birden fazla yol sunar. Her belirli tesis, BT ekipman seçimi tarafından belirlenen kabin sayısı ve kabin yoğunluğu ile nüanslara sahip olabilir. Bu nedenle, bu tasarım koleksiyonu, temel bir tasarıma doğru tamamen daraltmak ve yerleştirme ihtiyaçlarına tam olarak uyarlamak için sezgisel bir yol sağlar.
Yapay zeka için mevcut ortamları iyileştirirken veya yeniden tasarlarken, optimize edilmiş tasarımlarımız mevcut soğutma altyapısından ve mümkün olan durumlarda ısı atımından yararlanarak mevcut iş yüklerindeki kesintileri en aza indirmeye yardımcı olur. Örneğin, odadan bağımsız soğutma çözümünü sürdürmek için doğrudan çipe sıvı soğutmayı arka kapı ısı eşanjörü ile entegre edebiliriz. Bu durumda, arka kapı ısı eşanjörü aşırı ısının odaya kaçmasını önler. Tesisin kendisinde herhangi bir değişiklik yapmadan sıvı soğutma ekipmanı eklemek isteyen hava soğutmalı bir tesis için, sıvıdan havaya tasarım seçeneklerimiz mevcuttur. Aynı strateji tek bir rafta, sıra halinde veya büyük bir HPC dağıtımında ölçekte uygulanabilir. Çoklu raf tasarımları için, her rafa güç dağıtımı yapmak üzere yüksek amperli veri yolu hattı ve yüksek yoğunluklu raf PDU'ları da dahil ettik.
Bu seçenekler, sıvı soğutma ile eşleştirilebilen bir dizi farklı ısı atımı seçeneğiyle uyumludur. Bu, veri odasındaki diğer iş yüklerini aksatmadan yüksek yoğunluklu sıvı soğutmaya temiz ve uygun maliyetli bir geçiş yolu oluşturur. Daha fazla bilgi için Yapay Zeka Veri Odası Çözümlerimize göz atın.
Pek çok tesis yüksek yoğunluklu sistemler için tasarlanmamış olsa da Vertiv, müşterilerin AI ve HPC için yüksek yoğunluğa sorunsuz bir şekilde geçiş yapmak için dağıtım planları geliştirmelerine yardımcı olma konusunda kapsamlı deneyime sahiptir.
1 Yönetim tahminleri: 5 Nvidia DGX H100 Sunucu ve 21 Dell PowerStore 500T ve 9200T Sunucuları için Üretici Teknik Özelliklerine göre standart bir 42U rafta raf seviyesinde Güç Tüketimi ve Isı Çıkışı Karşılaştırması
