NVIDIA H200 Tensor Core GPU (141GB HBM3e)

NVIDIA · Denetleyici ve Genişletme Kartları (RAID, HBA, Riser)

NVIDIA

Büyük dil modelleri (LLM) ve üretken yapay zeka için dünyanın en güçlü işlemcisi. 141GB HBM3e belleğe sahip yapay zeka hızlandırıcısı.

  • Orijinal ve garantili ürün
  • Kurumsal müşterilere özel fiyat ve çoklu adet indirimi
  • Kurulum, uyumluluk kontrolü ve satış sonrası destek

Öne çıkan özellikler

Marka
NVIDIA
Ürün kodu
NVD-H200-141GB

NVIDIA H200 Tensor Core GPU, büyük dil modelleri ve üretken yapay zeka için 141GB HBM3e bellek sunan bir veri merkezi yapay zeka hızlandırıcısıdır. Üretici bilgisine göre önceki nesil H100'e kıyasla yapay zeka çıkarım kapasitesini ikiye katlar; veri merkezlerinde büyük modellerin barındırıldığı ve eğitildiği yapay zeka altyapısının temel bileşeni olarak konumlanır.

HBM3e, hızlandırıcı paketine yığılmış, önceki nesle göre daha hızlı yüksek bant genişlikli bellektir; 141GB kapasite, büyük dil modellerinin daha az sayıda GPU'ya bölünerek barındırılmasına ve daha büyük bağlam ile parti boyutlarının tek GPU'da işlenmesine olanak tanır. Çıkarımda bellek kapasitesi ve bant genişliği çoğu zaman işlem gücünden daha belirleyicidir; H200'ün önceki nesle göre çıkarım kazanımı büyük ölçüde bu bellek artışından gelir. Hopper mimarisi, büyük dil modeli işlemlerini donanım düzeyinde hızlandıran Transformer Engine birimlerini içerir. H200, SXM formunda özel GPU sunucu platformlarında ya da PCIe sürümüyle uyumlu sunucularda kullanılır; sunucu platformu, güç bütçesi ve soğutma altyapısı projeyle birlikte planlanır.

Nerede kullanılır?

Büyük dil modellerinin çıkarımı ve kurum içi üretken yapay zeka hizmetleri, büyük modellerin eğitimi ve ince ayarı, uzun bağlamlı ve yüksek eşzamanlı çıkarım yükleri, bilimsel hesaplama ve HPC kümeleri ile GPU başına bellek kapasitesinin belirleyici olduğu yapay zeka altyapıları için kullanılır.

Sık sorulan sorular

Hızlandırıcının özellikleri nelerdir?

141GB HBM3e bellek, Hopper mimarisi, Tensor Core; üreticiye göre önceki nesil H100'e kıyasla iki kat çıkarım kapasitesi. NVIDIA H200.

H100'den farkı nedir?

Daha büyük ve daha hızlı HBM3e bellek; büyük dil modeli çıkarımında bellek kapasitesi ve bant genişliği belirleyici olduğundan çıkarım kapasitesi üreticiye göre ikiye katlanır.

Her sunucuya takılabilir mi?

Hayır. SXM formunda özel GPU sunucu platformlarında ya da PCIe sürümüyle uyumlu sunucularda kullanılır; platform, güç ve soğutma projeyle birlikte planlanır.

Denetleyici ve Genişletme Kartları (RAID, HBA, Riser) grubundaki diğer ürünleri ve seçim ölçütlerini kategori sayfasında bulabilirsiniz. Kurumsal fiyat ve teslim süresi için teklif isteyin.