NVIDIA H100 NVL 94 GB PCIe GPU

NVIDIA · Ekran Kartı

NVIDIA

94 GB HBM3 bellekli PCIe Hopper GPU; NVLink köprüsüyle çift kart, LLM çıkarımı ve eğitimi için standart sunucularda.

  • Orijinal ve garantili ürün
  • Kurumsal müşterilere özel fiyat ve çoklu adet indirimi
  • Kurulum, uyumluluk kontrolü ve satış sonrası destek

Öne çıkan özellikler

Mimari
NVIDIA Hopper
Bellek
94 GB HBM3, 3,9 TB/s
Form
PCIe Gen5, çift yuva, 400 W
NVLink
2 GPU köprü
Yazılım
NVIDIA AI Enterprise dahil

NVIDIA H100 NVL 94 GB PCIe GPU, büyük dil modellerinin çıkarımını standart sunucularda PCIe form faktöründe sunan Hopper mimarili bir hızlandırıcıdır. Ürün bilgilerinde 94 GB HBM3 bellek, 3,9 TB/s bant genişliği, iki kartı birleştiren NVLink köprüsüyle 188 GB birleşik bellek, FP8 desteği, 400 W güç ve kurumsal yapay zekâ yazılımı belirtilir.

Büyük dil modellerinin çıkarımında modelin GPU belleğine sığması ve bellek bant genişliği, yanıt hızını ve aynı anda hizmet verilebilecek kullanıcı sayısını doğrudan belirler. İki kartın NVLink köprüsüyle birleştirilmesi, tek kartın belleğine sığmayan daha büyük modellerin iki kart arasında yüksek hızla paylaşılarak çalıştırılmasına imkân tanır. FP8 gibi düşük hassasiyetli sayı biçimleri, uygun modellerde daha az bellek ve daha yüksek hızla çıkarım yapılmasına yardımcı olur; doğruluk etkisi uygulamaya göre test edilmelidir. PCIe form faktörü, mevcut hava soğutmalı sunucu altyapısında yapay zekâ kapasitesi kurulmasını sağlar. Sunucu GPU sertifikası teyit edilmelidir.

Nerede kullanılır?

Büyük dil modeli çıkarımı ve ince ayarı yapan kurumlarda, mevcut sunucu altyapısında yapay zekâ kapasitesi kurmak isteyen veri merkezlerinde ve iki GPU'yu birleştirerek büyük modeller çalıştırmak isteyen araştırma ekiplerinde kullanılır. Sunucunun GPU sertifikasının, güç ve soğutma kapasitesinin ve NVLink köprü yapılandırmasının teyit edildiği projelerde tercih edilir.

Öne çıkan özellikler

  • Mimari: NVIDIA Hopper
  • Bellek: 94 GB HBM3, 3,9 TB/s
  • Form: PCIe Gen5, çift yuva, 400 W
  • NVLink: 2 GPU köprü
  • Yazılım: NVIDIA AI Enterprise dahil

Sık sorulan sorular

NVLink köprüsü ne sağlar?

İki kartın belleğini birleştirerek büyük modellerin çalıştırılmasını sağlar.

Birleşik bellek ne kadar?

İki kartla 188 GB.

Güç tüketimi nedir?

400 W.

Ekran Kartı grubundaki diğer ürünleri ve seçim ölçütlerini kategori sayfasında bulabilirsiniz. Kurumsal fiyat ve teslim süresi için teklif isteyin.