HPE ProLiant DL380 Gen11 AI Çıkarım Sunucusu, eğitilmiş makine öğrenimi modellerinin üretim ortamında çalıştırılması için hazırlanmış bir 2U rack yapılandırmasıdır. Çift 4. Nesil Intel Xeon işlemci ile NVIDIA L4 ya da L40 GPU desteğini bir araya getirir; böylece görüntü tanıma, dil modelleri ve öneri sistemleri gibi çıkarım yükleri merkezi bir sunucuda karşılanabilir.
PCIe Gen5 veri yolu, büyük veri kümelerinin işlemciden grafik işlemcilere aktarılırken darboğaz oluşturmamasını sağlar; bu, çıkarım gecikmesinin düşük tutulması gereken gerçek zamanlı uygulamalarda belirleyicidir. GPU sayısı, bellek ve depolama seçimi projenin model boyutuna ve eşzamanlı istek hacmine göre yapılandırılır. Çıkarım sunucusunun kurum içinde konumlanması, verinin dış hizmetlere gönderilmeden işlenmesini ve yanıt süresinin ağ gecikmesinden bağımsız kalmasını sağlar; bu, veri gizliliği gerektiren sektörlerde belirleyici bir tercih nedenidir.
Nerede kullanılır?
Eğitim değil çıkarım odaklı bu yapılandırma, kamera görüntülerini analiz eden güvenlik sistemleri, çağrı merkezlerinde konuşma tanıma, üretim hatlarında görsel kalite kontrolü ve kurum içi büyük dil modeli hizmetleri için düşünülür. Eğitilmiş model bulutta ya da ayrı bir kümede hazırlanıp bu sunucuda kurum içinde, veriyi dışarı çıkarmadan çalıştırılabilir.
Sık sorulan sorular
Hangi GPU'lar desteklenir?
Sunucu NVIDIA L4 ve L40 GPU desteğiyle sunulur.
Model eğitimi için de kullanılabilir mi?
Yapılandırma AI çıkarımı (inference) için optimize edilmiştir; eğitim yükleri için GPU seçimi ayrıca değerlendirilmelidir.
Veri yolu nesli nedir?
PCIe Gen5 veri yolu kullanılır; veri setleri grafik işlemcilere darboğaz oluşmadan aktarılır.
Sunucu grubundaki diğer ürünleri ve seçim ölçütlerini kategori sayfasında bulabilirsiniz. Kurumsal fiyat ve teslim süresi için teklif isteyin.






