- Yeni Blackwell GPU, NVLink ve Resilience Teknolojileri Trilyon Parametre Ölçeğinde Yapay Zeka Modellerine Olanak Sağlıyor
- Yeni Tensor Çekirdekleri ve TensorRT-LLM Derleyicisi, Yüksek Lisans Çıkarımı İşletim Maliyetini ve Enerjiyi 25 Kata Kadar Azaltır
- Yeni Hızlandırıcılar Veri İşleme, Mühendislik Simülasyonu, Elektronik Tasarım Otomasyonu, Bilgisayar Destekli İlaç Tasarımı ve Kuantum Hesaplamada Çığır Açıyor
- Tüm Büyük Bulut Sağlayıcıları, Sunucu Oluşturucuları ve Lider Yapay Zeka Şirketleri Tarafından Yaygın Olarak Benimseniyor
GTC— Yeni bir bilgi işlem çağına güç veren NVIDIA bugün, NVIDIA Blackwell platformunun geldiğini duyurdu; bu platform, dünyanın her yerindeki kuruluşların, trilyon parametreli büyük dil modelleri üzerinde gerçek zamanlı üretken yapay zekayı, kendi platformuna kıyasla 25 kata kadar daha az maliyet ve enerji tüketimiyle oluşturup çalıştırmasına olanak tanıyor. selefi.
Blackwell GPU mimarisi, veri işleme, mühendislik simülasyonu, elektronik tasarım otomasyonu, bilgisayar destekli ilaç tasarımı, kuantum bilgi işlem ve üretken yapay zeka alanlarındaki çığır açıcı gelişmelerin ortaya çıkmasına yardımcı olacak, hızlandırılmış bilgi işlem için altı dönüştürücü teknolojiye sahiptir; bunların tümü NVIDIA için yeni ortaya çıkan endüstri fırsatlarıdır.
NVIDIA’nın kurucusu ve CEO’su Jensen Huang, “Otuz yıl boyunca, derin öğrenme ve yapay zeka gibi dönüştürücü buluşları mümkün kılmak amacıyla hızlandırılmış bilgi işlemin peşinden gittik” dedi. “Üretken yapay zeka çağımızın belirleyici teknolojisidir. Blackwell bu yeni sanayi devrimine güç veren motordur. Dünyanın en dinamik şirketleriyle çalışarak her sektör için yapay zeka vaadini gerçekleştireceğiz.”
Blackwell’i benimsemesi beklenen birçok kuruluş arasında Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla ve xAI yer alıyor.
Alphabet ve Google CEO’su Sundar Pichai: “Arama ve Gmail gibi hizmetleri milyarlarca kullanıcıya ölçeklendirmek bize bilgi işlem altyapısını yönetme konusunda çok şey öğretti. Yapay zeka platformu değişimine girerken kendi ürün ve hizmetlerimiz ile Bulut müşterilerimiz için altyapıya yoğun yatırım yapmaya devam ediyoruz. NVIDIA ile uzun süredir devam eden bir ortaklığımız olduğu için şanslıyız ve gelecekteki keşifleri hızlandırmak için Blackwell GPU’nun çığır açan yeteneklerini Google DeepMind dahil Google genelindeki Bulut müşterilerimize ve ekiplerine sunmayı sabırsızlıkla bekliyoruz.”
Amazon Başkanı ve CEO’su Andy Jassy: “NVIDIA ile olan derin işbirliğimiz, dünyanın ilk GPU bulut örneğini AWS’de başlattığımız 13 yılı aşkın bir geçmişe dayanıyor. Bugün, dünyanın teknolojik açıdan en gelişmiş hızlandırılmış iş yüklerini destekleyen, bulutun herhangi bir yerinde mevcut olan en geniş GPU çözümleri yelpazesini sunuyoruz. Yeni NVIDIA Blackwell GPU’nun AWS’de bu kadar iyi çalışmasının nedeni budur ve NVIDIA’nın Project Ceiba’yı birlikte geliştirmek için AWS’yi seçmesinin nedeni de budur ve NVIDIA’nın yeni nesil Grace Blackwell Süper Çiplerini AWS Nitro Sisteminin gelişmiş sanallaştırma ve ultra hızlı Elastic Fabric Adapter ağıyla birleştirir. , NVIDIA’nın kendi yapay zeka araştırma ve geliştirmesi için. AWS ve NVIDIA mühendisleri arasındaki bu ortak çaba sayesinde, AWS’yi herkesin bulutta NVIDIA GPU’larını çalıştırabileceği en iyi yer haline getirmek için birlikte yenilik yapmaya devam ediyoruz.”
Dell Technologies’in kurucusu ve CEO’su Michael Dell: “Üretken yapay zeka, daha akıllı, daha güvenilir ve verimli sistemler oluşturmak için kritik önem taşıyor. Dell Technologies ve NVIDIA, teknolojinin geleceğini şekillendirmek için birlikte çalışıyor. Blackwell’in piyasaya sürülmesiyle birlikte, müşterilerimize yeni nesil hızlandırılmış ürün ve hizmetler sunmaya devam edeceğiz ve onlara endüstrilerde inovasyonu teşvik etmek için ihtiyaç duydukları araçları sunacağız.”
Google DeepMind’ın kurucu ortağı ve CEO’su Demis Hassabis: “Yapay zekanın dönüştürücü potansiyeli inanılmaz ve dünyanın en önemli bilimsel sorunlarından bazılarını çözmemize yardımcı olacak. Blackwell’in çığır açan teknolojik yetenekleri, dünyanın en parlak beyinlerinin yeni bilimsel keşiflerin haritasını çıkarmasına yardımcı olmak için gereken kritik bilgi işlemi sağlayacak.”
Meta’nın kurucusu ve CEO’su Mark Zuckerberg: “Yapay zeka halihazırda geniş dil modellerimizden içerik önerilerimize, reklamlarımıza ve güvenlik sistemlerimize kadar her şeye güç veriyor ve gelecekte daha da önemli hale gelecek. Açık kaynaklı Lama modellerimizi eğitmek ve yeni nesil Meta Yapay Zeka ve tüketici ürünlerini oluşturmak için NVIDIA’nın Blackwell’ini kullanmayı sabırsızlıkla bekliyoruz.”
Microsoft’un yönetim kurulu başkanı ve CEO’su Satya Nadella: “Müşterilerimize yapay zeka iş yüklerini güçlendirmek için en gelişmiş altyapıyı sunmaya kararlıyız. GB200 Grace Blackwell işlemciyi dünya çapındaki veri merkezlerimize getirerek, AI vaadini her yerdeki kuruluşlar için gerçeğe dönüştürürken, NVIDIA GPU’larını bulutumuz için optimize etme konusunda uzun süredir devam eden geçmişimizi geliştiriyoruz.”
OpenAI CEO’su Sam Altman: “Blackwell büyük performans atılımları sunuyor ve son teknoloji modeller sunma yeteneğimizi hızlandıracak. Yapay zeka hesaplamasını geliştirmek için NVIDIA ile çalışmaya devam etmekten heyecan duyuyoruz.”
Oracle Yönetim Kurulu Başkanı ve CTO’su Larry Ellison: “Oracle’ın NVIDIA ile yakın işbirliği, yapay zeka, makine öğrenimi ve veri analitiğinde niteliksel ve niceliksel atılımlara olanak tanıyacak. Müşterilerin eyleme geçirilebilir daha fazla öngörü elde edebilmesi için Blackwell gibi daha güçlü bir motora ihtiyaç var. hızlandırılmış bilgi işlem ve üretken yapay zeka için özel olarak tasarlandı.”
Tesla ve xAI CEO’su Elon Musk: “Şu anda yapay zeka için NVIDIA donanımından daha iyi bir şey yok.”
Adını oyun teorisi ve istatistik alanında uzmanlaşmış bir matematikçi ve Ulusal Bilimler Akademisi’ne kabul edilen ilk Siyah akademisyen olan David Harold Blackwell’in onuruna verilen yeni mimari, iki yıl önce başlatılan NVIDIA Hopper™ mimarisinin yerini alıyor.
Blackwell’in Hızlandırılmış Bilgi İşlemi ve Üretken Yapay Zekayı Güçlendirecek Yenilikleri
Blackwell’in, 10 trilyon parametreye kadar ölçeklenen modeller için yapay zeka eğitimini ve gerçek zamanlı LLM çıkarımını mümkün kılan devrim niteliğindeki altı teknolojisi şunları içerir:
- Dünyanın En Güçlü Çipi — 208 milyar transistörle paketlenmiş Blackwell mimarili GPU’lar, tek bir birleşik GPU’ya 10 TB/saniyelik çipten çipe bağlantıyla bağlanan, iki retikül limitli GPU kalıplarına sahip özel yapım 4NP TSMC işlemi kullanılarak üretilir .
- İkinci Nesil Transformatör Motoru — Yeni mikro tensör ölçeklendirme desteği ve NVIDIA’nın NVIDIA TensorRT™-LLM ve NeMo Megatron çerçevelerine entegre edilmiş gelişmiş dinamik aralık yönetimi algoritmalarıyla desteklenen Blackwell, yeni 4 bit kayan noktalı yapay zeka ile iki kat daha fazla bilgi işlem ve model boyutunu destekleyecektir çıkarım yetenekleri.
- Beşinci Nesil NVLink — Multitrilyon parametreli ve uzmanlardan oluşan karma yapay zeka modellerinin performansını hızlandırmak için NVIDIA NVLink®’in en son sürümü, GPU başına çığır açan 1,8 TB/s çift yönlü verim sunarak 576 GPU’ya kadar kesintisiz yüksek hızlı iletişim sağlar en karmaşık LLM’ler için.
- RAS Motoru — Blackwell destekli GPU’lar güvenilirlik, kullanılabilirlik ve servis kolaylığı için özel bir motor içerir. Ek olarak Blackwell mimarisi, teşhisleri çalıştırmak ve güvenilirlik sorunlarını tahmin etmek için yapay zeka tabanlı önleyici bakımdan yararlanmak üzere çip düzeyinde yetenekler ekler. Bu, sistemin çalışma süresini en üst düzeye çıkarır ve büyük ölçekli yapay zeka dağıtımlarının haftalarca, hatta aylarca kesintisiz çalışması ve işletme maliyetlerini azaltması için esnekliği artırır.
- Güvenli Yapay Zeka — Gelişmiş gizli bilgi işlem yetenekleri, sağlık hizmetleri ve finansal hizmetler gibi gizliliğe duyarlı endüstriler için kritik öneme sahip yeni yerel arayüz şifreleme protokollerini destekleyerek yapay zeka modellerini ve müşteri verilerini performanstan ödün vermeden korur.
- Sıkıştırmayı Açma Motoru — Özel bir sıkıştırmayı açma motoru, veri analitiği ve veri biliminde en yüksek performansı sunmak için veritabanı sorgularını hızlandırarak en yeni formatları destekler. Şirketlerin yılda on milyarlarca dolar harcadığı veri işleme, önümüzdeki yıllarda giderek daha fazla GPU ile hızlandırılacak.
Devasa Bir Süper Çip
NVIDIA GB200 Grace Blackwell Süper Çipi, iki NVIDIA B200 Tensor Core GPU’yu 900 GB/s ultra düşük güçlü NVLink çipten çipe ara bağlantı üzerinden NVIDIA Grace CPU’ya bağlar
En yüksek yapay zeka performansı için GB200 destekli sistemler, yine bugün duyurulan ve 800 Gb/s’ye varan hızlarda gelişmiş ağ iletişimi sağlayan NVIDIA Quantum-X800 InfiniBand ve Spectrum™-X800 Ethernet platformlarına bağlanabilir .
GB200, bilgi işlem yoğunluklu iş yükleri için çok düğümlü, sıvı soğutmalı, raf ölçekli bir sistem olan NVIDIA GB200 NVL72’nin önemli bir bileşenidir. Beşinci nesil NVLink ile birbirine bağlanan 72 Blackwell GPU ve 36 Grace CPU içeren 36 Grace Blackwell Süper Çipini birleştiriyor. Ayrıca GB200 NVL72, hiper ölçekli yapay zeka bulutlarında bulut ağı hızlandırmayı, şekillendirilebilir depolamayı, sıfır güven güvenliğini ve GPU bilgi işlem esnekliğini etkinleştirmek için NVIDIA BlueField®-3 veri işleme birimlerini içerir. GB200 NVL72, LLM çıkarım iş yükleri için aynı sayıdaki NVIDIA H100 Tensor Core GPU’lara kıyasla 30 kata kadar performans artışı sağlar ve maliyet ile enerji tüketimini 25 kata kadar azaltır.
Platform, 1,4 exaflop yapay zeka performansı ve 30 TB hızlı belleğe sahip tek bir GPU görevi görüyor ve en yeni DGX SuperPOD için bir yapı taşı oluşturuyor.
NVIDIA , x86 tabanlı üretken yapay zeka platformlarını desteklemek için sekiz B200 GPU’yu NVLink aracılığıyla bağlayan bir sunucu anakartı olan HGX B200’ü sunuyor. HGX B200, NVIDIA Quantum-2 InfiniBand ve Spectrum-X Ethernet ağ platformları aracılığıyla 400 Gb/s’ye kadar ağ oluşturma hızlarını destekler.
Global Blackwell Ortakları Ağı
Blackwell tabanlı ürünler, bu yılın sonlarından itibaren ortaklar tarafından satışa sunulacak.
AWS , Google Cloud , Microsoft Azure ve Oracle Cloud Infrastructure’ın yanı sıra NVIDIA Cloud Partner program şirketleri Applied Digital, CoreWeave, Crusoe, IBM Cloud ve Lambda da Blackwell destekli bulut sunucuları sunan ilk bulut hizmeti sağlayıcıları arasında olacak . Sovereign AI bulutları aynı zamanda Indosat Ooredoo Hutchinson, Nebius , Nexgen Cloud, Oracle EU Sovereign Cloud, Oracle ABD, Birleşik Krallık ve Avustralya Hükümet Bulutları, Scaleway, Singtel, Northern Data Group’un Taiga Cloud’u da dahil olmak üzere Blackwell tabanlı bulut hizmetleri ve altyapısı sağlayacak . Yotta Data Services’ın Shakti Cloud ve YTL Power International.
GB200 ayrıca kurumsal geliştiricilere gelişmiş üretken yapay zeka modelleri oluşturmak ve dağıtmak için gereken altyapı ve yazılıma özel erişim sağlayan, önde gelen bulut hizmet sağlayıcılarıyla ortaklaşa tasarlanmış bir yapay zeka platformu olan NVIDIA DGX™ Cloud’da da mevcut olacak . AWS, Google Cloud ve Oracle Cloud Infrastructure, bu yılın sonuna doğru yeni NVIDIA Grace Blackwell tabanlı örneklere ev sahipliği yapmayı planlıyor.
Cisco, Dell , Hewlett Packard Enterprise , Lenovo ve Supermicro’nun, Aivres, ASRock Rack , ASUS , Eviden, Foxconn , GIGABYTE , Inventec , Pegatron , QCT , Wistron, Wiwynn ve Blackwell ürünlerini temel alan geniş bir sunucu yelpazesi sunması bekleniyor. ZT Sistemleri.
Ek olarak, mühendislik simülasyonunda küresel liderler olan Ansys , Cadence ve Synopsys’in de aralarında bulunduğu büyüyen bir yazılım üreticileri ağı, elektrik, mekanik ve üretim sistemleri ve parçalarının tasarlanması ve simüle edilmesine yönelik yazılımlarını hızlandırmak için Blackwell tabanlı işlemcileri kullanacak. Müşterileri, ürünleri pazara daha hızlı, daha düşük maliyetle ve daha yüksek enerji verimliliğiyle sunmak için üretken yapay zekayı ve hızlandırılmış bilgi işlemi kullanabilir.
NVIDIA Yazılım Desteği Blackwell ürün portföyü , üretim düzeyinde yapay zeka için uçtan uca işletim sistemi olan NVIDIA AI Enterprise
tarafından desteklenir NVIDIA AI Enterprise, yine bugün duyurulan NVIDIA NIM™ çıkarım mikro hizmetlerinin yanı sıra kuruluşların NVIDIA ile hızlandırılmış bulutlarda, veri merkezlerinde ve iş istasyonlarında konuşlandırabileceği AI çerçeveleri, kitaplıkları ve araçlarını içerir.
