Microsoft’un yeni nesil yapay zeka sistemi Maia 300, verimlilik ve kapasiteyi artırarak AI uygulamalarında önemli bir gelişme sağlıyor.
Maia 300’ün Mimari Yaklaşımı
Maia 300, ilk günden itibaren büyük dil modelleri (LLM) için optimize edilmiş bir mimari felsefesi etrafında inşa edildi. Üçüncü nesil olan Maia 300, bu felsefenin en kapsamlı ifadesini sunuyor. Tüm bileşenleri bir araya getirerek, yazılım, silikon, fiziksel raf altyapısı, ağ ve veri merkezlerinin tek bir platform olarak çalışmasını sağlıyor.
Bu sistem düzeyindeki yaklaşım, çok adımlı yürütme, uzun bağlam çözümleme ve araç kullanma gibi artan iş yüklerinin hesaplama profili ve aritmetik yoğunluğunu değiştirmesi nedeniyle giderek daha fazla gereklilik haline geliyor.
Yazılım Tanımlı Veri Akışı ile Enerji Verimliliği
Maia 200, Yazılım Tanımlı Yerel Erişimli Veri Akışı Mimarisi (SDLA) adı verilen yeni bir hızlandırıcı mimarisi sınıfını tanıtmıştı. Bu mimari, verilerin yönetimi, depolanması, taşınması ve dönüştürülmesi gibi modern AI sistemlerindeki en temel zorluklardan birine odaklanıyor.
Maia 300, bu mimariyi uzun bağlamlı, akıl yürütme yoğun ve çözümleme ağırlıklı çıkarım için geliştiriyor. Bellek, çipletler arasında yerel bir farkındalıkla düzenleniyor, böylece yazılım verileri kullandığı işleme yakın yerleştirebiliyor.
Çip Üzerindeki Mimari İnovasyonlar
Maia 300, veri hareketini, yerelliği ve bellek verimliliğini optimize eden bir dizi mimari yenilik ile watt başına performansı artırıyor. Çoklu çiplet mimarisi, işlem gücünü artırarak, bellek denetleyici ve I/O işlevlerini bant genişliği ve maliyet açısından optimize edilmiş yongalara ayırıyor.
Optimizasyonlar ile sistemin hesaplama FLOP’larını %36 artırarak, HBM bant genişliğini 2,5 katına çıkarıyor ve ölçeklenebilirlik için %14 daha fazla bant genişliği sağlıyor.
Ağ ve İletişim Yenilikleri
Maia 300, ağını yazılım tanımlı veri akışı mimarisinin doğal bir uzantısı olarak tasarlıyor. AI ağ denetleyicisi, Ethernet tabanlı özel AI taşımacılığı uyguluyor. İki katmanlı ağ, 12.288 hızlandırıcıya kadar yüksek performanslı bir superpod oluşturuyor.
Ayrıca, her hızlandırıcı, doğrudan bağlantılar ve anahtarlama yolları arasında ölçeklenebilir bağlantısını paylaşıyor. Bu, enerji ve maliyetin azaltılmasına yardımcı oluyor.
Verimlilik ve Kaynak Yönetimi
Maia 300, veri merkezi ölçeğinde verimliliği artırmak için tasarlanmıştır. 167 kW’lık bir rafta 96 hızlandırıcı entegre edilmiştir. Bu, Maia 200’e göre iki kat daha fazla hızlandırıcı yoğunluğu sağlıyor.
Gelişmiş sıvı soğutma sistemi, raftaki termal yükün %80’inden fazlasını kaldırıyor. Ayrıca, entegre telemetri, dağıtım güvenilirliğini ve hizmet edilebilirliği artırmaya yönelik geliştirmeler sağlıyor.
Maia 300’ün Sağladığı Avantajlar
Maia 300, Maia 200 ile karşılaştırıldığında, tam 96 hızlandırıcı konfigürasyonunda 7 kat daha fazla raf ölçeğinde token geçişi ve watt başına %250’den fazla performans sunuyor. Bu sistem, daha fazla bellek bant genişliği ve iki kat daha fazla hızlandırıcı ile birlikte çalışıyor.
Sonuç olarak, Maia 300, daha verimli bir şekilde daha fazla zeka sunarak, daha fazla insan ve kuruluşa ulaşmayı hedefliyor.
