Hot Chips’te Samsung, bir hızlandırıcıya entegre edilmiş Yüksek Bant Genişliği Belleği (HBM) ile bellekte işleme (PIM) teknolojisini gösterdi.
Geliştirmenin, bellek ve mantığın yakınsamasına doğru hareketi hızlandırdığı iddia ediliyor.
HBM-PIM, süper bilgisayarlarda ve yapay zeka uygulamalarında yüksek hızlı veri işlemeyi geliştirmek için yapay zeka işleme işlevini içerir.
HBM-PIM o zamandan beri Xilinx Virtex Ultrascale+ (Alveo) AI hızlandırıcısında test edildi ve burada neredeyse 2,5 kat sistem performansı kazancı ve enerji tüketiminde %60’tan fazla azalma sağladı.
Samsung svp Nam Sung Kim, “HBM-PIM, müşterilerin yapay zeka hızlandırıcı sistemlerinde test edilen ve muazzam ticari potansiyel sergileyen, endüstrinin ilk yapay zekaya özel bellek çözümüdür,” diyor ve ekliyor: “teknolojinin standartlaştırılması yoluyla, uygulamalar HBM3’e genişleyerek sayısız hale gelecek. yeni nesil süper bilgisayarlar ve yapay zeka uygulamaları için ve hatta cihaz içi yapay zeka ve veri merkezlerinde kullanılan bellek modülleri için mobil belleğe.”
Hızlandırma DIMM (AXDIMM), AI hızlandırıcı sistemlerinin enerji verimliliğini artırmak için CPU ve DRAM arasındaki büyük veri hareketini en aza indirerek işlemeyi DRAM modülünün kendisine getirir.
Arabellek çipinin içine yerleştirilmiş bir AI motoru ile AXDIMM, bir seferde yalnızca bir sıraya erişmek yerine birden çok bellek sırasının (DRAM çipleri kümesi) paralel işlemesini gerçekleştirebilir, bu da sistem performansını ve verimliliğini büyük ölçüde artırır.
Modül, geleneksel DIMM form faktörünü koruyabildiğinden, AXDIMM, sistem değişiklikleri gerektirmeden doğrudan değiştirmeyi kolaylaştırır.
Şu anda müşteri sunucularında test edilmekte olan AXDIMM, yapay zeka tabanlı öneri uygulamalarında yaklaşık iki kat daha fazla performans ve sistem genelinde enerji kullanımında %40’lık bir azalma sunabilir.
Samsung’un LPDDR5-PIM mobil bellek teknolojisi, veri merkezi bağlantısı olmadan bağımsız AI yetenekleri sağlayabilir. Simülasyon testleri, LPDDR5-PIM’in ses tanıma, çeviri ve sohbet robotu gibi uygulamalarda kullanıldığında enerji kullanımını %60’ın üzerinde azaltırken performansı iki katından fazla artırabildiğini göstermiştir.
Samsung, 2022’nin ilk yarısında PIM platformunun standardizasyonunu tamamlamak için diğer endüstri liderleriyle birlikte çalışarak AI bellek portföyünü genişletmeyi planlıyor. Şirket ayrıca bellek pazarında geniş bir uygulanabilirlik sağlamak için oldukça sağlam bir PIM ekosistemini desteklemeye devam edecek.
