Micron a prezentat prima memorie din lume LPDDR‑SOCAMM2 de 256 GB, ideală pentru inteligența artificială.

Micron lansează un nou tip de memorie pentru centrele de date

Compania Micron a prezentat în lume primul modul de memorie RAM LPDRAM SOCAMM2 cu capacitate de 256 GB, creat special pentru centre de procesare a datelor de înaltă performanță și sarcini de inteligență artificială.

Ce este nou?
Parametru | Memorie tradițională | LPDRAM SOCAMM2
---|---|---
Consum energetic | - | la treia parte
Dimensiunea modulului | - | compact, construit din cristale monolitice de 32 Gb
Lățime de bandă | - | crescută pentru inferență AI
Întârziere | - | semnificativ redusă

La rularea pe un procesor cu opt canale și 2 TB de memorie totală, viteza de pornire a modelelor AI (timpul până la primul token) crește cu peste douăișeimăi de ori.

Cine are nevoie de asta?
Modul este orientat către:

- lansarea unor modele lingvistice mari;
- orice sarcini de lucru în care volumul memoriei, lățimea de bandă și întârzierea sunt critice;
- scenarii în care o parte din cache KV poate fi transferată din memoria video într-o memorie sistemică mai economică fără pierderi de performanță.

Factor de formă și colaborare
SOCAMM2 este o variantă compactă a formatului RDIMM, dar cu un consum energetic redus. Dezvoltarea memoriei s-a desfășurat în colaborare cu Nvidia, subliniind potrivirea sa pentru accelerarea GPU a AI.

Astfel, Micron oferă o soluție eficientă pentru centrele de date, care permite reducerea costurilor de energie și spațiu, îmbunătățind simultan performanța sarcinilor AI.