Hot Chips 33 : Samsung démontre les dernières avancées de la technologie PIM
Lors de la conférence annuelle Hot Chips 33, Samsung a présenté aujourd’hui ses dernières avancées en matière de technologie de traitement en mémoire (PIM), notamment la première intégration réussie de sa mémoire haute bande passante compatible PIM (HBM-PIM) dans un système d’accélérateur commercialisé.
Depuis son introduction en février 2021, le HBM-PIM (Aquabolt-XL) a été testé dans l’accélérateur IA Xilinx Virtex Ultrascale+ (Alveo), où il a permis de gagner près de 2,5 fois les performances du système tout en réduisant la consommation d’énergie de plus de 60 %, Samsung a déclaré dans un communiqué de presse mardi.
HBM-PIM est la première solution de mémoire sur mesure de l’industrie à être testée dans les systèmes d’accélérateurs d’IA des clients, démontrant un énorme potentiel commercial. Grâce à la standardisation de la technologie, les applications deviendront nombreuses, s’étendant au HBM3 pour les supercalculateurs et les applications d’IA de nouvelle génération, et même à la mémoire mobile pour l’IA sur l’appareil ainsi que pour les modules de mémoire utilisés dans les centres de données.
Ensuite, l’Acceleration DIMM (AXDIMM) minimise les mouvements de données volumineux entre le CPU et la DRAM en apportant le traitement au module DRAM lui-même. Avec un moteur AI intégré à la puce tampon, l’AXDIMM peut effectuer un traitement parallèle de plusieurs rangs de mémoire au lieu d’accéder à un seul rang à la fois, améliorant considérablement les performances et l’efficacité du système.
L’AXDIMM est censé offrir environ deux fois les performances des applications de recommandation basées sur l’IA et une diminution de 40 % de la consommation d’énergie à l’échelle du système.
De plus, la technologie de mémoire mobile LPDDR5-PIM de Samsung est capable de fournir des capacités d’IA indépendantes sans connectivité de centre de données, avec des tests de simulation montrant que la technologie peut plus que doubler les performances tout en réduisant la consommation d’énergie de plus de 60% lorsqu’elle est utilisée dans la reconnaissance vocale, la traduction et le chatbot. applications.
Enfin, Samsung a annoncé son intention d’étendre son portefeuille de mémoires IA en s’associant à d’autres leaders du secteur pour achever la normalisation de la plate-forme PIM au cours du premier semestre 2022.