A Samsung még az év elején állt elő az iparág első, számításokat is végző HBM memóriájával, amelyet az idei Hot Chips alkalmával ki is veséztek. A HBM-PIM egy Xilinx Alveo U280 FPGA-n lett kitesztelve. Az alkalmazásával a szóban forgó hardvernek teljesítménye 2,49-szeresére nőtt, miközben a fogyasztásán 62%-ot sikerült vágni.
[+]
Ezek igen jó eredménynek számítanak, és a Xilinx a Versal HBM sorozathoz is beveti majd a fejlesztést, ráadásul a Samsung már dolgozik a szabványosításon. Utóbbi azért lényeges, hogy a HBM3 generációnál már más memóriagyártó számára is elérhető legyen a PIM, azaz a processing-in-memory koncepciója, és mindez a technológia általános elterjedéséhez vezethet az AI gyorsítók piacán.
[+]
Maga a PIM architektúra egyébként három fő komponensből áll. A PIM unit controller felel a rendszer vezérlésért, a regiszterfájlok nyilván a számításhoz szükséges adatokat tárolják, míg a 16-utas FP16-os SIMD tömb a kalkulációk végrehajtásét végzi.
[+]
A HBM-PIM ötletéből kiindulva a Samsung a PIM koncepcióját máshova is kiterjesztené. Készül ugyanis az AXDIMM, vagyis az Acceleration DIMM. Ez a szimpla memóriamodult egy AXB-vel (AXDIMM Buffer) egészíti ki, és ez képes bizonyos feladatokat átvenni a központi processzortól. A hagyományos DIMM foglalatba is helyezhető rendszer kétszeresére növelheti az AI feladatok teljesítményét, miközben a lecsökkenő adatmozgás miatt 40%-kal csökkenhet a teljes konfiguráció energiaigénye.
[+]
Hasonló iránynak számít az LPDDR5-PIM is, nagyjából a fentiekhez mérhető teljesítményelőnnyel és fogyasztáscsökkenéssel, de a Samsung terveiben már szerepel GDDR6-PIM is, illetve az AXDIMM gyakorlatilag bármilyen szabványú memóriával alkalmazható, például DDR5-tel is.
