Memoria HBF di SanDisk: cos'è e come permette di avere 4 TB sulle GPU

Quando si parla di memorie ad alta velocità, si pensa subito alle HBM (High Bandwidth Memory), un tipo avanzato di memoria DRAM progettate per offrire una larghezza di banda molto elevata, un consumo energetico ridotto e un fattore di forma compatto rispetto alle memorie tradizionali come DDR4 e GDDR5. Sono state sviluppate da AMD in collaborazione con SK Hynix e adottate come standard industriale dal JEDEC nel 2013. Le più evolute HBM3 e HBM3E offrono velocità fino a 512 GB/s per stack e supportano configurazioni più grandi, con potenziali applicazioni nelle GPU professionali e nell’intelligenza artificiale. SanDisk, tuttavia, ritiene che si possa fare ancora meglio e a metà febbraio 2025 ha presentato le sue memorie HBF (High Bandwidth Flash).

HBF: un nuovo paradigma per la memoria ad alta capacità

La tecnologia HBF promette fino a 4 TB di VRAM per le GPU nella sua prima generazione, con potenzialità di crescita per le future revisioni. SanDisk prevede anche l’adozione di questa tecnologia nei dispositivi mobili e in altri campi applicativi, anche se non è stata ancora annunciata una data di rilascio ufficiale.

HBF consente l’accesso parallelo a più array di memoria 3D NAND, garantendo un mix unico di capacità e velocità. Una soluzione principalmente pensata per le applicazioni di inferenza legate all’intelligenza artificiale, che richiedono elevate prestazioni e basso consumo energetico.

Secondo Alper Ilkbahar, responsabile della tecnologia di memoria presso SanDisk, l’obiettivo di HBF è eguagliare la larghezza di banda dell’HBM, offrendo al contempo una capacità 8-16 volte superiore a costi comparabili.

Come funziona HBF

Concettualmente, HBF è simile all’HBM: impila più die di memoria 3D NAND ad alte prestazioni, interconnessi tramite through-silicon vias (TSV), su un die logico che gestisce l’accesso parallelo ai sottosistemi NAND. L’architettura è basata su BICS 3D NAND con tecnologia CMOS directly bonded to Array (CBA), che permette di combinare un array di memoria NAND con un die logico realizzato con tecnologia di processo avanzata.

La vera innovazione risiede nel modo in cui SanDisk ha suddiviso la memoria: invece di trattare il die NAND come un unico blocco, HBF lo divide in molteplici array indipendenti, ciascuno con un proprio percorso di lettura/scrittura dedicato. Questo approccio consente un accesso simultaneo ai dati, aumentando significativamente la larghezza di banda.

Per realizzare questa tecnologia, SanDisk ha sviluppato un metodo proprietario di impilamento che minimizza la deformazione dei die, consentendo la sovrapposizione di 16 core die HBF, gestiti da un die logico capace di accedere contemporaneamente ai dati da tutti i die HBF.

Prestazioni e limiti della HBF

SanDisk non ha ancora divulgato dati precisi sulle prestazioni della sua memoria HBF. Tuttavia, un sistema composto da otto stack HBF offre 4 TB di NAND, quindi ogni stack può immagazzinare 512 GB di dati, ben 21 volte più della capacità di un singolo stack HBM3E da 24 GB. Nonostante queste capacità, la latenza della HBF non potrà competere con la DRAM.

Un punto interrogativo è la resilienza. Le memorie NAND hanno una durata limitata in termini di cicli di scrittura, con le tecnologie SLC e pSLC che offrono maggiore resistenza rispetto alle più economiche TLC e QLC. Tuttavia, questa scelta impatta sulla capacità e sui costi.

Inoltre, mentre la DRAM è bit-addressable ovvero può leggere, scrivere e modificare singoli bit o byte di dati in qualsiasi posizione della memoria senza dover cancellare interi blocchi, le memorie NAND (come quelle usate negli SSD) non permettono l’uso di tale schema, funzionando invece secondo un modello a pagine e blocchi.

La sfida principale per la HBF è rendere la NAND più simile alla DRAM in termini di velocità di accesso, senza perdere il vantaggio della maggiore capacità e minor costo.

Il futuro di HBF e la creazione di uno standard aperto

SanDisk prevede di sviluppare HBF in tre generazioni successive e ha dichiarato l’intenzione di trasformarla in uno standard aperto, coinvolgendo un consiglio tecnico di esperti del settore e partner strategici. Una mossa che potrebbe favorire un’adozione più ampia della tecnologia.

Rimane comunque da verificare se davvero il mercato accoglierà la proposta di SanDisk come un’alternativa reale e percorribile alla memoria HBM.

HBF potrebbe ritagliarsi una nicchia importante nel settore dell’AI e del calcolo ad alte prestazioni, offrendo una memoria ad alta capacità, elevata larghezza di banda e costi contenuti, pur non potendo sostituire del tutto la DRAM o la HBM nelle applicazioni più sensibili alla latenza.