Tenstorrent Grayskull, i primi chip RISC-V per l'IA alternativi alle GPU

Jim Keller, il leggendario progettista di chip, artefice del “rilancio” di AMD e del successo che ne è seguito dopo l’ideazione dell’innovativa piattaforma Ryzen, ha annunciato che la sua azienda è pronta per l’immissione sul mercato di un’alternativa alle GPU tradizionali.

Dopo aver “militato” nelle fila di AMD, Tesla e Intel, Keller è entrato a far parte della startup Tenstorrent, azienda specializzata nella realizzazione di chip per l’intelligenza artificiale, rivestendone il ruolo di CEO a partire da gennaio 2023.

Cos’è e come funziona Tenstorrent Grayskull

Oggi Tenstorrent pone una vera e propria pietra miliare presentando Grayskull, un’alternativa RISC-V alle classiche GPU progettata per essere più facile da programmare e scalare. Secondo quanto riferito, il nuovo chip eccelle nel campo della run-time sparsity. Si tratta di una condizione che si manifesta durante l’esecuzione di un programma o di un algoritmo, in cui le informazioni possono essere distribuite in modo sparso. Grayskull sembra essere particolarmente adatto ad affrontare questo tipo di situazioni, consentendo un’efficace gestione di dati sparsi durante l’esecuzione di calcoli. La “sparsità dei dati” si riferisce alle penuria di dati o alla presenza di elementi mancanti all’interno di un set di dati o durante l’esecuzione di un’operazione.

Grayskull sarebbe altrettanto valido nella computazione condizionale ovvero nell’esecuzione di determinate operazioni o calcoli solo quando specifiche condizioni sono soddisfatte.

L’azienda guidata da Keller ha presentato anche i primi modelli di chip: Grayskull e75 e il più potente Grayskull e150. Entrambi sono hardware per la gestione delle operazioni di inferenza nell’ambito dei progetti di intelligenza artificiale. Forniti insieme con i software TT-Buda e TT-Metalium, il primo serve per eseguire subito i modelli (quelli supportati sono indicati in questa pagina GitHub), mentre il secondo è per gli utenti che desiderano personalizzare i modelli o scriverne di nuovi.

Come si presentano i nuovi chip per l’intelligenza artificiale

Il modello Grayskull e75 è una scheda PCIe Gen 4 a basso profilo e mezza lunghezza con un singolo processore; funziona a 75 W. Il modello e150 più avanzato è una scheda PCIe Gen 4 di altezza standard, 3/4 di lunghezza contenente un processore Grayskull che funziona fino a 200 W ed è capace di bilanciare potenza e throughput.

I chip Tenstorrent si basano su una matrice di core nota come Tensix Core e sono dotati di hardware di comunicazione in modo che possano scambiare dati reciprocamente in modo diretto, senza passare attraverso la DRAM.

I kit di sviluppo per Grayskull supportano un’ampia gamma di modelli, tra cui BERT per le attività di elaborazione del linguaggio naturale, ResNet per il riconoscimento delle immagini, Whisper per il riconoscimento vocale e la traduzione, YOLOv5 per il rilevamento di oggetti in tempo reale e U-Net per la segmentazione delle immagini.

Le versioni e75 ed e150 sono già disponibili per l’acquisto rispettivamente a 599 e 799 dollari.

La storica presentazione firmata Tenstorrent arriva a valle della stipula di un importante contratto con il Leading-edge Semiconductor Technology Center (LSTC) del Giappone. Nello specifico, le soluzioni Tenstorrent basate sulla tecnologia RISC-V e su chiplet ingegnerizzati in seno alla startup guidata da Keller (quindi con tutta la proprietà intellettuale aggiunta da quest’ultima), saranno utilizzati per realizzare un acceleratore IA a 2 nm all’avanguardia, con l’obiettivo finale di rivoluzionare le prestazioni delle elaborazioni di IA in Giappone.