Una Neural Processing Unit (NPU) è un tipo di processore progettato specificamente per gestire ed eseguire algoritmi legati all’intelligenza artificiale e al machine learning. Sono unità considerate come “processori complementari” in quanto lavorano in abbinamento a CPU e GPU, per migliorare le prestazioni con i carichi di lavoro legati all’intelligenza artificiale. Citiamo ad esempio attività come la classificazione delle immagini, il riconoscimento degli oggetti, la traduzione linguistica in tempo reale, il riconoscimento facciale, la generazione di contenuti di qualunque genere, l’ottimizzazione di foto e video in tempo reale e molto altro ancora.
L’importanza delle NPU è figlia della crescente domanda di applicazioni IA capaci di funzionare in locale, sul dispositivo dell’utente, anziché appoggiarsi alle risorse disponibili sul cloud. Le NPU brillano proprio per via dell’abilità di eseguire gli algoritmi di IA in maniera più efficiente (quindi consumando anche meno energia) rispetto a CPU e GPU.
Dove si trovano le NPU
La collaborazione tra CPU, GPU e NPU sta ridefinendo il panorama informatico, consentendo un’esperienza utente più fluida e prestazioni ottimizzate nei settori che richiedono un’elaborazione avanzata dei dati.
Diversi processori sono già dotati di NPU, anche se il loro numero risulta ancora piuttosto limitato. I volumi, ovviamente, sono destinati a crescere vertiginosamente, via via che prenderà piede il concetto di PC AI, come definito ad esempio da Microsoft.
Con i suoi Ryzen 8040, AMD ha presentato processori per il mercato mobile con NPU integrata: Ryzen 9 8945HS, Ryzen 7 8845HS, Ryzen 7 8840HS sono alcuni esempi. Ne parliamo nell’articolo in cui presentiamo i Ryzen 8040 come il primo vero investimento di AMD sull’IA mainstream. Da parte sua, Intel ha presentato i Core Ultra Meteor Lake con NPU come parte della nuova generazione di processori per il mondo mobile.
Sul versante ARM, Qualcomm ha affilato le armi con i suoi Snapdragon X Elite, più veloci degli Intel Core Ultra proprio nei workload legati all’intelligenza artificiale, secondo i test svolti dall’azienda di Cristiano Amon.
Inizialmente, le NPU si sono fatte largo sugli smartphone, migliorando le abilità della fotocamera e ponendo nuovi standard di riferimento per superare il mito dei Megapixel. Man mano che le applicazioni IA diventano più diffuse, le NPU stanno progressivamente sbarcando sui sistemi notebook e sul versante desktop.
Sistemi come i Dell Precision serie 5000 e 3000, il Microsoft Surface Pro 9 5G, il Lenovo ThinkPad X1 Extreme Gen 5, il Dell Latitude 7350, sono alcuni primissimi esempi di sistemi dotati di NPU.
Come stabilire se il sistema dispone di NPU
Per verificare l’eventuale presenza di NPU su un sistema Windows, basta premere la combinazione di tasti Windows+X
, scegliere Gestione dispositivi quindi verificare la presenza, in elenco, dell’indicazione Processore neurale. L’assenza di qualunque riferimento in merito, conferma che il processore in uso non è provvisto di NPU.
Quando il sistema operativo deve svolgere un’attività legata all’intelligenza artificiale, valuta i componenti disponibili, le risorse del sistema e decide se utilizzare la NPU o la GPU.
Fonte dell’immagine: Intel.
Utilizzo della scheda Prestazioni del Task Manager di Windows 11
Le più recenti versioni di Windows 11 presentano un Task Manager aggiornato e migliorato: premendo CTRL+MAIUSC+ESC
, cliccando eventualmente su Più dettagli quindi sulla scheda Prestazioni, per i PC che dispongono di un’unità di elaborazione neurale si troverà il nuovo riquadro NPU, proprio al di sotto dei vari riferimenti a CPU, memoria, dischi, schede di rete e GPU. Cliccando su NPU, è possibile verificare in tempo reale l’attività dell’unità e avere contezza delle situazioni in cui entra in funzione per via della specificità del carico di lavoro da gestire.
Di recente AMD ha ringraziato Microsoft per aver aggiunto nel Task Manager anche il supporto per le NPU presenti nei più recenti Ryzen.
Nel caso dei sistemi basati su processore Intel, si può anche fare riferimento al database Ark: basta scegliere il nome del chip utilizzato sul proprio sistema e controllare quanto presente nella colonna di sinistra, selezionando NPU Specifications.
In conclusione, le NPU rappresentano un passo significativo nell’ottimizzazione delle prestazioni per i compiti legati all’intelligenza artificiale, consentendo una maggiore efficienza energetica e una migliore gestione dei carichi di lavoro. Siamo comunque ancora agli albori: la tecnologia alla base del funzionamento delle NPU deve ancora maturare e progredire.
Credit immagine in apertura: Intel. Mostra una serie di processori Core Ultra Meteor Lake realizzati utilizzando il processo costruttivo Intel 4 e un packaging Foveros che unisce un’architettura ibrida formata da CPU, GPU e NPU.