Intel e Microsoft pensano all'esecuzione su PC locale di Copilot

All’inizio del 2024 Microsoft ha dichiarato come quest’anno sarebbe stato caratterizzato dai PC con Intelligenza Artificiale integrata.

Questa affermazione rappresenta un chiaro avvertimento: i computer di prossima generazione dovranno includere hardware evoluti, ben lontani dalle componenti utilizzate oggi dai PC presenti nelle nostre abitazioni.

Il più grande cambiamento in tal senso dovrebbe essere costituito dalle nuove unità di elaborazione neurale (NPU) e non solo. Microsoft e Intel stanno gradualmente dimostrando la loro intenzione di coinvolgere sviluppatori software per sfruttare questo tipo di componentistica avanzata. L’obiettivo definitivo, a quanto pare, è permettere ad intere IA di funzionare ed essere conservate in locale.

Secondo quanto riportato da Tom’s Hardware, i PC con IA integrata saranno in grado di eseguire svariate funzioni legate a Copilot. L’assistente IA, allo stato attuale, si affida in tutto e per tutto all’elaborazione su cloud, senza interagire attivamente con l’hardware locale. Ciò comporta una leggera latenza, la maggior parte delle volte del tutto impercettibile.

Altro vantaggio è quello legato alla privacy. Relegando Copilot a un contesto locale, infatti, l’utente non dovrà interagire con server esterni, limitando al massimo le possibili intromissioni.

Copilot localmente su PC? L’hardware attuale non è ancora in grado di supportarlo

In questo momento storico, non esistono ancora NPU locali o sistemi che si basano su tale tecnologia. Lo sfruttamento di tale tecnologia nel contesto di alcune webcam (come quelle di Surface Studio) sono l’unico esempio in tal senso. A livello pratico, però, c’è ancora da aspettare.

Intel ha anche affermato che Microsoft richiederà che le NPU nei PC con IA raggiungano velocità di 40 trilioni di operazioni al secondo (TOPS) affinché un computer rientri in questa categoria di dispositivi.

Questo valore è ancora inavvicinabile dall’hardware in commercio.

Le CPU dei portatili Intel Meteor Lake si fermano a 10 TOPS, mentre i chip per Ryzen 8040 di AMD raggiungono 16 TOPS. Di fatto, meno della metà della potenza di calcolo richiesta per gestire un’IA localmente.

Nel contesto del progetto che riguarda l’esecuzione di Copilot localmente, Intel ha preparato un kit apposito da offrire agli sviluppatori. Stiamo parlando di un Asus NUC Pro 14, un mini PC costruito attorno al silicio Meteor Lake di Intel.

A noi consumatori non resta che attendere, portafoglio in mano, produzione e commercializzazione dell’hardware adatto.