Qualcomm: i modelli generativi basati sull'intelligenza artificiale possono funzionare sui dispositivi con SoC Snapdragon

ChatGPT ha posto sotto gli occhi di tutti ciò che si può ottenere sfruttando un modello generativo generato utilizzando miliardi di parametri e addestrato su moli di dati immense.

I modelli generativi sono ampiamente utilizzati nel campo dell’intelligenza artificiale: usano un algoritmo di apprendimento automatico per generare dati o contenuti originali che assomigliano a quelli forniti in input. Un esempio comune di modello generativo si chiama Generative Adversarial Network (GAN): esso utilizza due reti neurali avversarie per generare dati realistici a partire da un set di dati in input.
Già da qualche anno NVIDIA ha mostrato l’uso di soluzioni GAN per generare immagini fotorealistiche partendo da semplici descrizioni.

I modelli generativi possono essere utilizzati per generare diversi tipi di dati, tra cui immagini, suoni, video e testo. Le varie versioni del modello GPT (Generative Pre-trained Transformer) di OpenAI permettono di generare testo usando un approccio probabilistico.
FlexGen permette di creare il proprio ChatGPT senza bisogno di una connessione Internet: basta una GPU anche se si possono estendere la capacità computazionali abbinandone due o più.

Che sia possibile gestire modelli generativi usando hardware potente lo si sa già: ciò che ha fatto Qualcomm è utilizzare un SoC ARM come quelli che equipaggiano i nostri smartphone per generare immagini a partire da testo con il modello Stable Diffusion interamente in locale.

Qualcomm ha utilizzato un SoC Snapdragon 8 Gen 2: è vero che si tratta dell’attuale chip di punta dell’azienda ma è un prodotto commerciale che si trova negli smartphone di ultima generazione.

Sul suo sito Web Qualcomm ha presentato il risultato dei primi test che hanno permesso di usare il modello generativo Stable Diffusion su Android. I tecnici della società hanno creato un’immagine da 512×512 pixel che raffigura un gatto che indossa un’armatura. Le varie creatività sono state ottenute utilizzando lo stack AI di Qualcomm e Stable Diffusion 1.5 su uno smartphone Android sprovvisto di connettività Internet. Il carico di lavoro per la generazione dell’immagine del gatto a partire da una descrizione testuale (input) è stato gestito completamente sullo smartphone Android senza spostare l’elaborazione sul cloud: ed è qui la novità rivendicata da Qualcomm.

Le varie fasi dell’esperimento Qualcomm sul supporto degli algoritmi di intelligenza artificiale e dei moderni modelli generativi sono visibili nel video YouTube realizzato dall’azienda.

Non sappiamo se Qualcomm porterà o meno questa tecnologia sui dispositivi basati su SoC Snapdragon, almeno quelli più recenti, ma è chiaro che quanto realizzato si preannuncia come molto più che un semplice esperimento, paragonabile a quanto anche i normali utenti possono fare usando i loro PC dotati di schede video di fascia alta.