Qualcomm AI Hub: intelligenza artificiale sui dispositivi mobili. Ci sono anche X80 e FastConnect 7900

Al Mobile World Congress 2024 di Barcellona, Qualcomm ha annunciato un nuovo modem 5G che eleva ulteriormente gli standard sia in termini di performance che di efficienza energetica. Snapdragon X80 è il settimo modem 5G dell’azienda guidata da Cristiano Amon ed è il primo a integrare un modulo AI che poggia il suo funzionamento su un acceleratore tensoriale dedicato.

Prima di parlare di hardware, tuttavia, riteniamo abbia senso partire dal software e dalle applicazioni pratiche delle innovazioni introdotte da Qualcomm nel mercato delle soluzioni per l’intelligenza artificiale.

Qualcomm AI Hub: la piattaforma che porta l’intelligenza artificiale su smartphone e altri dispositivi locali

Fino a qualche tempo fa, la tendenza era quella di spostare sul cloud le risorse di calcolo e quindi le elaborazioni utilizzate dagli strumenti di IA. Adesso, invece, la sempre più diffusa disponibilità di GPU potenti e di NPU (Neural Processing Unit) sui dispositivi mobili, permette di beneficiare del computing in ambito locale, senza “scomodare” sistemi remoti gestiti da soggetti terzi.

Qualcomm AI Hub è proprio questo: una piattaforma che fornisce accesso a modelli di intelligenza artificiale ottimizzati per l’esecuzione sui dispositivi Snapdragon, come smartphone e PC basati su Snapdragon X Elite.

I modelli distribuiti attraverso Qualcomm AI Hub sono ottimizzati per sfruttare al massimo l’accelerazione hardware di CPU, GPU e NPU integrate nei SoC della serie Snapdragon. Gli sviluppatori possono utilizzare questa piattaforma per scaricare modelli di machine learning e sviluppare applicazioni di intelligenza artificiale pronte per essere utilizzate sugli smartphone.

Quanti e quali modelli offre Qualcomm AI Hub

Nel momento in cui scriviamo, Qualcomm AI Hub propone più di 75 tipi di modelli “pronti per l’uso”: tra di essi citiamo Stable Diffusion per la generazione di immagini, Whisper per la trascrizione del testo e Clip per il riconoscimento delle immagini.

Qualcomm pubblica anche esempi pratici per l’uso dei modelli distribuiti attraverso la sua soluzione. Alcuni video dimostrativi, ad esempio, mostrano come funziona il modello “LLaVA”, in grado di riconoscere immagini e rispondere a domande, su uno smartphone Android. Altri video si concentrano sulla generazione di immagini utilizzando Stable Diffusion e LoRA (Low-Rank Adaptation), sempre su uno smartphone.

Come abbiamo spiegato nell’articolo incentrato sulle soluzioni di IA al servizio dei processi decisionali in azienda, LoRA è una tecnica fondamentale per chi si avvicina allo studio e all’utilizzo dei LLM open source, uno degli strumenti più efficaci per migliorare un modello preesistente ed effettuarne il fine tuning: qui un video dimostrativo di Qualcomm.

I modelli distribuiti attraverso Qualcomm AI Hub, come accennato in precedenza, possono funzionare non solo su smartphone ma anche sui futuri PC ARM-based dotati di SoC Snapdragon X Elite. Qui si vede un modello generativo multimodale in funzione su un PC Windows on ARM; qui un LLM multimodale in uso su uno smartphone Android.

È possibile scaricare modelli ottimizzati per Snapdragon non solo da Qualcomm AI Hub, ma anche dal repository GitHub e dall’account Hugging Face gestiti da Qualcomm.

Qualcomm Snapdragon X80: nuovo modem 5G che supporta IA e connessione satellitare

Grazie al processore dedicato per l’intelligenza artificiale (AI Processor) basato, come accennato in precedenza, su un acceleratore tensoriale, il nuovo Qualcomm Snapdragon X80 migliora le velocità di trasferimento dati (fino a 10 Gbps in download e 3,5 Gbps in upload), copertura, precisione della posizione, efficienza spettrale e latenza.

Supporta nativamente, inoltre, la tecnologia NB-NTN (Non-Terrestrial Networks) che mira ad estendere le comunicazioni satellitari a un più ampio numero di dispositivi che utilizzano i chip di punta dell’azienda di San Diego. In un altro articolo abbiamo visto su cosa si basa l’idea del telefono satellitare dentro lo smartphone e come funziona.

Il nuovo modem vanta anche un’architettura a 6 antenne, migliorando la ricezione del segnale; carrier aggregation 6X, aumentando la larghezza di banda disponibile per una connettività più veloce; l’ampliamento del raggio di copertura per trasmissioni su onde millimetriche (mmWave), liberalizzate in Italia. Grazie all’IA, il modem Snapdragon X80 può migliorare significativamente le performance, soprattutto, nel caso degli accessi Internet tramite apparati wireless da postazione fissa (CPE).

I primi dispositivi commerciali dotati del più aggiornato, potente e versatile modem 5G di Qualcomm, dovrebbero arrivare sul mercato nella seconda metà del 2024. Durga Malladi, Senior Vice President e General Manager di Qualcomm Technologies, sottolinea l’importanza dell’intelligenza artificiale nel futuro della connettività.

Cos’è e come funziona il chip FastConnect 7900

Oltre all’X80, Qualcomm ha annunciato anche la piattaforma FastConnect 7900, un chip a 6nm che integra WiFi 7, Bluetooth 5.4 e UWB (Ultra Wide Band). È il primo sistema a integrare le tecnologie WiFi, Bluetooth e UWB su un singolo chip: un’integrazione che apre le porte a esperienze senza soluzione di continuità. Si pensi ad esempio agli spostamenti in ambienti chiusi, alla ricerca di oggetti, all’utilizzo di chiavi digitali.

Secondo i tecnici della società, il dispositivo migliora la “consapevolezza della prossimità” nel senso che è in grado di ottimizzare l’individuazione, la connessione e il controllo dei dispositivi posti fisicamente nelle vicinanze. Supporta anche Qualcomm XPAN (Expanded Personal Area Network), utile per ampliare la rete personale dell’utente e offrire funzionalità avanzate di connettività wireless con supporto audio e Snapdragon Sound, consentendo lo streaming di musica ad alta velocità su rete WiFi.

La piattaforma Qualcomm FastConnect 7900, come il modem X80, utilizza l’IA per adattarsi a casi d’uso e ambienti specifici, garantendo una latenza contenuta, una larghezza di banda migliorata e altre ottimizzazioni significative. Anche FastConnect 7900 apparirà nei primi dispositivi commerciali nella seconda metà del 2024.