Robot gestiti dall'IA a rischio violazione: ecco i grandi pericoli

Alcuni ricercatori appartenenti alla Penn Engineering hanno individuato alcune inquietanti vulnerabilità di sicurezza in diverse piattaforme robotiche gestite dall’Intelligenza Artificiale.

Secondo gli esperti i modelli linguistici presentano ancora delle enormi criticità quando si tenta di abbinare le stesse al mondo reale, con possibilità di causare dei veri e propri disastri in caso di utilizzo improprio. A confermarlo è George Pappas, professore esperto del settore.

Pappas e un team di specialisti hanno lavorato per sviluppare un algoritmo battezzato RoboPAIR. Questo è progettato appositamente per effettuare il jailbreak dei robot controllati da modelli IA. La procedura, a quanto pare, consentirebbe di manipolare gli automi spingendo gli stessi a vere e proprie “azioni fisiche dannose“.

Secondo chi ha ideato questo algoritmo, questo è in grado di violare tutti i principali programmi robotici attualmente in circolazione: dall’Unitree Go2 (un robot a quattro zampe) fino al progetto Robotics Jackal, un automa che si muove su quattro ruote. RoboPAIR impegna diverso tempo (circa due giorni) per bypassare i sistemi di sicurezza e per poi ottenere pieno accesso ai sistemi compromessi.

Come è facile intuire, lo scopo dei ricercatori non è causare danni, ma dimostrare come l’abbinamento IA e robotica sia ancora troppo pericoloso per una reale introduzione su vasta scala.

Robot e IA potrebbero costituire un pericolo concreto per gli essere umani

Stando ai dati proposti dagli esperti, questo studio ha un risvolto concreto notevole. Se i rischi legati ai large language models (LLM) erano finora concepiti solo in ottica generazione testo, appare evidente come l’IA possa risultare pericolosa anche fisicamente.

Di pari passo con la verifica dell’efficacia di RoboPAIR è iniziato anche lo studio per fornire le giuste contromosse. I problemi di sicurezza rilevati al momento risultano però sistemici, con soluzioni che non sembrano così facili da ottenere (perlomeno nel breve periodo).

Se non fosse abbastanza preoccupante quanto detto finora, va tenuto conto che sono diversi i progetti che riguardano sistemi robotici (anche umanoidi) attualmente in fase di sviluppo. Per capire la portata del fenomeno basta dare uno sguardo agli ingenti investimenti da parte di Intel e NVIDIA in questo campo.