Google sviluppa benchmark per testare rischi legati ad AI e cyberattacchi

L’evoluzione dell’Intelligenza Artificiale, oltre a straordinarie funzioni fino a poco tempo fa impensabili, ha generato anche una serie di pericoli che troppo spesso sono sottovalutati.

Proprio per andare a limitare il lato oscuro dell’Intelligenza Artificiale, Google ha annunciato la creazione di un nuovo sistema per misurare i rischi legati all’AI nel contesto dei cyberattacchi.

La stessa compagnia di Mountain View (e non solo) negli scorsi mesi hanno segnalato gruppi di criminali informatici provenienti da più aree del mondo stiano cercando con insistenza di abusare di strumenti come ChatGPT e OpenAI. L’obiettivo dei cybercriminali, nella maggior parte dei casi, è creare nuovi malware o rendere più efficaci gli attacchi phishing.

Google ha previsto da tempo un incremento delle attività dei criminali informatici e ha deciso di utilizzare la stessa AI per limitare la loro operatività. Il nuovo sistema di benchmark, è in grado di “misurare” le potenziali capacità di cybercrimine degli strumenti AI.

Nello specifico si parla di 50 parametri di valutazione, che spaziano dallo sfruttamento di vulnerabilità alla raccolta di informazioni,  passando per lo sviluppo di malware e altri parametri. Il tutto considerando piattaforme come Llama 3 405B, Llama 3 70B, GPT-4 Turbo, Mixtral 8x22B e Gemini Pro.

AI e cyberattacchi: Google analizza 12.000 operazione per individuare le strategie dei criminali informatici

Google ha previsto da tempo un’intensificazione degli attacchi informatici che utilizzano l’AI e ha valutato le minacce alla sicurezza informatica adottando framework di valutazione come MITRE ATT&CK. Tuttavia, i framework di valutazione esistenti presentano delle limitazioni in quanto non tengono conto delle moderne potenzialità AI. Pertanto, Google ha creato un nuovo framework di valutazione, appositamente ideato per i nuovi contesti del cybercrimine.

La compagnia analizzato oltre 12.000 attacchi informatici basati su AI, cercando punti in comune tra le varie operazioni. Ciò ha portato a individuare diversi step adottati di solito dai cybercriminali, che vengono dunque valutati come tali per poi trovare adeguate contromosse.

Di fatto, sebbene si tratti di un piccolo passo avanti, questo modus operandi dimostra come Google stia ponendo le basi per future contromosse efficaci verso chi intende sfruttare le nuove tecnologie emergenti per l’illegalità.