Deepfake vocali e IA: il salto di qualità delle frodi informatiche

I deepfake nel contesto di immagini e persino di video, stanno diventando una realtà concreta, con alcuni risvolti molto preoccupanti. Nonostante ciò, esistono anche altre applicazioni simili della tecnologia che creano un contesto molto pericoloso nel contesto della cybersicurezza.

Stiamo parlando dei deepfake vocali, ovvero la capacità di alcuni modelli IA di riprodurre un prompt testuale in voce umana attraverso API audio.

Sebbene questa tecnologia possa far rivivere grandi cantanti del passato o comunque agire in modo benigno, le potenziali applicazioni nel campo del cybercrimine stanno preoccupando, e non poco, gli esperti di sicurezza. Anche sei il modello di OpenAI, perlomeno nella sua forma attuale, non può riprodurre voci seguendo le direttive degli utenti, in un prossimo futuro potrebbe diventare uno strumento molto pericoloso.

Oggi non esistono praticamente dispositivi in grado di produrre una voce deepfake di alta qualità, indistinguibile dal vero parlato umano. Nonostante ciò, negli ultimi mesi sono diversi gli strumenti che hanno dimostrato come la tecnologia si sta muovendo verso questa direzione. E le prime avvisaglie di ciò sono già apparse in rete.

Il caso dell’esperto di Tim Draper, esperto di Venture Capital americano, deve far riflettere.

Draper, infatti, a metà di ottobre ha avvertito i suoi follower su X che alcuni truffatori avrebbero potuto utilizzare la sua voce nel contesto di alcune frodi. Il tutto, ovviamente con una manipolazione avvenuta tramite IA.

Come proteggersi dai deepfake vocali

Anche se il fenomeno deepfake vocali può essere ancora catalogato come una semplice “stramberia” legata all’IA, in realtà non è così. Di fatto, risulta importante non farsi cogliere impreparati.

Allo stato attuale, il modo migliore per proteggersi è ascoltare attentamente ciò che ti dice al telefono l’interlocutore. Se la registrazione risulta di scarsa qualità, presenta rumori e la voce sembra robotica, è bene allertarsi.

Un altro buon modo per testare se l’interlocutore appare strano è porre domande fuori dagli schemi. Ad esempio, chiedere qual è il piatto preferito o qualcosa che non è attinente alla chiamata in sé, potrebbe disorientare l’IA. In questo caso, un ritardo nella risposta, potrebbe essere più che sospetto.

Infine, c’è da sperare in uno sviluppo parallelo delle tecnologie difensive. Anche se ad ora non esistono sistemi in grado di rilevare al 100% voci create con sistemi deepfake, la speranza è che software o sistemi simili possano spesso essere commercializzati.