Facebook: intelligenza artificiale per ingannare i sistemi di riconoscimento facciale

Gli ingegneri del team di ricerca di Facebook hanno dimostrato che è possibile trarre in inganno i più moderni sistemi di riconoscimento facciale generando, in tempo reale, una versione leggermente modificata del soggetto che appare in un qualunque video. La peculiarità della soluzione presentata dai tecnici della società fondata da Mark Zuckerberg è che l’intelligenza artificiale modificare i video in modalità “live” alterando alcune caratteristiche del volto così da renderlo irriconoscibile da parte dei meccanismi di analisi automatizzata.

Mentre alcune aziende come D-ID avevano sino ad oggi operato con successo su semplici foto, Facebook ha dimostrato di essere in grado di lavorare su vere e proprie sequenze video, con risultati davvero notevoli, come si può verificare cliccando qui.

Con la tecnologia messa a punto dai ricercatori di Facebook, inoltre, il modello di machine learning utilizzato non deve essere addestrato ogni volta ed è già pronto per l’uso. Una soluzione che permette di alterare tutte le informazioni che possono rendere un soggetto univocamente riconoscibile.

Come Faceswap, applicazione che rende possibile la creazione di deepfake (vedere Deepfake: cos’è, come funziona e perché fa paura), anche l’intelligenza artificiale di Facebook utilizza un’architettura encoder-decoder per generare sia la maschera che le varie immagini.
Durante la fase di addestramento, il volto della persona viene distorto e poi immesso nella rete neurale. Il sistema genera poi immagini distorte e non distorte del volto che vengono poi successivamente integrate nel video.

Al momento il lavoro svolto da Facebook viene etichettato come una semplice dimostrazione che non sarà integrata in alcun servizio dell’azienda.