YouTube sta creando nuovi strumenti per rilevare deepfake

La rapida diffusione dei deepfake è ormai una preoccupazione per svariate piattaforme, tra cui figura ovviamente anche YouTube.

Il portale dedicato al caricamento di video sta sviluppando a tal proposito dei nuovi strumenti in grado di proteggere artisti e content creator da eventuali abusi. Nella giornata di ieri, la piattaforma ha infatti annunciato lo sviluppo di una nuova tecnologia capace di rivelare contenuti generati o modificati tramite Intelligenza Artificiale. Questa dovrebbe essere in grado di individuare alterazioni di volti o voci. Stando a quanto lasciato intendere da YouTube, il programma pilota dovrebbe iniziare all’inizio del 2025.

Nelle intenzioni della piattaforma vi è quella di creare uno strumento in grado di controllare ciò che accade al suo interno, fornendo a chiunque la possibilità di individuare eventuali deepfake che sfruttano i propri lineamenti.

YouTube contro i deepfake: test nei prossimi mesi per due nuovi strumenti

L’altro strumento su cui YouTube sta lavorando viene descritta come “identificazione del canto sintetico“. Questo si focalizzerà sull’audio, andando a scovare contenuti in cui la voce di un soggetto viene copiata e riproposta tramite l’IA.

Come sottolineato da Amjad Hanif, vicepresidente dei prodotti per i creator di YouTube, la piattaforma apprezza l’apporto tecnologico dell’IA. Nonostante ciò, questa tecnologia viene intesa come un miglioramento della creatività umana e non come uno strumento per sostituirla.

Gli strumenti proposti da YouTube non sono da considerare come rivoluzionari. Già nel 2022 Intel si è mossa in questo senso proponendo uno strumento noto come FakeCatcher per individuare deepfake. Più recentemente McAfee ha presentato Deepfake Detector per contrastare il proliferare di contenuti alterati.

Al di là della questione copyright, questa tecnologia è stata più volte sfruttata anche nel contesto di crimini informatici.