Con la diffusione delle immagini generate dall’Intelligenza Artificiale, Google propone sempre più di frequente risultati che includono tali contenuti. Molto spesso, tali immagini hanno soppiantato quelle reali, causando una certa confusione nell’utenza.
Proprio per questo motivo la compagnia di Mountain View ha deciso di implementare un sistema di etichettatura dei risultati di ricerca, andando a indicare le immagini generate o modificate tramite la suddetta tecnologia.
Secondo quanto emerso Google segnalerà attraverso la finestra Informazioni su questa immagine la natura del contenuto sia sulla classica ricerca, sia attraverso Google Lens. Non solo: a quanto pare l’azienda ha intenzione di aggiungere un indicatore apposito, simile a quanto già proposto con i video di YouTube.
Google e C2PA organizzano un sistema di etichettatura per evitare abusi e disinformazione
Per realizzare questo sistema di segnalazione dei contenuti IA Google si affiderà ai metadati proposti dalla Coalition for Content Provenance and Authenticity (C2PA).
Stiamo parlando di una coalizione che, da pochi mesi, ha stretto una collaborazione con la compagnia. I metadati analizzati saranno utili per identificare le origini dell’immagini, mostrando dove e quando la stessa è stata creata, nonché lo strumento utilizzato per la generazione. Per la C2PA non si tratta della prima partnership di rilievo, visto che la stessa ha già collaborato con tutti i colossi del settore, da Microsoft a OpenAI fino ad Amazon e Adobe.
Il lavoro di C2PA ha però attualmente un grosso limite: sono infatti pochi i produttori hardware che stanno aderendo alla sua iniziativa. Al momento attuale solo alcuni modelli Leica e Sony supportano i metadati proposti, con tante altre aziende che stanno temporeggiando o che si sono del tutto rifiutate di seguire questa filosofia. Nelle intenzioni delle grandi compagnie impegnate nel settore IA vi è la necessità di impedire la generazione di deepfake sfruttati per disinformazione o per vere e proprie truffe.
Proprio nel contesto delle truffe, negli ultimi due anni si è vissuto un vero e proprio boom di sfruttamenti dei deepfake. Il caso più eclatante ha visto come vittima un facoltoso cittadino di Hong Kong, che è stato convinto attraverso questa pratica fraudolenta a versare 25 milioni di dollari nelle tasche di alcuni cybercriminali.