YouTube blocca contenuti sensibili creati con IA che riguardano bambini

Nel contesto delle politiche di YouTube per quanto riguarda molestie e cyberbullismo, la piattaforma ha voluto attuare una serie di direttive sui contenuti creati con l’Intelligenza Artificiale.

Nello specifico, il servizio ha chiarito come intende reprimere qualunque filmato che “simuli realisticamente” il decesso di minori o il loro coinvolgimenti in eventi violenti o che ne descrivono la morte. YouTube, a quanto pare, attuerà queste nuove politiche a partire dal prossimo 16 gennaio.

Questa scelta da parte della piattaforma arriva dopo alcuni contenuti, creati attraverso Intelligenza Artificiale, utilizzati per ricreare sembianze di bambini deceduti o scomparsi.

Allo scattare della data suddetta, YouTube agirà rimuovendo tutti i contenuti che violano le nuove norme con un richiamo verso tali utenti. Questi, inoltre, non potranno caricare video, effettuare live streaming o pubblicare altri contenuti per una settimana. Al terzo richiamo, infine, il canale dell’utente verrà definitivamente chiuso.

YouTube affina i propri regolamenti per limitare gli abusi dell’Intelligenza Artificale

L’introduzione di queste nuove regole segue, a quasi due mesi di distanza, le nuove norme di Youtube riguardanti la responsabilità sui contenuti generati tramite IA, relativi al dilagare di filmati deepfake. In tal senso, negli scorsi mesi si sono susseguiti diversi casi eclatanti, che hanno coinvolto personalità di spicco del cinema e del Web come Tom Hanks e lo YouTuber MrBeast.

Una delle modifiche alle norme prevede che gli utenti dichiarino in modo esplicito quando hanno creato contenuti alterati o del tutto artificiali che, grazie alle nuove tecnologie, appaiono realistici. Regolamento alla mano YouTube ha affermato come chiunque non segua questa regolamentazione va incontro alla “Rimozione dei contenuti, sospensione dal Programma partner di YouTube o altre sanzioni“.

Nonostante ciò, la piattaforma ha fatto anche sapere che alcuni contenuti realizzati con IA ed etichettati correttamente potrebbero comunque essere rimossi se il loro contenuto mostra violenza considerata come realistica.