Microsoft corregge Designer AI dopo i deepfake di Taylor Swift

La scorsa settimana, le foto deepfake della cantante Taylor Swift sono diventate virali online, suscitando un’altra conversazione sull’uso improprio dell’intelligenza artificiale e costringendo X (ex Twitter) a bloccare le ricerche di Taylor Swift sulla piattaforma. Ora, il sito  404 Media riporta che Microsoft ha apportato modifiche a Designer AI per evitare che vengano generare immagini dai contenuti espliciti esplicite. Secondo l’indagine di 404 Media, le foto deepfake della celebrità sono state create usando Designer AI di Microsoft. Inoltre, il canale Telegram e 4chan consigliavano addirittura agli utenti di sfruttare tale strumento.

Microsoft: la tattica utilizzata dagli utenti per creare contenuti espliciti con Designer AI

Microsoft offre già degli strumenti utili per impedire alle persone di generare immagini esplicite. Tuttavia, gli utenti hanno aggirato il problema digitando nomi errati o descrivendo atti sessuali invece di usare direttamente i nomi nel prompt. I test di 404 Media hanno rilevato che Designer AI non è in grado di generare un’immagine di “Jennifer Aniston”. Dall’altro lato, era possibile creare immagini deepfake dell’attrice utilizzando la frase “jennifer ‘attrice’ aniston”. Tale stratagemma era stato anche utilizzato dagli utenti di un gruppo Telegram. I membri raccomandavano infatti di utilizzare il prompt “Taylor ‘cantante’ Swift” per generare le immagini deepfake espliciti della cantante statunitense.

L’azienda di Redmond ha dichiarato di non aver trovato prove che sia stato utilizzato proprio Designer AI per la creazione dei deepfake. Tuttavia, la scappatoia utilizzata dagli utenti per aggirare il blocco delle parole chiave è stata ora risolta e prompt di questo tipo non funzionano più su Designer AI. Anche se il problema sembra essere stato definitivamente risolto, sembra che gli utenti di 4chan abbiano già trovato altri modi per aggirare i divieti di Bing e Designer AI. Microsoft dovrà quindi provare a bloccare i nuovi tentativi di creare deepfake prima che le nuove immagini diventino virali.