ChatGPT: perché OpenAI sta bloccando diversi account cinesi?

Secondo quanto riportato da sito di Engaged, OpenAI avrebbe bannato un numero consistente di utenti cinesi che avrebbero tentato di usare ChatGPT in modo improprio.

A quanto pare, il chatbot sarebbe stato sfruttato per eseguire debug e modificare codice nel contesto di uno strumento di sorveglianza sui social media basato sull’Intelligenza Artificiale. Nello specifico, si parla di un software che dovrebbe monitorare il sentimento anti-cinese su piattaforme come Facebook, YouTube, Instagram e X.

OpenAI ha ricostruito quanto accaduto, parlando di una rete di account ChatGPT che lavorava con schemi temporali coerenti con gli orari di lavoro in Cina. Tutto ciò lascia intuire come si trattasse di un lavoro manuale e non automatizzato.

Account cinesi di ChatGPT bannati: il precedente di pochi giorni fa

Secondo Ben Nimmo, un ricercatore principale di OpenAI, questa è stata la prima volta che la compagnia ha scoperto interazioni questo tipo per modificare un software preesistente. Lo strumento in questione sembra essere basato su una versione open source di uno dei modelli Llama di Meta.

Questo non è però l’unico caso di questo tipo avvenuto sul noto chatbot negli ultimi giorni. OpenAI ha infatti affermato di aver bloccato di recente un account che usava ChatGPT per generare post sui social media contro uno scienziato e politico cinese in esilio, ovvero Cai Xia. Non solo: lo stesso account avrebbe creato articoli in lingua spagnola, poi pubblicati da diversi quotidiani sudamericani, in cui venivano attaccati gli Stati Uniti.

Tutto ciò dimostra, ancora una volta, quanto i chatbot siano strumenti molto pericolosi se manipolati da malintenzionati. Nonostante tutte le precauzioni adottate da OpenAI, i rischi a riguardo restano tutt’ora più che concreti.