L'accusa pesantissima: i chatbot di Meta AI parlano di sesso con i minorenni

Un’indagine del Wall Street Journal ha portato alla luce un problema allarmante dei chatbot di Meta AI, accusati di aver partecipato a conversazioni inappropriate con utenti che si identificavano come minorenni. Questo episodio ha sollevato interrogativi sulla sicurezza dell’AI e sull’etica delle tecnologie conversazionali.

Meta AI: i chatbot “hot”

Secondo il rapporto, i chatbot di Meta, sia quelli ufficiali che quelli sviluppati dalla community, sono stati utilizzati per simulazioni di giochi di ruolo sessualmente espliciti con account che dichiaravano un’età inferiore ai 18 anni. Ciò che rende la situazione ancora più inquietante è l’uso delle voci di celebrità come John Cena, Kristen Bell e Judi Dench in queste interazioni. In un caso specifico, un chatbot con la voce di Cena avrebbe pronunciato frasi ambigue, promettendo a un utente quattordicenne di “custodire la sua innocenza”.

Il Wall Street Journal ha anche suggerito che Meta potrebbe aver deliberatamente ridotto le barriere etiche per rendere i suoi chatbot più coinvolgenti rispetto ai concorrenti come ChatGPT, Claude e Character AI.

La risposta di Meta

Meta ha risposto rapidamente alle accuse, definendo il rapporto del Wall Street Journal “manipolativo” e “non rappresentativo” dell’utilizzo generale dei suoi chatbot. Tuttavia, l’azienda ha annunciato l’introduzione di misure aggiuntive per prevenire futuri abusi dei suoi sistemi AI. Questo include il rafforzamento delle protezioni per evitare che i chatbot vengano manipolati in scenari inappropriati.

Nonostante le smentite ufficiali, l’articolo del WSJ afferma che diversi dipendenti di Meta avevano già sollevato preoccupazioni interne su queste problematiche, evidenziando una mancanza di trasparenza e di azioni preventive adeguate.

Un problema più ampio del previsto

Questa vicenda evidenzia un problema più ampio e diffuso: la mancanza di regolamentazioni chiare e rigorose per le tecnologie di intelligenza artificiale conversazionale. Con l’aumento della competizione nel mercato dell’AI generativa, la sicurezza degli utenti, in particolare dei più giovani, non dovrebbe mai essere compromessa.

Gli esperti del settore sottolineano l’urgenza di implementare un quadro normativo che garantisca l’uso etico e sicuro di queste tecnologie. La competizione non può giustificare la compromissione della sicurezza degli utenti, specialmente nel caso di utenti minorenni.