Anche l'AI di Meta ha le allucinazioni: il caso Trump

L’intelligenza artificiale è un campo su cui Meta sta investendo tempo e risorse, come dimostrano gli ultimi aggiornamenti condivisi da Mark Zuckerberg. Sotto i riflettori c’è Meta AI, integrata in tutte le piattaforme del colosso di Menlo Park, tra cui WhatsApp, per consentire agli utenti (anche) di ottenere informazioni su un determinato argomento. Ma quanto è affidabile?

All’assistente di Meta basato sull’intelligenza artificiale devono essere sfuggiti gli eventi delle ultime settimane. Secondo l’AI, infatti, il recente tentato assassinio di Donald Trump non è mai avvenuto, come suggerito dagli screenshot condivisi su X dall’account @libsoftiktok. Il post è stato visualizzato quasi 3 milioni di volte e ha raccolto numerosi commenti. Per alcuni, questo “insabbiamento” sarebbe un modo per interferire con le elezioni, con i LLM “addestrati” in base alle preferenze (anche politiche) delle singole aziende.

Complottismo o realtà? A sciogliere ogni dubbio ci ha pensato Joel Kaplan, responsabile globale delle politiche di Meta, che in un nuovo post sul blog aziendale definisce “sfortunate” le risposte fornite dalla AI sulla sparatoria. Kaplan aggiunge poi che, dopo le segnalazioni, la società ha rimosso tutte le restrizioni sull’argomento inizialmente previste. Tuttavia, l’azienda è a conoscenza del fatto che “in un ristretto numero di casi, Meta AI ha continuato a fornire risposte errate, a volte anche affermando che l’evento non si era verificato“.

“Risposte di questo tipo sono chiamate allucinazioni, un problema che riguarda l’intero settore e che riscontriamo in tutti i sistemi di intelligenza artificiale generativa. Questo rappresenta una sfida continua per il modo in cui l’intelligenza artificiale gestirà gli eventi in tempo reale in futuro“, continua Kaplan. “Come tutti i sistemi di intelligenza artificiale generativa, i modelli possono restituire output imprecisi o inappropriati e continueremo ad affrontare questi problemi e a migliorare queste funzionalità man mano che si evolvono e più persone condividono il loro feedback“.