OpenAI, no a filigrana del testo su ChatGPT: allontana gli utenti

Secondo quanto riportato dal Wall Street Journal, OpenAI ha elaborato un sistema per creare una filigrana per mostrare il testo creato tramite ChatGPT. Nonostante tale sistema sia disponibile da un anno, a quanto pare i vertici della startup non sarebbero convinti di renderlo pubblico, in quanto ciò potrebbe ridurre l’utilizzo del chatbot e dunque gli introiti della compagnia.

Stando a quanto trapelato, la filigrana di OpenAI dovrebbe essere un modo in cui il modello IA usa alcune parole e frasi, con una sorta di pattern facile da rivelare se il contenuto viene scansionato da strumenti appositi.

Come appare evidente, questo sistema potrebbe essere molto utili in contesti, come quello scolastico. Gli insegnanti, per esempio, potrebbero facilmente individuare compiti realizzati tramite l’IA. Il tutto tenendo conto che, secondo quanto riportato dal suddetto giornale, la qualità dei testi proposti da ChatGPT non è influenzata dalla filigrana.

ChatGPT e la filigrana del testo: la difficile posizione di OpenAI

Dopo l’indagine del Wall Street Journal è arrivata anche la conferma da parte di OpenAI, con la startup che ha ammesso di aver lavorato su tale soluzione a lungo. Per l’azienda, lo strumento è molto accurato, capace di rilevare testo generato dall’IA con un tasso di efficacia pari al 99,9%, risultando pienamente funzionante anche in caso di modifiche parziali al testo. A quanto pare, esiste il modo per aggirare questo controllo, ovvero la rielaborazione dello stesso testo da parte di un secondo modello IA simile.

Come già sostenuto, molti sospettano che in realtà OpenAI non abbia poi così tanto interesse a proporre una filigrana. Secondo un sondaggio effettuato dalla compagnia, il 30% degli utenti avrebbe infatti utilizzato meno ChatGPT nel caso questo sistema di riconoscimento fosse applicato ai testi.

Su un post del blog di OpenAI, riguardo la questione filigrana, la compagnia parla di essere nelle “prime fasi” di esplorazione per quanto riguarda l’incorporamento di metadati. La stessa sottolinea come sia troppo presto per capire se la tecnica è realmente funzionante o se possa creare eventuali falsi positivi.