Ex staff di OpenAI chiede il "diritto di avvisare" su rischi dell’IA

Nella giornata di ieri, un gruppo di ex-dipendenti di OpenAI e Google DeepMind ha pubblicato una lettera riguardo l’Intelligenza Artificiale e la possibilità di sollevare dubbi sul suo operato.

Secondo gli stessi, infatti, muovere critiche in questo senso può causare non pochi guai nell’ambiente lavorativo, se non vere e proprie ritorsioni. La lettera è intitolata “A Right to Warn about Advanced Artificial Intelligence” (ovvero Il diritto di mettere in guardia sull’intelligenza artificiale avanzata) ed è stata finora sottoscritta da 13 persone, alcune delle quali hanno preferito restare anonime.

Per i firmatari, sebbene l’IA resti potenzialmente utile per portare benefici al genere umano, esistono degli innegabili rischi. Gli stessi elencano manipolazione e disinformazione, così come aumento della disuguaglianza e perdita di controllo dei sistemi IA come principali pericoli.

Gli esperti affermano come le aziende impegnate non settore possiedono informazioni non pubbliche riguardo tale tecnologia che riguardano rischi e limiti della stessa. Attualmente, però, esse non hanno particolari obblighi di condivisioni di tali dati con i governi.

Ex dipendenti di OpenAI e DeepMind temono possibili ritorsioni

Tra i firmatari della lettera figura una lunga lista di ex membri di OpenAI, come Carroll Wainwright, Daniel Ziegler, Daniel Kokotajlo e Jacob Hilton, oltre ad altri specialisti in precedenza legati a DeepMind come Ramana Kumar e Neel Nanda.

Oltre a chi ha voluto esprimere la sua opinione su questo tema così scottante, la lettera può vantare anche il sostegno di altre figure di spicco del settore. Tra di essi, per esempio, figurano esperti di IA come Yoshua Bengio, Geoffrey Hinton e Stuart J. Russell.

Vi è anche chi ha poi un’idea parzialmente diversa. Yann LeCun di Meta, per esempio, ha contestato l’affermazione secondo cui l’IA sia effettivamente un rischio per l’umanità. Per altri, invece, i rischi legati all’IA sono esclusivamente legati a pregiudizi e alle ormai famigerate allucinazioni.

Di certo, il tema dei pericoli di questa nuova tecnologia è già motivo di discussione da tempo. Basti pensare ad alcuni inquietanti ricerche portate avanti su IA e possibilità che la stessa possa causare l’estinzione del genere umano.