ChatGPT: passaporto falso generato dall'AI supera verifiche di identità

Fin dai primi giorni dal suo lancio, ChatGPT è stato soggetto ad attenzioni poco desiderate di malintenzionati, pronti a sfruttare le sue enormi potenzialità per azioni illegali. Nonostante i tanti guardrail e a distanza di anni dal suo lancio, questo strumento continua a palesare alcune preoccupanti lacune.

A testimoniare ciò è stato l’utente Borys Musielak che, attraverso X ha annunciato come sia riuscito a creare un passaporto fittizio generato proprio con ChatGPT. Il documento creato, a quanto pare, è talmente realistico da essere in grado di aggirare le verifiche di identità digitali.

Stando a quanto riportato da Musielak, sono bastati appena 5 minuti per creare l’esatta replica del suo passaporto, risultata capace di superare la maggior parte dei sistemi di controllo KYC (Know Your Customer).

You can now generate fake passports with GPT-4o.

It took me 5 minutes to create a replica of my own passport that most automated KYC systems would likely accept without blinking.

The implications are obvious –any verification flow relying on images as “proof” is now officially… pic.twitter.com/SNnH8zYMGq

— Borys Musielak @ Warsaw (@michuk) April 1, 2025

Passaporto falso con ChatGPT? Bastano 5 minuti

Di solito, i falsi documenti creati con AI sono facilmente rilevabili a causa di errori di formattazione o tipografia, ma in questo caso il documento è risultato talmente verosimile da poter bypassare i seppur avanzati controlli. Ciò potrebbe rappresentare un enorme pericolo nel contesto dei furti d’identità, con l’AI che ha fornito un assist agli scammer.

Per contrastare questi rischi, è possibile affidarsi a sistemi di verifica basati su tecnologie come NFC e documenti di identità elettronici (eID), che includono controlli a livello hardware e che, nel complesso, risultano meno vulnerabili.

OpenAI, una volta a conoscenza dell’esperimento di Musielak, ha creato il blocco che impedisce la generazione di passaporti fittizi. Un intervento che dimostra come, ancora troppo spesso, anche gli esperti del settore vengano presi alla sprovvista dalle vulnerabilità dei chatbot.