Claude può dirti se un file è stato creato dall'AI: come funziona Check Files

Anthropic ha appena presentato uno strumento pubblico che rende riconoscibili i contenuti prodotti o elaborati con i modelli AI di Claude. Claude Check Files è uno strumento web che controlla immagini, video e file audio alla ricerca di una filigrana (Content Credential) che riconduce ai sistemi dell’azienda.

Dal 2 agosto 2026 è diventata concreta una delle conseguenze più visibili dell’AI Act europeo: i fornitori di sistemi di intelligenza artificiale generativa devono rendere i contenuti prodotti o manipolati dalle loro tecnologie riconoscibili anche dalle macchine. Non basta quindi affidarsi all’occhio umano o ai tradizionali detector che cercano di stabilire, con una certa probabilità, se un testo o un’immagine “sembrino” generati dall’AI. Servono meccanismi tecnici di marcatura (watermarking) e di verifica della provenienza.

Anthropic ha aderito al Code of Practice relativo all’articolo 50 dell’AI Act e ha scelto di affrontare il problema con due soluzioni differenti: watermark incorporati nei testi e metadati di provenienza firmati digitalmente nei file.

Dai watermark nei testi alla firma crittografica dei file

Del primo meccanismo abbiamo già parlato analizzando la firma invisibile inserita nei testi generati da Claude: il modello modifica in modo controllato alcune probabilità durante la generazione delle parole, lasciando una traccia statistica che può essere riconosciuta conoscendo la chiave utilizzata.

È una tecnica interessante ma tutt’altro che definitiva, perché riscritture, traduzioni e trasformazioni successive possono degradare il segnale, come abbiamo approfondito parlando del problema irrisolto dei watermark nei testi AI. Anthropic stessa riconosce che il watermark serve a stimare il possibile coinvolgimento di Claude, non a certificare in senso assoluto l’autore di un testo.

Con immagini, video, audio e altri file Anthropic può però adottare una strada tecnicamente diversa: può allegare al file informazioni di provenienza firmate crittograficamente e basate sullo standard aperto C2PA (Coalition for Content Provenance and Authenticity). Abbiamo parlato in un altro articolo della filigrana aggiunta nelle immagini e nei file multimediali di ChatGPT, Gemini e Claude.

Claude Check Files non cerca tracce di AI nei pixel

Claude Check Files è il nuovo verificatore accessibile dal web che permette di controllare se un file contiene una Content Credential riconducibile a Claude. L’applicazione non osserva i pixel di un’immagine, non ascolta un file audio e non analizza un video alla ricerca di caratteristiche tipiche dell’intelligenza artificiale. Controlla se Anthropic abbia apposto una dichiarazione di provenienza verificabile crittograficamente.

Check Files nasce proprio per leggere il dato sulla provenienza e verificare se la firma rimandi ad Anthropic. Il checker supporta formati come JPG, PNG, WEBP, SVG, MP4, MOV, WAV, MP3 e FLAC, fino a 100 MB; Anthropic precisa inoltre che l’analisi è effettuata in locale e che il file non lascia il dispositivo dell’utente.

Ma che cosa succede quando il file viene convertito, ricompresso, modificato, inserito in un archivio o passa attraverso un’applicazione che non conserva quei metadati? Una firma crittografica è difficile da falsificare senza possedere la relativa chiave, ma la sua presenza nel file non significa necessariamente che sia impossibile farla scomparire.

Un risultato positivo può fornire una prova crittograficamente verificabile del coinvolgimento di Claude nella produzione o nell’elaborazione di un file; un risultato negativo, invece, non dimostra affatto che Claude non sia mai stato utilizzato. Anthropic lo dichiara espressamente: il checker identifica soltanto la Content Credential e non può ricostruire ciò che è successo prima se quella traccia è stata rimossa.

I risultati dei primi esperimenti

È ovvio che la disponibilità di una piattaforma che Claude Check Files apre a esperimenti di ogni genere.

Un file JPEG generato tramite Claude Web acquisiva una credenziale C2PA al momento del normale download; chiedendo però a Claude di inserirlo prima in un archivio ZIP, il JPEG estratto non conteneva più la stessa marcatura. Non solo. Limitandosi a risalvare lo stesso file, con un nome diverso, il watermark sembra sparire.

Ancora più curioso: un’immagine originariamente fornita dall’utente e semplicemente restituita attraverso l’interfaccia di Claude poteva ricevere a sua volta la Content Credential. È un test empirico, ma mostra chiaramente che Check Files non certifica chi abbia creato ciò che vediamo: indica che una determinata pipeline associata a Claude ha trattato quel file.

Come abbiamo già visto analizzando le filigrane invisibili utilizzate nelle immagini generate dai vari sistemi AI, esistono tecniche di marcatura molto diverse tra loro. Una cosa sono watermark come SynthID, StableSignature o TreeRing, che cercano di incorporare un segnale direttamente nelle caratteristiche statistiche dell’immagine; un’altra sono metadati, manifesti C2PA e Content Credentials, che accompagnano il file come strutture di provenienza firmate digitalmente.

La differenza diventa evidente osservando progetti come Remove-AI-Watermarks. Il software dichiara di intervenire su più livelli: watermark visibili, marker invisibili e informazioni di provenienza. Il progetto affronta anche i watermark incorporati nell’immagine con tecniche più invasive, tra cui manipolazioni statistiche, ricostruzione dei pixel e trasformazioni basate su modelli generativi.