watermarking dei testi generati da Claude.
Anthropic ha spiegato come funziona il watermarking dei testi generati da Claude.
E la cosa interessante è che… nel testo non viene aggiunto nulla.
Niente caratteri nascosti, token aggiuntivi o modifiche visibili.
Il sistema interviene invece sulla scelta delle parole: quando Claude può scegliere tra più alternative equivalenti, utilizza una chiave crittografica che lascia una traccia statistica verificabile.
Il metodo, basato su una variante di SynthID-Text di Google DeepMind, ha però dei limiti:
→ funziona meglio quando esistono diverse alternative possibili
→ è meno efficace su codice e contenuti che richiedono grande precisione
→ piccole modifiche possono lasciare intatta la filigrana
→ una riscrittura completa può eliminarla
→ può rilevare il probabile coinvolgimento di Claude, ma non stabilire quanto del testo sia stato generato dall’AI
Per immagini PNG, JPG e SVG viene invece utilizzato C2PA, inserendo le credenziali nei metadati del file.
Anthropic sta implementando il sistema a livello globale e ha annunciato anche una futura API per il rilevamento.
Un passaggio interessante soprattutto alla luce dei nuovi obblighi di trasparenza sui contenuti generati con AI.