Le implicazioni dell'EU AI Act per noi studenti (i testi generati dall'IA saranno rilevabili)
L'articolo 50 dell'EU AI Act introduce secondo me misure di trasparenza molto utili (dichiarare che si sta interagendo con un'IA, dichiarare i deepfake, ecc.), però c'è una cosa che potrebbe rivolgersi contro noi studenti.
A partire dal 2 agosto è stato imposto l'obbligo di introdurre un sistema che marchia tutti i testi generati dall'IA. Si tratta di un pattern statistico costruito su ripetute scelte mirate di parole in un testo, ad esempio "nuvoloso" invece di "grigio". Questa scelta specifica di parole è praticamente indistinguibile per un essere umano, ma è rilevabile da certi sistemi.
I modelli IA rilasciati prima del 2 agosto non ne dispongono ancora, ma ne sono solo esenti fino al 2 dicembre. Si applica sin da subito ai modelli pubblicati post 2 agosto.
Secondo me però è un sistema ancora molto fragile. Il problema è che, siccome il marchio sta nella scelta di parole, parafrasi, traduzioni o modifiche pesanti possono rimuoverlo completamente. È stato anche confermato da Anthropic. Inoltre, esistono già servizi gratuiti online per rimuovere il marchio.
Personalmente mi fa piacere vedere che stiamo cercando di regolare l'uso dell'IA, consideriamo che la situazione sta peggiorando e direi che adesso per la persona media è praticamente impossibile distinguere un'immagine vera da una generata artificialmente. Anche la generazione di video si sta sviluppando a velocità preoccupanti. Tuttavia è anche vero che mi darebbe fastidio avere un testo marcato soltanto perché ho tradotto qualcosa scritto interamente di mia mano in un'altra lingua (sì, marcherebbe anche le traduzioni).
Mi farebbe piacere sapere cosa ne pensate.
Tra poco scriveremo un articolo più dettagliato anche qui https://librettouni.it/ nella sezione "guide"