Olimpo Informatico

[Zeus News]

Leggi l'articolo Anthropic spiega come funziona il watermark nei testi generati dalla IA
Non cambia il senso e fallisce sui testi brevi.


 
Immagine: Anthropic
 

Segnala un refuso

[zeross]

E chiaro che la marcatura scelta da Anthropic a molte limitazioni, ma va anche notato che se un testo viene creato da una intelligenza artificiale generativa, ma poi viene cosi pesantemente modificato da perdere i suoi marcatori, allora possiamo ancora definirlo di origine artificiale?
Mentre per immagini, filmati e musica pare non ci sia problema perché esistono i metadati, ed in questo caso poi ci sarebbero solo le alterazioni sofisticate di chi vuol far apparire delittuosamente autentico un file che non lo è, i testi sembrano, nella loro semplicità costituire un ostacolo difficile da superare.
Adesso bisogna vedere cosa dirà la commissione, che soluzioni adotteranno i concorrenti, e come sarà resistenti, cioè quanto tempo impiegheranno per rendere inutili le protezioni e le marcature i malintenzionati, per poter valutare il progresso e stabilire il passo successivo.