Olimpo Informatico

[Zeus News]

Leggi l'articolo Watermark e LLM: inquinare i propri scritti
Cassandra Crossing/ L'introduzione del watermarking nelle produzione degli LLM come Claude conferma i rischi che Cassandra descrive da tempo, e che riguardano voi e tutto quello che scrivete.


 
Foto di Etienne Girardet.
 

Segnala un refuso

[{Pino Rossi}]

Giusto. Ma allora bisogna anche che le open call abbiano un formato standardizzato e imposto in modo nazista per biografie e CV. Che non posso a mano convertire in massimo 500 parole o 3000 caratteri o come si sveglia la mattina la commissione del momento.
Specialmente se si scrive in inglese, è buona norma aggiungere un AI disclaimer nel quale si dice che non essendo nativo della lingua si utilizza un LLM per fluidità e grammatica.
Sono certo che Cassandra ha i fignli ormai grandi e molto tempo a disposizione... quanto piacerebbe anche a me tornare a fare le pagine web in HTML manuale e convertire con migliaia di copia/incolla una lista di film in excel in una pagina web. Purtroppo siamo in tempi di iperproduttività, e in molti casi l'LLM diventa un grande aiuto, pur nella coscvienza che si tratti di una droga pericolosa, e che presto ci sogneremo un abbonamento GO a GPT a 8 euro al mese, ma diventerà un costo salato in bolletta...
Ed è anche vero che per noi che appunto abbiamo convertito con migliaia di copia incolla degli xls in pagine web, è una scorciatoia. Ma per chi non lo ha mai fatto, inevitabilmente, un'atrofizzazione della mente. Malatempora currunt, ma buddisticamente, privo di avidia, preferisco osservare senza attribuire qualità. D'altrodne, se ai miei figli toccherà la tecnocrazia, non è detto che andrà peggio a loro rispetto a chi si è fatto la seconda guerra mondiale, o le carestie cinesi.
Un abbraccio a Cassandra e sempre grazie.
E in alto le TABLE!

[{UtenteAnonimo}]

@calamarim ma che dici? Quel che affermi è molto lontano dalla mia opinione.

- un LLM come correttore può agire chirurgicamente senza alterare troppo il testo scritto a mano, modificando giusto una manciata di token su tutto il testo.
Quindi non è detto che una correzione di bozza produca sufficientemente estesa per un watermark

- Un watermark agisce probabilisticamente, quindi i falsi positivi possono essere resi improbabili a piacere, al punto che è probabile che siano praticamente impossibili (dovrei vedere come hanno impostato i "pesi").
Per il perché basti pensare che potrebbe considerare solamente 256 variazioni binarie sparpagliate (in cui invece di scrivere il token più probabile scrive il secondo token più probabile).
Le probabilità di un falso positivo sarebbero circa 1 su 2^256, le lascio da fare il conto..

- Questo algoritmo di watermarking, agisce similmente ad un algoritmo steganografico nelle immagini. Sono noti da anni algoritmi per negare il canale subliminale nell' immagine steganografata (ricompressione), quindi certamente non sono indelebili neppure questi watermark.
Banalmente un piccolo LLM locale che abbia lo scopo di riscrivere i token con token affini assolverebbe allo scopo con probabilmente pochissimo costo computazionale e mantenendo inalterato il significato.

-Perdere lo stile (ed in astratto un pezzo di personalità) a causa dell'utilizzo di automazione per mezzo di LLM mi pare eccessivo..
Quando mando una mail per prenotare ad un ristorante o chiedere informazioni su qualche evento a cui vorrei partecipare, dello stile mi interessa il giusto.
Qui uno strumento come un LLM è utile perché quel che mi serve è raggiungere un obiettivo con un effort minimo, non esprimere un lato della mia personalità o creare qualcosa con velleità artistiche.
Certamente esistono anche questi frangenti (più "umani") nella vita, ma per l'appunto magari in tali momenti non si usano automazioni, no?

[zeross]

Gli stessi autori delle IA avvertono che un testo generato da un LLM, che venisse sottoposto a profonde revisioni del testo, con correzioni e spostamenti di paragrafi rischia di perdere il watermark, poiché questo marcatore si basa su un calcolo probabilistico sulla base del testo generato e modifiche importanti, come sostenuto da autorevoli e celebri commentatori delle predette ditte di IA, potrebbe annullare il marcatore.
Per me questo marcatore per testi sembra più una mossa pubblicitaria che altro.
C'è poi il problema delle cause da parte degli editori contro le società di IA, il discorso del fari use, e la solita intromissione a parrucone teso da parte del Donaldo sulla questione, che come affrontato da Flora, rischia di creare ancora più casini nel mondo della creazione di testi.