Olimpo Informatico

[Zeus News]

Leggi l'articolo Gli errori in buonafede degli LLM
Cassandra Crossing/ È lecito correggere le sciocchezze degli LLM, dopo averli inseriti tranquillamente in ambienti di produzione? O rinunciarvi interamente è l'unica soluzione etica?


 
Foto di Brett Jordan.
 

Segnala un refuso

[{bro}]

Non esistono solo i dirigenti, i sistemisti e gli architetti di applicazioni, ci sono tante, tantissime altre figure che possono trarre beneficio dagli LLM.
Il problema è che, come hai evidenziato, questi ultimi non sono affidabili, e questo può non costare molto in alcuni campi perché tolleranti all'errore, o perché protetti da una assicurazione (peraltro sempre più costosa ad ogni errore), ma in altri l'inaffidabilità può essere catastrofica, se l'errore non viene scoperto in tempo.
Purtroppo questa è stata la mia esperienza (oltre alle spese pazze per i token), e se non avessi visto un errore in tempo avrei avuto problemi molto ma molto grossi.
Purtroppo gli squali che mettono in circolazione gli LLM sono umani solo nella forma, e il risultato è che immettono sul mercato strumenti inaffidabili perché immaturi ed anche inadatti a certi compiti, e gli basta una minuscola frase in fondo alla pagina dell'LLM per svicolare conseguenze legali.
La "giustizia" permette questo ed altro, mentre il cittadino arranca.

[{UtenteAnonimo}]

@calamarim : per l'ennesima volta un LLM è algoritmico e per definizione procede in maniera deterministica e riproducibile.

Diamine, dopo anni che gira questa tecnologia, che un giornalista "del settore" scriva: "tramite la sostituzione del LLM con qualcosa che sia algoritmico, quindi ripetibile e auditabile" è francamente scandaloso.

Un LLM ha tutte quelle proprietà: è algoritmico, è ripetibile ed in un certo senso è auditabile. Allo stesso modo di come un test di Montecarlo abbia le stesse proprietà.

Il fatto che entrambi gli algoritmi possano (possano è la parola chiave), essere randomizzati (pseudo randomizzati ad essere precisi), non li rende meno algoritmici, meno ripetibili (riutilizzando lo stesso seme) o meno ispezionabili (anche se interpretare ciò che si è ispezionato potrebbe non essere banale ma è stato fatto ed è fattibile).

Mi lasci dire.. che imbarazzo signor Calamari, che imbarazzo..

[zeross]

Un dispositivo di IA, se applicato ad un processo industriale, che per sua natura e deterministico e prevedibile, tipo una pressa che schiaccia un disco di metallo per fargli assumere una forma, allora in quel campo la IA si rivela utile e non dannosa.
l'affermazione