Olimpo Informatico

[Zeus News]

Leggi l'articolo Gli errori in buonafede degli LLM
Cassandra Crossing/ È lecito correggere le sciocchezze degli LLM, dopo averli inseriti tranquillamente in ambienti di produzione? O rinunciarvi interamente è l'unica soluzione etica?


 
Foto di Brett Jordan.
 

Segnala un refuso

[{bro}]

Non esistono solo i dirigenti, i sistemisti e gli architetti di applicazioni, ci sono tante, tantissime altre figure che possono trarre beneficio dagli LLM.
Il problema è che, come hai evidenziato, questi ultimi non sono affidabili, e questo può non costare molto in alcuni campi perché tolleranti all'errore, o perché protetti da una assicurazione (peraltro sempre più costosa ad ogni errore), ma in altri l'inaffidabilità può essere catastrofica, se l'errore non viene scoperto in tempo.
Purtroppo questa è stata la mia esperienza (oltre alle spese pazze per i token), e se non avessi visto un errore in tempo avrei avuto problemi molto ma molto grossi.
Purtroppo gli squali che mettono in circolazione gli LLM sono umani solo nella forma, e il risultato è che immettono sul mercato strumenti inaffidabili perché immaturi ed anche inadatti a certi compiti, e gli basta una minuscola frase in fondo alla pagina dell'LLM per svicolare conseguenze legali.
La "giustizia" permette questo ed altro, mentre il cittadino arranca.