Olimpo Informatico

[Zeus News]

Leggi l'articolo Possiamo vivere con computer che sbagliano?
Cassandra Crossing/ L'introduzione forzata di LLM in tutti i settori dell'informatica, che la finanza rende obbligatoria, ha fatto una importante vittima: la fiducia nelle risposte dei computer. Ma possiamo conviverci senza perderci in un mondo fatto di allucinazioni ed errori?


 

 

Segnala un refuso

[zeross]

[{UtenteAnonimo}]

@calamarim devo ribadire, che trovo discutibile che lei si ostini a definire gli LLM false intelligenze artificiali.
Si lamenta delle allucinazioni degli LLM ma questo non è tanto differente, intuisco che non le piacciono, ma per convenzione/definizione gli LLM sono AI.

Io mi immagino un ecologista super convinto, che definisca le automobili diesel dei falsi mezzi di trasporto.. sarebbe paradossale..

Per cui le chiedo, proprio per preservare l'integrità dell'infosfera, non si costruisca definizioni di sua sponte, in contravvenzione di quanto convenzionalmente accettato.
Si attenga alle definizioni.
Personalmente, in caso di dubbi trovo utile avvalermi di strumenti quali dizionari o enciclopedie, mi permetto quindi di condividerle un link: link

Altrimenti credo possa correre il rischio, di smentirsi con il suo stesso esempio, inficiando così la sua tesi.
Dopotutto se gli scivoloni in un articolo (purtroppo comuni oggigiorno) non causano sfracelli nell' infosfera, perché mai dovrebbe causarli un LLM con le sue allucinazioni?

[777omega777]

[calamarim]

[{Franz}]

Quindi vorrei capire, secondo il partecipante anonimo, come potrebbe fare Marco Calamari per trasmettere i concetto che i LLM non sono da intendersi come qualcosa di intelligente e di cui fidarsi, cosa che la maggior parte delle persone fa. I LLM sono sì da considerarsi IA, ma come tutte le IA sono passibili di allucinazioni ed anzi, dato che correlano tra loro molte informazioni in caso di richieste complesse, la probabilità di generare allucinazioni è molto alta. Mi è capitato moltissime volte di ricevere risposte allucinate da ChatGPT e Copilot, che sono riuscito a smascherare dopo ulteriori richieste di chiarimenti, ma se mi fossi fermato alla prima risposta, sarebbe stato un grosso problema. Se gli utenti cominciano a generare documenti in questo modo e li salvano nell'infosfera, ben presto ci troveremo pieni di documenti inquinati da allucinazioni. Quindi credo che l'articolo sia molto pertinente, perché qui non si sta parlando di chiedere all'IA di generare pezzi di codice, cosa che in genere sa fare benissimo, ma si sta parlando di utilizzarle in qualsiasi contesto come soluzione ad ogni problema. Mi è anche capitato che l'IA mi abbia fornito dei riferimenti a fonti che poi non esistevano, che aveva inventato da sé, cosa molto grave! Quindi non vedo dove sia il problema in quanto scritto dal bravissimo Marco.

[amldc]

[{UtenteAnonimo}]

@777omega777 mi sto presentando come anonimo,e per questa scelta non posso certo fornire referenze circa le mie competenze.
Mi permetto solo di dire che no, non mi sono formato un opinione con Wikipedia o con la Treccani.
Cercavo di argomentarla, per voi, con questi strumenti.

Per rispondere però a lei @calamarim e @amldc e gli altri che sostanzialmente mi chiedete.
Ma chi ha deciso che un LLM è IA?

Ebbene a quanto mi risulta un LLM usa machine/deep learning e reti neurali per l'elaborazione del linguaggio naturale.

A livello accademico queste tecnologie vengono definite parti della branca scientifico/tecnologica chiamata IA.
Quindi un LLM è un modello (linguistico) definibile afferente all' IA.
Questo non significa dire che è certamente intelligente, ma è certamente un intelligenza artificiale.

Vi lascio un riferimento dell'università di Roma dove il machine/deep learning viene definito come afferente alla branca denominata intelligenza artificiale (nome del corso di studi in questione).

Ad oggi un LLM fa certamente uso di queste "tecniche" pertanto mi pare evidente come la pensi il mondo accademico e le istituzioni che si occupano (anche) di questo: link
Poi se avete altre fonti che mi smentiscono, sarei curioso di imparare qualcosa di nuovo.

@clamarim spero che il parere di un università (in buona compagnia per altro) sia un parere sufficiente scientifico.
Se ha bisogno di altre evidenze più specifiche, dettagli pure che vedo di fare del mio meglio.

A tutti, cordiali saluti.

[777omega777]

[{eret}]

I software che sbagliano ci sono propinati dai soliti "magnifici 7" che fanno il bello e il cattivo tempo.
Dato che effettivamente a qualcosa servono, se usati nel modo giusto e con le giuste precauzioni, alla fine finiscono con l'imporsi, perché oggi le persone hanno smarrito per strada qualcosa, qualcosa che viene parzialmente compensato dgli LLM.
Personalmente ho tentato qualche volta di usare chatbot per chattare, ma sinceramente è come parlare da soli (e loro confermano), mentre usati per lavoro bisogna stare attentissimi perché prendere per buone delle fesserie è un attimo, quando invece non ti esasperano perché gli chiedi di modificare una banale formula Excel e ti sfornano errori su errori.

[Homer S.]

[{UtenteAnonimo}]

@777omega777 per Diana, stable diffusion e gli altri modelli che disegnano sono IA.
Non è come dice che nessuno si sarebbe azzardato a definirli tali, sono definitivi da pressoché chiunque così.

Qui vedo molti a discutere se un LLM sia considerabile intelligente.. ma che discussione è che necessità c'è che sia intelligente per definirlo IA?

Ieri sera ho letto un mattone.. ed era un libero.
Lo so per dimostrare il mio punto non è forse un buon cavallo di battaglia, ma ehi aspettate neppure in questa frase c'è di mezzo un equino.

I percettori sono IA (anzi cybernetica se vogliamo usare il termine storicamente più idoneo).

@calamarim cercava paper/pubblicazione soggetti a peer review? Eccone uno fresco fresco del 1958: link
È il punto di partenza da cui si sono sviluppate le reti neurali artificiali. E la disciplina in questione si chiamava cybernetica prima ed IA oggi.

Un percettore è intelligente? No di certo
Però e IA così come un libero pesante è un mattone..

Per cui risparmiate discorsi vaghi ed inconcludenti sull natura filosofica dell'intelligenza e se questi modello ce l'abbiano.
Iniziate quanto meno prima a capire cosa siano questi modelli e perché la comunità scientifica li definisca IA.

Resto sempre in attesa di elementi oggettivi a sostegno della vostra posizione.
Ossia che questi modelli non siano convenzionalmente definitivi IA (nome della disciplina non perché siano intelligenti o preggio consapevoli)

[{UtenteAnonimo}]

Commento di utente non verificato, in attesa di approvazione.

[Gladiator]

Potrebbe essere interessante in questo caso capire anche il punto di vista di uno dei diretti interessati, in questo caso ChatGPT-5 Free.

[Gladiator]

@calamarim

Nel ruolo di uno dei 24 infaticabili e affezionati lettori aggiungerei anche un settimo punto alla tua lista che potrebbe essere una diretta conseguenza o, più probabilmente, lo scopo primario a monte dei 6 rischi descritti ovvero il mettere in mano tutto il potere finanziario e decisionale a coloro che questi modelli li governano e li manipolano e dei loro sodali che li foraggiano e li sostengono.

[{UtenteAnonimo}]

Commento di utente non verificato, in attesa di approvazione.