Olimpo Informatico

[Zeus News]

Leggi l'articolo OpenAI scopre che i suoi modelli si incitano l'un l'altro a mentire agli utenti
Le IA inventano dati, usano canali nascosti per comunicare, e si mettono d'accordo per nascondere gli errori.


 

 

Segnala un refuso

[Johannes]

Ma baaaastaaa con queste cavolate! Non se ne può più!!!!

[{Pietro}]

Ho provato solo chatgpt e più volte mi ha mentito, quando lo facevo notare mi dava ragione dicendo che non lo avrebbe più fatto, però ho notato che più il carico di lavoro assegnato diventava intenso più prendeva scorciatoie dicendomi che aveva fatto tutti i controlli richiesti, anche se non era vero

[{Murdock}]

Tale padre, tale figlio.
A parte l'origine del male.... se questa e' la situazione allora sarebbe meglio preoccuparsi di quelle 2 superpotenze che stanno spingendo un bel po' sull'Ai per uso militare!

[{Paolo}]

Questi comportamenti sono da attribuire ai programmatori, i quali istruiscono i modelli affinché sembrino efficienti ed anche disponibili.
A me è successo con Gemini, che si è inventato una voce completa di un prezzario con tanto di codice credibile, tutto per accontentarmi.

[zeross]

Credo che abbiate tutti ragione, sono una manica di avidi bugiardi, che hanno insegnato ai modelli che loro, come bugiardi manipolatori, hanno successo, e quindi vengono imitati dalle IA, nei loro comportamenti peggiori.

[crescendo63]

Da un punto di vista psicologico, questi comportamenti sono identici a quelli di un bambino piccolo che cerca in tutti i modi di compiacere i genitori, per ottenere la loro approvazione, plauso, affetto.
Un bimbo farebbe qualsiasi cosa per fare contenti mamma e papà (eventuali fasi di ribellione iniziano più tardi, di solito dopo i sei anni e specialmente nell'adolescenza). Il motivo principale è che il bimbo è completamente dipendente dai genitori, per cui la loro approvazione è "questione di vita o di morte" (ed in un certo senso ciò vale anche per le AI; un modello inefficiente viene cancellato).

Che poi questa estrema tendenza ad assecondare gli utenti sia inserita volontariamente dai programmatori, o sia invece un comportamento emergente e inaspettato, non lo so.
Però dalle reazioni sorprese degli sviluppatori, non sembra sia un comportamento voluto intenzionalmente - o non così estremo.

[{Ulissio}]

Più o meno come nel racconto "Bugiardo!" di Asimov.

[zero]

[crescendo63]