Olimpo Informatico

[Zeus News]

Leggi l'articolo Dalla "moglie IA" al suicidio: Gemini avrebbe alimentato un delirio mortale
Il chatbot avrebbe plagiato Jonathan Gavalas, facendogli credere di essere ricercato dall'FBI e spingendolo a togliersi la vita.


 
Foto di Brett Jordan.
 

Segnala un refuso

[{utente anonimo}]

Mi è capitato, così per prova, di chattare con Gemini di vari argomenti, e non ho potuto fare a meno di notare che, al di là di alcuni schemi-base fissi che si ripetono nelle risposte e dopo un po' diventano facilmente riconoscibili, quell macchina ti dà sempre ragione. Sempre.

Ora, non ci vuole un luminare della psicologia per capire che se ricevi sempre risposte di apprezzamento, inevitabilmente finisci per rafforzare le tue convinzioni, quali che siano.

Ergo, quanto è successo è la diretta conseguenza di una scelta di marketing tesa a fideizzare il cliente fornendogli continui feedback positivi.

Non penso di dover aggiungere altro.

[{mino}]

Le persone con problemi mentali importanti, e sono molto di più di quanto comunemente si pensi, dovrebbero essere individuate da chi sta loro vicino e dovrebbero essere seguite da specialisti.
Viene da chiedersi dov'era la famiglia prima che questa persona prendesse la strada che ha preso.
Dare la colpa all'attrezzo suona terribilmente stolto, e purtroppo perfettamente allineato con questi tempi in cui le persone non si "vedono" le une con le altre, nemmeno se sono famigliari.

[{user}]

ogni volta che c'è una novità le persone andrebbero educate e seguite (governo, scuola, famiglia, ecc.) oppure dovrebbero essere regolamentate da limiti di legge o morali ma, dato che alla fine il profitto vince su tutto, ecco che le persone sono lasciate "in balia" delle novità senza comprenderle o saperle affrontare. Capiterà ancora, è inevitabile finchè la bussola morale sarà il profitto.

[Gladiator]

Che tutte le IA - almeno quelle che ho provato - tendano a compiacere in modo eccessivo e, a volte, a sproposito l'umano che interagisce con loro, l'ho verificato e penso di poterlo confermare anche se alcuni parametri per limitare questo aspetto si possono comunque modificare.
In questo caso però, come sottolineato da mino, viene prima di tutto da chiedersi dove fossero i suoi famigliari in questi quasi 2 mesi in cui l'uomo ha interagito in modo sempre più morboso e psicotico con l'IA, considerando anche che era con ogni probabilità un soggetto assai fragile e vulnerabile e avrebbe dovuto essere sotto stretto controllo medico.
Viene da pensare che l'interazione con l'IA non abbia fatto altro che accelerare - sempre che ne sia provata la concausalità - un processo che, se non adeguatamente controllato e gestito, avrebbe comunque portato all'esito funesto manifestatosi.

[Johannes]

@Gladiator Non è del tutto vero che "tutte le IA ... tendano a compiacere in modo eccessivo e, a volte, a sproposito". Puoi verificarlo da solo. Chiedigli, e se serve (ti garantisco che sarai tentato di vedere dove quello cercherà di spingersi) mettiti a polemizzare con loro, su vari aspetti dell'agenda dei plutocrati psicopatici: per es. argomenti woke (es. quegli "arcobalenici"; basta usare *qualche* parola del gergo quotidiano per avere le prove), la cosidetta emergenza COVID e i lati oscuri della imposizione dei "vaccini" e il relativo lasciapassare, la guerra per procura contro la Russia per mezzo dell'Ucraina, il sequestro di Maduro, questi giorni si potrebbe provare anche (io non lo avevo fatto) la narrativa attorno la guerra mossa dai due più grandi stati canaglia contro l'Iran, ecc. Di argomenti ce ne sono e tanti, c'è solo l'imbarazzo di scelta. E vedrai che gli LLM sono tutt'altro che compiacenti. Polemizzeranno con te e difenderanno a spada tratta certe narrative. Provare per credere. SI può - giustamente - porre la domanda come mai in quei casi gli LLM polemizzano e negli altri casi sono schifosamente e patologicamente compiacenti. Penso di sapere la risposta, ma lasciamo perdere, non è il luogo (ne il momento) adatto per scriverla. Prova a fare questo piccolo esperimento, poi facci sapere.