Olimpo Informatico

[Zeus News]

Leggi l'articolo Meta sotto accusa: la sua IA fa sexting coi minori
I chatbot di Facebook, Instagram e WhatsApp sarebbero facilmente programmabili per generare interazioni a sfondo sessuale.


 
Foto di Karla Rivera.
 

Segnala un refuso

[Homer S.]

Qui servirebbe un discorso più ampio che non si esaurisce a questo solo episodio.

E dunque: ai miei tempi, le persone come me venivano cresciute col mantra "non dare confidenze agli sconosciuti"; i bambini successivi li si parcheggiava davanti alla TV, a prescindere da che vedessero Carosello o Cronaca vera; quelli dopo ancora al PC, che giocassero a scacchi o a Doom; quelli dopo ancora con lo smartphone in mano, ed ora gli si dà anche questo.

Primo problema: manca lo spirito critico degli educatori; genitori in primis, ma non solo.
Secondo problema: si è rinunciato alla più elementare regola di buon senso, mai affidare un minore ad una tecnologia che non si comprende appieno e non si controlla.

Forse che una IA qualunque è "di famiglia" come uno zio od una cugina? Allora perché mandarli allo sbaraglio?

[{remo}]

Da un po' di tempo la tattica di Meta è quella di seminare dubbio con tattiche psicologiche, in risposta ad accuse precise.
Evidentemente a livello di masse è una tattica che paga, e per eventuali multe, ormai da tempo la pratica comune è quella di valutare solo il rapporto fra costi e benefici.
Per lo Zuckopatico e i suoi simili, l'etica è roba da deboli e inferiori.

[lucio_menci]

[zeross]

[Homer S.]

Un po' di rispetto per il maestro Miyagi...

[Gladiator]

[777omega777]

Quella roba dovrebbe chiamarsi jailbreak e lo fa direttamente l'utente, questo significa che il minore in questione ha inserito un prompt che fa da jailbreak allo scopo di fare sexting con la IA, per poi farci lui sexting con l'IA.

Esattamente, quale sarebbe il problema?
Nel senso, qui è come un caso in cui un minore, in evidente pubertà, si prende il proprio diario personale e si mette a scrivere racconti erotici mettendoci come protagonisti suoi coetanei.

Ricordiamo che non ci sono tante opzioni per limitare certi comportamenti se non attraverso la lobotomia del modello, portando al suo stesso disfacimento. (Vedasi cosa è successo con Character.ai e nonostante questo ci sono state comunque polemiche.) E senza la lobotomia c'è sempre il jailbreak e il costante margine d'errore (Su milioni di tentativi, qualcuno per forza di cose scappa. Mi è capitato più volte di testare roba che controlla se un dato contenuto ha contenuti erotici o quant'altro. Basta forzare la forza bruta e prima o poi passa.)

[Homer S.]

[zeross]

Se il diario rispondeva al ragazzo, questo come minimo scappava terrorizzato...

[Homer S.]

Certo, se era fatto così:

[zeross]

KLATU VERATA ..ugf..cfgh...va bene cosi