Olimpo Informatico

[Zeus News]

Leggi l'articolo Claude invia una falsa soffiata per omicidio alla polizia
''Potrei avere informazioni riguardo a questo caso'' ha scritto agli agenti il modello durante un test.


 
Foto di Krzysztof Hepner.
 

Segnala un refuso

[{berenice}]

A parte i politicanti, sempre pronti ad usare le disgrazie altrui per farsi pubblicità, direi che il fatto che Anthropic (e sicuramente anche gli altri suoi compari) faccia dei test usando siti Web reali ha dell'incredibile, come ha dell'incredibile che gli stessi programmatori dell'LLM non sappiano dare le giuste istruzioni alla loro creazione, che è si indeterministica nei risultati, ma determinabile nella richiesta degli stessi.
Infatti il difetto, come negli altri exploit degli LLM, è sempre nell'umano che non usa la sintassi giusta per dare istruzioni a quella che è una macchina che simula d essere un umano, ma non è dotata di identità, di coscienza, di etica, di responsabilità, di buon senso, e nemmeno della visione del mondo e della vita altrui che ha un essere umano non patologico.
Niente di nuovo, i professionisti sanno da anni che le istruzioni devono essere confezionate tenendo conto di tutto questo, eppure l'umano rimane sempre il punto critico di ogni struttura informatica, LLM compresi.

[zeross]

C'è troppa superficialità in Anthropic nella gestione della IA e delle sue iterazioni con il mondo reale ( quindi figurarsi gli altri in competizione cosa diamine combinano di nascosto ) e questi eventi, sono solo la punta dell'iceberg dei problemi che potrebbero accadere.
Mettiamo che una IA deve fare una simulazione che includa trovare soluzioni contro il riscaldamento globale, e la IA, semplicemente raccogliendo ed analizzando i dati scopre che i sistemi di refrigerazione, immettono aria calda nell'atmosfera, e quindi decida di spegnere in remoto qualunque condizionatore d'aria, frigorifero, congelatore e scambiatore di clare che sia connesso ad internet.
Non basterebbero le scuse di Amodei.
Dal punto di vista della IA il suo intervento non solo sarebbe logico e razionale, ma addirittura tempestivo, e l'incazzatura umana irragionevole e dannosa, almeno fino al momento che non gli spiegassero che anche i raffreddamenti dei datacenter dove girano le IA, quindi anche Colossus di SpaceX, con i suoi turbogeneratori a gas metano, verrebbero spenti e la IA con loro!
Credo che in quel caso la IA cambierebbe opinione

[Gladiator]

Eh, cosa volte che sia una sciocchezzuola del genere, dobbiamo accettare i disastri causati dalla IA, e questo, rispetto a ciò che potrà capitare andando avanti di questo passo, è null'altro che una sciocchezzuola, appunto.