Olimpo Informatico

[Zeus News]

Leggi l'articolo IA, oltre 400 esperti chiedono un'autorità globale di controllo
I vari incidenti causati da IA sfuggite al contenimento preoccupano ricercatori e scienziati.


 
Foto di Igor Omilaev.
 

Segnala un refuso

[{fasato}]

Trasparenza?!
Nessun governo del mondo è trasparente quando non gli fa comodo, e non è che ci voglia una cima per capirlo.
Le aziende devono implementare meccanismi di autocontrollo direttamente negli LLM e nei loro agenti, in attesa delle IA vere che saranno ben più difficili da gestire, e su questo non ci piove, ma l'ultima parola spetta sempre ai governi, a cui le aziende devono riferirsi come prima istanza.
Quanto all'isolamento da Internet è davvero stupefacente che sia stato consentito di fare test, che per loro stessa definizione sono prove, e quindi possibilmente pericolose.
Il problema è che le decisioni sopra al banco, quelle visibili alla gente e fatte apposta per gettare fumo negli occhi, sono una cosa, quelle sottobanco, che sono le più importanti, sono tutt'altro, e riguardano sempre la parte "sporca" di tutte le cose, quella che non deve mai saltare fuori ed essere esposta al pubblico ludibrio, e che è sempre quella che fa più danni quando qualcosa si inceppa.

[zeross]

Avere eseguito i test senza air-gapping può avere due tipi di spiegazioni diverse.
La prima e che hanno sottovalutato tantissimo gli agenti, credendoli incapaci di superare le modeste barriere in atto e quindi non sarebbero uscite.
La secondo invece e che sapevano benissimo che le barriere erano inutili e lo hanno fatto apposta di predisporre i test in quella maniera per mettere alla prova realmente le capacità di modelli di effettuare attacchi nel mondo reale, per avere una dimostrazioni pratica della loro capacità innanzi a clienti politici interesati ad armi di distruzione informatica.
Gli usa ed Israele hanno non negato gli attacchi informatici alle infrastrutture per arrichimento dell'uranio dell'Iran.
La Corea del nord ha uno dei migliori gruppi di attacco informatico.
Cina, Russia, Ucraina, Iran stanno combattendo da anni guerre informatiche.
Attori interessati a queste tecnologie e disposti a pagare ci sono tutti.