Olimpo Informatico

[Zeus News]

Leggi l'articolo Microsoft pubblica il Codice di Comportamento per lo sviluppo della IA
Un punto chiave è che nessuna agente deve potersi opporre al suo spegnimento.


 
Foto di Amos K.
 

Segnala un refuso

[francescodue]

Che sia MS a parlare di sicurezza e controllo è abbastanza ironico.
Certo è una buona cosa che qualcuno cominci a parlare di regole di controllo.
Ma detto da lei è una specie di presa in giro.

[zero]

Manca solo un "piccolo" dettaglio: come obblighi l'AI a seguire le regole?
(e non tirate fuori le Tre leggi della robotica, che sono sole fantasie)


.

[{keuro}]

Avendo Copilot, e grosse partecipazioni sia in OpenAi, sia in Anthropic, una importante fetta delle IA americane sarà coinvolta da questa regolamentazione, ed è un grosso bene perché i clienti delle altre IA chiederanno le stesse garanzie, estendendo la ragionevolezza anche dove attualmente è carente.
Vedo dietro le quinte la spinta della manina segreta dei Five Eyes.
Io avrei aggiunto anche che il personale che istruisce l'IA deve essere formato in maniera tale da dare i giusti input alle stesse, perché gli attacchi di cui si parla nell'articolo sono dovuti a errate formulazioni dei comandi, non a una supposta autonomia decisionale delle macchine.

[francescodue]

Credo che Zero abbia centrato il punto.
Finchè saranno istruzioni software a "garantire" la sicurezza, le IA avranno sempre una possibilità di eludere il controllo.

Riguardo alle onorate 3 leggi mi viene da pensare che venivano applicate a robot autonomi: quindi un apposito comando vocale poteva essere recepito da un circuito indipendente che toglieva l'alimentazione e a cui il cervello del robot non aveva accesso. Suppongo che qualcosa di simile verrà implementato su unità autonome e semiautonome per interventi di emergenza.

Vorrei ricordare che Asimov, dopo averle inventate, si divertì parecchio a eluderle. Come a dire che non esiste una sicurezza assoluta.