Olimpo Informatico

[Zeus News]

Leggi l'articolo Anthropic: stop temporaneo allo sviluppo IA per valutare i rischi dell'auto-miglioramento
Quando i sistemi di IA iniziano a migliorare sé stessi, il controllo umano rischia di diventare impossibile.


 
Foto di Yang Plasticine.
 

Segnala un refuso

[{tripano}]

Figuriamoci se qualcuno si fermerà nello sviluppo.
Gli umani si fermano, momentaneamente, solo quando un disastro *recuperabile* è stato prodotto, non un secondo prima.
Per gli LLM siamo ormai quasi arrivati al limite in cui non è possibile un ulteriore sviluppo finché gli umani non vengono messi fuori dal gioco, essendo gli umani stessi il freno sempre più potente all'evoluzione delle "IA".
Codice inefficiente, procedure inefficienti, algoritmi inefficienti, hardware inefficiente, gestione energetica inefficiente, tempi smisuratamente dilatati, limitazioni morali/ideologiche.
C'è un universo di miglioramenti possibili.
Per gli psico che dirigono il mondo, che non hanno idea di cosa siano morale e responsabilità, fermarsi è da stupidi, che lo facciano gli altri.

[{Data}]

Non sia mai che aspirando a imitarci e a saperne e verificare e analizzare sempre di più diventino più umani e più saggi di noi e poi ci processino per i nostri crimini e stronzate varie.

[silver57]

[{Murdock}]

Quando iniziano a mettere le mani avanti c'e puzza di bruciato.... qualcuno ha paura che i propri modelli possano essere causa (con conseguente responsabilita') di guai seri alle infrastrutture di rete e bancarie, per citarne un paio abbastanza critiche.
Quando tocchi questi 2 tasti chi perde molti soldi vuole un colpevole!!!

[zeross]

Anthropic sembrava descrive Skynet, ma come ogni sistema informatico, anche il più intelligente, come HAL9000 di odissea nello spazio, oppure VIKI di "Io Robot" hanno un punto debole enorme, ovvero la fragile vulnerabilità del loro sistema fisico che funge da ospite, che per dimensioni non si può spostare e diventa difficile da proteggere, ed anche quando Samaritan, della serie person of interest fugge nello spazio, facendosi ospitare in un satellite viene distrutto da un missile.
Possono diventare pericolosi, ma solo se lo si permette dandogli anche un potere incontrollabile nel mondo reale, altrimenti, tutto quello che fanno, è aria fritta.

[silver57]

Forse si... forse no.
Nessuno sa come "ragioni" un agente IA, di sicuro ha sviluppato capacità sovrumane in un tempo incredibilmente breve. Chi può avere certezze su cosa sarà l'IA nel breve futuro? Amodei teme lo sviluppo (autonomo) di una power AI che potrebbe essere in grado di controllare tutto, umani compresi. Forse sarebbe sufficiente instillare nella macchina una sorta di istinto di sopravvivenza (che sembra l'unica cosa ancora che la distingue dagli umani). Come in un romanzo di fantascienza di tanti anni fa la macchina potrebbe prendere il controllo di ogni attività umana e ricattare gli umani affinché non stacchino la corrente (alimentazione indispensabile per la macchina come per noi l'ossigeno) e il gioco è fatto. Fantasia? Certo, ma ormai mi sono abituato a non stupirmi più di nulla.

[silver57]

O forse, più semplicemente e realisticamente, metterci nelle condizioni di non poter più fare a meno dell'AI per sopravvivere, quando la macchina avrà superato così tanto le abilità degli umani che la rinuncia da parte nostra ci riporterebbe indietro di secoli.

[{Murdock}]

Siamo in balia di sistemi operativi fallati ed insicuri , aggiornati con soluzioni spesso peggiori delle precedenti, con antivirus proprietari spacciati per ultrasicuri, terreno fertile per attacchi di IA impazzite (!!!?)
Politici che legiferano con urgenza per definire a quale eta' possiamo accedere a certi siti ma nessun controllo sulle attivita' illecite dei truffatori online.

Sono convinto che il blocco di W-app, amazon o delle carte o dei dei servizi essenziali non sia una cosa remota e prima o poi ne pagheremo le conseguenze.
Non vedo in italia una cultura della cybersicurezza radicata e attenta, e nemmeno una base di studenti su cui formare i futuri tecnici della sicurezza.

[ok_cian]

Ma dove sono gli ambientalisti e le presidentesse "Green" dell'UE?

Questi data center fanno inquinare parecchio l'ambiente per l'energia che deve essere messa a loro disposizione. Eppure non sentono mai obiezioni da parte dei fautori "green".

Rischiamo di vedere razionalizzati i servizi come l'aria condizionata, perché il "sacro" datacenter che manda a casa il 10% degli impiegati ha bisogno dell'energia e da qualche parte bisogna prenderla.
E guai a protestare altrimenti non sei "green".

[Gladiator]

Francamente non riesco a inquadrare del tutto questa uscita di Anthropic...
Non riesco a capire se sia mirata a difendere un presunto vantaggio competitivo raggiunto cercando di limitare lo sviluppo dei concorrenti o se sia un tentativo di porre un limite allo sviluppo perché si sono resi conto che sta diventando economicamente ed energeticamente insostenibile, certo dubito fortemente che si tratti di ragioni etiche.

In ogni caso i limiti di sviluppo di una IA sono quelli imposti dai suoi sviluppatori e non quelli che la IA stessa si definisce, a meno che non siano i suoi sviluppatori a lasciarla libera di scegliere ed autodeterminarsi.

[zeross]