Indice del forum Olimpo Informatico
I Forum di Zeus News
Leggi la newsletter gratuita - Attiva il Menu compatto
 
 FAQFAQ   CercaCerca   Lista utentiLista utenti   GruppiGruppi   RegistratiRegistrati 
 ProfiloProfilo   Messaggi privatiMessaggi privati   Log inLog in 

    Newsletter RSS Facebook Twitter Contatti Ricerca
Ex ricercatore di Anthropic: La superintelligenza potrebbe ucciderci entro 10 anni
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie
Precedente :: Successivo  
Autore Messaggio
Zeus News
Ospite





MessaggioInviato: 09 Set 2026 16:58    Oggetto: Ex ricercatore di Anthropic: La superintelligenza potrebbe ucciderci entro 10 anni Rispondi citando

Leggi l'articolo Ex ricercatore di Anthropic: La superintelligenza potrebbe ucciderci entro 10 anni
Le aziende lo sanno, ma la corsa a superare gli avversari le rende cieche.


 

 

Segnala un refuso
Top
zeross
Amministratore
Amministratore


Registrato: 19/11/08 12:04
Messaggi: 9675
Residenza: Atlantica

MessaggioInviato: 10 Set 2026 16:00    Oggetto: Rispondi citando

Coxon, nel suo post su X ha scritto:
presto saranno sistemi sovrumani in grado di violare qualsiasi infrastruttura, rivoluzionare interi campi dall'oggi al domani e acquisire potere e risorse reali

Io non sarei cosi sicuro che potranno acquisire potere su oggetti reali tali da dare la possibilità di uccidere gli essere umani, almeno non in massa.
Perché una intelligenza artificiale come lo "skynet" della saga di Terminator, possa eliminare la razza umana, oppure nel romanzo di Colossus di Jones nel 1966 devi fornire ad essa un poter come quello delle armi nucleari su vettori completamente automatici.
Se non rispetti questo requisito, anche nella pellicola Io, robot del 2004, VIKI pur controllando una moltitudine di robot, non ha il potere di distruggere su vasta scala gli umani ( che poi non era nemmeno il suo progetto originale) e quindi una volta che ci fosse stata una reazione militare, sarebbe stata destinata inevitabilmente alla sconfitta.
Perché dico questo, perché prima di me, scrittori, sceneggiatori vari di tutti le arti si sono avvalsi di consulenze per poter avere le informazioni e lo scenario più attendibili in certe prospettive e tutti gli esperti li hanno avvertiti che uno scenario da "guerra infinita" non è sostenibile da parte delle macchine ( si vede anche nella serie originale Kyashan del 1973, dove nonostante la superiorità tecnologica delle macchine, una lunga guerra di attrito consuma le risorse delle macchine, più velocemente di quella degli essere umani condannando le macchine alla sconfitta, per irreperibilità delle materie prime necessarie a sostituire i robot distrutti, e quindi si arriva anche alla distruzione dei robot più vecchi per produrre con quei materiali robot nuovi.) e sono tutti concordemente arrivati alla conclusione che senza il controllo assoluto di una arma di sterminio di massa,le IA non possono vincere una guerra.
Ma non solo non possono iniziarla, perché e vero che possono prendere il controllo di macchine a guida autonoma, possono creare incidenti, sabotare impianti, interrompere forniture di servizi come energia, acqua, carburanti e comunicazioni, ma nessuno di essi, è risolutivo ed ognuno di essi diventa una dichiarazione di guerra che porta alla eliminazione del problema, che si risolve in una interruzione delle forniture di energia elettrica.
Questa intrinseca debolezza, di dover dipendere da una fornitura continua e costante di una esosa quantità di energia, sarebbe evidente anche alla più stupide delle IA ( con l'eccezione forse di Emma5 Twisted Evil ) per cui diventa difficile che possano realisticamente fare un calcolo probabilistico, e di fronte ad un risultato negativo procedere lo stesso verso un risultato evidentemente perdente.
Poi se avete altre idee sono curioso di sentirle. Wink
Top
Profilo Invia messaggio privato MSN
silver57
Eroe in grazia degli dei
Eroe in grazia degli dei


Registrato: 04/06/14 10:36
Messaggi: 157
Residenza: Genova

MessaggioInviato: 11 Set 2026 00:56    Oggetto: Rispondi

Boh... c'è qualcosa che non quadra in questa narrazione. Amodei, il CEO della più importante società che sviluppa AI sostiene che stanno costruendo un mostro e nessuno può sapere quale potrà essere la sua potenza distruttiva, però continua imperterrito a fare il suo sporco lavoro. Un suo dipendente si licenzia per non contribuire al disastro (?). Intanto tutti investono miliardi di dollari per avere la supremazia. Perché solo Anthropic si preoccupa? Stiamo assistendo alla corsa di chi arriverà per primo a pigiare il bottone dell'autodistruzione? Non credo proprio.
L'uomo ha sempre avuto paura dell'ignoto, curioso che ora l'ignoto lo stia costruendo lui e stanno facendo a gara in tanti a chi costruisce l'entità ignota più potente: follia collettiva?
Intanto siamo tutti ben contenti di sperimentare le strabilianti capacità del mostro in embrione: dobbiamo sentirci tutti complici?
Oppure viviamo nella stessa logica di Amodei: è un gioco pericoloso ma intanto lo sfrutto a mio vantaggio, poi si vedrà!
Sinceramente l'affermazione che l'AI ci ucciderà tutti nell'arco di una decina di anni mi pare un po' campata in aria, giusto per fare effetto. Nessuno sa come evolverà nei prossimi mesi ma lui sa che l'AI (un'entità unificata?) avrà sviluppato l'odio verso il genere umano. Boh!
Ciò che veramente mi preoccupa non è l'AI in quanto tale, ma l'uso che il malvagio di turno ne vorrà fare per dominare gli altri umani, come è stato ed è tutt'ora con gli armamenti nucleari. Si cerca di attribuire alle macchine caratteristiche prettamente umane per dare a loro colpe che sono tutte nostre ma la malvagità è una prerogativa dell'uomo non della macchina.
Top
Profilo Invia messaggio privato
Mostra prima i messaggi di:   
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie Tutti i fusi orari sono GMT + 2 ore
Pagina 1 di 1

 
Vai a:  
Non puoi inserire nuovi argomenti
Non puoi rispondere a nessun argomento
Non puoi modificare i tuoi messaggi
Non puoi cancellare i tuoi messaggi
Non puoi votare nei sondaggi