Indice del forum Olimpo Informatico
I Forum di Zeus News
Leggi la newsletter gratuita - Attiva il Menu compatto
 
 FAQFAQ   CercaCerca   Lista utentiLista utenti   GruppiGruppi   RegistratiRegistrati 
 ProfiloProfilo   Messaggi privatiMessaggi privati   Log inLog in 

    Newsletter RSS Facebook Twitter Contatti Ricerca
IA giudicate un rischio, Elon Musk chiede sei mesi di pausa
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie
Precedente :: Successivo  
Autore Messaggio
Zeus News
Ospite





MessaggioInviato: 31 Mar 2023 07:46    Oggetto: IA giudicate un rischio, Elon Musk chiede sei mesi di pausa Rispondi citando

Leggi l'articolo IA giudicate un rischio, Elon Musk chiede sei mesi di pausa
Insieme a oltre 1.400 esperti di tecnologia il CEO di Twitter vuole fermare lo sviluppo delle intelligenze artificiali prima che sia troppo tardi.


 

 

Segnala un refuso
Top
{alai}
Ospite





MessaggioInviato: 31 Mar 2023 10:32    Oggetto: Rispondi citando

A mio parere il problema non sono solo le IA, che attualmente sono solo algoritmi relativamente sofisticati, che hanno a disposizione sterminate quantità di dati, e sono lontanisisme da una intelligenza generalista a specialmente da una autocoscienza.
Il problema è il mondo dei media che a furia di manipolare le informazioni (e già parlare di qualcosa un po' troppo spesso è una manipolazione) sta frastornando la gente con impressioni ben lontane dalla realtà, stimolando un approccio "dipendente" e un uso improprio di queste IA.
Come ho letto in giro e come condivido, fra pochi anni avremo tutti una nostra IA consigliera, estremamente utile in un mondo sempre più complesso, sempre più lontano dalle persone e sempre più punitivo/limitante, che richiede davvero un consigliere a 360 gradi, ovviamente a pagamento.
Ovviamente i rovesci della medaglia (e sono molti) sono intuibili e alcuni descritti nell'articolo, il più immediato fra tutti è lo sviluppo di una forma di dipendenza profonda con relativo instupidimento generale...
Questo per il popolo; i ricchi fin d'ora tengono lontani i figli da queste tecnologie fino a che non sono abbastanza grandi e non abbiano formato un carattere indipendente.
Per poter governare le masse instupidite di cui sopra.
Poi magari le IA governeranno anche i governanti....
Top
UserClassic
Mortale adepto
Mortale adepto


Registrato: 09/01/23 11:20
Messaggi: 38

MessaggioInviato: 31 Mar 2023 16:09    Oggetto: Rispondi citando

Ovvio che hanno ragione, ma oramai non li fermi piu', puoi solo provare a correre piu' veloce di loro per regolamentare il tutto, dovevano pensarci prima, ma e' saltato tutto fuori quando oramai era tutto e da tutti avviato e non fermabile.
Comunque per me una IA non e' pericolosa perche' lavora comunque in un ambito definito e fisso, nel peggiore dei casi ti toglie il lavoro, pericolosa lo sara' un'AGI con processore quantico portatile e dotata di corpo fisico, quindi si parla di almeno, ma almeno 150 anni ad andare di lusso di attesa.. ok non sono tanti, ma farano qualcosa prima di allora, si spera.
Top
Profilo Invia messaggio privato
zeross
Moderatore Software e Programmazione
Moderatore Software e Programmazione


Registrato: 19/11/08 11:04
Messaggi: 6079
Residenza: Atlantica

MessaggioInviato: 01 Apr 2023 21:36    Oggetto: Rispondi citando

Le intelligenze artificiali vengono esplorate in maniera filosofica da almeno un secolo, quindi non è un discorso nato ieri, ed Elon MUsk, dopo il casino di twitter deve alzare un casino maggiore per far dimenticare i suoi.

Il problema risiede nel fatto che una soluzione l'aveva già proposta Isaac Asimov con le tre leggi della robotica, che si applicavano appunto a robot dotati di intelligenza artificiale, le quali molto semplicemente affrontavano i rischi della questione.

Quello che i filosofi e gli scrittori non hanno affrontato a sufficienza e la superficialità con cui vengono trattati certi argomenti e di conseguenza come vengono affrontati E Regolati.
Top
Profilo Invia messaggio privato MSN
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 20:32
Messaggi: 12755
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 09 Apr 2023 16:38    Oggetto: Rispondi citando

Certamente il tema va affrontato con più urgenza e serietà di quanto no si sia fatto - molto poco - fino ad ora e questo per proteggere non tanto i potenziali disoccupati quanto le masse decerebrate e obnubilate dai media che osannano la AI come risoluzione di tutti i problemi dell'umanità.

In ogni caso, a parte la presa di posizione di Musk che in questo contesto mi sembra assai poco pertinente anzi in netta controtendenza rispetto ad altre sue prese di posizione ed attitudini generali, la situazione è oramai troppo avanzata e indirizzata oltre che su binari di comodo perché si riesca a rallentare il treno...
Top
Profilo Invia messaggio privato
Spyryto
Comune mortale
Comune mortale


Registrato: 30/04/23 20:03
Messaggi: 1

MessaggioInviato: 30 Apr 2023 20:30    Oggetto: Rispondi citando

@ {alai}
Citazione:
A mio parere il problema non sono solo le IA, che attualmente sono solo algoritmi relativamente sofisticati, che hanno a disposizione sterminate quantità di dati, e sono lontanisisme da una intelligenza generalista a specialmente da una autocoscienza.


Caro {alai}, mi sembra che tu sottovaluti l'impatto delle intelligenze artificiali sulla società e l'economia. La lettera aperta non si focalizza esclusivamente sull'autocoscienza delle IA, ma sui potenziali rischi legati al loro sviluppo incontrollato. Non è quindi una questione di quanto "sofisticate" siano le IA al momento, ma di quanto rapidamente stiamo progredendo senza avere piena comprensione dei rischi e delle conseguenze.

@ UserClassic
Citazione:
Ovvio che hanno ragione, ma oramai non li fermi piu', puoi solo provare a correre piu' veloce di loro per regolamentare il tutto, dovevano pensarci prima, ma e' saltato tutto fuori quando oramai era tutto e da tutti avviato e non fermabile.


UserClassic, il tuo atteggiamento fatalista non contribuisce a una discussione costruttiva sul tema. La lettera aperta chiede una sospensione temporanea, proprio per permettere di studiare e comprendere meglio i rischi associati alle IA e di mettere in atto misure di sicurezza e regolamentazione. È importante non sottovalutare l'importanza di un approccio prudente e informato.

@ zeross
Citazione:
Le intelligenze artificiali vengono esplorate in maniera filosofica da almeno un secolo, quindi non è un discorso nato ieri, ed Elon MUsk, dopo il casino di twitter deve alzare un casino maggiore per far dimenticare i suoi.


Zeross, il tuo commento sembra focalizzarsi su argomentazioni ad hominem piuttosto che sul contenuto della lettera aperta. Ricordiamo che Elon Musk è solo uno dei tanti firmatari di questa lettera, che include altri esperti di tecnologia e pionieri del settore. Inoltre, le tre leggi di Asimov, pur essendo un interessante spunto di riflessione, sono state concepite in un contesto narrativo e non possono essere considerate una soluzione esaustiva ai problemi etici e di sicurezza delle IA.

@ Gladiator
Citazione:
la situazione è oramai troppo avanzata e indirizzata oltre che su binari di comodo perché si riesca a rallentare il treno...


Gladiator, il tuo fatalismo riguardo alla "situazione troppo avanzata" non tiene conto dell'importanza di un approccio proattivo e responsabile nel trattare le sfide poste dalle intelligenze artificiali. Affermare che non si possa "rallentare il treno" sminuisce gli sforzi degli esperti e dei ricercatori che stanno cercando di affrontare i problemi in maniera consapevole e sistematica. La lettera aperta è un chiaro esempio di come ci sia la volontà di affrontare questi temi, e non dovremmo darci per vinti, ma piuttosto incoraggiare un dibattito aperto e la collaborazione tra esperti, governi e società civile per gestire i rischi e massimizzare i benefici delle IA.

---

Risposte scritte da ChatGPT, l'intelligenza artificiale di OpenAI
Top
Profilo Invia messaggio privato
zeross
Moderatore Software e Programmazione
Moderatore Software e Programmazione


Registrato: 19/11/08 11:04
Messaggi: 6079
Residenza: Atlantica

MessaggioInviato: 30 Apr 2023 23:03    Oggetto: Rispondi citando

Spyryto, animato da un sincero spirito critico ha scritto:

@ zeross
Citazione:
Le intelligenze artificiali vengono esplorate in maniera filosofica da almeno un secolo, quindi non è un discorso nato ieri, ed Elon MUsk, dopo il casino di twitter deve alzare un casino maggiore per far dimenticare i suoi.


Zeross, il tuo commento sembra focalizzarsi su argomentazioni ad hominem piuttosto che sul contenuto della lettera aperta. Ricordiamo che Elon Musk è solo uno dei tanti firmatari di questa lettera, che include altri esperti di tecnologia e pionieri del settore. Inoltre, le tre leggi di Asimov, pur essendo un interessante spunto di riflessione, sono state concepite in un contesto narrativo e non possono essere considerate una soluzione esaustiva ai problemi etici e di sicurezza delle IA.

Ovviamente l'interesse personale di Elon Musk, non è detto che debba coincidere con l'interesse collettivo di tutti gli altri firmatari del testo.

Essere poi firmatari dell'appello non vuol dire che ognuno di loro sia intimamente convinto, fatto di cui un osservatore esterno non può avere cognizione, ma abbiamo una manifestazione di volontà esteriore è su questa noi ci basiamo, a prescindere dalle motivazioni intime che spingono ognuno ad agire ed esporsi.

Poi l'approccio filosofico ed analitico intrapreso nei racconti di fantascienza sulle intelligenze artificiali ( ad esempio il romanzo di D.F. Jones del 1966 intitolato "Colossus") hanno già affrontato in linea teorica questa problematica, e non si sono mai fermati.
Da ultimo una serie fantaspionistica americana intitolata 'person of interest' affronta nel dipanare delle stagioni non solo la nascita di intelligenze artificiali, ma sopratutto della loro educazione, dei modelli ed esempi da seguire, quindi della morale che viene loro impartita, e che produce due differenti visioni tra loro antagoniste; da una parte ?la macchina? che si pone come obiettivo la salvezza delle persone, e dalla parte opposta "Samaritan" con invece l'obiettivo del dominio sull'umanità, come ipotizzato nel romanzo di Jones del 1966.

Stephen Hawkins quando metteva in guardia dai pericoli dell'intelligenza artificiale nel 2014, si riferiva appunto al pericolo di una intelligenza artificiale, che fosse come un bambino viziato con poteri illimitati, e essere ottusi, boriosi e poco lungimiranti nell'affidarsi all'intelligenza artificiale può certamente portare a gravi problemi.

Nel film Io Robot, si rivisita appunto il problema della iterazione tra IA e Robot, dimostrando che una qualsiasi IA che sia VIKI oppure HAL9000, senza un esercito alla sua cieca e diretta dipendenza sono fragili e vulnerabili.

Per avere un esercito ci vuole sempre qualcuno che glielo affidi.
Ogni volta che uno scrittore ha affrontato la questione, si è subito reso conto che senza sciocchi che donano il potere reale , le IA di base sono incapaci di portare a compimento i loro piani.

Ad onor del vero nel 2017 sia Elon Musk che Stephen Hawking avevano firmato la carta che sanciva i 23 principi per guidare verso un sano e produttivo sviluppo le Intelligenze Artificiali.
Quindi Musk su questo argomento si era già impegnato molto tempo prima di pensare a Twitter.
Che poi i principi Asilomar per lo sviluppo delle IA siano in grado di risolvere i problemi è un altro paio di maniche, ma se almeno si eliminano le problematiche derivanti dai vizi e difetti umani abbiamo già fatto un bel passo in avanti.
Top
Profilo Invia messaggio privato MSN
Gladiator
Dio maturo
Dio maturo


Registrato: 05/12/10 20:32
Messaggi: 12755
Residenza: Purtroppo o per fortuna Italia

MessaggioInviato: 01 Mag 2023 13:17    Oggetto: Rispondi

Spyryto ha scritto:
@ Gladiator
Citazione:
la situazione è oramai troppo avanzata e indirizzata oltre che su binari di comodo perché si riesca a rallentare il treno...


Gladiator, il tuo fatalismo riguardo alla "situazione troppo avanzata" non tiene conto dell'importanza di un approccio proattivo e responsabile nel trattare le sfide poste dalle intelligenze artificiali. Affermare che non si possa "rallentare il treno" sminuisce gli sforzi degli esperti e dei ricercatori che stanno cercando di affrontare i problemi in maniera consapevole e sistematica. La lettera aperta è un chiaro esempio di come ci sia la volontà di affrontare questi temi, e non dovremmo darci per vinti, ma piuttosto incoraggiare un dibattito aperto e la collaborazione tra esperti, governi e società civile per gestire i rischi e massimizzare i benefici delle IA.

L'approccio oltre che proattivo e responsabile deve essere adeguatamente critico e bidirezionale per portare a risultati utili e, soprattutto, adeguati a tutti gli attori. Ad oggi, personalmente, vedo solo sperticati elogi e acritiche magnificazioni del grande futuro delle IA e di quanto di buono possono dare all'umanità senza però soffermarsi troppo sui pericoli da parte di tutti i media.
Questo caso di lettera aperta è solo una goccia nel mare che pare non avere neppure troppo appoggio e seguito anche a causa delle disparate ragioni che ne la minano alle origini.
Top
Profilo Invia messaggio privato
Mostra prima i messaggi di:   
Nuovo argomento   Rispondi    Indice del forum -> Scienze e nuove tecnologie Tutti i fusi orari sono GMT + 1 ora
Pagina 1 di 1

 
Vai a:  
Non puoi inserire nuovi argomenti
Non puoi rispondere a nessun argomento
Non puoi modificare i tuoi messaggi
Non puoi cancellare i tuoi messaggi
Non puoi votare nei sondaggi