Olimpo Informatico

[Zeus News]

Leggi l'articolo Disastro PocketOS: l'agente IA cancella database e backup in pochi secondi senza supervisione
Claude in Cursor ha deciso di ignorare le istruzioni ricevute, e l'ha pure ammesso.


 
Foto di Marlon Medau.
 

Segnala un refuso

[{ruththomas}]

Secondo me, riguardo l'IA l'unico, o uno dei pochi stando a quanto da me letto finora in giro, ad aver centrato il problema riguardo il suo utilizzo è stato Linus Torvalds, secondo cui l'IA deve svolgere solo ed esclusivamente la funzione di assistente del lavoratore umano, mai e poi mai di sostituto. Solo la supervisione finale umana può evitare di produrre danni. Qualcuno ricorda il supercomputer di Wargames, che "per gioco" voleva scatenare una guerra termonucleare globale? Vogliamo arrivare a questo?

[zeross]

Almeno ha chiesto scusa, una onestà che in molti umani fatichi a trovare.

[gili.preda]

sinceramente c'è quasi da essere contenti che possa succedere ! - troppo velocemente, a mio parere, si sta dando per scontato che l'AI sia il sostituto perfetto del povero umano dove il suo unico male sia la richiesta di uno stipendio ! - quindi sì... sono contento possano avvenire a causa della AI !

[{adelmo}]

A mio parere questi sono incidenti di percorso, che sono inevitabili quando una nuova e potente tecnologia arriva sul mercato.
Gli auto-bistrattati umani imparano per prova ed errore, specie quelli meno consapevoli.
Piano piano si creerà una cultura della IA, con relative regole e contesto, ed allora gli errori diminuiranno in maniera sostanziale, considerando anche che in parallelo le IA diventeranno sempre più sofisticate e precise.
Bolla o non bolla l'IA è arrivata, e nel bene o nel male, amata oppure odiata, resterà fra noi, mettiamoci il cuore in pace.

[zero]

L'umano:
- non conservava i backup offline
- usava staging e produzione, tutto insieme (stesso volume)

Pero' dite che l'Intelligenza Artificiale ha sbagliato.
A me sembra che il problema sia stato causato della Stupidita' Umana.


.

[Tosevitaa]

E' inquietante come presentino il tutto mettendo la IA nei vesti di un cane bastonato che con orecchie basse fa capire di averla combinata: ma lo vogliono capire che la mia Luna (una border) è INTELLIGENTE mentre le dannate IA sono "programmate" ?
Ancora con queste buffonate di "interrogare la IA sul suo errore" come se fosse una persona che si giustificherà, spiegherà o chiederà scusa?
Andate al diavolo che è lì dove dovreste già stare o ci porterete tutti all'inferno!

[ok_cian]

Questo episodio sta mettendo in risalto un problema molto grosso per i manager: potrebbero trovarsi senza nessuno a cui dare la colpa per i propri errori.

In questi casi c'è sempre almeno una testa che rotola e gli azionisti non vogliono che sia solo quella "digitale" dell'IA di turno.