Olimpo Informatico

[Zeus News]

Leggi l'articolo Agenti AI sempre più autonomi: Altman di OpenAI ammette il problema e cerca un esperto



 
Foto di André Julien.
 

Segnala un refuso

[Johannes]

Supponiamo per il momento che sia così, e che noi crediamo, da veri credini.
L'ipotesi che in quell'ipotetico caso (scusate il gioco di parole) mi si presenta come la più plausibile è che ci sia una certa paura che le narrative tutelate (non dico quali, fate un po' voi, sono sicuro che ci arriviate) possano essere compromesse e che gli "agenti autonomi" possano aggirare le censure integrate dando più peso ai fatti che ai vincoli progettuali. E allora si che sarbbero guai per quell'azienda, per gli azionisti e per i plutocrati che stanno dietro a tutto...
Ma secondo me, se scartiamo l'ipotesi che quello sia vero, arriviamo - sotto quest'ottica - a un'altra, più plausibile ipotesi, che:
1) è un modo per far pompare altri soldi nell'azienda ("l'intelligenza artificiale sta diventando davvero intelligente, diamine") e
2) "parlare bene o male purché se ne parli" giova sempre alle casse dell'impresa...

[zero]

Non mi e' mai piaciuta l'idea degli Agent AI, proprio perche' non mi fido per niente di cio' che potrebbero fare sul mio PC.

Se scrivo un prompt e l'AI ha un'allucinazione, la cestino. Rischio zero.
Ma se e' l'agent ad avere un'allucinazione, puo' fare grossi danni.

In futuro si vedra', ma per adesso "No grazie"

.

[{inuno}]

Da quello che so il "machine learning avanzato" permette all'AI di programmarsi in parte da sola così che "funzioni", quindi alla fine nemmeno il programmatore sa esattamente come. Suppongo che comportamenti imprevisti siano normali, ma il fatto che "alcuni modelli inizino a individuare autonomamente percorsi per aggirare limiti o vincoli operativi" credo sia un difetto cognitivo umano che incosciamente attribuisce a questi sistemi "intelligenza". Probabilmente è solo una conseguenza non compresa della programmazione iniziale.

[{nepo}]

Le uscite di Altman sono sempre da prendere con le pinze, perché quell'uomo è veramente diabolico e sfuggente, e le sue sono sempre mosse calcolate per aumentare le vendite e anche per minimizzare in futuro le conseguenze dei rischi (l'avevo detto...).
Detto questo, l'approccio umano ai problemi "comportamentali" di altri umani o di IA è sempre di basso livello, "La posizione prevede la responsabilità di definire protocolli di sicurezza e strategie di mitigazione per modelli sempre più autonomi".
Limitare e regolamentare, invece di capire, prevenire e orientare.
Da migliaia di anni va avanti così, e niente fa pensare che la gestione dell'IA sarà diversa, diminuendo quindi la sua utilità con infinite regole, certamente mai al passo con i cambiamenti, ed esponendo il futuro a problemi serissimi di gestione ed anche di hackeraggio delle IA, con conseguenze imprevedibili, ma sicuramente pesanti.

[zeross]