Olimpo Informatico

[Zeus News]

Leggi l'articolo Intelligenza artificiale: il programmatore pericoloso
Cassandra Crossing/ È vero che le intelligenze artificiali sono ottimi programmatori?


 

 

Segnala un refuso

[{utente anonimo}]

skynet o matrix chi nascera

[{matrinet}]

Purtroppo è una descrizione perfetta di cosa accade nella realtà.
Abbiamo costruito le macchine perché siano più efficienti e veloci degli umani, siamo arrivati ad un punto in cui possiamo costruire macchine che grazie ad algoritmi statistici avanzati (non intelligenza) possono/potranno esserlo in tutti i settori umani tranne il miglioramento di se stessi (ma forse potranno aiutare...).
E' una rivoluzione quale non è mai stata vista nella storia conosciuta, naturalmente le incognite sono tantissime e si può essere anche un filo pessimisti, conoscendo i nostri demoni interiori.
Ma volenti o nolenti dobbiamo passare da lì, e se sopravviveremo questo sarà solo uno step della nostra evoluzione come specie.

[{red fifer}]

Voglio tornà in fretta bambino con la televisione in bianco e nero. Il futuro in cui da piccolo ho creduto è tradimento allo stato puro!

[{red fifer}]

Commento fuori tema o non conforme al regolamento del forum.

[{al}]

prove alla mano non arriva da nessuna parte da solo. chatgpt intendo

[Gladiator]

[Gladiator]

[Kar.ma]

Da programmatore concordo: lasciare che la AI generi codice porterà sicuramente porzioni di codice con bug nascosti ed estremamente insidiosi. Con conseguenze non solo per poche persone, ma per tutti quelli che a catena si ritroveranno a usarlo, pur inconsapevoli. In un mondo così interconnesso il rischio è molto concreto.

Inoltre… Non so voi, ma con questa rapida e incontrollata crescita della AI, con la possibilità che chi la maneggia non si renda conto dei rischi, non mi sembra più così assurdo il futuro distopico di alcuni film in cui le macchine imparano da sé stesse e improvvisamente prendono decisioni autonome anche in opposizione agli esseri umani. Scusate l’OT.

[zero]

Lo sviluppo del software si compone di varie fasi: analisi, progettazione, scrittura del codice, TEST.

La scrittura del codice richiede molte risorse (persone e tempo) e al momento e' ancora "artigianale". Se in futuro riusciremo ad automatizzarla, sara' un vantaggio per tutti.

La fase di TEST, con gli anni si e' ridotta, ma non e' stata completamente eliminata.
Se il codice prodotto e' di bassa qualita', non passera' la fase di test, e tornera' alla fase precedente.
Questa e' la fase piu' importante, quella che stabilisce la qualita' del prodotto.

OGGI non esistono software in grado di automatizzare la scrittura del codice, che siano veramente efficaci. Anche perche' siamo ai primissimi prototipi di AI.
Ma tra qualche anno, l'ago della bilancia si spostera' inevitabilmente, e la qualita' del codice podotto dalle AI, risultera' migliore di quella degli umani.
Tra 5/10/20 anni le aziende che svilupperanno applicazioni senza usare AI, saranno probabilmente considerate dei "dinosauri".

Dobbiamo guardare un po' piu' in la del nostro naso.

[Gladiator]

@zero

Posso concordare con le tue considerazioni sul lungo periodo, ma il timore è sul presente.
Siccome già oggi, sul codice scritto dagli umani e quindi, almeno per ora, più robusto di quello prodotto da una AI, le fasi di test sono quello che sono - dal momento che per risparmiare tempo e costi sempre li si va a tagliare - non oso pensare a ciò che accadrà quando la stessa politica di risparmio si applicherà al codice scritto da una AI pasticciona.
Questo a mio giudizio è il principio di precauzione che dovrebbe guidarci per ora su questo tema.

[algi]

Intanto c'è chi pensa,ed io concordo,che il tutto non sia/sarà che 'hallucinations': https://cybernews.com/tech/chatgpts-bard-ai-answers-hallucination/