Olimpo Informatico

[Zeus News]

Leggi l'articolo Così i truffatori sfruttano ChatGPT
Siti fake e domini fraudolenti nei risultati dell'IA.


 
Foto di Vitaly Gariev.
 

Segnala un refuso

[zeross]

Lo dicevo già molti anni fa che fornire alle IA, dati contraffatti, falsi, potenzialmente inesatti li avrebbe portati sul lungo termine a proporre a loro volta risultati errati e quindi economicamente irrilevanti ed inutili.
All'epoca sono stato sbeffeggiato, ma ora a distanza di anni il tempo è galantuomo e mi da ragione.
Più ci saranno clienti truffati dai siti forniti dalla IA, più queste persone riporteranno la loro esperienza negativa verso la IA, che quindi accumulerà sempre di più un danno reputazionale inscalfibile.
La stessa scalata della IA, potrebbe essere anche la costruzione della sua rovina a livello di immagine e credibilità.

[Gladiator]

In effetti questa ulteriore tipologia di truffe potrebbe minare seriamente l'affidabilità e la credibilità dei risultati delle IA in un settore di ricerca fortemente in espansione con risultati potenzialmente devastanti.
Se i vari OpenAI, Anthropic ecc. non troveranno un modo rapido ed efficace per proteggere i loro prodotti da queste truffe potrebbero incorrere in seri problemi dovuti ad una forte disaffezione da parte degli utilizzatori.
Questa sembra decisamente una n uova minaccia da prendere molto sul serio...

[Zio_LoneWolf]

Cosa succederà quando gli AI agent cominceranno ad effettuare acquisti per conto nostro, e si rivolgeranno ai siti fraudolenti nel nostro interesse?

Spero che i produttori delle IA saranno chiamati a rispondere degli errori commessi dai loro prodotti, così vedremo sparire gli agenti AI dalla sera alla mattina...

[Gladiator]