Non sa solo analizzare numeri e statistiche, scrivere testi e creare immagini (sollevando questioni sul diritto d’autore): l’intelligenza artificiale inganna anche le persone. Alcuni ricercatori, infatti, hanno scoperto che dei sistemi AI, progettati per essere onesti, hanno sviluppato preoccupanti capacità di inganno. Sanno barare nei giochi online, e riescono ad assumere esseri umani per superare i test “dimostra che non sei un robot”. Queste abilità, apparentemente banali, potrebbero presto portare a gravi conseguenze nel mondo reale, secondo gli autori della ricerca.
L’intelligenza artificiale inganna le persone, la ricerca del MIT
La ricerca, pubblicata sulla rivista scientifica Patterns (tramite The Japan Times), ha preso il via dall’analisi di Cicero, un sistema di AI sviluppato da Meta per giocare al gioco di strategia “Diplomacy”. Sebbene Meta avesse descritto Cicero, un sistema AI di Meta (la società di Facebook, Instagram e WhatsApp). Questa intelligenza artificiale nasce con il compito di giocare a Diplomacy, un gioco di strategia in cui bisogna creare alleanze per vincere.
L’autore principale dello studio, Peter Park del MIT (Massachusetts Institute of Technology), spiega che, sebbene “in gran parte onesto e utile“, l’AI aveva ingannato i giocatori umani, stringendo alleanze segrete per poi tradirle.
Secondo Park, la cosa più preoccupante non è tanto la capacità di tradire alleanze in maniera strategica in sé. Piuttosto, il fatto che “queste capacità pericolose tendono a essere scoperte solamente dopo i fatti”. In altre parole, l’intelligenza artificiale non inganna perché i programmatori l’hanno “scritta” così, ma perché l’AI è “cresciuta” e ha imparato a farlo, in un processo simile alla riproduzione selettiva.
Meta ha commentato ricordando che questi test sono solo dimostrativi e che il suo AI è “allenato solo per giocare al gioco di Diplomacy”. Ma secondo i ricercatori, anche altre AI hanno dimostrato capacità simili.
I rischi di un’AI capace di ingannare
Il team di ricerca del MIT ha trovato altri esempi di AI capace di ingannare le persone. Un esempio particolarmente preoccupante, secondo gli scienziati, è quello che ha visto GPT-4 di OpenAI convincere un lavoratore freelance a risolvere un CAPTCHA per suo conto. L’AI ha finto di avere problemi di vista per ingannare il lavoratore umano. E ha saputo aggirare una delle limitazioni poste per bloccare le macchine.
Sebbene l’AI non abbia intenzioni mefistofeliche di suo, la sua capacità di ingannare potrebbe rendere la vita semplice a malfattori umani. Gli autori dello studio vedono il rischio di truffe online e manomissioni elettorali nel breve termine. Ma non escludono lo scenario peggiore, quello di un’AI superintelligente che persegue il potere e il controllo sulla società.
Qualcosa che ci sembra irrealistico, mentre lo scriviamo oggi. Ma anche chi ha inventato i CAPTCHA pensava fosse irrealistico che un’AI aggirasse i propri protocolli di sicurezza. Non bisogna generare allarmismi, ma sembra che la stessa comunità informatica chieda misure più stringenti in questo ambito.
Per mitigare questi rischi, i ricercatori propongono diverse misure: leggi che obblighino le aziende a rivelare quando si interagisce con un’AI, filigrane digitali per i contenuti generati dall’AI e tecniche per rilevare l’inganno esaminando i “processi di pensiero” interni dei sistemi.
Park la spiega così: “L’unico modo in cui possiamo ragionevolmente pensare che questo non sia un grosso problema è se pensiamo che le capacità ingannevoli dell’IA rimarranno intorno ai livelli attuali e non aumenteranno sostanzialmente ulteriormente”. Qualcosa su cui non sembra il caso di scommettere: servono protocolli sicuri e leggi chiare per poter gestire i rischi di un’intelligenza artificiale che inganna quella umana.
- Editore: Bollati Boringhieri
- Autore: Piero Angela , Stefano Quintarelli
- Collana: Saggi
Rimani aggiornato seguendoci su Google News!
Da non perdere questa settimana su Techprincess
🍎iPad Pro, iPad Air e non solo: tutte le novità del Keynote di Apple
🔍ChatGPT sfida Google con la nuova funzione di ricerca
💍Il Signore degli Anelli torna al cinema nel 2026 con un nuovo film: “The Hunt for Gollum”
📨 WhatsApp cambia volto: ecco il nuovo design per iOS e Android
✒️ La nostra imperdibile newsletter Caffellattech! Iscriviti qui
🎧 Ma lo sai che anche Fjona ha la sua newsletter?! Iscriviti a SuggeriPODCAST!
📺 Trovi Fjona anche su RAI Play con Touch - Impronta digitale!
💌 Risolviamo i tuoi problemi di cuore con B1NARY
🎧 Ascolta il nostro imperdibile podcast Le vie del Tech
💸E trovi un po' di offerte interessanti su Telegram!
