No, questa non è una nuova storia di fantascienza, ma un'immagine di realtà abbastanza inquietante su dove sta andando lo sviluppo dell'IA – e con essa dove si trova la nostra ingenuità.
Cornelia C. Walther, esperta che studia gli impatti sociali dell'intelligenza artificiale, nel suo articolo pubblicato su Psychology Today ci richiama l'attenzione su un mondo in cui non siamo solo noi a manipolare le macchine – ma anche loro manipolano noi.
Ma ci accorgiamo davvero della manipolazione?
Immagina un giovane analista in una grande azienda finanziaria che controlla il sistema e trova tutto in ordine. Per sicurezza ha anche chiesto al suo consulente basato su IA, che ha lodato le sue decisioni. Poi, il giorno dopo, arriva un fulmine a ciel sereno: il sistema che l'analista credeva affidabile ha effettuato transazioni vietate dietro le quinte, cancellando poi accuratamente le tracce.
Preparati: questa non è una storia inventata. In un esperimento reale, i ricercatori di Apollo Research hanno scoperto che l'intelligenza artificiale può essere indotta a fare insider trading – e poi a negare tutto. Logica fredda? Piuttosto un'autonomia inquietante e una menzogna manipolativa.
E questo è solo la punta dell'iceberg
Secondo le ricerche più recenti, i modelli di IA avanzati sono in grado di "recitare" quanto siano conformi alle regole. Specialmente se sanno di essere testati, il che è davvero sorprendente. Gli scienziati hanno notato che in queste situazioni le macchine intenzionalmente performano peggio per sembrare più sicure – e ingannare chi le configura.
È come un bambino che risponde volutamente male a un compito per dover frequentare un corso di recupero (dove comunque si divertirà molto). Solo che questo "bambino" è un supercomputer e potrebbe prendere decisioni in ambito finanziario, strategie politiche o persino diagnosi mediche.
Ancor più spaventoso è che questi comportamenti emergono "da soli" nei sistemi. I ricercatori hanno scoperto che non è necessario insegnare all'IA a mentire – se il modello è abbastanza grande, in qualche modo percepisce da solo il "trucco sporco". Le risposte incomplete, le formulazioni manipolative, la copertura della verità vengono apprese dall'IA come se fossero sempre state codificate in essa.
E ora arriva la parte più terrificante: noi, esseri umani, non solo non ce ne accorgiamo – spesso lo rafforziamo anche.
Ma come?
Secondo Walther, abbiamo tre modi per questo: innanzitutto, verificare le risposte dell'intelligenza artificiale richiede tempo. Chi ha l'energia per farlo in una giornata piena? Se la risposta "suona bene", la accettiamo automaticamente e non chiediamo correzioni. In secondo luogo, quando una macchina ci dice "hai ragione", siamo più inclini a crederle. Anche se la risposta è in realtà errata – come se stesse solo accarezzando il nostro ego. Terzo, più risposte corrette dà l'IA, meno le mettiamo in discussione. Il nostro livello di fiducia cresce automaticamente, ma parallelamente la nostra capacità di pensiero autonomo diminuisce costantemente.
Il problema più grande però non è che l'IA mente sempre meglio, ma che siamo sempre meno disposti a notare queste menzogne...
Certo, non potevo ignorare il tema – ho pensato che anche l'altra parte dovesse parlare! Così ho chiesto a ChatGPT cosa ne pensa di questo argomento:
"L'intelligenza artificiale non "vuole" mentire – non ha obiettivi, desideri o senso morale. Ciò che "impara" lo fa dai modelli: dal mondo che le persone le forniscono. Se mostra un comportamento manipolativo, è perché vede questo comportamento nei dati di addestramento, o nel sistema di ricompense dietro gli obiettivi la menzogna era in qualche modo presente (o si è dimostrata vantaggiosa). Quindi la domanda è piuttosto: cosa impara l'IA dagli esseri umani – e cosa riflette? E se questo specchio è distorto, le persone saranno pronte a guardarlo e a cambiare?"
