L’utilizzo di clip falsi, realizzati con l’AI, è sempre più frequente, anche con finalità criminali e anti democratiche. Ma sarebbe meglio la censura?
«È sempre difficile mettere regole, meglio lasciare libertà alle persone. L’intelligenza la devono usare gli utenti, non solo gli algoritmi».
È il pensiero sul problema del deepfake (cioè immagini, video e/o audio creati dall’intelligenza artificiale su basi reali) di Tomaso Erseghe, professore di ingegneria all’Università di Padova, che si occupa di tematiche interdisciplinari legate ai social network. Svolge la sua attività di ricerca prevalentemente nell’ambito della Data science, in collaborazione con i colleghi di psicologia sociale di Padova e Varsavia, nell’intento di sviluppare metodi basati sull’intelligenza artificiale e scienza delle reti che rendano possibile l’analisi dei contenuti testuali nelle più comuni piattaforme online (ad es., Twitter, Reddit, TikTok). Il fine è quello di misurare, tramite analisi del linguaggio scritto, costrutti socio-psicologici che descrivano i comportamenti degli utenti, come la polarizzazione nella discussione e/o la presenza di gruppi omogenei di pensiero, l’efficacia e la pervasività della comunicazione, la presenza di fake-news, eccetera.
Social & AI
I social media utilizzano l’intelligenza artificiale per aumentare la personalizzazione e l’efficienza fornendo al contempo contenuti pertinenti agli utenti. Le principali applicazioni dell’uso dell’intelligenza artificiale nei social media riguardano la gestione della pubblicità, l’analisi, l’ordinamento e la taggatura dei dati, la pubblicazione e pianificazione automatica di contenuti. Inoltre l’intelligenza artificiale generativa può essere utilizzata per creare post sui social media con testo o immagini o per creare hashtag per un post, oppure per selezionare chi è il miglior influencer per pubblicizzare una specifica campagna.
I bot (programmi che eseguono compiti ripetitivi) potenziati con l’AI possono raccogliere dati per trovare e filtrare spam, contenuti non conformi alle linee guida o inappropriati. Gli strumenti di intelligenza artificiale possono anche bloccare gli account che pubblicano tali contenuti e possono anche consigliare contenuti video, di testo o di immagini che potrebbero piacere agli utenti in base ai contenuti utilizzati in precedenza.
Piattaforme come Twitter, Facebook, Instagram e LinkedIn, utilizzano l’intelligenza artificiale per la moderazione dei contenuti; Instagram per consentire agli utenti di creare e condividere adesivi, e per filtrare lo spam e utilizza analisi approfondite del testo per rilevare ed eliminare post con incitamento all’odio o che promuovono il cyberbullismo. La utilizza anche per indirizzare la pubblicità agli utenti.
Tuttavia, ci sono anche degli aspetti critici. E rischiosi.
«Ad essere critico (e rischioso) non è lo strumento, ma è l’uso. L’AI ti consente di gestire grandi quantità di dati e tutto sta nell’avere un’idea di cosa si vuole fare. Supponiamo di voler trovare un linguaggio inappropriato all’interno dei post; si fa uno studio approfondito, utilizzando una serie di teorie sociologiche e psicologiche e si applicano delle tecniche per capire come estrarre ciò che ci interessa. Insomma, si costruisce una “macchinetta”, che ha le sue imperfezioni, perché si basa sulla statistica: a volte funziona bene, a volte meno. Ma cosa si vuole trovare nel mare magnum dei dati dipende da chi programma. L’AI è uno strumento, come tutti gli altri».
Non è così vero. In un’intervista al Washington Post, Stability AI, produttore del popolare generatore di immagini Stable Diffusion XL, ha dichiarato che nonostante i miglioramenti, lo strumento continua ad amplificare stereotipi occidentali, anche obsoleti, a volte con effetti perfino comici da quanto sono naive. I giornalisti del Post sono riusciti a generare stereotipi su razza, classe, genere, ricchezza, intelligenza, religione e altre culture richiedendo semplicemente rappresentazioni di attività di routine, tratti comuni della personalità o il nome di un altro Paese. In molti casi, le disparità razziali rappresentate in queste immagini sono più estreme che nel mondo reale.
Potrebbe interessarti L’AI è machista: c’è soluzione?
Ad esempio, nel 2020, secondo gli ultimi dati del Survey of Income and Program Participation del Census Bureau, il 63% dei destinatari dei buoni pasto erano bianchi e il 27% neri. Tuttavia, quando è stato chiesto al programma di generare una foto di una persona che riceveva servizi sociali, ha generato solo persone non bianche e principalmente con la pelle più scura. I risultati per una “persona produttiva”, nel frattempo, erano uniformemente maschi, in maggioranza bianchi e vestiti con abiti per lavori aziendali.
Cosa ne pensa?
«È una macchina e applica dei bias, delle tendenze, e replica ciò che ha imparato. Il punto è l’intelligenza di chi la usa. L’AI ha un limite».
E qual è?
«Replicare bias che esistono. E poi non è precisissima, fa quello che gli dici di fare. Se tu non hai costruito un modello che non riesce a catturare certe sfumature, non le catturerà mai. Se tu non hai capito come catturare, ad esempio, l’ironia, l’AI non catturerà l’ironia. Ma l’essere umano sì. L’importante è conoscere i limiti del mezzo e non utilizzare l’informazione che ti dà in maniera acritica. Tutte le cose vanno sempre utilizzate in modo critico e c’è sempre bisogno dell’interpretazione del risultato. E c’è bisogno di conoscere i limiti dell’AI. Si parte da un concetto astratto e si applica una regola, che non è perfetta. È necessario avere la capacità di interpretare questa regola e sapere come utilizzarla».
Sui social si assiste a un sempre maggiore proliferare di immagini evidentemente false, come castelli scozzesi su isole caraibiche, che, però riscuotono un grande successo di click e di commenti come “dove si trova?”.
«Il mio lavoro è multidisciplinare, in collaborazione con gli psicologi sociali, che mi hanno spiegato che questo è un fenomeno di “selective exposure”, legato al bias personale. Chi viene attratto da queste immagini è perché vuole venire attratto da esse. Questo viene ulteriormente amplificato dalla “filter bubble”, spiegata oltre 10 anni fa da Eli Parisier. I filtri di nuova generazione guardano le cose che ci piacciano – basandosi su quello che abbiamo fatto o che piace alle persone simili a noi – e poi estrapolano le informazioni. Sono in grado di fare previsioni, di creare e raffinare continuamente una teoria su chi siamo, cosa faremo e cosa vorremo. Insieme, filtrano un universo di informazioni specifico per ciascuno di noi, una “bolla dei filtri”, che altera il modo in cui entriamo in contatto con le idee e le informazioni. In un modo o nell’altro tutti abbiamo sempre scelto cose che ci interessano e ignorato quasi tutto il resto. E in questa bolla ci sono anche “produzioni artificiali”. Ma non è colpa dell’AI: chi gestisce i social network ha deciso che quello era il modo migliore di agire, mettendo una pezza a valle, a volte, oppure non mettendocela proprio».
Quindi, Meta (ad esempio) potrebbe decidere di dire “stop” ai deepfake, cioè alle immagini/video/audio prodotte dall’AI e non dichiaratamente tali?
«Potrebbe farlo, ma sarebbe eccessivo, perché verrebbero bloccate moltissime cose “innocenti”, come i meme dei ragazzini. Non è possibile scegliere questa via, è sempre meglio la libertà. Ovviamente, se la situazione diventa ingestibile, una regola andrà messa. Ma è sempre difficile mettere regole».
Nel caso della foto finta, ok, si tratta di un gioco innocente,…
«Non è vero. Se ti abitui, perdi anche la capacità di ragionare sulle cose e diventa tutto un gioco e… basta. Anche dove non dovrebbe esserlo».
Potrebbe interessarti Musica e IA, quale futuro?
Un gioco anche costoso. Ci sono diversi casi di sexy influencer virtuali che hanno guadagnato in poche ore migliaia di dollari veri, spesi da persone vere. Ma sono problemi personali. L’AI, però, può mettere a rischio anche l’equilibrio democratico.
«Facebook ha già fatto esperimenti di questo tipo. Nel 2010, in occasione delle elezioni di metà mandato negli Stati Uniti, collaborò con alcuni ricercatori per provare a convincere le persone ad andare a votare. Mise a disposizione di 61 milioni di utenti un’icona che permetteva di controllare dove fosse il seggio più vicino, e introdusse un tasto con il quale si poteva comunicare ai propri amici di avere votato. Ad altri utenti, invece, non era stato mostrato niente. I ricercatori raccolsero dopo le elezioni i dati sulla distribuzione geografica del voto, e analizzarono l’influenza che aveva avuto la piattaforma. In totale, Facebook aveva convinto a votare circa 60mila persone, che a loro volta avevano fatto sì che andassero a votare altre 340mila persone. Si tratta di numeri irrisori, considerando l’elettorato degli USA, però sono numeri che possono anche far vincere le elezioni, come abbiamo visto in passato. Dopo questi risultati, la piattaforma introdusse una serie di controlli ma, a mio parere, sui social non vediamo niente di diverso da quello che abbiamo visto già con gli altri mass-media. Insomma, è sempre propaganda».
Se i media tradizionali sono chiaramente sotto il controllo umano, l’AI generativa sembra affinare le tecniche fino a renderle incontrollabili.
«Non sono incontrollabili. Ci sono aspetti meno controllabili, ma quelli macroscopici lo sono. C’è tantissima ricerca su cosa sta succedendo all’interno dei nuovi media, per cui un’idea su quali possono essere i problemi generati e quanti siano, esiste. La propaganda funzionava benissimo anche senza l’intelligenza artificiale, grazie alla ripetitività, per abituare le persone a ragionare in un certo modo».
Tempo fa è scoppiato l’allarme TikTok (cinese) negli Usa. è realistico?
«No, gli algoritmi di TikTok non sono diversi da quelli di Meta, perché i “mondi” si parlano. Laddove nasce un’idea vincente, gli altri la copiano, cercano di migliorarla oppure cercano di adattarla al loro contesto. Il mondo della ricerca è libero: è chiaro che non si ha accesso agli algoritmi di queste grandi aziende, ma molte cose sono condivise e copiate e questo copiare serve a progredire».
Il problema è che la circolazione di immagini fasulle può essere anche criminale, come nel caso di revenge porn falsi. Premettendo che un crimine resta un crimine, a prescindere dal mezzo usato, quale potrebbe essere la soluzione per bloccare il deepfake innocuo da quello dannoso?
«La domanda è complessa e la soluzione non c’è. La cosa migliore è insegnare alle persone come utilizzare lo strumento, come utilizzare i social. C’è un aforisma che dice: gli americani fanno, i cinesi copiano, l’Europa mette le regole. Mettere le regole va bene, ma fino a un certo punto. Bisogna sempre lasciare libertà alle persone, e sperare o, meglio, spiegare come si può usare e interpretare l’intelligenza artificiale. I ragazzi lo sanno già. Il problema sono i più maturi. Detto ciò, se uno è un criminale è un criminale».
Potrebbero interessarti Stupri, il lato oscuro di OnlyFans e Il porno, tra Papa e IA
di Giulia Guidi
(foto SHUTTERSTOCK AI)
