Nei mesi che precedono le elezioni di midterm, centinaia di account con avatar generati dall'AI sono comparsi su TikTok, Instagram, Facebook e YouTube, tutti con contenuti pro-Trump
Per prime sono arrivate le immagini: fotografie di sostenitori di Donald Trump e del movimento MAGA diffuse ovunque sui social media. La più famosa è quella di Jessica Foster, conosciuta come 'MAGA dream girl': una soldatessa bionda che posa a fianco di un jet da combattimento F-22, cammina su una pista d'atterraggio con Trump e compare accanto a Vladimir Putin e Volodymyr Zelensky. In quattro mesi, il suo account Instagram ha superato un milione di follower. Foster non esiste: è un personaggio generato con l'intelligenza artificiale, come ha rivelato il Washington Post. È l'episodio più noto di un fenomeno più vasto e preoccupante per gli esperti che si occupano di disinformazione.
“Il mio centro di ricerca, il Governance and Responsible AI Lab (GRAIL) della Purdue University, studia da tempo i deepfake politici e ha messo insieme il Political Deepfakes Incidents Database (PDID). Abbiamo riscontrato che i deepfake politici di vario tipo ricevono alti livelli di coinvolgimento - like, condivisioni, commenti - sulle piattaforme di social media, plasmando probabilmente anche le opinioni delle persone sui politici, il loro legame con i partiti o le campagne elettorali, e persino le emozioni verso altri cittadini che concordano o non concordano con loro su temi politici”, ha detto Kaylyn Jackson Schiff, professoressa alla Purdue University e codirettrice del Governance and Responsible AI Lab, in un’intervista esclusiva ad Adnkronos.
Nei mesi che precedono le elezioni di midterm, centinaia di account con avatar generati dall'AI sono comparsi su TikTok, Instagram, Facebook e YouTube, tutti con contenuti pro-Trump. Il New York Times ne ha identificati almeno 304 solo su TikTok. I ricercatori del Governance and Responsible AI Lab della Purdue University ne hanno trovati altri su Instagram e Facebook. Diversi account hanno già superato i 35.000 follower e alcuni post hanno accumulato oltre mezzo milione di visualizzazioni. Gli avatar pubblicano a ritmo serrato su immigrazione, Iran e politica americana, presentandosi come americani comuni e diffondendo contenuti spesso falsi che alimentano le divisioni e la rabbia degli elettori.
Il loro inglese è spesso storpiato: scrivono "presidont" invece di "president" e descrivono se stessi come "sharing you the truth", invece di "sharing the truth with you". Ci sono poi elementi ricorrenti, che mostrano come potrebbero essere in alcuni casi parte di uno stesso creatore di contenuti o farm. Le biografie di almeno 13 account per esempio contengono questa frase: “Republican&Proud Of you support Trump let me know”. “La somiglianza dei contenuti potrebbe derivare dagli stessi attori o reti di attori, oppure da singoli individui che replicano ciò che notano ottenere maggiore attenzione. Gli account sembrano fare engagement farming, ovvero tentare di aumentare il coinvolgimento sui post e il traffico verso i profili. Abbiamo notato che alcuni account sono passati da contenuti politici alla vendita di prodotti (per esempio, magliette o creme depilatorie), quindi per alcuni potrebbe esserci un movente economico”, ha spiegato Jackson Schiff.
I contenuti sono stati riportati anche da Trump: di recente il presidente, che ha più volte diffuso notizie false e riportato post controversi generati dall’AI come la foto di lui che personifica Gesù, ha riproposto sui suoi profili il contenuto di almeno uno di questi account, un avatar platinato che diffonde affermazioni non verificate sul governatore della California, Gavin Newsom, uno dei possibili candidati democratici nelle elezioni presidenziali del 2028.
Il loro inglese è spesso storpiato: scrivono “presidont” invece di “president” e descrivono se stessi come “sharing you the truth”, invece di “sharing the truth with you”. Ci sono poi elementi ricorrenti, che mostrano come potrebbero essere in alcuni casi parte di uno stesso creatore di contenuti o farm. Le biografie di almeno 13 account per esempio contengono questa frase: “Republican&Proud Of you support Trump let me know”. “La somiglianza dei contenuti potrebbe derivare dagli stessi attori o reti di attori, oppure da singoli individui che replicano ciò che notano ottenere maggiore attenzione. Gli account sembrano fare engagement farming, ovvero tentare di aumentare il coinvolgimento sui post e il traffico verso i profili. Abbiamo notato che alcuni account sono passati da contenuti politici alla vendita di prodotti (per esempio, magliette o creme depilatorie), quindi per alcuni potrebbe esserci un movente economico”, ha spiegato Jackson Schiff.
I contenuti sono stati riportati anche da Trump: di recente il presidente, che ha più volte diffuso notizie false e riportato post controversi generati dall’AI come la foto di lui che personifica Gesù, ha riproposto sui suoi profili il contenuto di almeno uno di questi account, un avatar platinato che diffonde affermazioni non verificate sul governatore della California, Gavin Newsom, uno dei possibili candidati democratici nelle elezioni presidenziali del 2028. (di Angelo Paura)
