La startup Metaphysic, nata dal successo dei falsi video sull'attore hollywoodiano, apre il dibattito su un settore talmente nuovo da non avere confine né legali né etici.
Tra febbraio e giugno una serie di video di Tom Cruise hanno fatto decine di milioni di visualizzazioni su Tik Tok presentando l'attore in situazioni divertenti: mentre scherza in un negozio di abbigliamento maschile o mentre fa un gioco di prestigio con delle monete oppure ancora mentre addenta un lecca lecca. Poi, si è scoperto che non era davvero Tom Cruise ma un deepfake generato con l'intelligenza artificiale dall'artista degli effetti visivi Chris Umé con l'aiuto di una controfigura di Cruise. Si è trattato di un'operazione così di successo che l'autore ha deciso di aprire una società di IA e l'ha chiamata Metaphysic. Con la stessa tecnologia deepfake i primi risultati hanno portato alla creazione di uno spot per il rasoio Gillette e una campagna per la Federcalcio belga che ha riportato in vita due manager della squadra belga deceduti.
In uno degli ultimi spin-off di Guerre Stellari i personaggi storici dalla principessa Leia e del giovane jedi Luke Skywalker sono stati ricostruiti con la computer grafica senza convincere gli appassionati della saga. Uno Youtuber, Shamook, ha migliorato la resa dei personaggi utilizzando la tecnologia deepfake e i suoi video hanno riscosso così tanto successo da da spingere la Lucasfilm ad assumerlo. La tecnologia deepfake ha cominciato a far parlare di sé nel 2017 quando su Reddit alcuni volti delle celebrità sono stati sostituiti con quelli di pornostar. Ma, ultimamente, cominciano a esserci diverse aziende e persone che stanno cominciando a utilizzarla per realizzare film o, appunto, campagne pubblicitarie, a volte al limite del legale come ha mostrato il caso recente del documentario dedicato alla vita dello chef Anthony Bourdain, morto nel 2018, la cui voce in alcuni punti è stata ricostruita tramite un software di intelligenza artificiale che ha analizzato decine di migliaia di ore di archivi audio e video per riprodurla in modo indistinguibile dall’originale. L'uso dell'intelligenza artificiale non è stato inizialmente dichiarato agli spettatori e la moglie separata di Bourdain ha evidenziato il problema su Twitter.
Online sono diverse le app per smartphone che consentono di creare deepfake su foto e video ma Metaphysic va oltre: per realizzare i video di Cruise ci sono voluti due mesi e mezzo per addestrare un modello di intelligenza artificiale sui video e sulle immagini reali della star di Hollywood, cogliendolo da più angolazioni e in più condizioni di illuminazione possibili. Questo consente al modello di intelligenza artificiale di apprendere come la pelle dell'attore dovrebbe reagire nelle diverse situazioni così da risultare praticamente reale. Per generare video ancora più aderenti alla naturalezza dei movimenti umani sono state utilizzate anche delle riprese effettuate con una delle controfigure di Cruise sovrapponendo, poi, anche altre caratteristiche fisiche reali, come un paio di baffi, prese da altre persone. Questo perché l'idea alla base di questi lavori è quella di mostrare come sia più interessante sovrapporre elementi reali con l'IA piuttosto che alterare un video un fotogramma alla volta.
Questa è una tecnologia talmente nuova che non esistono regole chiare su come creare e condividere i deepfake. Né è chiaro se o quando gli spettatori dovrebbero essere informati che stanno guardando un deepfake, o quali linee guida dovrebbero governare il processo di consenso. Non ci sono regole secondo le quali tracciare una linea chiara da non superare. I video di Cruise non sono stati rimossi e non ci sono stati commenti da parte dell'attore, per quanto riguarda Tik Tok una regola proibisce la pubblicazione di “contenuti sintetici o manipolati che ingannano gli utenti distorcendo la verità degli eventi in un modo che potrebbe causare danni”. Ma non sembra questo il caso, al punto che l'account ha aggiunto a luglio un nuovo deepfake di Mariah Carey che, nell'occasione, indossa un casco nero con orecchie di gatto.
