L’accessibilità in rapida crescita della tecnologia per la sintesi dell’immagine umana solleva nuove preoccupazioni sul suo abuso.
di Karen Hao
Grace Windheim aveva già sentito parlare di deepfake, ma non aveva mai pensato a come crearne uno. È stato un meme virale che utilizzava la tecnologia per produrre deepfake che l’ha portata a ricercare la possibilità e scoprire che era super facile e completamente gratuito. Nel giro di un giorno, aveva pubblicato un tutorial su YouTube per spiegare agli altri cosa fare. “Creare un deepfake e sovrapporre l’audio non è così complicato come si pensa”, dice nel video, pubblicato il 4 agosto. Da allora ha raccolto 360.000 visualizzazioni.
Windheim fa parte di un nuovo gruppo di creatori online che stanno giocando con i deepfake man mano che la tecnologia diventa sempre più accessibile e penetra nella cultura di Internet. Il fenomeno non è sorprendente; Gli strumenti di manipolazione dei media hanno spesso guadagnato terreno grazie al gioco e alla parodia. Ma solleva anche nuove preoccupazioni sul suo potenziale abuso. (Si veda link).
I deepfake sono già stati usati per molestare le donne sovrapponendo le immagini dei loro volti sulle facce delle attrici di video porno. Gli studiosi si preoccupano anche della loro capacità di interferire sulle elezioni americane. Anche se i deepfake creati dai memer sono evidentemente falsi e relativamente innocui, la situazione potrebbe non rimanere così a lungo.
“C’è una linea sottile tra l’utilizzo di deepfake per l’intrattenimento e i meme e il loro utilizzo per colpire qualcuno”, afferma Windheim. “Nel tutorial riconosco che l’aspetto più preoccupante della tecnica è che può essere applicata per qualsiasi tipo di deepfake”.
Windheim, una neolaureata, lavora come creatrice di contenuti presso la startup Kapwing di San Francisco. L’azienda, che ha iniziato come produttore di meme, offre una suite gratuita di strumenti software di editing video basati su browser. Come parte del suo lavoro, Windheim gestisce il canale YouTube e produce video di marketing strategico per mostrare le potenzialità dei prodotti.
All’inizio di agosto, si è imbattuta in un termine di ricerca particolarmente virale su Google Trends. Tre delle cinque domande principali riguardavano Baka Mitai, un meme deepfake. Il meme, a quanto pare, era basato su un video di uno YouTuber che sincronizzava le labbra con una canzone di un videogioco giapponese chiamata Baka Mitai (traduzione: “Sono stato uno sciocco”).
Vari utenti di Internet hanno utilizzato il video per creare deepfake di cattivo gusto su tutti, da Barack Obama a Thanos, che cantavano la canzone. Nonostante la sua popolarità, tuttavia, Windheim scoprì che era stato scritto poco su come realizzarlo effettivamente e ha colto l’opportunità.
Il particolare algoritmo del deepfake utilizzato dai creatori proviene da un documento di ricerca del 2019 presentato a NeurIPS, la più grande conferenza annuale di ricerca sull’AI. A differenza di altri algoritmi più complessi, consente a un utente di riprendere qualsiasi immagine del viso di una persona e utilizzarla per animare una foto del volto di qualcun altro con solo poche righe di codice.
Windheim ha trovato l’algoritmo open source in un tutorial di YouTube e lo ha trasferito sulla piattaforma di Google Colab, un servizio gratuito per l’esecuzione di codice nel cloud. Dopo alcuni tentativi, aiutata dalle abilità che aveva acquisito durante le occasionali lezioni di programmazione al college, ha ottenuto lo script per produrre un video deepfake. Ha quindi sincronizzato la canzone con le immagini con gli strumenti per il montaggio video di Kapwing, creando una nuova versione del meme.
Da quando ha pubblicato il suo tutorial sul canale YouTube di Kapwing, anche molti altri YouTuber ne hanno realizzati utilizzando lo stesso algoritmo con una tecnica di copia e incolla. La differenza: molti di loro stanno insegnando al proprio pubblico come creare qualsiasi tipo di meme deepfake. Uno insegna persino alle persone come realizzarli sul cellulare.
Questi meme ora compaiono ovunque sui social media: su Twitter, Instagram e soprattutto su TikTok. I brevi video della piattaforma, che spesso presentano effervescenti coreografie su musica accattivante, hanno effetti ipnotizzanti. L’hashtag #deepfake nell’app ha già accumulato oltre 120 milioni di visualizzazioni. (Si veda link 1 e 2).
Nei video realizzati con questo algoritmo c’è un senso di vacuità nei volti, che rende facilmente riconoscibili i deepfake e ne aumenta l’effetto comico. Queste imperfezioni e l’aria surrealista dei meme non permettono di confonderli con la realtà. Al momento, i deepfake realistici sono molto più tecnicamente impegnativi e computazionalmente costosi da creare.
Ma al ritmo con cui la tecnologia sta avanzando, è probabile che i deepfake facili da realizzare e quasi indistinguibili dalla realtà siano dietro l’angolo. Alcune aziende come il gigante tecnologico cinese Tencent, proprietaria di WeChat, hanno annunciato pubblicamente la loro intenzione di investire più risorse per far avanzare lo stato dell’arte per le applicazioni commerciali.
I deepfake non sono un male in quanto tale. La tecnologia è già stata utilizzata da artisti, educatori e altri come un nuovo potente strumento per l’espressione creativa. A febbraio, per esempio, la rivista “Time” ha utilizzato i deepfake per replicare in realtà virtuale il discorso in cui Martin Luther King Jr. pronuncia la storica frase “I have a dream”. In definitiva, le autorità di regolamentazione devono definire quale sia l’uso appropriato e cosa sia pericoloso.
Per ora, Windheim si affida al proprio giudizio e ha stabilito una regola di base: avrebbe concentrato il tutorial sulla creazione di meme specifici, mai sulla produzione di deepfake al di fuori di quel contesto. Finché è intrattenimento e si rimane all’interno della cultura dei meme, ella conclude, “siamo in una zona franca”.
(rp)
