ZAO, un’app virale cinese che utilizza l’intelligenza artificiale per scambiare il viso degli utenti con quello di attori famosi, è ora coinvolta in una accesa controversia sulla privacy.
di Karen Hao
Qualche giorno fa, una nuova app rilasciata da Momo, una piattaforma di streaming live, è diventata immediatamente virale sui social media cinesi.
L’app consente agli utenti di caricare un singolo ritratto e, in pochi secondi, vedere il proprio viso sovrapposto agli attori in scene iconiche di film. Nel giro di due giorni è diventata l’app di intrattenimento gratuita più scaricata nell’Apple Store cinese.
Si tratta dell’ultima, e forse la più impressionante, applicazione di reti antagoniste generative, o GAN, gli algoritmi IA dietro i deepfake.
Mentre i GAN sono stati usati sempre più spesso nei film di Hollywood per il montaggio di volti e lo scambio di volti, l’uso di una singola foto da parte di ZAO, unito alla velocità e alla fluidità del passaggio d’identità, dimostra fino a che punto lo stato dell’arte nella falsificazione dei media sia avanzato.
A poche ore dalla sua uscita, ZAO ha iniziato a suscitare preoccupazioni sulla privacy, in particolare in riferimento a una clausola nel contratto firmato dall’utente che garantisce agli sviluppatori il diritto di utilizzare tutte le foto caricate gratuitamente per sempre.
Inoltre, Momo ha la possibiilità di trasferire questo diritto a terzi, senza l’autorizzazione dell’utente. Gli esperti legali cinesi hanno dichiarato che l’accordo non era legale e che lo sviluppatore dell’app aveva già deciso di rimuovere la clausola.
WeChat, la migliore app di social network cinese, ha anche vietato qualsiasi condivisione di filmati o foto da ZAO.
L’episodio ha replicato una controversia simile con FaceApp, un’app di fotoritocco diventata virale a luglio. Anche in quel caso, l’app ha utilizzato i GAN per ritoccare i ritratti delle persone e ha raccolto oltre 150 milioni di foto di volti in brevissimo tempo.
Con ZAO la reazione è stata molto più rapida, ma probabilmente era già stata utilizzata da milioni di utenti quando ha rivisto i termini dell’accordo.
Da un lato, la frequenza di tali incidenti mostra la facilità con cui i dati personali di un utente possono essere raccolti e diffusi al di fuori del suo controllo.
Dall’altro, mostra che le persone sono anche diventate più sensibili alla difesa della privacy e sono meno disposte a rinunciarci senza combattere.
(rp)
