Sophie Zhang ha rilevato che l’azienda ha consentito forme di manipolazione politica per influenzare gli esiti delle elezioni a livello globale.
di Karen Hao
Il mondo ha appreso per la prima volta di Sophie Zhang nel settembre 2020, quando “BuzzFeed News” ha ottenuto e pubblicato i punti salienti di una versione ridotta del suo promemoria di quasi 8.000 parole su Facebook. Prima di essere licenziata, Zhang era ufficialmente impiegata come data scientist di basso livello presso l’azienda. Ma era stata presa da un compito che considerava più importante: trovare e rimuovere account falsi e “Mi piace” che venivano usati per influenzare le elezioni a livello globale.
Il suo promemoria ha rivelato che aveva identificato decine di paesi, tra cui India, Messico, Afghanistan e Corea del Sud, dove questo tipo di abuso stava consentendo ai politici di fuorviare l’opinione pubblica e ottenere potere. Ha anche rivelato quanto poco l’azienda avesse fatto per mitigare il problema, nonostante i ripetuti sforzi di Zhang per portarlo all’attenzione della dirigenza.
Alla vigilia della sua partenza, Zhang stava ancora discutendo se scrivere il promemoria. Era forse la sua ultima possibilità di creare una pressione interna sufficiente sulla leadership per iniziare a far prendere sul serio i problemi. In previsione di scriverlo, aveva rifiutato un pacchetto di fine rapporto di quasi 64.000 dollari che avrebbe comportato la firma di un accordo per non screditare l’azienda.
Mancavano solo due mesi alle elezioni americane del 2020, ed era turbata dall’idea che il memorandum potesse erodere la fiducia del pubblico nel processo elettorale se rilasciato prematuramente alla stampa. “Ero terrorizzata all’idea di diventare in qualche modo il James Comey del 2020”, dice, riferendosi all’ex direttore dell’FBI che, pochi giorni prima delle elezioni del 2016, ha riferito al Congresso che l’agenzia aveva riaperto un’indagine sull’uso di Hillary Clinton di un server di posta elettronica privato. Clinton ha continuato a incolpare Comey per la sua sconfitta.
Con grande sollievo di Zhang, ciò non è accaduto. E dopo che l’elezione è passata, ha proceduto con il suo piano originale. Ad aprile, si è fatta avanti con due articoli sul “Guardian” in cui erano presenti il suo nome e una documentazione ancora più dettagliata della manipolazione politica che aveva scoperto e della negligenza di Facebook nell’affrontarla. Il suo account ha fornito prove concrete a sostegno di ciò che i critici dicevano da tempo all’esterno: che Facebook rende facile l’interferenza elettorale e che, a meno che tale attività non danneggi gli interessi commerciali dell’azienda, non ha interesse a risolvere il problema.
In una dichiarazione, Joe Osborne, un portavoce di Facebook, ha negato con veemenza queste affermazioni. “Per le innumerevoli interviste stampa che ha rilasciato da quando ha lasciato Facebook, siamo fondamentalmente in disaccordo con le affermazioni della signora Zhang sulle nostre politiche per sradicare gli abusi sulla nostra piattaforma”, ha detto. “Perseguiamo gli abusi in tutto il mondo e abbiamo team specializzati concentrati su questo lavoro. Di conseguenza, abbiamo già eliminato più di 150 reti con comportamenti manipolatori”.
Evitando l’anonimato, Zhang ha rischiato azioni legali da parte dell’azienda, danni alle sue future prospettive di carriera e forse anche rappresaglie da parte dei politici che ha esposto nel processo. “Quello che ha fatto è molto coraggioso”, afferma Julia Carrie Wong, la giornalista del “Guardian” che ha pubblicato le sue rivelazioni.
Dopo quasi un anno in cui ha evitato domande personali, Zhang è ora pronta a raccontare la sua storia. Vuole che il mondo capisca la sua intenzione di proteggere la democrazia in tutto il mondo e perché ci teneva così profondamente. È anche stanca di rimanere nascosta come donna transgender, un aspetto fondamentale della sua identità che ha informato le sue azioni su Facebook e le sue azioni future.
La sua storia rivela che è davvero pura fortuna che ora sappiamo così tanto su come Facebook consente l’interferenza elettorale a livello globale. Zhang non era solo l’unica persona che combatteva questa forma di manipolazione politica. Non era nemmeno il suo lavoro e aveva scoperto il problema grazie a una confluenza unica di competenze e passione. Per gli enti regolatori di tutto il mondo che stanno valutando come tenere a freno l’azienda, questo avrebbe dovuto essere un campanello d’allarme.
Zhang non aveva mai pianificato di trovarsi in questa posizione. È profondamente introversa e odia essere sotto i riflettori. Si era unita a Facebook nel 2018 dopo che le difficoltà finanziarie di vivere con un contratto part-time nella Bay Area l’avevano logorata. Come molti nuovi assunti, si era unita senza essere assegnata a un team specifico. Voleva lavorare sull’integrità elettorale, che cerca modi per mitigare l’abuso della piattaforma in vista delle elezioni, ma è stata unita a un team che si occupava delle false promesse.
Questo ambito si riferisce a cose come “Mi piace”, condivisioni e commenti che sono generati in modo non autentico sulla piattaforma. Il nuovo team si è concentrato sulla cosiddetta “attività non autentica con script”, ovvero falsi Mi piace e condivisioni prodotti da bot automatizzati e utilizzati per aumentare la popolarità di qualcuno. Nella stragrande maggioranza di questi casi, le persone stavano semplicemente ottenendo like per vanità. Ma dopo sei mesi, Zhang ha intuito che i politici potevano fare le stesse cose per aumentare la loro influenza. Non le ci volle molto per trovare esempi in Brasile e in India in vista delle elezioni generali.
Nel processo di ricerca di attività con script, ha anche trovato qualcosa di molto più preoccupante. L’amministratore della pagina Facebook del presidente dell’Honduras, Juan Orlando Hernández, aveva creato centinaia di pagine con nomi falsi e immagini del profilo per assomigliare agli utenti, e le stava usando per inondare i post del presidente con “Mi piace”, commenti e condivisioni (Facebook impedisce agli utenti di creare più profili, ma non applica la stessa restrizione alle pagine, che di solito sono destinate ad aziende e personaggi pubblici).
L’attività non contava come script, ma l’effetto era lo stesso. Non solo poteva indurre in errore l’osservatore casuale a far credere che Hernández fosse popolare, ma stava anche aumentando i suoi post nei feed delle notizie. Per un politico la cui vittoria per la rielezione del 2017 è stata ampiamente ritenuta fraudolenta, le implicazioni erano allarmanti.
Ma quando Zhang ha sollevato il problema, dice, ha ricevuto un’accoglienza tiepida. Il team di integrità del newsfeed, che cerca di migliorare la qualità di ciò che appare agli utenti, non rimuove i falsi “Mi piace” e i commenti dalla valutazione dell’algoritmo di ranking. “Tutti erano d’accordo sul fatto che fosse terribile”, dice Zhang. “Nessuno si occupava di come intervenire”. Dopo che Zhang ha esercitato pressioni per un anno, la rete di pagine false è stata finalmente rimossa. Pochi mesi dopo, Facebook ha creato una nuova “politica sui falsi” per vietare le pagine contraffatte. Ma questo cambiamento di politica non ha affrontato un problema di fondo: non c’era chi avrebbe dovuto applicarlo.
Così Zhang ha preso lei stessa l’iniziativa. Quando non stava lavorando per eliminare i vanity like, ha diligentemente setacciato i flussi di dati, cercando l’uso di pagine e account falsi coordinati sulle pagine dei politici. Ha trovato casi in decine di paesi, soprattutto in Azerbaigian, dove la tecnica delle pagine veniva usata per diffamare l’opposizione.
Il crollo fisico
Ma trovare e segnalare nuovi casi non è stato sufficiente. Zhang ha scoperto che per rimuovere qualsiasi rete di pagine o account falsi, doveva esercitare pressioni persistenti sui team competenti. Nei paesi in cui tale attività rappresentava un rischio di pubbliche relazioni per l’azienda, l’ applicazione poteva essere rinviata ripetutamente (Facebook contesta questa ricostruzione). La responsabilità pesava molto su di lei. Era più importante spingere per un caso in Bolivia, con una popolazione di 11,6 milioni, o nel Rajasthan, in India, con una popolazione vicina ai 70 milioni?
Poi, nell’autunno del 2019, in Bolivia sono scoppiate settimane di micidiali proteste civili dopo che i cittadini hanno contestato i risultati delle elezioni presidenziali. Solo poche settimane prima, Zhang non aveva inserito il Paese tra i casi più urgenti. Era travolta dai sensi di colpa. Intellettualmente, sapeva che non c’era modo di tracciare un collegamento diretto tra la sua decisione e gli eventi, ma psicologicamente ed emotivamente si sentiva stremata.
Durante l’anno tra gli eventi in Bolivia e il suo licenziamento, il tentativo di riparare alla sua mancanza ha peggiorato le sue condizioni di salute. Soffriva già di ansia e depressione, ma la situazione è diventata critica. Da sempre vorace lettore di notizie dal mondo, non riusciva più a prendere le distanze dai disordini politici in altri paesi. La pressione l’ha allontanata da amici e persone care. È cresciuta sempre più isolata e ha rotto con la sua ragazza. Ha aumentato la sua dose di farmaci antidepressivi di sei volte.
Per Zhang, la spiegazione del perché le importasse così tanto è legata alla sua identità. È cresciuta ad Ann Arbor, nel Michigan, figlia di genitori immigrati dalla Cina continentale. Fin dalla tenera età, ha ottenuto ottimi risultati in ambito scolastico. Ha studiato cosmologia all’Università del Michigan, dove ha pubblicato due articoli di ricerca, uno come unico autore.
Ma la sua infanzia è stata anche segnata da gravi traumi. Già all’età di cinque anni, ha iniziato a rendersi conto di essere diversa. Ha fatto del suo meglio per nasconderlo, capendo che i suoi genitori avrebbero trovato intollerabile la sua identità transgender. Ma ricorda vividamente il momento in cui suo padre l’ha scoperto. Era la primavera della terza media. Aveva appena piovuto. E lei era rannicchiata in bagno, pensando se saltare fuori dalla finestra, mentre lui abbatteva la porta.
Alla fine, ha scelto di non saltare e lasciare che lui la colpisse fino a farla sanguinare. Il giorno dopo, ha indossato una maglietta a maniche lunghe per coprire i lividi e ha preparato una scusa nel caso in cui un insegnante se ne fosse accorto. “Non è successo”, dice. (Quando è stato raggiunto via e-mail, suo padre ha negato le accuse, ma molte persone che conoscevano Zhang hanno confermato il suo resoconto del comportamento abusivo di suo padre.)
Dopo essere stata ammessa a tutti i migliori programmi di dottorato in fisica, ha scelto di frequentare la Princeton University. Durante l’orientamento, la persona che ha fatto un giro dell’officina meccanica l’ha ripetutamente individuata di fronte al gruppo ironizzando sulle sue competenze. “È stata la mia presentazione ufficiale a Princeton”, ricorda.
Da lì, il sessismo è solo peggiorato. Quasi immediatamente, uno studente maschio ha iniziato a perseguitarla e a molestarla sessualmente. Per evitarlo, ha scelto un relatore di tesi nel dipartimento di biofisica, che le ha permesso di sfuggire al suo molestatore conducendo ricerche in un altro edificio. Il problema era che in realtà non era interessata alla biofisica. E sia per questo che per altri motivi, il suo interesse per la fisica si è lentamente dissolto.
Dopo tre anni profondamente infelici, decise di lasciare il programma, non senza aver denunciato definitivamente le molestie all’università. “Mi ribattevano: ‘È la tua parola contro la sua’ . Ora è facile capire perché ho ampiamente documentato tutto ciò che ho dato a Julia”, dice, riferendosi a Julia Carrie Wong del “Guardian”. (Un portavoce di Princeton ha affermato di non essere in grado di commentare le situazioni individuali, ma ha affermato l’impegno dell’università a “fornire un ambiente educativo e lavorativo inclusivo e accogliente”).
“Ciò che queste esperienze hanno in comune è il fatto che non ho mai ricevuto il sostegno delle figure che avevano delle responsabilità e ho pagato il prezzo delle loro mancate decisioni”, ha scritto nel suo promemoria Zhang. “Forse allora è più chiaro perché ho combattuto così duramente per impedire al popolo dell’Honduras e dell’Azerbaigian di ripetere il mio percorso”, continua. “Rinunciare a loro e abbandonarli sarebbe un tradimento del nucleo stesso della mia identità”.
Il momento di farsi avanti
È stato durante l’inizio del suo declino fisico e mentale nell’autunno del 2019 che Zhang ha iniziato a pensare se prendere l’iniziativa. Voleva dare ai sistemi ufficiali di Facebook una possibilità di funzionare. Ma si preoccupava di essere isolata. “E se venissi investito da un autobus il giorno dopo?” dice. Aveva bisogno che qualcun altro avesse accesso alle stesse informazioni.
Per coincidenza, ricevette un’e-mail da Wong, allora giornalista senior di tecnologia al Guardian, che aveva inviato messaggi ai dipendenti di Facebook che cercavano di coltivare nuove fonti. Zhang colse l’occasione e accettò di incontrarsi per una conversazione segreta. Quel giorno, lasciò il telefono e il computer forniti dall’azienda a casa di un ex coinquilino per precauzione, sapendo che Facebook aveva la capacità di tracciare la sua posizione. Al ritorno, sembrò un po’ sollevata, ricorda l’ex coinquilino, Ness Io Kain: “Si poteva dire che si sentiva come se avesse realizzato qualcosa”.
Per un momento le cose su Facebook sembravano andare meglio, con un cambiamento della politica aziendale e l’eliminazione della falsa rete del presidente dell’Honduras. È stata ripetutamente chiamata ad aiutare a gestire le emergenze ed è stata elogiata per il suo lavoro, che le è stato detto che era apprezzato e importante.
Ma nonostante i suoi ripetuti tentativi di spingere per maggiori risorse, la leadership le ha risposto con priorità diverse. Hanno anche respinto i suggerimenti di Zhang per una soluzione più sostenibile, come sospendere o altrimenti penalizzare i politici che erano recidivi. “Sembrava sempre più come se stessi cercando di svuotare l’oceano con uno scolapasta”, dice.
Poi, nel gennaio del 2020, la situazione è cambiata. Sia il suo manager che il manager del manager le dissero di interrompere il suo lavoro politico e di continuare il lavoro assegnato. In caso contrario, i suoi servizi presso l’azienda non sarebbero stati più necessari. Mentre la pressione aumentava e la sua salute peggiorava, Zhang si rese conto che alla fine avrebbe dovuto andarsene. Fece un piano per partire dopo le elezioni statunitensi, considerandolo l’ultimo e il più importante evento a cui partecipare. Ma la leadership aveva altri piani. Ad agosto, è stata informata che sarebbe stata licenziata per scarso rendimento.
Nel suo ultimo giorno, ore dopo aver pubblicato il suo promemoria internamente, Facebook lo ha cancellato (sebbene in seguito abbiano ripristinato una versione modificata dopo le reazioni di rabbia dei dipendenti). Poche ore dopo, una persona delle risorse umane l’ha chiamata, chiedendole di rimuovere anche una copia protetta da password che aveva pubblicato sul suo sito web personale. Zhang cercò di contrattare: lo avrebbe fatto se avessero ripristinato la versione interna. Il giorno dopo, invece, ricevette una notifica dal suo server di hosting che aveva rimosso l’intero sito web dopo una denuncia da parte di Facebook. Pochi giorni dopo, è stato cancellato anche il suo dominio.
Anche dopo tutto quello che Facebook le ha fatto passare, Zhang si incolpa di default. Nella sua nota, si è scusata con i colleghi per qualsiasi problema che avrebbe potuto causare loro e per averli lasciati senza ottenere di più. In un reddit AMA mesi dopo, si è scusata con i cittadini di diversi paesi per non aver agito abbastanza velocemente e per non aver trovato una soluzione a lungo termine. Con me, Zhang, che ha un disturbo dello spettro autistico, si chiede ad alta voce cosa avrebbe potuto ottenere se non lo fosse stata. “Non ho talento per la persuasione e il convincere”, spiega. “Non ho mai odiato il mio autismo più di quando mi sono iscritta a Facebook”.
Prima della pubblicazione, Zhang ha fatto un ultimo sacrificio: nascondere la sua identità trans, non per paura di molestie, ma per il timore che potesse distrarre dal suo messaggio. Negli Stati Uniti, dove i diritti dei transgender sono altamente politicizzati, non voleva che proteggere la democrazia diventasse una questione di parte. All’estero, dove alcuni paesi considerano l’essere transgender un crimine punibile con il carcere o addirittura con la morte, non voleva che le persone smettessero di ascoltare.
Era in linea con un sacrificio che aveva ripetutamente fatto quando controllava le interferenze elettorali a livello globale. Ha trattato tutti i politici allo stesso modo, anche quando rimuovere la falsa attività di un personaggio in Azerbaigian ha inevitabilmente favorito un avversario omofobico.
La notte in cui sono stati pubblicati gli articoli del “Guardian”, ha atteso con ansia la reazione del pubblico, non sapendo se sarebbe stata in grado di gestire l’attenzione dei media. “Penso che in realtà si sia sorpresa di quanto fosse brava nelle interviste”, dice la sua ragazza, Lisa Danz, con cui Zhang si è incontrata dopo aver lasciato Facebook. “Ha scoperto che quando c’è del materiale che conosce molto bene e le vengono poste solo domande al riguardo, si muove molto bene”.
L’impatto alla fine non è stato all’altezza di quanto previsto da Zhang. Diversi media negli Stati Uniti hanno fatto pezzi di follow-up, così come alcuni organi d’informazione di paesi colpiti dalla attività di manipolazione. Ma per quanto ne sa, non ha ottenuto ciò che sperava: uno scandalo di pubbliche relazioni abbastanza grande da far sì che Facebook faccia quanto richiesto.
L’azienda contesta ancora una volta questa ricostruzione, affermando che il team ha continuato il lavoro di Zhang. Ma lei indica altre prove: la rete di pagine false in Azerbaigian è ancora lì. “È chiaro che non sono intervenuti”, dice. Tuttavia, Zhang non si pente della sua decisione di farsi avanti. “Ero l’unica in questa posizione di responsabilità fin dall’inizio”, afferma, “e qualcuno doveva assumersi la responsabilità e fare il massimo per proteggere le persone”.
Senza perdere un colpo, poi snocciola le conseguenze che altri hanno dovuto affrontare per essersi scontrati con i potenti in paesi più ostili: giornalisti assassinati per aver indagato sulla corruzione del governo, manifestanti uccisi per aver registrato il loro dissenso. “Rispetto a loro, io sono poca cosa”, conclude.
(rp)
Foto: Sophie Zhang.Christie Hemm Klok