Durante i lockdown i governi hanno impiegato in maggior misura i sistemi di identificazione facciale, ma il loro utilizzo per servizi essenziali come l’assegno di disoccupazione ha messo in crisi persone che erano già con le spalle al muro.
di Mia Sato
A prima vista, JB, un artista con sede a Los Angeles, forse non assomiglia molto all’immagine sulla patente di guida. Per prima cosa, la foto identificativa è di qualche anno fa. I capelli che una volta erano lunghi e scuri ora sono arricciati e bianchi. Inoltre, JB è transgender e prende testosterone da oltre due anni, il che lo ha portato a cambiare i tratti del viso, sopracciglia più spesse e acne che prima non c’era.
JB ha perso il suo lavoro part-time con il lockdown dello scorso marzo e, come milioni di altri americani, ha tentato di richiedere l’indennità di disoccupazione, senza mai sospettare che i suoi cambiamenti fisici gli avrebbero creato un problema. Mesi dopo aver inviato documenti per via elettronica e aver effettuato più chiamate a una hotline senza esito, JB è stato finalmente invitato a utilizzare il sistema di riconoscimento facciale della California per verificare la propria identità. Ma anche dopo una serie di tentativi, il sistema non è riuscito a far corrispondere il volto e la foto identificativa di JB, escludendolo dai sussidi. Alla fine, JB ha smesso di provare: la situazione era troppo frustrante.
Le forze dell’ordine e le imprese private hanno utilizzato il riconoscimento facciale per anni, ma l’uso della tecnologia nella distribuzione degli aiuti governativi si è ampliato rapidamente durante la pandemia. Gli stati e le agenzie federali si sono rivolti al riconoscimento facciale come un modo automatizzato e senza contatto per verificare l’identità delle persone che chiedono la disoccupazione e altri benefici pubblici. Esperti e attivisti temono che i fallimenti di questa tecnologia potrebbero impedire alle persone di ottenere i benefici di cui hanno disperatamente bisogno e peggiorare ancor più lo stato delle cose.
La situazione sta andando fuori controllo
La pandemia ha accelerato l’uso di molti strumenti di raccolta dei dati biometrici: controlli della temperatura alle porte, telecamere termiche nelle scuole, scansioni del viso negli aeroporti. Quando si tratta di benefici come la disoccupazione, i governi statali si stanno rivolgendo in particolare al riconoscimento facciale, per verificare l’identità delle persone prima di rilasciare l’assegno a cui hanno diritto. La seconda ondata del piano di stimoli economici statunitensi, approvata nel dicembre del 2020, richiedeva agli stati di verificare la concessione dei sussidi alle persone che ne facevano domanda.
Ora 27 agenzie statali per la disoccupazione (tra cui quella della California) stanno lavorando con ID.me, un’azienda che offre tecnologia di riconoscimento facciale, afferma il CEO Blake Hall. Il Dipartimento del Lavoro degli Stati Uniti ha anche fornito milioni di dollari di finanziamenti agli stati per implementare misure di prevenzione delle frodi, che hanno inondato il settore del riconoscimento facciale.
Negli ultimi mesi ci sono state segnalazioni in tutto il paese di situazioni spiacevoli di mancato riconoscimento del volto dei richiedenti durante le scansioni del viso, mettendo persone come JB in situazioni finanziarie precarie. Secondo uno studio federale pubblicato nel 2019, il rischio di un’identificazione errata non è equamente distribuito: il riconoscimento facciale si è dimostrato meno accurato per le persone di colore rispetto ai bianchi e gli uomini hanno maggiori probabilità di essere identificati con precisione rispetto alle donne. I risultati sono stati ulteriormente esplorati in uno studio dell’anno scorso.
Hall afferma che in un campione di 700 utenti, ID.me non ha trovato una correlazione tra il colore della pelle e la probabilità di errore. Il software di riconoscimento facciale ha iniziato a diventare più comune anni prima della pandemia e i suoi potenziali difetti sono ben documentati: i giornalisti hanno rivelato come i dipartimenti di polizia negli Stati Uniti utilizzino vasti database di volti nelle indagini, con discutibile accuratezza.
Le aziende hanno interrotto o limitato l’uso della tecnologia tra le prove, accettando il fatto che non funziona altrettanto bene sulle persone di colore. Tuttavia, continua a diffondersi: altre agenzie federali pianificano di adottarlo e si sta diffondendo ovunque, dai centri commerciali alle sale da concerto. Macy’s è stata citata in giudizio l’anno scorso per il suo presunto uso del riconoscimento facciale sui clienti del negozio.
“Ciò che mi tiene sveglio la notte è che la pandemia accelererà l’utilizzo di questa tecnologia”, afferma Evan Greer, direttore di Fight for the Future, un gruppo per i diritti digitali. “Sarà nei negozi e diventerà norma sul trasporto pubblico. Verrà utilizzato nei colloqui di lavoro”. L’Australia ha recentemente ampliato un programma che utilizza il riconoscimento facciale per applicare le precauzioni di sicurezza relative al covid-19. Le persone in quarantena sono soggette a check-in casuali, in cui è richiesto loro di inviare un selfie per confermare che stanno seguendo le regole. Secondo “Reuters”, si raccolgono anche i dati sulla posizione.
Quando si tratta di elementi essenziali come i sussidi per pagare l’alloggio e il cibo, la prima priorità dovrebbe essere assicurarsi che tutti possano accedere all’aiuto, dice Greer. Prevenire le frodi è un obiettivo ragionevole in superficie, aggiunge, ma quello più urgente deve essere far ottenere alle persone i benefici essenziali di cui hanno bisogno. “I sistemi si devono costruire tenendo conto dei diritti umani e dei bisogni delle persone vulnerabili fin dall’inizio.
Hall, di ID.me, afferma che i servizi della sua azienda sono preferibili ai metodi esistenti di verifica dell’identità e hanno aiutato gli stati a ridurre le “massicce” frodi sui sussidi di disoccupazione da quando hanno implementato i controlli di verifica del volto. Aggiunge che le richieste di disoccupazione hanno un esito positivo nel 91 per cento dei casi, in autonomia o tramite una videochiamata con un rappresentante ID.me.
“Se automatizzassimo questo 91 per cento”, spiega, “gli stati potrebbero utilizzare le risorse risparmiate per il 9 per cento rimanente”. Se gli utenti non sono in grado di superare il percorso di riconoscimento facciale, ID.me invia loro un’e-mail per il follow-up, secondo Hall. “Tutto in questa azienda va nella direzione di aiutare le persone ad accedere alle cose alle quali hanno diritto”, afferma.
La tecnologia nel mondo reale
I mesi in cui JB è sopravvissuto senza reddito sono stati difficili. La preoccupazione finanziaria era sufficiente a causare stress, e altri problemi come un computer rotto hanno aggravato l’ansia. Anche il suo ex datore di lavoro non poteva o non voleva aiutare ad andare oltre la burocrazia. Da parte del governo, gli esperti affermano che casi come quello di JB mostrano che la tecnologia in sé non è l’intera risposta, anche se ne riconoscono l’utilità.
Anne L. Washington, ricercatrice di data policy alla New York University, afferma che è fuorviante considerare una nuova tecnologia governativa un successo quando funziona per la maggior parte del tempo durante la fase di ricerca, ma fallisce il 5 per cento delle volte nel mondo reale. Paragona il risultato al gioco delle sedie musicali, dove in una stanza di 100 persone, cinque rimarranno sempre senza posto a sedere. “Il problema è che i governi ottengono un qualche tipo di tecnologia e, se funziona il 95 per cento delle volte, pensano che sia tutto a posto”, dice. Invece, l’intervento umano diventa più importante che mai. Dice Washington: “Hanno bisogno di un sistema per aiutare le cinque persone in piedi”.
C’è un ulteriore livello di rischio quando è coinvolta un’azienda privata. Il problema più grande che si pone nel lancio di un nuovo tipo di tecnologia è dove vengono conservati i dati, afferma Washington. Senza un’ente fidato che ha il dovere legale di proteggere le informazioni delle persone, i dati sensibili potrebbero finire nelle mani di altri. Come ci sentiremmo, per esempio, se il governo federale all’inizio avesse affidato a un’azienda privata i nostri numeri di previdenza sociale?
L’uso diffuso e incontrollato di strumenti di riconoscimento facciale è in grado potenzialmente di influenzare i gruppi già emarginati più di altri. Le persone transgender, per esempio, hanno problemi frequenti e documentati con strumenti come Google Foto, che potrebbero mettere in dubbio se le foto prima e dopo la transizione mostrano la stessa persona. Ciò significa fare i conti con il software più e più volte.
“Ci sono dubbi sulla capacità della tecnologia di riflettere l’ampiezza della diversità effettiva e dei casi limite che ci sono nel mondo reale”, afferma Daly Barnett, un esperto di tecnologia della Electronic Frontier Foundation. “Non possiamo fare affidamento su i suoi strumenti per classificare, calcolare e riflettere con precisione questi casi limite”.
Peggio del fallimento
Le conversazioni sul riconoscimento facciale in genere vertono su come la tecnologia potrebbe fallire o discriminare. Ma Barnett incoraggia le persone a pensare al di là del fatto che gli strumenti biometrici funzionino o meno, o se siano presenti pregiudizi nella tecnologia. Respinge l’idea stessa di averne bisogno. In effetti, avvertono attivisti come Greer, gli strumenti potrebbero essere ancora più pericolosi quando funzionano perfettamente. Il riconoscimento facciale è già stato utilizzato per identificare e reprimere i manifestanti, anche se le persone stanno reagendo.
A Hong Kong, i manifestanti indossavano maschere e occhiali per nascondere i loro volti. Negli Stati Uniti, i pubblici ministeri federali hanno fatto cadere le accuse contro un manifestante identificato con il riconoscimento facciale, che era stato accusato di aver aggredito agenti di polizia.
“Penso che sia comprensibile che ci stiamo concentrando su questi difetti e pregiudizi, perché la tecnologia viene utilizzata proprio ora”, afferma Greer. “Ma quando si prende una tecnologia e la si sovrappone a una società profondamente ingiusta, anche se la tecnologia stessa è “neutra” o non contiene alcun tipo di pregiudizio, avrà l’effetto di automatizzare ed esacerbare tale discriminazione”.
Sia Fight for the Future che EFF sostengono i divieti sull’uso da parte del governo degli strumenti di riconoscimento facciale. E Barnett afferma che anche quando viene utilizzata la tecnologia, le agenzie governative non dovrebbero fare affidamento su un singolo sistema per l’accesso, soprattutto nel caso di servizi essenziali per la sopravvivenza delle persone. “Non è difficile immaginare come, anche se ora non è così, queste tecnologie possano essere usate come armi contro le persone per vari scopi in seguito”, sostiene.
Per chi è ai margini della società, tuttavia, il riconoscimento facciale sta già causando problemi. A più di un anno dalla prima domanda di disoccupazione da parte di JB, i dettagli dell’arduo processo sono ancora impressi nella sua memoria. Quando la richiesta originale è scaduta questa primavera, è stato un sollievo. “Ho di recente ottenuto un nuovo lavoro e sto rimettendo insieme la mia vita”, spiega JB. “Spero davvero di non dover mai più avere a che fare con questo tipo di sistema”.
(rp)
