I movimenti per i diritti civili hanno messo in luce i problemi legati alla tecnologia, ma gli scandali e i divieti non ne hanno rallentato la crescita.
di Tate Ryan Mosley
Il primo arresto illegale ufficiale effettuato negli Stati Uniti con la tecnologia di riconoscimento facciale è avvenuto nel gennaio 2020. Robert Williams, un uomo di colore, è stato arrestato appena fuori Detroit, con la moglie e la giovane figlia che guardavano. Ha passato la notte in prigione. Il giorno successivo nella stanza degli interrogatori, un detective ha fatto scorrere una foto attraverso il tavolo a Williams di un altro uomo di colore che era stato catturato in un video mentre rubava orologi dalla boutique Shinola.
“E’ lei?” gli ha chiesto.
“No, non sono io”. Ha risposto Williams.
Il detective gli ha mostrato un’altra foto. “Immagino che anche questo non sia lei?”.
Williams ha tenuto la foto accanto al suo viso. Chiaramente non era lui. Allora ha detto: “Questo non sono io. Spero che lei non pensi che tutte le persone di colore si assomiglino”.
“Il computer dice che è lei”, ha ribattuto il detective.
La novità dell’arresto di Robert Williams non è stata che fosse avvenuto o che fosse un errore. Il riconoscimento facciale è noto per essere meno accurato per le persone dalla pelle più scura. E la tecnologia è ampiamente utilizzata dai dipartimenti di polizia negli Stati Uniti, sebbene non ci siano dati validi su quanto sia pervasiva. L’aspetto insolito della storia di Williams è che la polizia ha ammesso di aver utilizzato il riconoscimento facciale nel suo arresto.
La notizia del caso è stata resa pubblica all’inizio di agosto e, dopo un’estate di proteste incentrata sul modo in cui le comunità nere sono controllate in America, è stata accolta con indignazione a livello nazionale. Un paio di settimane dopo, è venuto alla luce un altro arresto illegale di un uomo di colore a Detroit a causa della tecnologia di riconoscimento facciale.
Anche prima di questo episodio, gli attivisti avevano chiesto la fine del Project Greenlight, l’iniziativa mista pubblico-privato a livello cittadino che utilizza il riconoscimento facciale nel tentativo di ridurre la criminalità. Eppure non solo il progetto è ancora in corso, ma alla fine di settembre, il consiglio comunale ha votato per estendere il contratto tra il dipartimento di polizia di Detroit e il suo fornitore di riconoscimento facciale, DataWorks Plus.
Un anno di contraddizioni
Gli eventi di Detroit esemplificano la nostra complicata relazione con il riconoscimento facciale in questa fase. Il suo utilizzo è in crescita. In alcuni campi la tecnologia è diventata parte integrante, in altri, come la vendita al dettaglio, il riconoscimento facciale sta iniziando a essere lanciato con grandi speranze per il futuro. Molti fornitori di tecnologia scommettono che il pubblico si troverà sempre più a suo agio con l’uso della biometria, che presto sarà una parte organica della vita digitale: Apple ci ha scommesso molto e ora milioni di persone usano il suo sistema Face ID per sbloccare il proprio iPhone ogni giorno.
Ma il pubblico ha anche una nuova consapevolezza dei pericoli che il riconoscimento facciale pone, soprattutto nella giustizia penale. C’è molta più consapevolezza, più preoccupazione e più confronto ora che mai e quest’anno ha visto l’emanazione di più leggi sul riconoscimento facciale rispetto a tutti gli anni precedenti messi insieme. Ci sono stati divieti o moratorie in sei città degli Stati Uniti nel 2019, e lo stesso anche quest’anno. Conciliare queste leggi con la crescita del settore sarà difficile. Ma gli eventi del 2020 forniscono alcuni indizi su come questi compromessi potrebbero verificarsi nel prossimo anno.
Piccoli protagonisti, grande industria
A gennaio, il “New York Times” ha pubblicato un’indagine su ClearviewAI, una piccola azienda di riconoscimento facciale che ha eseguito il suo algoritmo su un database di miliardi di immagini acquisite dai social media. I dipartimenti di polizia che utilizzavano il sistema di ClearviewAI stavano effettivamente accedendo alle foto di Facebook per abbinare immagini della polizia spesso sfocate o incomplete durante le indagini.
L’azienda è stata decisamente criticata e la successiva segnalazione di “BuzzFeed News” ha mostrato che il sistema era utilizzato da ben 2.200 distretti delle forze dell’ordine negli Stati Uniti, nonché dall’Immigration and Customs Enforcement, dal Dipartimento di giustizia e da catene di negozi tra cui Macy’s e Walmart.
“La storia di Clearview ha davvero spaventato molte persone”, afferma Jameson Spivack, un esperto di politica del Center on Privacy and Technology della Georgetown University. Molte delle preoccupazioni si concentrano sulla frammentazione del campo. Mentre le grandi aziende come IBM e Microsoft sono attori significativi, ci sono anche molte piccole aziende private, come ClearviewAI e NtechLab, che operano con poca supervisione pubblica. Il rapporto ha anche rivelato quanto poco il pubblico sapesse dell’uso diffuso della tecnologia da parte del governo.
Il catalizzatore: le proteste razziali
Queste storie hanno sollevato la consapevolezza dei problemi, ma Spivack afferma che le proteste di Black Lives Matter in seguito all’omicidio di George Floyd sono state il “singolo più grande catalizzatore” della legislazione che limita l’uso del riconoscimento facciale negli Stati Uniti. Gli americani hanno improvvisamente iniziato a riesaminare la polizia e i suoi strumenti, politiche e cultura.
La preoccupazione aveva iniziato a crescere dopo che i ricercatori Joy Buolamwini e Timnit Gebru hanno scoperto e documentato pregiudizi razziali nei prodotti commerciali di riconoscimento facciale nel 2018, portando diverse città e stati ad approvare leggi che impedivano alla polizia di utilizzare il riconoscimento facciale insieme alle telecamere già a disposizione.
Ma durante il più grande movimento di protesta nella storia americana, gli attivistihanno sollevato il timore che le tecnologie di sorveglianza della polizia potessero essere utilizzate per ritorsioni. Da allora è stato confermato che almeno i dipartimenti di polizia di New York, Miami e Washington, DC, hanno utilizzato il riconoscimento facciale per sorvegliare i manifestanti.
Il 1 ° giugno a Washington, DC, la polizia ha usato palline di pepe e gas lacrimogeni per respingere i manifestanti in Lafayette Square in modo che il presidente Trump potesse fare un servizio fotografico in una chiesa vicina. In mezzo al caos, un manifestante ha preso a pugni un agente di polizia. Giorni dopo, gli agenti hanno trovato una foto dell’uomo su Twitter e l’hanno fatta passare attraverso il loro sistema di riconoscimento facciale, hanno ottenuto una corrispondenza e hanno effettuato un arresto. Allo stesso modo a Miami, una donna accusata di aver lanciato pietre contro la polizia durante una protesta è stata arrestata sulla base del riconoscimento facciale.
Spivack ha visto attivisti di base contro il riconoscimento facciale lavorare a stretto contatto con organizzazioni per la riforma della polizia per tutta l’estate e l’autunno, insieme all’American Civil Liberties Union. A Portland, Oregon, un manifestante ha persino creato un sistema di riconoscimento facciale per identificare gli agenti di polizia anonimi.
Nel corso del 2020, è stata avanzata una proposta di legge per limitare l’uso da parte della polizia di tale tecnologia a livello municipale, statale e persino federale. A giugno, i legislatori democratici hanno introdotto un disegno di legge che prevede l’uso del riconoscimento facciale da parte delle forze dell’ordine federali.
Nel Vermont, un ordine esecutivo del governatore ha stabilito un divieto a livello statale all’uso della tecnologia da parte del governo. In Massachusetts, le città di Cambridge e Boston hanno approvato i divieti sulla tecnologia quest’estate e, a dicembre, il governo dello stato ha approvato il divieto del riconoscimento facciale per le organizzazioni pubbliche, incluse le forze dell’ordine. A oggi, il governatore Charlie Baker si rifiuta di firmare il disegno di legge.
A maggio, la California ha avviato il proprio dibattito sulla legislazione in tutto lo stato e le città di San Francisco e Oakland hanno già vietato l’uso del riconoscimento facciale da parte delle forze dell’ordine. A luglio, la città di New York ha istituito una moratoria sul riconoscimento facciale nelle scuole fino al 2022. A Portland, in Oregon, un nuovo divieto in tutta la città vieta l’uso della tecnologia da parte di qualsiasi gruppo pubblico o privato.
Ma questo cambiamento non sta avvenendo ovunque, come dimostra il nuovo impegno alla sorveglianza a Detroit. Spivack ipotizza che le dinamiche legate alle componenti etniche potrebbero influenzare la lotta politica sulla sorveglianza della polizia. “Se si guarda a molte delle città che sono state tra le prime a vietare il riconoscimento facciale”, egli spiega, “si vede che sono in genere – non sempre, ma nella stragrande maggioranza – più ricche, più bianche, molto progressiste, forse con più risorse politiche e capacità di influenzare i legislatori rispetto alle comunità più emarginate”.
Una prospettiva nazionale?
Tuttavia, non tutte le reazioni hanno preso la via legislativa. All’inizio di giugno, IBM ha annunciato di aver smesso di vendere i suoi prodotti per il riconoscimento facciale. Amazon e Microsoft hanno seguito l’esempio interrompendo temporaneamente i loro contratti con i dipartimenti di polizia. E a luglio, l’ACLU ha intentato una causa, la prima in assoluto, contro ClearviewAI per non aver ottemperato all’Illinois Biometric Information Privacy Act.
Microsoft, Amazon, IBM e gruppi industriali come la Security Industry Association si stanno preparando a combattere. Hanno notevolmente aumentato le pressioni sul riconoscimento facciale dal 2018 al 2019 e si prevede che il 2020 mostrerà un aumento ancora più significativo. Molti sono a favore di una maggiore regolamentazione, ma non di divieti. La moratoria di Amazon finirà a giugno e quella di Microsoft è subordinata all’istituzione di una legge federale.
Nel frattempo, l’ACLU continua a elaborare una bozza di legislazione che cerca di vietare la tecnologia. In una dichiarazione sul suo sito web si legge che l’organizzazione “si sta rivolgendo ai tribunali, alle strade, ai parlamenti, ai consigli comunali e persino ai consigli di amministrazione delle aziende per difendere i nostri diritti dai pericoli crescenti di questa tecnologia di sorveglianza non regolamentata”.
Le priorità della nuova amministrazione daranno forma anche alla regolamentazione nel 2021 e oltre. Da candidata alla presidenza, Kamala Harris ha citato la regolamentazione del riconoscimento facciale nelle forze dell’ordine come parte del suo piano di riforma della polizia. Se l’amministrazione spinge per una legislazione federale, è più probabile che diventi una questione nazionale, con il risultato che meno risorse saranno destinate a nuove campagne di supervisione locale. Ma in caso contrario, la lotta continuerà probabilmente a svolgersi a livello statale.
