Amazon e altri estenderanno a tempo indeterminato la moratoria per l’utilizzo da parte della polizia di prodotti per il riconoscimento facciale, ma l’azione legislativa proposta potrebbe rendere i divieti permanenti.
di Tate Ryan-Mosley
Il 10 maggio, 40 gruppi di difesa della privacy hanno inviato una lettera aperta chiedendo un divieto permanente dell’uso del software di riconoscimento facciale di Amazon, Rekognition, da parte della polizia statunitense. La lettera è stata indirizzata a Jeff Bezos e Andy Jassy, CEO attuali e futuri dell’azienda, ed è arrivata poche settimane prima della scadenza della moratoria di un anno di Amazon sulle vendite alle forze dell’ordine.
La lettera contrapponeva le dichiarazioni di sostegno di Bezos e Jassy agli attivisti di Black Lives Matter durante le proteste per la giustizia razziale della scorsa estate dopo l’omicidio di George Floyd alla segnalazione che altri prodotti di Amazon sono stati utilizzati dalle forze dell’ordine per identificare i manifestanti.
Il 17 maggio Amazon ha annunciato che estenderà la sua moratoria a tempo indeterminato, unendosi ai concorrenti IBM e Microsoft nel purgatorio autoregolato. La mossa è un segnale al potere politico dei gruppi che lottano per frenare la tecnologia e il riconoscimento che si stanno imponendo nuovi terreni di battaglia legislativa. Molti credono che una legislazione federale sostanziale dovrebbe arrivare presto.
“Le persone sono esauste”
L’anno scorso è stato un periodo fondamentale per le sorti del riconoscimento facciale, con rivelazioni sul ruolo della tecnologia in arresti arbitrari e divieti messi in atto da quasi una ventina di città e sette stati americani. Ma la situazione sta cambiando da tempo. Nel 2018, i ricercatori di AI hanno pubblicato uno studio che confronta l’accuratezza del software di riconoscimento facciale commerciale di IBM, Microsoft e Face ++. Il loro lavoro ha scoperto che la tecnologia identificava gli uomini dalla pelle più chiara in modo molto più accurato rispetto alle donne dalla pelle più scura. Il sistema di IBM ha ottenuto il punteggio peggiore, con una differenza del 34,4 per cento nel tasso di errore tra i due gruppi.
Sempre nel 2018, l’ACLU ha testato Rekognition di Amazon e ha scoperto che il sistema ha identificato erroneamente 28 membri del Congresso come criminali, un errore che colpisce in modo sproporzionato le persone di colore. L’organizzazione ha scritto una lettera aperta ad Amazon, chiedendo che l’azienda vietasse l’uso della tecnologia da parte del governo, così come ha fatto il Congressional Black Caucus, ma Amazon non ha apportato modifiche.
Durante i movimenti per la giustizia razziale contro la brutalità della polizia la scorsa estate, tuttavia, Amazon ha sorpreso molti annunciando che stava interrompendo l’uso della piattaforma Rekognition da parte della polizia, con eccezioni per le forze dell’ordine federali come l’ICE. L’annuncio dell’azienda diceva che sperava che la pausa “potesse dare al Congresso abbastanza tempo per mettere in atto regole appropriate”.
Evan Greer è il direttore di Fight for the Future, un gruppo di difesa della privacy che propugna l’abolizione della tecnologia di riconoscimento facciale, afferma che c’è un crescente sostegno pubblico per la sua regolamentazione. A suo parere, l’estensione della moratoria di questa settimana mostra che “Amazon sta rispondendo all’enorme pressione sociale, non solo intorno al riconoscimento facciale”.
“Una realtà politica”
Sebbene ci sia una pressione crescente sui grandi fornitori di tecnologia, la realtà è che la maggior parte delle forze dell’ordine e degli utenti del governo non acquista software di riconoscimento facciale da aziende come Amazon. Quindi, sebbene le moratorie e i divieti siano ben accetti ai gruppi di difesa della privacy, non necessariamente impediscono l’utilizzo delle tecnologie. Il Congresso, nel frattempo, non ha ancora approvato alcuna legislazione federale sul riconoscimento facciale nelle forze dell’ordine, nel governo o in contesti commerciali che regolerebbero i fornitori più piccoli.
Per questa ragione, alcuni sperano che la legislazione federale arrivi presto o attraverso un’azione diretta del Congresso, un ordine esecutivo presidenziale, o l’imminente appropriazione e progetti di riforma della polizia. “Penso che lo scenario migliore sia che il Congresso approvi una moratoria sul suo utilizzo”, afferma Kate Ruane, consulente legale dell’ACLU. Sono già state proposte diverse leggi federali che limiterebbero l’accesso al riconoscimento facciale.
* Il Facial Recognition and Biometric Technology Moratorium Act prevede il divieto dell’uso del software da parte di entità federali e la ritenuta di fondi da sovvenzioni federali a qualsiasi autorità statale e locale che non emetta la propria moratoria. È stato proposto da quattro membri democratici del Congresso e presentato al Senato lo scorso anno.
* Il George Floyd Justice in Policing Act impedirebbe l’uso del riconoscimento facciale nelle telecamere del corpo di polizia. Il disegno di legge è già passato alla Camera e dovrebbe arrivare al Senato la prossima settimana. Il presidente Biden ha chiesto che il disegno di legge venga approvato prima dell’anniversario della morte di George Floyd il 25 maggio.
*Il quarto emendamento non si tocca. Un progetto di legge bipartisan introdotto da 18 senatori limita la possibilità per il governo di lavorare con fornitori di tecnologia che infrangono i termini di servizio. In pratica, impedirebbe in gran parte l’accesso del governo ai sistemi che si impegnano nel web scraping, come ClearviewAI.
Mutale Nkonde, CEO fondatore di AI for the People, un’organizzazione senza scopo di lucro che sostiene la giustizia razziale nella tecnologia, ritiene che probabilmente vedremo un’ulteriore legislazione federale entro le elezioni di medio termine del prossimo anno. “Penso che verrà introdotta una legislazione federale che disciplinerà tutti i sistemi algoritmici, compreso il riconoscimento facciale”, afferma Nkonde, il quale sostiene che la valutazione d’impatto dei sistemi tecnologici sulla base dei diritti civili sta guadagnando terreno nei circoli politici di entrambi gli schieramenti.
L’ACLU sta facendo pressioni sull’amministrazione Biden per un ordine esecutivo e ha recentemente pubblicato una lettera insieme ad altri 40 gruppi per chiedere un divieto immediato dell’uso governativo della tecnologia.
“Le persone sono più radicali”
Nel frattempo, Ruane si aspetta che l’autoregolamentazione rimanga uno dei metodi più efficaci per prevenire l’uso esteso del riconoscimento facciale. È plausibile che agenzie federali come i Dipartimenti per l’edilizia abitativa, la sicurezza interna e l’istruzione prendano in considerazione l’imposizione di regole che vietano l’uso della tecnologia.
Nkonde è ottimista sul fatto che le moratorie si estenderanno a divieti e legislazione in modo permanente: “Penso che le moratorie fossero la soluzione prima che George Floyd venisse ucciso. Ora, le persone sono diventate più radicali nelle loro richieste”. Ma Greer avverte che nonostante tutto il movimento contro il riconoscimento facciale, la legislazione che si concentra sull’equità razziale dei sistemi potrebbe non risolvere problemi più profondi.
“Penso che sarebbe un errore se i responsabili politici vedessero l’accuratezza come l’unico problema da affrontare con il riconoscimento”, continua Greer. “L’industria sarebbe davvero molto contenta di un disegno di legge che, per esempio, dicesse qualcosa del tipo: “Se si ha intenzione di vendere un sistema di riconoscimento facciale, deve essere accurato al 99 per cento per persone di tutte le razze e tonalità della pelle diverse”.
Immagine di: AP Photo / John Minchillo
