Anche se ormai i limiti discrezionali della tecnologia appaiono evidenti, negli Stati Uniti il riconoscimento facciale viene ampiamente utilizzato, in gran parte senza che i cittadini ne siano a conoscenza.
di Tate Ryan-Mosley
Alla fine di giugno, quando si è diffusa la notizia che una corrispondenza errata di un sistema di riconoscimento facciale aveva portato la polizia di Detroit ad arrestare Robert Williams per un crimine che non aveva commesso, il paese era già in agitazione per la morte di George Floyd, avvenuta un mese prima. Poco dopo, è emerso che un altro uomo di colore, Michael Oliver, era stato arrestato in circostanze simili a Williams. Mentre gran parte degli Stati Uniti continua a invocare la giustizia razziale, si è sviluppato un confronto di posizioni più pacato sulla sulla tecnologia di riconoscimento facciale e l’utilizzo da parte della polizia.
Quando Jennifer Strong e io abbiamo iniziato a riferire sull’uso della tecnologia di riconoscimento facciale da parte della polizia per il nostro nuovo podcast, “In Machines We Trust“, sapevamo che questi sistemi basati sull’intelligenza artificiale erano stati adottati dalle forze dell’ordine in tutti gli Stati Uniti e in altri paesi. Ma non avevamo idea di quanto stesse succedendo al di fuori del controllo dei cittadini.
Per cominciare, non sappiamo quanto spesso i dipartimenti di polizia negli Stati Uniti utilizzino il riconoscimento facciale per il semplice motivo che nella maggior parte delle giurisdizioni non devono riferire quando lo usano per identificare un sospetto in un crimine. I numeri più recenti sono delle proiezioni e risalgono al 2016, ma suggeriscono che all’epoca almeno la metà degli americani aveva la sua foto in un sistema di riconoscimento facciale. Una contea della Florida, per esempio, aveva eseguito 8.000 ricerche ogni mese.
Inoltre, non sappiamo quali dipartimenti di polizia dispongono della tecnologia di riconoscimento facciale, perché è comune che la polizia oscuri il processo di acquisizione. Ci sono prove, per esempio, che molti dipartimenti acquistano la loro tecnologia utilizzando sovvenzioni federali o donazioni, che sono esenti dall’obbligo di comunicazione ufficiale.
In altri casi, le aziende offrono periodi di prova alla polizia per il loro software che consentono agli agenti di utilizzare i sistemi senza alcuna approvazione o supervisione ufficiale. Questo sistema consente alle aziende che realizzano sistemi di riconoscimento facciale di affermare che i loro prodotti sono ampiamente utilizzati e di dare l’impressione all’esterno che siano strumenti popolari e affidabili per la risoluzione dei crimini. (Si veda link)
Algoritmi che non funzionano
Ma se il riconoscimento facciale è noto per qualcosa, è per la sua inaffidabilità. A gennaio la polizia metropolitana di Londra ha attivato un sistema di riconoscimento facciale che nei test aveva mostrato un tasso di precisione inferiore al 20 per cento. A New York City, la Metro Transit Authority ha sperimentato un sistema sulle principali arterie stradali con un tasso di accuratezza dello 0 per cento.
La tecnologia è anche sbilanciata dal punto di vista razziale: uno studio ha rilevato che in alcunee applicazioni commerciali, anche in condizioni di laboratorio, i tassi di errore nell’identificazione di donne dalla pelle più scura arrivavano al 35 per cento. Non è raro, inoltre, che la polizia modifichi le foto per aumentare le possibilità di trovare una corrispondenza. Alcuni hanno persino difeso la pratica come fondamentale per svolgere un buon lavoro d’indagine.
Due delle aziende più controverse e avanzate del settore, ClearviewAI e NTechLabs, affermano di aver risolto il “problema dei pregiudizi” e di aver raggiunto una precisione quasi perfetta. ClearviewAI sostiene che il suo sistema è utilizzato da circa 600 dipartimenti di polizia negli Stati Uniti (alcuni esperti con cui abbiamo parlato erano scettici su questa cifra). NTechLabs, con sede in Russia, ha firmato per il riconoscimento facciale video live in tutta la città di Mosca.
Ma non c’è quasi modo di verificare in modo indipendente le loro affermazioni. Entrambe le aziende hanno algoritmi che fanno riferimento a database di miliardi di foto pubbliche. Il National Institute of Standards and Technology (NIST), nel frattempo, offre uno dei pochi audit indipendenti sulla tecnologia di riconoscimento facciale. Il NIST Vendor Test utilizza un set di dati selezionato, che insieme alla qualità e alla diversità delle immagini nel database, limita la sua potenza come strumento di auditing. ClearviewAI non ha sostenuto il test più recente del NIST. NTechLabs ha eseguito il test dell’immagine statica e si è comportato bene, ma non esiste un test attualmente utilizzato per il riconoscimento facciale video live. Inoltre, non esiste un test indipendente specifico per la determinazione del pregiudizio.
Uso e abuso delle tecnologie
La recente ondata di proteste di Black Lives Matter, innescata dalla morte di Floyd, ha messo in discussione gran parte dei comportamenti della polizia moderna, compreso il loro uso della tecnologia. L’aspetto paradossale è che, quando le persone scendono in piazza per protestare contro la deriva razzista nelle attività di polizia, le forze dell’ordine utilizzano strumenti tecnologicamente all’avanguardia basati sul pregiudizio razziale per controllare i manifestanti. Si sa, per esempio, che il dipartimento di polizia di Baltimora si è servito del riconoscimento facciale durante le manifestazioni, anche dopo la morte di Freddie Gray nel 2015.
E’ noto che alcuni dipartimenti hanno chiesto pubblicamente di fornire loro riprese delle proteste di quest’anno. La polizia di Minneapolis ha accesso a una serie di tecnologie, incluse quelle di ClearviewAI. Secondo Jameson Spivack del Center on Privacy and Technology della Georgetown University, il riconoscimento facciale viene utilizzato nelle proteste del movimento BLM e “prende di mira e l’azione politica dei neri”.
Dopo anni di lotta per la regolamentazione da parte di organizzazioni nere e ispanico-latine, la situazione non è mai stata migliore per il cambiamento. Microsoft, Amazon e IBM hanno annunciato interruzioni o moratorie dei loro prodotti di riconoscimento facciale. Negli ultimi mesi, alcune grandi città statunitensi ha annunciato divieti o moratorie sulla tecnologia. Allo stesso tempo, la tecnologia si sta muovendo rapidamente.
Le capacità dei sistemi, così come il potenziale di uso improprio e abuso, continuano a crescere a passi da gigante. Stiamo già iniziando a vedere i dipartimenti di polizia e i fornitori di tecnologia andare oltre i sistemi di riconoscimento facciale statico e retrospettivo per analizzare video live che sono integrati con altri tipi di flussi di dati come i sistemi di sorveglianza audio.
Alcuni degli agenti di polizia con cui abbiamo parlato hanno detto che non dovrebbero essere lasciati con strumenti arcaici per combattere il crimine nel XXI secolo. Ed è vero che in alcuni casi la tecnologia può rendere le attività di polizia meno violente e meno soggette a pregiudizi umani. Rimane un dato di fatto, comunque, che fino a oggi l’opinione pubblica non ha chiaro quanto sta succedendo e i cittadini hanno il diritto di essere informati.
Immagine di: Ms Tech / Unsplash
