I divieti sulla tecnologia si sono concentrati principalmente sull’utilizzo che ne viene fatto dalle forze dell’ordine, ma c’è un movimento crescente per estromettere il riconoscimento facciale da scuole, parchi e aziende private.
di Angela Che
A San Francisco, un poliziotto non può usare la tecnologia di riconoscimento facciale nei confronti di una persona arrestata mentre un proprietario di casa può usarlo con un inquilino e un distretto scolastico con gli studenti.
Ci troviamo nel bel mezzo di un’era in cui le telecamere all’angolo possono riconoscere automaticamente i passanti, che la cosa piaccia o no. Negli Stati Uniti, la domanda su chi dovrebbe essere in grado di utilizzare questa tecnologia e chi non dovrebbe, rimane in gran parte senza risposta.
Finora, il confronto sul riconoscimento facciale si è focalizzato principalmente sulle forze dell’ordine. San Francisco e Oakland, così come Somerville, nel Massachusetts, hanno vietato alla polizia di utilizzare la tecnologia perché gli algoritmi non si sono dimostrati accurati nel riconoscimento delle persone di colore e delle donne. Il candidato alla presidenza Bernie Sanders ha persino chiesto una moratoria sull’uso della tecnologia da parte della polizia.
Le aziende private e i proprietari di immobili non hanno subito tali restrizioni e il riconoscimento facciale si sta diffondendo sempre più nei condomini e negli hotel. I sostenitori della privacy temono che un sistema di sorveglianza continua porterà a discriminazioni e limiterà la libertà di parola.
Neanche l’opinione pubblica americana è tranquilla. Secondo un recente sondaggio di Pew Research, i cittadini statunitensi sono favorevoli all’utilizzo della tecnologia da parte della polizia, ma nutrono seri dubbi rispetto alle aziende private.
Chiunque si aspetti una rapida messa al bando federale del riconoscimento facciale rimarrà probabilmente deluso, afferma l’esperta di IA Mutale Nkonde, del Berkman Klein Center di Harvard. “Dal punto di vista federale, tutto ciò che sembra minare gli affari o l’innovazione non sarà accettato”, ella afferma.
In teoria, i divieti nelle città che finora sono stati indirizzati alle forze dell’ordine potrebbero allargarsi al settore dei privati. I singolo stati potrebbero muoversi in questa direzione, aprendo la strada a una politica federale simile, ma non è affatto sicuro che succederà.
Nel frattempo, c’è una tendenza crescente a formulare proposte per regolamentare la sorveglianza privata, con una serie di strategie diverse. Di seguito, forniamo una breve carrellata dei tre principali approcci al problema, che potrebbero un giorno cambiare drasticamente il modo in cui il riconoscimento facciale viene utilizzato nelle nostre vite.
Uno scontro diretto con le aziende
La prima tattica è la classica “pressione” sulle aziende, afferma Evan Greer, vicedirettore del gruppo per i diritti digitali Fight for the Future. L’organizzazione ha creato un sito Web che elenca le compagnie aeree che utilizzano il riconoscimento facciale, per incoraggiare i consumatori a scegliere altre opzioni.
Più di recente, Fight for the Future ha lanciato una campagna facendo pressioni sugli organizzatori di concerti e festival per non utilizzare la tecnologia, in parte in risposta alla proposta di Ticketmaster di sostituire i biglietti con sistemi di ID facciale. I musicisti tra cui la cantautrice Amanda Palmer, il gruppo di hip hop Atmosphere e Tom Morello di Rage Against the Machine hanno dato il loro appoggio a questa campagna.
Festival musicali famosi come Governors Ball, Austin City Limits, Bonnaroo e Pitchfork hanno garantito di non usare la sorveglianza facciale. “È importante anticipare gli eventi”, afferma Greer. “Non abbiamo bisogno di aspettare che la tecnologia venga adottata e inserita in modo strutturale in un modello di business, prima di far sentire la nostra voce”.
Il metodo legislativo
Un altro modello è legato ai provvedimenti che vengono decisi città per città. Portland, nell’Oregon, sta prendendo in considerazione due ordinanze separate, una che vieterebbe alle forze dell’ordine di usare la tecnologia e una che agirebbe in forme articolate anche sulle imprese private.
Il divieto privato non influirebbe, per esempio, sul FaceID di Apple o sull’uso del riconoscimento facciale da parte di Facebook per le funzionalità di tagging. I funzionari della città sono più preoccupati da negozi e altri strutture che richiedono il riconoscimento facciale per l’ingresso, come nel caso di Jacksons, un minimarket locale, ha iniziato a utilizzare la tecnologia su base limitata più di un anno fa. Il consiglio comunale discuterà di nuovo la proposta in una riunione di novembre.
Nel frattempo, le rappresentanti del Congresso americano Yvette Clarke, Ayanna Pressley e Rashida Tlaib si stanno concentrando non su regioni geografiche, ma su alcuni gruppi. Hanno appena proposto un disegno di legge federale che vieterebbe il riconoscimento facciale nelle case popolari finanziate con fondi federali.
L’uso del riconoscimento facciale da parte dei proprietari di abitazioni è ormai un problema. Secondo il recente rapporto Pew, solo il 36 per cento degli americani pensa che sia giusto richiedere il riconoscimento facciale per entrare nel posto in cui si vive. Il problema è ancora più grave nelle abitazioni federali e in quelle dei quartieri più poveri.
Non solo la tecnologia è invasiva, dicono i residenti, ma è discriminatoria, perché molti inquilini sono persone di colore. A New York, i residenti di un edificio popolare hanno combattuto il piano del loro padrone di casa per sostituire un sistema di accesso al telecomando con un sistema di riconoscimento facciale. “Perché [il proprietario] ha scelto il nostro edificio per provare questo sistema mentre ne ha altri 11?”, si chiede Icemae Downes, uno dei residenti.
Non c’è bisogno di reinventare la ruota
La legge esistente può anche essere aggiornata per comprendere al suo interno il riconoscimento facciale, afferma Jevan Hutson, uno studente di legge e ricercatore di politica tecnologica all’Università di Washington. Gli stati hanno già leggi sui diritti civili che impediscono la discriminazione in luoghi pubblici come ristoranti, hotel, scuole, ospedali, parchi, centri congressi e altro.
Dato che finora la tecnologia ha dimostrato di non essere in grado di trattare le persone in modo equo, Hutson afferma che è possibile sostenere da un punto di vista legale che il riconoscimento facciale viola i diritti civili. Se un tale cambiamento fosse accettato, sarebbe la legge a impedire che la tecnologia venga impiegata in una serie di spazi pubblici.
Un’altra strada sarebbe quella di aggiornare le leggi sulla protezione dei consumatori di uno stato. Molte aziende affermano che la loro tecnologia è in grado di rilevare le emozioni, ma gli studi hanno dimostrato che i loro metodi sono profondamente imperfetti. È possibile sostenere, quindi, che questi algoritmi violano le leggi, favorendo pratiche ingiuste o ingannevoli.
Queste proposte costringe i lobbisti impegnati a sostenere la tecnologia a confrontarsi con le tematiche legate ai diritti civili. “Stiamo aggiornando la legge sui diritti civili. Se qualcuno non vuole che lo si faccia, come possiamo aspettarci che queste stesse persone garantiscano la nostra sicurezza con i loro sistemi di controllo?”, spiega Houston, che sta collaborando con i legislatori e spera di presentare un disegno di legge durante la prossima sessione legislativa nello stato di Washington, che si terrà a gennaio.
Separazione? Non esattamente
In pratica, la distinzione tra riconoscimento facciale pubblico e privato è un falso problema. La normalizzazione dell’una normalizza l’altra, afferma Evan Selinger, filosofo del Rochester Institute of Technology.
Se tutti utilizzano il sistema di riconoscimento facciale di Facebook, egli spiega, “diventa molto più difficile dire che le forze dell’ordine, che difendono la legalità, dovrebbero avere meno libertà di un qualsiasi cittadino”. Quando il riconoscimento facciale è dato per scontato , continua Selinger, “il settore privato ha accesso a tutte le informazioni che può condividere con le forze dell’ordine”.
Il settore privato è potente e vorrà avere voce in capitolo nella regolamentazione. Jeff Bezos, CEO di Amazon, ha recentemente dichiarato che l’azienda sta creando le proprie linee guida per una proposta di riconoscimento facciale da presentare ai legislatori.
All’inizio di quest’anno, Microsoft ha sostenuto la legislazione sulla privacy nello stato di Washington che intendeva introdurre alcune restrizioni sull’identificazione del viso. Ma il disegno di legge afferma anche che va bene usare il riconoscimento facciale per la profilazione purché qualcuno abbia verificato la correttezza dei risultati. La proposta è naufragata dopo che sei gruppi in difesa della privacy hanno dichiarato che era insufficiente.
Questo è parte del motivo per cui attivisti come Greer insistono sul fatto che sarà necessaria una strategia articolata su più approcci legislativi ed economici. “Abbiamo bisogno di tutti i contributi possibili”, egli afferma. “I legislatori dovrebbero assolutamente occuparsi del rapporto tra interessi pubblici e privati. Se c’è una cosa che sappiamo, è che non possiamo lasciare le aziende libere di autoregolarsi in un settore così delicato come quello della sicurezza”.
(rp)
