La richiesta è stata ufficializzata dagli stessi ricercatori che operano nel campo dell’intelligenza artificiale.
di Will Knight
In seguito alla scoperta di evidenti segni di pregiudizio, ricercatori che, dalle aziende o dalle università, operano nel campo dell’AI hanno firmato una lettera aperta indirizzata ad Amazon per invitare il colosso a cessare la vendita della sua tecnologia di riconoscimento facciale alle forze dell’ordine.
Face palm: Nel mese di gennaio, Deborah Raji e Joy Buolamwini del MIT hanno pubblicato una ricerca che imputava al prodotto Rekognition di Amazon il difetto di fraintendere l’identità di donne e uomini di carnagione scura con una maggiore frequenza rispetto ad altri soggetti. Buolamwini aveva già sottolineato un problema di pregiudizio raziale nei sistemi di riconoscimento facciale (e Microsoft era intervenuta per risolvere questi problemi con la sua tecnologia).
Cambiamenti in corso: Il riconoscimento facciale è uno dei temi più problematici per quanto concerne gli impieghi irresponsabili delle AI. Oltretutto, le probabilità che vengano introdotte alcune forme di regolamentazione sono sempre più elevate. La tecnologia, però si sta diffondendo rapidamente, e le società stanno faticando a mantenere il passo e correggere la propria posizione. Microsoft ha dichiarato che continuerà a collaborare con le forze dell’ordine, seppur supportando l’introduzione di norme che prevedano la segnalazione dell’utilizzo di sistemi di riconoscimento facciale. Google ha invece deciso di attendere fino alla presentazione di adeguate leggi prima di cominciare a fornire la sua tecnologia.
Un confronto verbale: La lettera firmata dai ricercatori contesta le critiche di uno studio pubblicato lo scorso gennaio da due dirigenti Amazon, Matthew Wood e Michael Punke. La tesi di questo studio era che la ricerca originale avesse male interpretato le capacità (e i limiti) del sistema Rekognition, precisando che la società richiede sempre che le sue tecnologie vengano utilizzate nel rispetto della legge e supportando una maggiore trasparenza da parte delle forze dell’ordine sull’utilizzo di questa tecnologia.
Una visione pionieristica: Fra i firmatari della lettera indirizzata ad Amazon figurano voci autorevoli nel campo dell’AI e dell’etica come Yoshua Bengio, uno scienziato informatico che, assieme a due colleghi, ha recentemente ricevuto il Premio Turing da $1 milione per il suo ruolo nello sviluppo della tecnologia di apprendimento automatico su cui si fondano le moderne AI – tecnologia fondamentale per il riconoscimento facciale. Bangio è recentemente emerso come una delle figure più importanti nel dibattito sui rischi delle AI.
(MO)
