In una lettera aperta un gruppo di ricercatori di intelligenza artificiale chiama in causa la casa editrice Springer Nature per un documento che dovrebbe pubblicare nel suo prossimo libro.
di Karen Hao
Secondo il comunicato stampa ufficiale, l’articolo, intitolato A Deep Neural Network Model to Predict Criminality Using Image Processing (Un modello di rete neurale profonda per prevedere la criminalità usando l’elaborazione delle immagini), presenta un sistema di riconoscimento facciale presumibilmente in grado di prevedere se qualcuno è un criminale. È stato elaborato da ricercatori dell’Università di Harrisburg e doveva essere presentato in una prossima conferenza.
Citando il lavoro dei principali studiosi afroamericani di IA, la lettera smentisce le basi scientifiche del documento e afferma che le tecnologie di previsione del crimine sono razziste. Nella missiva si avanzano tre richieste: 1) L’annullamento da parte di Springer Nature dell’offerta di pubblicazione dello studio; 2) Il rilascio di una dichiarazione che condanna l’uso di tecniche statistiche come l’apprendimento automatico per prevedere la criminalità e ne riconosce il ruolo nell’incentivare tale ricerca; 3) Un impegno da parte dell’ editoria scientifica a non pubblicare articoli simili in futuro.
La lettera, inviata lunedì a Springer Nature, è stata originariamente scritta da cinque ricercatori del MIT, del Rensselaer Polytechnic Institute, della McGill University e dell’AI Now Institute. Nel giro di pochi giorni, ha ottenuto oltre 600 firme e adesioni in tutte le comunità etiche e accademiche di intelligenza artificiale, anche da figure di spicco come Meredith Whittaker.
Anche se la lettera si sofferma su un articolo specifico, l’obiettivo degli autori è dimostrare la presenza di un problema di fondo nel modo in cui l’editoria scientifica incentiva i ricercatori a perpetuare norme non etiche. “Questo è il motivo per cui continuiamo a vedere emergere posizioni che propugnano l’idea di razza”, ha affermato Chelsea Barabas, che frequenta un dottorato al MIT ed è una delle coautrici della lettera.
“La ragione per cui scrivono questi articoli è che vengono pubblicati. Il caso di Springer non è isolato”, ha fatto eco Theodora Dryer, ricercatrice post dottorato presso AI Now e altra coautrice. “È emblematico di un problema e di polemiche che vanno avanti da lungo tempo”.
In risposta alla lettera, Springer ha detto che non avrebbe pubblicato l’articolo. “Il documento a cui si fa riferimento sarà presentato a una prossima conferenza per la quale la casa editrice ha pianificato di pubblicare gli atti. Dopo un accurato processo di revisione tra pari, il documento è stato rifiutato”, ha chiarito l’editore. La Harrisburg University ha pubblicato un suo comunicato stampa, in cui si sostiene che “la facoltà sta aggiornando il documento per rispondere alle preoccupazioni sollevate”.
L’Università di Harrisburg e un coautore del documento hanno negato una richiesta di commento e una richiesta di una copia del documento originale. I firmatari della lettera hanno dichiarato che continueranno a fare pressioni per vedere accolte tutte le loro richieste.
Da quando la morte di George Floyd ha scatenato un movimento internazionale per la giustizia razziale, il campo dell’intelligenza artificiale e l’industria tecnologica in generale hanno dovuto fare i conti con il ruolo da loro svolto nel rafforzare il razzismo. Due settimane fa, per esempio, IBM, Microsoft e Amazon hanno annunciato la fine o la parziale sospensione dei loro prodotti per il riconoscimento facciale.
La mossa è stata il culmine di due anni di continue dichiarazioni da parte di ricercatori e attivisti per dimostrare un legame tra queste tecnologie e la sovraesposizione ai controlli della polizia delle comunità minoritarie. La lettera aperta è l’ultimo sviluppo di questo movimento verso una maggiore responsabilità etica nell’intelligenza artificiale.
“Volevamo davvero contribuire a questo movimento in crescita”, ha dichiarato Sonja Solomun, direttore della ricerca del Center for Media, Technology and Democracy della McGill University. “Soprattutto se guardiamo a cosa sta succedendo proprio ora negli Stati Uniti e nel mondo, si capisce immediatamente che la posta in gioco è altissima”.
Immagine: pixinoo / Getty
(rp)
