L’algoritmo che determina il limite di credito per gli utenti della nuova carta di credito di Apple, che è stata lanciata negli Stati Uniti ad agosto, è sotto indagine perchè sembra offrire agli uomini limiti di credito più alti rispetto alle donne.
di Niall Firth
Il 7 novembre, l’imprenditore web David Heinemeier Hansson ha pubblicato un tweet ora virale in cui sosteneva che la Apple Card gli aveva concesso un limite di credito 20 superiore a quello della moglie. Ciò nonostante il fatto che presentassero dichiarazioni fiscali comuni e sua moglie avesse requisiti migliore dei suoi. Il co-fondatore di Apple Steve Wozniak ha risposto al tweet e ha affermato che anche a lui è stato concesso un limite di credito 10 volte superiore a quello di sua moglie, anche se non hanno attività o conti bancari separati.
Ora il Financial Services, il dipartimento di New York, sta avviando un’indagine su Goldman Sachs, che gestisce la carta. Il direttore amminiostrativo, Linda Lacewell, ha dichiarato in un post sul blog che l’ente regolatore “sta esaminando se l’algoritmo utilizzato per prendere queste decisioni sul limite di credito viola le leggi statali che vietano la discriminazione sulla base del sesso”.
L’autorità di regolamentazione ha già avviato, di recente, un’indagine su un algoritmo che ha portato i pazienti neri a ricevere cure più superficiali rispetto ai pazienti bianchi.
Nel fine settimana, Goldman Sachs ha pubblicato una dichiarazione su Twitter in cui affermava che il genere non è preso in considerazione nel determinare la solvibilità. Ma la disparità inspiegabile nei limiti di credito della carta è un altro esempio di come la distorsione algoritmica possa essere involontaria. Gli algoritmi del tipo utilizzato per valutare l’affidabilità creditizia sono formati su anni di dati storici e la distorsione si può introdurre nel processo di calcolo in diversi modi.
(rp)
