I computer classificano l’aspetto delle persone, a volte secondo dati falsati dai pregiudizi, e i risultati influenzano quello che facciamo, i post che vediamo e in parte condizionano il modo in cui pensiamo.
di Tate Ryan Mosley
Mi sono imbattuto per la prima volta in Qoves Studio attraverso il suo popolare canale YouTube, che offre video particolari come “L’acconciatura rende bello il volto?” o “Perché Timothée Chalamet ha fascino?” o ancora “In che modo l’aspetto fisico influenza la percezione sociale”, a milioni di utenti.
Qoves ha iniziato come studio che creava immagini ad aerografo per agenzie di modelle e ora offre “consulenze per l’estetica del viso” che promette risposte alla secolare domanda su cosa renda attraente un volto. Il suo sito web, che presenta disegni di donne sullo stile parigino con rossetto e cappelli colorati, presenta una gamma di servizi legati alla sua attività di consulenza in chirurgia plastica: consigli sui prodotti di bellezza e suggerimenti su come migliorare le immagini al computer.
Ma la sua caratteristica principale è lo “strumento di valutazione facciale”: un sistema basato sull’intelligenza artificiale che analizza le immagini del viso per dire se una persona è bella e suggerire cosa si può fare per migliorare il proprio aspetto.
La scorsa settimana ho deciso di provarlo. Seguendo le istruzioni del sito, ho lavato via il poco trucco che indossavo e ho trovato uno sfondo neutro illuminato da una piccola finestra. Ho chiesto al mio ragazzo di scattare alcune foto ravvicinate del mio viso all’altezza degli occhi. Ho cercato di non sorridere. Tutt’altro che entusiasmante.
Ho caricato la foto più accettabile e in pochi millisecondi Qoves ha restituito una pagella dei 10 “difetti più probabili” del mio viso. In cima alla lista c’era una probabilità di 0,7 di pieghe naso-labiali, seguita da una probabilità di 0,69 di depressione del contorno occhi e una probabilità di 0,66 di scolorimento perioculare. In altre parole, il sistema sospettava (correttamente) che avessi borse scure sotto gli occhi e rughe del sorriso, entrambe registrate come problematiche dall’AI.
Il rapporto ha fornito utili consigli che avrei potuto seguire per intervenire sui miei difetti. Innanzitutto, un articolo suggerito sulle linee del sorriso mi ha informato che “potrebbe essere necessario un intervento chirurgico o iniettare delle sostanze”. Se lo desiderassi, potrei passare a un rapporto più completo di raccomandazioni chirurgiche, scritto da medici, dietro pagamenti che oscillavano dai 75 ai 250 dollari.
Mi ha anche suggerito cinque prodotti per la cura della pelle ognuno dei quali conteneva un ingrediente diverso: retinolo, neuropeptidi, acido ialuronico, EGF e TNS. Avevo solo sentito parlare del retinolo. Quella sera prima di andare a letto ho esaminato gli ingredienti della mia crema idratante per vedere cosa conteneva. Sono rimasta colpita dal fatto che il software aveva suddiviso il mio aspetto in un elenco di problemi di dimensioni minime.
Qoves, tuttavia, è solo una piccola startup con 20 dipendenti in un oceano di aziende e servizi di analisi facciale. Esiste un settore in crescita di strumenti di analisi facciale guidati dall’intelligenza artificiale, ognuno dei quali afferma di analizzare un’immagine per caratteristiche di diverso tipo sia fisiche che emotive. Le aziende che lavorano su tali tecnologie sono le predilette del capitale di rischio e tali algoritmi vengono utilizzati in tutto, dalle vendite di cosmetici online alle app di appuntamenti.
Questi strumenti di valutazione della bellezza, prontamente disponibili per l’acquisto online, utilizzano l’analisi del viso e la visione artificiale per valutare aspetti come la simmetria, le dimensioni degli occhi e la forma del naso per ordinare e classificare milioni di contenuti visivi e far emergere cosa caratterizza le persone più attraenti.
I loro algoritmi esercitano una sorta di sguardo meccanico su fotografie e video, emettendo valori numerici simili alle valutazioni del credito, dove i punteggi più alti possono sbloccare le migliori opportunità online per “Mi piace”, visualizzazioni e corrispondenze.
Come se questa prospettiva non non fosse già abbastanza preoccupante, la tecnologia esacerba anche altri problemi, affermano gli esperti. La maggior parte degli algoritmi che danno punteggi alla bellezza è disseminata di imprecisioni e forme di razzismo. Inoltre, la natura proprietaria di molti di questi sistemi significa che è impossibile ottenere informazioni su come funzionano davvero, quanto vengono utilizzati o come influenzano gli utenti.
Specchio, specchio delle mie brame…
Test come quelli disponibili da Qoves sono ovunque su Internet. Uno è gestito dalla più grande piattaforma aperta di riconoscimento facciale a livello mondiale, Face++. Il suo sistema di attribuzioni di punteggi alla bellezza è stato sviluppato dall’azienda di imaging cinese Megvii e, come Qoves, utilizza l’intelligenza artificiale per esaminare il viso, ma invece di dettagliare ciò che vede nel linguaggio clinico, riduce i suoi risultati in un grado percentuale di probabile attrattiva.
In effetti, restituisce due risultati: un punteggio che prevede come gli uomini potrebbero rispondere a un’immagine e l’altro che rappresenta una prospettiva femminile. Utilizzando la demo gratuita del servizio e la mia foto, ho ottenuto rapidamente i miei risultati. “I maschi generalmente pensano che la mia persona sia più bella del 69,62 per cento delle persone e le femmine arrivano al 73,877 per cento”.
Non era il massimo, ma meglio di quanto mi aspettassi. A un anno dall’inizio della pandemia, posso vedere l’impatto dello stress, del peso e dei saloni di parrucchiere chiusi sul mio aspetto. Ho ritestato lo strumento con altre due foto di me come ero prima. I miei punteggi sono migliorati, portandomi vicino al primo quartile.
La bellezza è spesso soggettiva e personale: i nostri cari ci appaiono attraenti quando sono sani e felici, e anche quando sono tristi. Altre volte interviene un giudizio collettivo: sistemi di classificazione come concorsi di bellezza o elenchi di riviste delle persone più belle misurano il fascino. Questa valutazione può anche essere sgradevole: quando ero adolescente, i ragazzi del mio liceo urlavano voti da uno a 10 alle ragazze che passavano nel corridoio. Ma c’è qualcosa di ancora più inquietante in una macchina che valuta la bellezza del viso di qualcuno: offensiva quanto le urla a scuola, ma terribilmente asettica.
Come funziona il sistema
Sebbene l’idea di classificare la bellezza delle persone non sia nuova, il modo in cui funzionano questi particolari sistemi è uno sviluppo recente: Face ++ ha rilasciato la sua funzione di valutazione della bellezza nel 2017. Alla domanda sui dettagli sul funzionamento dell’algoritmo, un portavoce di Megvii ha detto solo che è stato “sviluppato circa tre anni fa in risposta all’interesse del mercato locale per le app legate all’intrattenimento”.
Il sito web dell’azienda indica che per addestrare il sistema sono state utilizzati volti cinesi e del sud-est asiatico e che ha coinvolto 300.000 sviluppatori subito dopo il lancio, ma ci sono poche altre informazioni. Un portavoce di Megvii afferma che Face ++ è una piattaforma open source e non può controllare i modi in cui gli sviluppatori potrebbero usarla. In ogni caso, il sito web parla di “vendite di cosmetici” e “matchmaking” come due potenziali applicazioni.
I clienti dell’azienda includono il sistema di sorveglianza del governo cinese, che ricopre il paese con telecamere a circuito chiuso, oltre ad Alibaba e Lenovo. Megvii ha recentemente presentato istanza di IPO ed è attualmente valutata 4 miliardi di dollari. Secondo quanto riportato dal “New York Times”, è una delle tre aziende di riconoscimento facciale che hanno aiutato il governo cinese a identificare i cittadini che potrebbero appartenere alla minoranza etnica uigura.
Qoves, nel frattempo, è stata più disponibile nello spiegare come funziona la sua analisi del volto. L’azienda, che ha sede in Australia, ha esordito nel fotoritocco nel 2019, ma è passata a una combinazione di analisi basata su intelligenza artificiale e chirurgia plastica nel 2020. Il suo sistema utilizza una tecnica di apprendimento profondo comune nota come rete neurale convoluzionale, o CNN.
Le CNN utilizzate per valutare la bellezza in genere si allenano su un set di dati di centinaia di migliaia di immagini che sono già state valutate manualmente. Analizzando le immagini e le valutazioni esistenti, il sistema deduce quali fattori le persone considerano attraenti in modo da poter fare previsioni quando vengono mostrate nuove immagini.
Altre grandi aziende hanno investito in AI che si occupano di bellezza negli ultimi anni. Tra queste, il rivenditore di cosmetici americano Ulta Beauty, valutato 18 miliardi di dollari, che ha sviluppato uno strumento di analisi della pelle. Nel 2016, Nvidia e Microsoft hanno organizzato un concorso di bellezza con una giuria di tre robot, che ha sfidato i partecipanti a sviluppare la migliore intelligenza artificiale per determinare cosa fosse la bellezza.
Secondo Evan Nisselson, un partner di LDV Capital, la tecnologia di visione è ancora nelle sue fasi iniziali, il che crea “significative opportunità di investimento e rialzo”. LDV stima che ci saranno 45 miliardi di telecamere nel mondo entro il prossimo anno, escluse quelle utilizzate per la produzione o la logistica e afferma che i dati visivi saranno l’input di dati chiave per i sistemi di intelligenza artificiale nel prossimo futuro. Nisselson afferma che l’analisi facciale è “un mercato enorme” che, nel corso del tempo, comporterà “la reinvenzione dello stack tecnologico per arrivare alle stesse prestazioni dell’occhio umano, se non migliorarle”.
Shafee Hassan, il fondatore di Qoves, afferma che un sistema di valutazione della bellezza potrebbe avere un grande spazio di diffusione. A suo parere, le app e le piattaforme dei social media utilizzano spesso sistemi che scansionano i volti delle persone, ne valutano il fascino e prestano maggiore attenzione a coloro che si posizionano più in alto. “Quello che stiamo facendo è simile a quanto stanno portando avanti Snapchat, Instagram e TikTok”, egli afferma. “ma siamo più trasparenti perché loro non ti dicono che stanno usando la rete neurale per identificare le caratteristiche che rendono bello un determinato viso, penalizzando le persone meno attraenti”.
Ho contattato diverse aziende, inclusi siti di appuntamenti e piattaforme di social media, e ho chiesto se la valutazione della bellezza fa parte dei loro algoritmi di raccomandazione. Instagram e Facebook hanno negato di utilizzare tali algoritmi. TikTok e Snapchat hanno rifiutato di rilasciare un commento.
“Grandi scatole nere”
I recenti progressi nell’apprendimento profondo hanno cambiato radicalmente l’accuratezza delle AI che valutano la bellezza. Prima del deep learning, l’analisi del volto si basava sull’ingegneria delle funzionalità, in cui la comprensione scientifica delle caratteristiche del viso guidava l’AI. La formula per un viso attraente, per esempio, potrebbe essere impostata per premiare gli occhi grandi e una mascella pronunciata.
“E’ come guardare un volto umano e vedere una rappresentazione in stile Leonardo da Vinci delle diverse proporzioni e distanze”, afferma Serge Belongie, professore di computer vision alla Cornell University. Con l’avvento del deep learning, “si è iniziato a parlare di big data e grandi scatole nere di calcolo della rete neurale che lavorano su enormi quantità di dati etichettati”, egli afferma. “E funziona meglio di tutte le altre cose su cui abbiamo lavorato duramente per decenni”.
Ma c’è un problema. “Non siamo ancora del tutto sicuri di come funzioni”, afferma Belongie. “L’industria è felice, ma il mondo accademico è abbastanza perplesso.” Poiché la bellezza è altamente soggettiva, il meglio che un’intelligenza artificiale di apprendimento profondo può fare è riproporre accuratamente le preferenze dei dati utilizzati per allenarla. Anche se alcuni sistemi di intelligenza artificiale ora valutano la bellezza con la stessa precisione degli umani in un set di addestramento, i sistemi mostrano anche la stessa quantità di bias e cambiare gli algoritmi per ridurre al minimo i pregiudizi è un compito difficile e costoso dal punto di vista computazionale.
Belongie dice che ci sono applicazioni di questo tipo di tecnologia che sono meno problematiche del riconoscere la bellezza di un volto, come nel caso di strumenti che consigliano la più bella fotografia di un tramonto da mettere sul telefono, per esempio. Ma il meccanismo di valutazione della bellezza è del tutto diverso.
Anche se i dati di addestramento e gli usi commerciali sono il più imparziali e sicuri possibile, la visione artificiale presenta limitazioni tecniche quando si tratta di tonalità della pelle umana. I chip di imaging presenti nelle fotocamere sono preimpostati per elaborarne una particolare gamma. Storicamente “alcune tonalità della pelle non sono state prese in considerazione”, secondo Belongie, “il che significa che le foto stesse potrebbero non avere tenuto conto di queste tonalità. Anche la più nobile delle ambizioni per catturare tutte le forme di bellezza umana potrebbe non avere alcuna possibilità perché i valori di luminosità non sono nemmeno rappresentati accuratamente”.
Queste carenze tecnologiche si manifestano come razzismo nelle applicazioni commerciali. Nel 2018, Lauren Rhue, un’economista che è professore associato di sistemi informativi presso l’Università del Maryland, a College Park, stava acquistando strumenti di riconoscimento facciale che potessero aiutare il suo lavoro nello studio delle piattaforme digitali quando si è imbattuta in questa serie di prodotti insoliti.
“Mi sono reso conto che c’erano algoritmi di punteggio per la bellezza”, ella spiega, “e mi è sembrata un’assurdità. Voglio dire, la bellezza è completamente negli occhi di chi guarda. Come puoi addestrare un algoritmo per determinare se qualcuno è bello o no?”. Lo studio di questi algoritmi è diventato presto un nuovo obiettivo della sua ricerca.
Guardando come Face ++ ha valutato la bellezza, ha scoperto che il sistema classificava costantemente le donne dalla pelle più scura come meno attraenti delle donne bianche e che i volti con caratteristiche di tipo europeo come capelli più chiari e nasi più piccoli ottenevano punteggi più alti di quelli con altre caratteristiche, indipendentemente quanto era scura la loro pelle. Il bias eurocentrico nell’AI riflette il pregiudizio degli umani che hanno catalogato le foto utilizzate per addestrare il sistema. Gli standard di bellezza cinesi, per esempio, danno la priorità alla pelle più chiara, agli occhi grandi e al naso piccolo.
Le valutazioni della bellezza, continua Rhue, fanno parte di una dinamica inquietante tra una cultura della bellezza morbosa e gli algoritmi di raccomandazione che incontriamo ogni giorno online. Quando i punteggi vengono utilizzati per decidere quali post vengono visualizzati sulle piattaforme di social media, per esempio, si rafforza la definizione di ciò che è ritenuto attraente e si distoglie l’attenzione da quanto non si adatta all’ideale rigoroso della macchina. “Stiamo restringendo il campo di ricerca”, afferma Rhue.
È un circolo vizioso: con una maggiore attenzione sui contenuti che presentano persone attraenti, quelle immagini raccolgono più consenso, quindi vengono mostrate ancora a più persone. Alla fine, anche quando un punteggio di bellezza elevato non è la ragione diretta per cui viene mostrato un post, rimane ugualmente un fattore indiretto.
In uno studio pubblicato nel 2019, ha esaminato come due algoritmi, uno per valutare la bellezza e uno per prevedere l’età, hanno influenzato le opinioni delle persone. Ai partecipanti sono state mostrate immagini di persone e chiesto di valutare la bellezza e l’età dei soggetti. Solo ad alcuni partecipanti è stato mostrato il punteggio generato da un’intelligenza artificiale prima di dare la loro risposta.
Si è scoperto che i partecipanti ignari del punteggio dell’AI non mostravano particolari pregiudizi mentre sapere come l’intelligenza artificiale ha classificato la bellezza ha fatto sì che le persone assegnassero punteggi più vicini al risultato generato algoritmicamente. Rhue lo chiama “effetto ancoraggio”. “Gli algoritmi di raccomandazione stanno effettivamente cambiando le nostre preferenze”, afferma. “E la sfida dal punto di vista tecnologico, ovviamente, è di non renderli troppo limitati”.
A Qoves, quando conduce un’analisi del volto, Hassan utilizza i dati in base all’etnia in modo che non siano esposti ai condizionamenti dell’ideale europeo. “Si sfugge al pregiudizio eurocentrico semplicemente diventando la versione più bella di te stesso, la versione più bella della tua etnia”, egli sostiene.
Ma Rhue dice di essere preoccupata che questo tipo di categorizzazione etnica sia incorporata nella nostra infrastruttura tecnologica. “Il problema è che le persone lo fanno in quanto non esiste alcun tipo di regolamentazione o supervisione”, spiega. “Posso dire di non aver ancora visto un’AI che valuta la bellezza dando il giusto peso alle componenti culturali”, commenta Rhue.
La scorsa settimana, l’emittente tedesca BR ha riferito che un’intelligenza artificiale utilizzata per valutare i potenziali dipendenti mostrava pregiudizi in base all’aspetto. E nel marzo 2020, l’azienda madre di TikTok, ByteDance, è stata criticata per un promemoria che chiedeva ai moderatori di contenuti di sopprimere i video che mostravano “sguardi sgradevoli”, persone “paffute”, quelle con “una faccia deformata” o “senza i denti anteriori “,”anziani con troppe rughe “e altro ancora.
Twitter ha recentemente rilasciato uno strumento di ritaglio automatico per le fotografie che sembravano tarati sulle persone di pelle bianca. Quando è stato testato su immagini di Barack Obama e Mitch McConnell, l’intelligenza artificiale ha ritagliato costantemente l’ex presidente.
“Chi è il più bello di tutti loro?”
Quando ho parlato per la prima volta con Hassan tramite videochiamata a gennaio, mi ha detto: “Ho sempre creduto che le persone belle fossero una categoria a sé stante”. Quando ha iniziato nel 2019, racconta, i suoi amici e la sua famiglia erano molto critici nei confronti della sua impresa commerciale. Ma Hassan crede di aiutare le persone a diventare la migliore versione possibile di se stesse.
Si ispira al film Gattaca del 1997, ambientato in un “futuro non troppo lontano” in cui l’ingegneria genetica è il mezzo di concezione predefinito. La discriminazione genetica segmenta la società e il personaggio di Ethan Hawke, che è stato concepito in modo naturale, deve rubare l’identità di una persona geneticamente perfezionata per aggirare il sistema.
Di solito è considerato un film profondamente distopico, ma Hassan dice che ha lasciato su di lui un segno inaspettato.“È stato molto interessante per me, perché l’idea era che una persona potesse determinare il proprio destino. Con i progressi della medicina moderna, non vedo alcun motivo per non valutare i propri difetti e intervenire”.
I suoi clienti sembrano essere d’accordo. Sostiene che molti di loro sono attori e attrici e che l’azienda riceve ogni giorno da 50 a 100 ordini per referti medici dettagliati, così tanti che ha difficoltà a tenere il passo con la domanda. Per Hassan, combattere l’imminente “classismo” tra coloro che sono considerati belli e quelli che la società pensa siano brutti è il fulcro della sua missione. “Quello che stiamo cercando di fare è aiutare la persona media”, mi ha detto.
Tuttavia, ci sono altri modi per “aiutare la persona media”. Ogni esperto con cui ho parlato ha affermato che la trasparenza da parte delle aziende che utilizzano punteggi per valutare la bellezza è fondamentale. Belongie ritiene che fare pressione sulle aziende affinché rivelino il funzionamento dei loro algoritmi di raccomandazione aiuterà a mantenere gli utenti al sicuro.
Funzionalità come lo strumento di trasparenza degli annunci di Facebook sono un buon inizio, ma “se le aziende non seguono questa via e privilegiano Face ++ dando per scontato che siamo tutti d’accordo sul concetto di bellezza … potrebbero esserci gruppi di pressione che sponsorizzano questa decisione.
Naturalmente, l’industria dovrebbe in primo luogo confessare di utilizzare questi modelli di valutazione e le persone dovrebbero essere consapevoli del problema. Anche se lo scorso anno ha visto l’esplosione delle critiche alla tecnologia del riconoscimento facciale, diversi ricercatori con cui ho parlato hanno affermato di essere rimasti sorpresi dalla scarsa consapevolezza su questo tipo di utilizzo. Rhue dice che la cosa più sorprendente delle app per la valutazione della bellezza è il numero di persone che le prendono in considerazione. Lei, dal canto suo, non è affatto convinta che la tecnologia debba essere sviluppata.
Hassan ha esaminato i miei difetti con me e mi ha assicurato che una buona crema idratante e una dieta dovrebbero fare la differenza. E sebbene l’estetica del mio viso non determini la traiettoria della mia carriera, mi ha incoraggiato a prendere sul serio i miei risultati. “La bellezza”, mi ha ricordato, “è un valore”.
(rp)
