L’AI potrebbe determinare una serie di meccanismi a catena nel tentativo di massimizzare i profitti che permettono di aggirare la concorrenza, senza l’intervento di alcun ente regolatore.
di Jennifer Strong, Anthony Green ed Emma Cillekens
Gli algoritmi ora determinano quanto costano le cose. Si chiama pricing dinamico e si adegua alle attuali condizioni di mercato per aumentare i profitti. L’ascesa dell’e-commerce ha portato gli algoritmi di determinazione dei prezzi a diventare un evento quotidiano, che si stiano facendo acquisti su Amazon o prenotando un volo, un hotel o un passaggio con Uber. In questo podcast si parla delle possibili conseguenze di un sistema in cui una macchina determina il prezzo da pagare.
Partecipanti:
Lisa Wilkins, UX designer
Gabe Smith, capo evangelista, PriceFX
Aylin Caliskan, ricercatrice, Università di Washington
Joseph Harrington, professore di business, economics and public policy, Università della Pennsylvania
Maxime Cohen, professore di Scale AI Chair, McGill University
Jennifer Strong: Sono in un aeroporto appena fuori New York City e guardo il tabellone delle partenze e vedo tanti voli che vanno in posti diversi con differenti prezzi dei biglietti. Come viene deciso il costo? La destinazione è solo una parte del puzzle. Il prezzo del biglietto aereo include enormi quantità di dati sui consumatori e cambia anche in tempo reale in base a fattori come i nostri modelli di prenotazione, i prezzi della concorrenza, persino il tempo. Ma non è sempre stato così.
Ora, i prezzi sono decisi da algoritmi. Si chiama pricing dinamico, che valuta le cose in base alle condizioni di mercato correnti al fine di aumentare i profitti. E non sono solo le compagnie aeree a utilizzare questa tecnica. Accade a Disney World, con le camere d’albergo, con i posti per la Major League Baseball e ora anche Amazon. Cosa implica il fatto che una macchina determini il prezzo da pagare?
Lisa Wilkins: L’altra sera c’è stata una sparatoria in una strada in cui l’autobus che prendo normalmente si trova a passare. Quindi mi sono messa alla ricerca di una corsa di Uber o Lyft. Quando ho aperto l’app, ho visto che il costo del tragitto, che in genere si attesta sui 30 dollari, era salito a 100.
Jennifer: Quando la domanda è alta, il prezzo di una corsa con Lyft o Uber diventa automaticamente più oneroso. In caso di emergenza, le aziende limitano tali prezzi una volta che è chiaro cosa sta succedendo e si offrono di rimborsare i passeggeri che hanno pagato tariffe più elevate. In questo caso era evidente che la situazione si stava verificando a causa di un algoritmo di determinazione dei prezzi.
Lisa: All’inizio ero davvero arrabbiata perché sembra un qualcosa fatto intenzionalmente, nel senso che c’è una sparatoria e se ne stanno approfittando per alzare i prezzi. Parlando con un collega, mi sono resa conto che si trattava di un bot che sostanzialmente determina i prezzi. Ed essendo un UX designer, capisco che ci siano molti casi limite in cui non si riesce a pianificare ciò che accada nel tuo prodotto.
Jennifer: E questo può provocare delle conseguenze non volute.
Gabe Smith: Sono chief evangelist di PriceFX e ho circa 14 anni di esperienza nell’ottimizzazione e gestione dei prezzi. Mi ricordo che c’era un libro sulla genetica delle mosche su Amazon. Due algoritmi in competizione continuavano a sfidarsi tra loro e aumentavano di volta in volta il prezzo. Un tira e molla durato molti giorni. Alla fine il costo del libro è arrivato a circa 1,2 milioni di dollari.
Jennifer: L’intelligenza artificiale e altri strumenti aiutano le aziende a decidere quanto il prezzo un prodotto, ma dovrebbero esserci sistemi per evitare valori anomali.
Gabe: Negli anni 1980, la potenza di calcolo e la disponibilità dei dati hanno permesso a queste tecniche di iniziare a essere sfruttate. In realtà, il fenomeno è comparso prima nel settore delle compagnie aeree e poi negli altri settori dei viaggi e del tempo libero come le auto a noleggio e gli hotel.
Jennifer: I prezzi dinamici possono aiutare le aziende a sapere cosa chiedere per i prodotti con disponibilità limitata. Per ottimizzare le entrate, le compagnie aeree devono vendere il maggior numero di posti al prezzo più alto possibile. E per sapere qual è quel prezzo? Devono comprendere cosa vogliono i passeggeri e la domanda del mercato.
Gabe: Questo è stato davvero il primo utilizzo di sistemi di ottimizzazione dei prezzi e dell’intelligenza artificiale per guidare i prezzi in un mercato. Da allora, l’uso si è ampliato in molti settori diversi. C’è un’azienda, per esempio, che fa prezzi dinamici per i suoi skipass in base alle condizioni meteorologiche e della neve. Il fenomeno è comunque diffuso nell’industria elettronica e dei prodotti chimici e nella distribuzione.
Jennifer: La chiave per far funzionare tutto questo è un ricco set di dati sui clienti e ciò che guida la loro disponibilità a pagare. Più dati, più prezzi mirati.
Gabe: Tanti dati, tra cui il comportamento degli acquirenti e il tipo di prodotto offerto, possono essere presi in considerazione dagli algoritmi di ottimizzazione dei prezzi e influenzare ciò che si ha intenzione di offrire. Se si dispone di dati del genere, può essere in realtà abbastanza semplice implementare i sistemi di ottimizzazione dei prezzi. Noi abbiamo clienti a cui abbiamo messo a punto il sistema in appena un paio di mesi.
Jennifer: Si riesce a gestire la concorrenza?
Gabe: Voglio essere sicuro di essere sempre posizionato in un certo modo rispetto alla mia concorrenza? O non voglio mai aumentare i prezzi di oltre il 5 per cento rispetto agli altri? Sto cercando di massimizzare le entrate, sto cercando di massimizzare il profitto? Sto cercando di massimizzare la produttività? Potrei cercare di trovare un bilanciamento tra queste esigenze.
Jennifer: Questi vincoli sono importanti perché lasciare liberi gli algoritmi di determinazione del prezzo potrebbe aprire la strada solo al rialzo dei prezzi. Un altro problema di non facile soluzione che mi viene in mente è: come assicurarsi che i prezzi non rafforzino i pregiudizi sistemici.
Gabe: Se si usa un codice postale o i dati demografici per definire i livelli di reddito, potrebbero esserci distorsioni sistemiche nei dati. Quindi si deve riflettere bene su questi strumenti e assicurarsi di fare la cosa giusta da una prospettiva etica. Ritengo che un buon metodo sia quello di mettersi dalla parte del consumatore e pensare se gli si sta proponendo un buon affare o si stanno solo valutando i vantaggi del fornitore.
Aylin Caliskan: Sono una ricercatrice dell’Università di Washington e mi interesso di apprendimento automatico e pregiudizi dell’intelligenza artificiale. Voglio evidenziare che le grandi aziende tecnologiche utilizzano ampiamente questi algoritmi di determinazione del prezzo individualizzati e non si capisce necessariamente cosa sta succedendo dietro questi sistemi o algoritmi perché sono scatole nere. Si vedono solo i risultati su base individuale, fondamentalmente il prezzo proposto all’acquirente. In realtà non ci sono metodi o set di dati per studiare sistematicamente gli algoritmi di discriminazione dei prezzi.
Jennifer: Un paio di anni fa, la città di Chicago ha imposto ad aziende come Uber e Lyft di pubblicare i dati sulle tariffe al pubblico. Ciò ha dato ai ricercatori l’accesso a milioni di spostamenti anonimi in tutta la città. Lei ha confrontato i prezzi con i dati demografici del quartiere e cosa ha trovato?
Aylin: I nostri risultati mostrano che i quartieri con residenti più giovani o altamente istruiti pagavano tariffe significativamente più alte. Anche i quartieri che hanno residenti benestanti non bianchi, così come i quartieri poveri, stanno a loro volta pagando tariffe più alte determinate da questi algoritmi di discriminazione dei prezzi.
Jennifer: Il suo team cerca di capire perché questo accade, ma è difficile senza dettagli su domanda e offerta, che non vengono resi pubblici. I ricercatori sono in grado di ottenere solo un sottoinsieme di questi dati.
Aylin: I residenti in quartieri svantaggiati pagano prezzi più elevati a causa delle caratteristiche dei loro quartieri. E’ anche possibile che l’offerta limitata di autisti abbia un impatto sui prezzi in questi quartieri dove la domanda sembra relativamente bassa. Ma se l’offerta è ancora più bassa, di conseguenza, la domanda relativa appare più alta, il che potrebbe aumentare il prezzo delle tariffe.
Jennifer: Non ci sono davvero regole da questo punto di vista.
Aylin: Abbiamo bisogno di più iniziative politiche e regolamenti in modo da poter accedere a questo set di dati e continuare a studiarlo e capire come potrebbe avere un impatto sulla pianificazione della città intelligente e sull’allocazione delle risorse, perché se tali set di dati vengono utilizzati, per esempio, per le auto senza conducente o per l’allocazione delle risorse nelle città intelligenti, questi pregiudizi potrebbero finire per essere perpetuati o potenzialmente amplificati in futuro, causando effetti collaterali.
Jennifer: Gli algoritmi di determinazione dei prezzi potrebbero anche aiutare i consumatori, personalizzando prodotti e consigli o fornendo linee guida alle aziende per progettare prodotti e servizi migliori. Ma questi sistemi presentano anche nuove sfide per chi regola la concorrenza. Il Congresso ha approvato la prima legge antitrust più di un secolo fa, ma è stato solo nel 2015 che il governo ha perseguito il suo primo caso antitrust specificamente rivolto all’e-commerce. In quel caso, un uomo si è dichiarato colpevole di aver cospirato per fissare illegalmente i prezzi dei poster che ha venduto su Amazon con altri venditori, utilizzando un algoritmo progettato per coordinare le variazioni di prezzo.
Joseph Harrington: Sono professore di business, economics and public policy alla Wharton School, University of Pennsylvania. Mi interesso prevalentemente della formazione di cartelli commerciali. In questo caso famoso, l’algoritmo di determinazione del prezzo ha cercato il prezzo migliore o più basso dei concorrenti e poi i venditori online hanno fissato un prezzo comune leggermente inferiore. Ufficialmente questi venditori erano ancora in competizione con altre aziende sul mercato, ma non erano affatto in competizione tra loro. Quindi, invece di coordinarsi su un prezzo comune, si sono coordinati su un algoritmo di determinazione dei prezzi comune e questo ha avuto lo stesso effetto di ridurre la concorrenza.
Jennifer: Il caso che coinvolge i venditori di poster di Amazon è qualcosa che è molto vicino ai cartelli tradizionali, in cui le aziende altrimenti concorrenti coordinano i prezzi tramite una comunicazione diretta. Ma c’è un settore crescente di ricerca secondo cui gli stessi algoritmi di determinazione del prezzo potrebbero imparare a formare una sorta di cartello digitale a sé stante e colludere per aumentare i prezzi senza alcun coinvolgimento umano.
Joseph: Bene, pensiamo a un manager che decide di delegare la decisione sui prezzi a un algoritmo di autoapprendimento. Quest’ultimo sperimenterà diversi algoritmi di determinazione del prezzo o regole di determinazione del prezzo nella speranza di trovare i più redditizi. E il motivo per cui sono più redditizi è dovuto al fatto che gli algoritmi di autoapprendimento hanno imparato a non competere l’uno contro l’altro.
Jennifer: I ricercatori in Italia hanno già trovato prove di ciò che accade in un ambiente simulato.
Joseph: Sì. Hanno considerato un modello economico standard di mercato utilizzato da molti economisti, per lavori teorici ed empirici. La domanda era se gli algoritmi sarebbero stati in grado di imparare a costruire un cartello in un ambiente simulato abbastanza sofisticato. La risposta è molto chiaramente sì, visto che i prezzi erano abbastanza vicini ai prezzi di monopolio.
Jennifer: Sta dicendo che questi algoritmi di autoapprendimento si comportano in un modo simili ai cartelli umani?
Joseph: Gli algoritmi fissano un prezzo alto al di sopra di quelli competitivi, il che crea un incentivo, almeno nel breve periodo, a fissare un prezzo più basso per acquisire maggiori quote di mercato e maggiori profitti. Ciò che gli algoritmi di autoapprendimento hanno imparato sulle conseguenze di un prezzo più basso è che un altro algoritmo di autoapprendimento adotta un algoritmo di determinazione dei prezzi che punirà questo comportamento. Quindi, in particolare, se uno di loro dovesse improvvisamente abbassare il prezzo, l’algoritmo di determinazione del prezzo dell’altro algoritmo di autoapprendimento risponde con un prezzo molto basso.
I prezzi rimarrebbero bassi per qualche tempo, ma tenderebbero a risalire fino agli alti prezzi di cartello. Quindi, questi algoritmi di autoapprendimento imparano a stabilire un prezzo alto e il motivo per cui non cambiano è che hanno capito che ci sarà una ritorsione da parte di un altro algoritmo di autoapprendimento. Esattamente quello che definiamo come cartello.
Jennifer: È ancora una questione aperta se questo genere di cose possa accadere in un mercato reale, con tutta la sua complessità aggiuntiva. Ma il concetto di pratiche collusive automatizzate solleva ogni sorta di questioni legali.
Joseph: Se torniamo all’esempio di Amazon e dei venditori di poster online, è quel tipo di collusione per cui il quadro legale è ben definito. La legge parla di una comunicazione che ha portato a un accordo reciproco tra i concorrenti a non competere più. Tutto ciò è assente con i concorrenti che hanno adottato algoritmi di autoapprendimento purché lo abbiano fatto in modo indipendente. Questi algoritmi di autoapprendimento non hanno comprensione, tanto meno comprensione reciproca, che è davvero ciò che è richiesto nel contesto della legge.
Jennifer: Comunque, a oggi, non c’è nessuno incaricato di monitorare se questi sistemi stanno seguendo regole “eque”.
Joseph: Credo che la potenziale risposta legale futura sarà quella di vietare determinate proprietà degli algoritmi di determinazione del prezzo. Se fosse così, ci sarebbe un incentivo per le aziende stesse a monitorare i loro algoritmi di prezzo, a non esporsi illegalmente. Ma al momento, non c’è davvero nessuno che li monitori. E di certo le aziende non hanno alcun incentivo, direi, a monitorarle.
Jennifer: Quindi gli algoritmi dei prezzi anticoncorrenziali potrebbero anche essere incorporati nel software che potrebbe essere utilizzato da aziende in competizione tra loro senza che queste aziende nemmeno se ne rendano conto.
Joseph: Siamo sempre in un territorio legale un po’ torbido, perché il complotto richiede due o più attori, che tradizionalmente sono due o più concorrenti che hanno deciso di non competere più. Ma ora immaginiamo che sia una specie di attore, ovvero lo sviluppatore di terze parti che potrebbe progettare un algoritmo di determinazione del prezzo non particolarmente competitivo. Se riesce a convincere molte aziende in un mercato ad adottarlo, funzionerà bene per quelle aziende, perché si tradurrà in prezzi più alti e in una minore concorrenza sui prezzi. Ora, ancora una volta, è un male, ma non c’è cospirazione perché in realtà è solo quell’attore, lo sviluppatore di terze parti che lo sta promuovendo.
Jennifer: Abbiamo un esempio di questa situazione in uno studio fatto sui distributori di benzina tedeschi che hanno adottato un algoritmo di pricing.
Harrington: Sì. L’evidenza è che i margini di costo del prezzo medio sono aumentati dell’ordine di circa il 12 per cento. In mercati in cui c’erano solo due distributori in competizione, lo studio ha scoperto che se uno di loro adotta l’algoritmo di determinazione del prezzo non ci sarebbe davvero alcun effetto evidente sui prezzi. Ma se lo fanno entrambi, allora si verifica un aumento significativo dei margini di costo del prezzo, dell’ordine del 29 per cento circa.
Seil sistema avesse portato a prezzi dinamici più efficienti, ci si sarebbe aspettato di vedere qualche effetto, anche quando lo adotta un solo distributore. Ma non è quello che si trova nello studio. Solo quando entrambi i concorrenti lo utilizzano si vede un effetto. E si tratta di un aumento considerevole del prezzo. Quindi penso che sia qualcosa di più complesso da affrontare.
Jennifer: Gli ultimi anni hanno visto un’esplosione di pratiche di determinazione dei prezzi dinamici e anche i prezzi personalizzati sono sempre più comuni. In futuro, i sistemi di tariffazione dinamica potrebbero essere completamente autonomi e applicati su scala ancora più ampia. Il che fa sorgere la domanda: come proteggiamo la nostra privacy quando i nostri dati vengono utilizzati per determinare quanto paghiamo per i prodotti?
Maxime Cohen: Insegno alla Scale AI Chair alla McGill University di Montreal, in Canada, e sono anche il co-direttore del Retail Innovation lab. E’ evidente che oggi i prezzi possono cambiare ogni ora o in alcune applicazioni, anche ogni minuto. Quindi, l’algoritmo di determinazione del prezzo alla fine della giornata dovrebbe essere basato su attributi non personali. Per esempio, si può raccogliere la cronologia degli acquisti, potenzialmente anche la posizione degli utenti, le azioni che hanno eseguito in passato, ma non è permesso utilizzare alcun tipo di attributo personale come nomi o genere o qualsiasi cosa sia più personale.
Jennifer: Un’ultima domanda: dove tracciamo il confine tra prezzi equi e ingiusti?
Maxime: Ci si deve chiedere se è giusto offrire prezzi diversi a clienti diversi per gli stessi prodotti o lo stesso servizio. E la risposta a questa domanda non è semplice in realtà. Questi due temi della privacy e della correttezza sono molto delicati e, a mio avviso, necessitano di un’attenta regolamentazione per il futuro. Per esempio, se Uber chiede prezzi diversi, in base alla percentuale di batteria che il cliente ha nel telefono quando ordina una corsa. Andrebbe bene? Non andrebbe bene? Gli enti regolatori dovrebbero riunirsi al tavolo e creare un elenco di attributi che sono ragionevoli da utilizzare per le decisioni sui prezzi e una lista nera di attributi che non dovrebbero essere utilizzati per le decisioni sui prezzi.
Jennifer: Non sono solo i nostri carrelli della spesa online in gioco. Gli algoritmi di determinazione dei prezzi dinamici potrebbero presto trovare spazio anche nella vendita al dettaglio sotto forma di etichette elettroniche per scaffali.
Maxime: Si può effettivamente modificare il prezzo di particolari prodotti in momenti specifici, semplicemente modificando una singola riga di codice e premendo un pulsante, praticamente a costi zero. Come reagiranno i clienti a pratiche di prezzo dinamico e impennate? Evidentemente, i prezzi cominceranno a salire nei supermercati durante le ore di punta. Allo stesso modo, i prezzi saliranno quando si dispone di scorte molto basse per prodotti specifici.
Non è chiaro se i clienti saranno contenti e accetteranno quei tipi di pratiche che sono già in atto nel mondo online. Può essere decisamente redditizio nel breve periodo, ma può generare perdite nel lungo periodo, soprattutto in termini di fidelizzazione dei clienti. Quindi abbiamo bisogno di fare molte ricerche per cercare di capire il potere e i potenziali benefici del prezzo dinamico per la vendita al dettaglio fisica.
Immagine di: Ms Tech, Envato
(rp)
