Gli amministratori delle università affermano che l’installazione di dispositivi di ascolto come Alexa nelle camere da letto e nei corridoi degli studenti potrebbe aiutare a ridurre i tassi di abbandono, ma non tutti sono d’accordo.
di Kathryn Miles
Quando Mateo Catano tornò per il suo secondo anno da studente alla Saint Louis University nell’autunno del 2018, si ritrovò con un nuovo compagno di stanza, non un altro studente, ma un Amazon Echo Dot. All’inizio di quell’estate, il dipartimento di tecnologia dell’informazione della SLU aveva installato circa 2.300 altoparlanti intelligenti, uno per ciascuna delle sale della residenza universitaria, rendendo la scuola la prima nel paese a farlo.
Ogni dispositivo è stato pre-programmato con risposte a circa 130 domande specifiche sulla SLU, che vanno dall’orario della biblioteca alla posizione della segreteria. I dispositivi includono anche la possibilità di richiedere a voce altre informazioni generali, incluse quelle su allarmi e promemoria, e la richiesta di musica in streaming.
Per Catano, Dot è stata un’aggiunta gradita. Gli piaceva sentire le previsioni del tempo per prima cosa al mattino e sapere quali sale da pranzo erano aperte. E, più di tutto gli piaceva la compagnia. “AskSLU (così viene chiamato il sistema) mi ha sicuramente fatto sentire meno solo”, egli dice. “E mi inorgoglisce sapere che siamo la prima università a farlo”.
La reazione di Catano era esattamente ciò che gli amministratori della SLU speravano. Questo autunno, l’istituzione, diretta dai Padri gesuiti, ha annunciato l’intenzione di ampliare le capacità vocali dei suoi Echo Dots includendo le funzioni di messaggistica e chatbot.
Nessuno ha idea degli effetti a lungo termine
Samo vicini a una nuova era di altoparlanti intelligenti nei campus. Scuole di grandi dimensioni come la Arizona State University, la Lancaster University nel Regno Unito e la Ross University School of Medicine a Barbados hanno adottato la tecnologia degli assistenti vocali nel campus. Alcune, tra cui la Northeastern University, hanno fatto un ulteriore passo avanti nella tecnologia e ora offrono agli studenti accesso a dati finanziari, orari dei corsi e voti e tariffe eccezionali tramite dispositivi vocali.
Alla fine del 2018, l’Emerson College di Boston ha annunciato di essere stato uno dei 18 beneficiari di una sovvenzione da parte di Amazon, con il programma Alexa Innovation Fellowship, per far avanzare la tecnologia a comando vocale nei campus. Emerson ha creato un laboratorio vocale dedicato in cui gli studenti possono interagire e sperimentare le abilità di Alexa e prevede di installare i dispositivi Alexa in luoghi come i teatri e all’esterno degli ascensori.
Gli amministratori di alcune di queste scuole mi hanno detto che credono che Alexa rafforzerà le iscrizioni e ridurrà i tassi di abbandono. Molti hanno anche affermato di ritenere che la tecnologia vocale possa aumentare il successo dei loro studenti e migliorare il loro benessere.
Tuttavia, non tutti condividono queste iniziative. “Quando si tratta di diffondere dispositivi di ascolto che registrano conversazioni sensibili, non è chiaro come Amazon gestirà questi contenuti molto personali”, dice Russell Newman, un professore dell’Emerson College che si occupa di economia politica della comunicazione e politica della comunicazione.
Altri professori della facoltà con cui ho parlato hanno fatto eco alle obiezioni di Newman. E se i dati raccolti dalle conversazioni degli studenti incidessero sulle loro possibilità di ottenere un mutuo o un lavoro in un secondo momento? E se fosse usato contro gli studenti stranieri per espellerli, possibilmente verso i paesi di origine dove possono essere imprigionati per le loro opinioni politiche?
Obiezioni sensate. Quindi, visti tutti i rischi, perché i college sono così ansiosi di riempire i loro campus con microfoni supportati dall’intelligenza artificiale? Cosa c’è dietro questa operazione?
L’IA per fronteggiare la crisi
Le università affrontano diverse crisi incombenti. Dopo anni di impennata delle iscrizioni, i college statunitensi registrano un calo delle iscrizioni, una tendenza che dovrebbe peggiorare nel prossimo decennio. Un rapporto speciale del novembre 2019 del Chronicle of Higher Education prevede un rapido declino anche nelle istituzioni più selettive del paese.
Le entrate istituzionali sono in stallo: Moody’s Investors Service ha pubblicato una prospettiva negativa per l’istruzione superiore per l’anno fiscale 2019, ad eccezione delle università del Sud. Per tre anni, il Dipartimento della Pubblica Istruzione ha cercato di tagliare miliardi di aiuti finanziari e sostegno agli studenti più poveri, sebbene il Congresso abbia respinto i tagli.
I contributi statali ai bilanci delle università pubbliche sono in ritardo dall’ultima recessione. Anche le università private stanno affrontando gli stessi problemi; più di un quarto di loro sono ora in rosso. Nel frattempo, la metà di tutti gli studenti che entrano al college non riescono a laurearsi entro sei anni.
I ricercatori forniscono una varietà di spiegazioni. Nick Bowman, professore di Scienze dell’educazione all’Università dello Iowa, sottolinea il fatto che gli studenti di oggi sono più grandi di quanto lo si era tradizionalmente tra i 18 ei 22 anni. Molti hanno un lavoro a tempo pieno. Alcuni si prendono cura di bambini o fratelli o genitori anziani. E con una media di 35.000 dollari di debito per prestiti agli studenti dopo quattro anni a scuola, la prospettiva di abbandonare può essere un’alternativa valida.
Per molti amministratori universitari, l’IA offre soluzioni allettanti a queste situazioni. La Winston-Salem State University, un’università storicamente nera con molti studenti universitari a basso reddito e di prima generazione, ha avuto seri problemi ad aiutare gli studenti a iscriversi a scadenze chiave come la presentazione di tutti i documenti delle scuole superiori e le registrazioni delle vaccinazioni, il completamento dei moduli per l’aiuto finanziario e i depositi bancari per l’alloggio.
“Ci siamo resi conto che molti dei nostri studenti potrebbero non comprendere le modalità di iscrizione al college e non essere in grado di fare affidamento su famiglie o altri sistemi di supporto che lo facciano per loro”, afferma Jay Davis, responsabile delle relazioni con i media dell’università.
Due anni fa, la WSSU ha collaborato con una azienda tecnologica chiamata AdmitHub per offrire un chatbot di intelligenza artificiale chiamato Winston per aiutare gli studenti a capire come iscriversi. Davis afferma che l’app risponde con successo a tre quarti delle domande degli studenti e che c’è stato un significativo aumento del numero di studenti che presentano tutti i documenti giustificativi necessari per completare la domanda.
Quest’anno la WSSU ospita la sua più grande classe del primo anno da oltre un decennio e Davis afferma che Winston ha giocato un ruolo importante in questo successo.
Poca chiarezza sulla privacy
Ho trascorso diverse ore a giocare con i chatbot in una manciata di college e università. Tutti hanno fatto domande sulla mascotte della scuola, sui pasti e sugli eventi sportivi o di ex studenti, ma hanno accuratamente evitato di parlare di altro. Quando ho detto a un chatbot che ero malato, mi ha informato che il centro sanitario studentesco non avrebbe rilasciato una giustificazione scritta per le lezioni perse.
Gli ho chiesto allora dov’era il centro sanitario per studenti e mi ha risposto con il programma del tour universitario per futuri studenti. Ho detto a un altro che mi sentivo depresso e mi ha suggerito un programma federale di aiuti finanziari agli studenti.
I programmatori del campus mi hanno assicurato che le abilità del software migliorano man mano che sempre più studenti lo usa, il che è, ovviamente, ciò che rende l’IA così efficace. Ma è anche ciò che fa diventare reali le minacce alla nostra privacy, afferma Vitaly Shmatikov, professore di informatica alla Cornell Tech.
Le aziende tecnologiche, afferma Shmatikov, sono notoriamente opache riguardo alla privacy e alla sicurezza. Ciò che lui e altri studiosi hanno appreso su di loro è in gran parte attraverso il reverse engineering e una serie di congetture.
Per cominciare, spiega Shmatikov, aziende come Amazon addestrano i loro algoritmi di riconoscimento vocale sulle registrazioni delle interazioni passate degli utenti per capire il significato di una domanda. “Non viene garantito all’utente che i suoi dati non vengano spostati da un dispositivo specifico a un altro”, afferma Shmatikov. “Non sappiamo ancora esattamente quanti host di abilità vocali di dati come Amazon — o terze parti che fanno affidamento su Amazon — stanno raccogliendo informazioni o cosa ne stanno facendo”. Amazon non ha risposto a molteplici richieste di commento.
Shmatikov afferma che è ragionevole presumere che il cloud di una società abbia una registrazione della data e dell’ora delle richieste degli studenti e che i dispositivi intelligenti potrebbero persino registrare le conversazioni che lo studente potrebbe aver avuto con altre persone prima o dopo aver parlato con esso. Man mano che le capacità di identificazione vocale e localizzazione migliorano, sarà sempre più possibile collegare queste registrazioni a una singola persona.
E’ una scuola che non si limita a indicare dove si trova l’armadietto, ma registra per sempre tutto ciò che c’è nell’armadietto e le conversazioni tra lo studente che lo apre e i suoi amici, aprendo la strada a chi vuole sfruttare questi dati a scopi commerciali.
I funzionari dell’Arizona State University e della Saint Louis University affermano di non collegare informazioni come i dati finanziari, le cartelle sanitarie e i voti degli studenti (dati noti come “autenticati”, poiché richiedono che uno studente si colleghi ai conti personali) fino a quando non saranno più sicuri sulle misure di sicurezza.
La tecnologia utilizzata alla Northeastern è stata sviluppata da un piccolo team guidato da Somen Saha, allora impiegato presso l’università. Saha alla fine ha creato un’azienda indipendente chiamata n-Powered, che ha sviluppato un’app chiamata MyHusky che è disponibile tramite Alexa.
Tuttavia, la sua pagina sulla privacy riconosce che: “Per far funzionare il sistema, utilizziamo la piattaforma di Amazon, che memorizza informazioni sugli scambi vocali che possono essere eliminate su richiesta”.
Shmatikov afferma che l’uso del software di un’università e la limitazione dell’uso dei chatbot a domande di tipo generale può limitare l’accesso delle aziende tecnologiche alle informazioni degli studenti, ma non risolverà completamente il problema.
Indica come esempio domande delicate come quelle relative alle richieste se il centro sanitario offre test STD per le malattie sessualmente trasmesse o terapie per trattare condizioni come la schizofrenia.
Tecnicamente, queste domande non sono collegate a uno studente specifico, ma non è difficile capire chi lo sta chiedendo e gli studenti potrebbero non rendersi conto che l’anonimato non è sempre garantito. Inoltre, dice Shmatikov, se Amazon accede ai dati personali, non esiste alcun limite di tempo entro cui li deve eliminare.
Le conseguenze possono essere incontrollabili
La privacy è una preoccupazione per qualsiasi utente di un dispositivo di intelligenza artificiale, ma i docenti universitari con cui ho parlato insistono sul fatto che il problema è particolarmente serio quando si parla di istruzione superiore.
“Gli studenti universitari sono forse la categoria di consumatori più desiderabile”, afferma Newerson della Emerson. “Sono i più difficili da raggiungere e hanno maggiori probabilità di imporre tendenze”. Di conseguenza, afferma, i loro dati sono tra i più preziosi e hanno la maggiore probabilità di essere venduti. Per le istituzioni educative essere complici della mercificazione degli studenti allo scopo di un guadagno aziendale è fondamentalmente antitetico alle loro missioni.
Sarah T. Roberts, professore aggiunto di studi sull’informazione presso l’UCLA, afferma che le scuole che stipulano accordi con aziende tecnologiche mettono potenzialmente a rischio il benessere dei loro studenti. “Il tempo di uno studente in un college o in un’università viene utilizzato per esplorare idee e provare nuove identità, che si tratti di credenze politiche o di genere e sessualità”, afferma Roberts.
“La consapevolezza di essere registrati mentre lo fanno impedirà indubbiamente agli studenti di sentirsi liberi di esprimere la propria opinione”. Vale anche la pena ricordare, dice, che molti studenti provengono da paesi in cui può essere pericoloso rivelare la propria sessualità o credenze politiche.
A Northeastern, uno studente ha diffuso una petizione online, in cui scrive: “Gli Alexa sono dispositivi di ascolto surrettizi che vengono utilizzati per affinare le tattiche di marketing di Amazon …. la Northeastern University sta introducendo una tecnologia estranea negli spazi studenteschi che nessuno ha richiesto. Nel peggiore dei casi, stanno incautamente violando la privacy dei loro studenti per volere di un donatore aziendale”. All’inizio di dicembre, la petizione, che chiede l’eliminazione dei dispositivi, aveva raccolto 125 firme.
Alla Emerson, gli studenti e altri membri della facoltà si sono uniti a Newman nel creare un comitato per redigere politiche sulla privacy per il campus. Per lo meno, continua Roberts, si chiede di dislocare segnali di avvertimento ovunque si trovi un dispositivo di ascolto. Finora l’amministrazione è stata collaborativa e il dispiegamento di tutti i dispositivi è stato ritardato.
“Abbiamo bisogno di un modo sicuro per sperimentare queste tecnologie e comprendere le conseguenze del loro utilizzo invece di continuare una marcia cieca verso la sorveglianza ai fini del profitto”, afferma Newman. “Queste sono applicazioni sofisticate con conseguenze per tutta la vita per le persone che ci entrano in contatto. Tutti abbiamo il dovere di essere giudiziosi”.
Kathryn Miles è una scrittrice freelance e autrice di Quakeland: On the Road to Next’s Devastating Earthquake in America.
(rp)
