Non è stata soltanto la tecnologia, ma anche un significativo lavoro sociale ed emotivo che ha fatto diventare Sepsis Watch, un modello di apprendimento profondo della Duke University, una storia di successo.
di Karen Hao
Nel novembre del 2018, Sepsis Watch è stato utilizzato online nel Pronto Soccorso del sistema sanitario della Duke University. Il nuovo strumento di apprendimento profondo è stato progettato per aiutare i medici a individuare i primi segnali di una delle principali cause di morte in ospedale a livello globale.
La sepsi è causata da una risposta disregolata dell’organismo ad un’infezione e può provocare il blocco degli organi. Può essere curata se diagnosticato abbastanza presto, ma è un compito notoriamente difficile perché i suoi sintomi vengono facilmente scambiati per segnali di qualcos’altro.
Sepsis Watch ha permesso di cambiare la situazione. Frutto di tre anni e mezzo di sviluppo (che includeva la digitalizzazione delle cartelle cliniche, l’analisi di 32 milioni di punti dati e la progettazione di una semplice interfaccia sotto forma di un’app per iPad), valuta i pazienti su base oraria per la loro probabilità di sviluppare la disfunzione. Quindi contrassegna coloro che sono a rischio medio o alto e quelli che soddisfano i criteri. Una volta che un medico conferma la diagnosi, i pazienti ricevono un’attenzione immediata.
Nei due anni trascorsi dall’introduzione dello strumento, prove aneddotiche dei dirigenti ospedalieri e dei medici di Duke Health hanno indicato che Sepsis Watch funziona davvero. Ha ridotto drasticamente le morti di pazienti indotte da sepsi ed è ora parte di uno studio clinico registrato a livello federale che dovrebbe rendere pubblici i suoi risultati nel 2021.
A prima vista, questo è un esempio di una grande vittoria tecnologica. Attraverso un’accurata fase di sviluppo e test, un modello di intelligenza artificiale ha aumentato la capacità dei medici di diagnosticare la malattia. Ma un nuovo rapporto dell’istituto di ricerca Data & Society afferma che questa è solo metà della storia. L’altra metà è la quantità di lavoro sociale qualificato che i medici che guidavano il progetto dovevano portare avanti per integrare lo strumento nei loro flussi di lavoro quotidiani.
Ciò ha incluso non solo la progettazione di nuovi protocolli di comunicazione e la creazione di nuove modalità per la formazione, ma anche la capacità di muoversi all’interno delle dinamiche di potere. Il caso di studio è l’immagine puntuale di quanto serve veramente agli strumenti di intelligenza artificiale per avere successo nel mondo reale.
Come gestire il cambiamento
L’innovazione dovrebbe essere dirompente e scuotere i vecchi modi di fare le cose per ottenere risultati migliori. Ma raramente nelle riflessioni sui break tecnologici si riconosce l’importanza della “rottura”. I protocolli esistenti diventano obsoleti; le gerarchie sociali cambiano. Far funzionare le innovazioni all’interno dei sistemi esistenti richiede ciò che Clare Elish e la coautrice Elizabeth Anne Watkins chiamano “lavoro di riparazione”.
Nello studio su Sepsis, i ricercatori hanno documentato numerosi esempi di questo ciclo rottura-riparazione. Uno dei problemi principali è stato il modo in cui lo strumento ha sfidato le dinamiche di potere profondamente radicate nel mondo ospedaliero tra medici e infermieri.
Nelle prime fasi della progettazione degli strumenti, è diventato chiaro che gli infermieri del team di risposta rapida (RRT) avrebbero dovuto essere gli utenti principali. Sebbene i medici curanti siano in genere incaricati di valutare i pazienti e di fare diagnosi di sepsi, non hanno il tempo di monitorare continuamente un’altra app oltre ai loro compiti usuali. Al contrario, la responsabilità principale di un infermiere RRT è monitorare continuamente il benessere del paziente e fornire ulteriore assistenza ove necessario. Il controllo dell’app Sepsis Watch si è adattato naturalmente al loro flusso di lavoro.
Ma qui è arrivata la sfida. Una volta che l’app ha contrassegnato un paziente come ad alto rischio, un infermiere dovrebbe chiamare il medico curante. Non solo questi infermieri e assistenti spesso non entravano neanche in contatto con il medico perché trascorrevano le loro giornate in sezioni completamente diverse dell’ospedale, ma il protocollo rappresentava un’inversione completa della tipica catena di comando in qualsiasi ospedale.
Ma questa era davvero la soluzione migliore. Quindi il team del progetto ha risolto il problema in vari modi. Gli infermieri hanno organizzato pizza party informali per presentare Sepsis Watch ai loro colleghi. Hanno anche sviluppato tattiche di comunicazione per diminuire il peso delle telefonate. Per esempio, hanno deciso di effettuare una sola chiamata al giorno per discutere di più pazienti ad alto rischio contemporaneamente, programmando il momento in cui i medici sono meno occupati.
Inoltre, i responsabili del progetto hanno iniziato a riferire regolarmente l’impatto di Sepsis Watch ai responsabili delle strutture cliniche. Il team del progetto ha scoperto che non tutti i membri del personale ospedaliero credevano che la morte indotta dalla sepsi fosse un problema alla Duke Health.
I medici, in particolare, che non avevano una visione complessiva delle statistiche dell’ospedale, erano molto più occupati con le emergenze che dovevano affrontare quotidianamente, come fratture e gravi malattie mentali. Di conseguenza, alcuni hanno guardato a Sepsis Watch con fastidio. Ma per la direzione ospedaliera, la sepsi era la priorità e più vedevano Sepsis Watch in funzione, più ci credevano.
Cambiare le norme
Elish, un’antropologa culturale esperta di AI, identifica due fattori principali che alla fine hanno aiutato Sepsis Watch ad avere successo. In primo luogo, lo strumento è stato adattato a un contesto iper-locale e iper-specifico: è stato sviluppato per il pronto soccorso del Duke Health e non altrove. “Questo sviluppo davvero su misura è stato la chiave del successo”, ella afferma. “anche se in netto contrasto con le tipiche norme dell’AI”.
In secondo luogo, durante tutto il processo di sviluppo, il team ha cercato regolarmente feedback da infermieri, medici e altro personale. Questo non solo ha reso lo strumento più facile da usare, ma ha anche favorito lo sviluppo di un piccolo gruppo di membri del personale impegnati a difendere il suo successo. Ha anche fatto la differenza il fatto che il progetto fosse guidato dai medici del Duke Health, dice Elish, e non paracadutato da una società di software.
Queste lezioni sono molto familiari a Marzyeh Ghassemi, una assistente universitaria in arrivo al MIT che studia applicazioni di apprendimento automatico per l’assistenza sanitaria. “Tutti i sistemi di AI che devono essere valutati o utilizzati dagli esseri umani hanno vincoli socio-tecnologici”, ella afferma. Soprattutto negli ambienti clinici, che sono gestiti da responsabili delle decisioni umane e coinvolgono la cura di pazienti in condizioni di vulnerabilità, “i vincoli di cui le persone devono essere consapevoli sono di tipo umano e logistico”, conclude.
Elish spera che il suo caso di studio su Sepsis Watch convinca i ricercatori a ripensare a come affrontare la ricerca sull’AI medica e lo sviluppo dell’intelligenza
artificiale in generale. Gran parte del lavoro svolto in questo momento si concentra su “ciò che l’AI potrebbe essere o potrebbe fare in teoria “, ella afferma. “Ci sono troppe poche informazioni su ciò che accade effettivamente sul campo”. Ma affinché l’AI mantenga le sue promesse, le persone devono pensare tanto all’integrazione sociale quanto allo sviluppo tecnologico.
Anche il suo lavoro solleva seri interrogativi. “L’AI responsabile deve richiedere attenzione al contesto locale e specifico. La mia lettura e la mia formazione mi insegnano che non si può semplicemente sviluppare una cosa in un posto e poi diffonderla da qualche altra parte. Quindi la sfida è in realtà capire come mantenere quella specificità locale mentre si cerca di lavorare su larga scala”, spiega Elish. Questa è la prossima frontiera per la ricerca sull’AI.
Immagine di: Getty
(rp)
