A corredo del servizio dedicato alla 10 tecnologie che promettono di cambiare il modo di vivere e di convivere, stiamo pubblicando alcune testimonianze previsionali di illustri studiosi: oggi è la volta di Finale Doshi-Velez, professore associato di Computer Science presso la Harvard University.
di Finale Doshi-Velez
Nel mio laboratorio, stiamo cercando di rispondere a domande del tipo: “Come può questo paziente rispondere a questo antidepressivo?” o “Come può questo paziente rispondere a questo vasopressore?”.
In prima istanza, cerchiamo di ottenere quanti più dati possibile dall’ospedale. Per un paziente psichiatrico, potremmo sapere tutto sulle sue malattie cardiache, malattie renali, malattie oncologiche; per la gestione della pressione arteriosa in terapia intensiva, abbiamo tutte le relative informazioni sull’ossigeno, l’acido lattico e altro ancora. Alcuni di questi dati potrebbero essere rilevanti per fare previsioni sulle loro malattie, altri no, ma non sappiamo quali siano. Ecco perché chiediamo un quadro esteso con tutto ciò che concerne il paziente.
C’è stato circa un decennio di lavoro per realizzare modelli di apprendimento automatico senza supervisione proprio allo scopo di migliorare queste previsioni, ma nessuno di questi modelli ha funzionato davvero bene. La svolta è stata quando abbiamo scoperto che tutti gli approcci precedenti per farlo erano sbagliati nello stesso identico modo.
Una volta compreso come stavano le cose, abbiamo escogitato un metodo diverso. Abbiamo anche compreso che, anche se la nostra capacità di prevedere quale farmaco potrebbe funzionare spesso non è sufficiente, possiamo prevedere in modo più affidabile quali farmaci non funzioneranno, il che è quasi altrettanto prezioso.
Mi convince molto l’idea di combinare intelligenza umana e intelligenza artificiale per fare previsioni. Supponiamo che la tua Intelligenza Artificiale abbia un tasso di errore del 70 per cento e che anche le persone addette abbiano ragione solo il 70 per cento delle volte. Non è facile conciliare le due capacità, ma se si riesce a integrare i loro successi, si dovrebbe essere in grado di ottenere risultati migliori di quelli ottenibili dall’uno o dall’altro sistema da solo.
Come farlo è una domanda davvero difficile e sollecitante. Tutti questi modelli predittivi sono stati messi a punto e distribuiti senza pensare abbastanza ai potenziali pregiudizi che potrebbero condizionarne la efficacia. Spero che in futuro queste associazioni uomo-macchina possano prendere decisioni migliori di quelle consentite all’uomo e/o alla macchina.
Immagine: Fotografia di Noah Willman
(gv)
