Un attacco contraddittorio permetterebbe agli hacker di ingannare i sistemi di visione artificiale delle vetture.
di Karen Hao
Alcuni hacker hanno dimostrato alcuni preoccupanti metodi per manipolare e confondere i vari sistemi a bordo di una Tesla Model S. Una delle applicazioni più spaventose di questi stratagemmi permetterebbe a un hacker di convincere l’auto a immettersi nel senso di marcia opposto semplicemente posizionando alcuni piccoli adesivi sulla strada.
Vettore d’attacco: Questo è un esempio di “attacco contraddittorio”, un metodo utilizzato per manipolare un modello di apprendimento attraverso un input appositamente introdotto. Gli attacchi contraddittori potrebbero diffondersi con l’adozione dell’apprendimento automatico, specialmente in settori come la sicurezza della rete.
Confini sfuocati: L’Autopilot di Tesla è vulnerabile perché riconosce le linee dell’asfalto attraverso un sistema di visione artificiale. In altre parole, i dati raccolti dalle videocamere di bordo vengono analizzati da una rete neurale per dire al veicolo come restare al centro della corsia.
Traffico bloccato: Non è il primo attacco avversario ai danni dei sistemi di guida autonoma. Dawn Song, un professore della UC Berkeley, ha utilizzato adesivi apparentemente innocui per convincere i sistemi di un’automobile autonoma che un segnale di stop indicasse invece un limite di velocità di 45 miglia orarie.
Un altro studio, pubblicato lo scorso marzo, ha dimostrato come i sistemi di apprendimento automatico sviluppati per il settore medico possono essere ingannati in maniera analoga e fornire diagnosi sbagliate.
Bug da risolvere: Gli autori della ricerca, ricercatori del Keen Security Lab di Tencent, hanno utilizzato un attacco simile per interferire con i tergicristalli automatici della vettura; hanno anche preso il controllo del volante utilizzando un altro metodo. Un portavoce di Tesla ha detto a Forbes che questa ultima vulnerabilità era stata risolta con l’ultimo aggiornamento software. Il portavoce ha detto che un attacco contraddittorio sarebbe alquanto difficile da portare a termine, “vista la capacità del conducente di riprendere facilmente il controllo in qualunque momento”.
(MO)
