Le tecniche di apprendimento profondo hanno reso più semplice e rapido per chiunque forgiare una disinformazione convincente.
di Karen Hao
Due ricercatori di Global Pulse, un’organizzazione senza scopo di lucro delle Nazioni Unite, hanno voluto dimostrare i rischi connessi alle nuove tecnologie per la generazione automatica di testi. In una loro ricerca, Joseph Bullock e Miguel Luengo-Oroz, hanno utilizzato solo strumenti e dati open-source per mostrare quanto rapidamente potevano far funzionare e attivare un generatore di discorsi “falsi”.
I due ricercatori hanno adottato un modello linguistico facilmente reperibile, addestrato su testi di Wikipedia e perfezionato su tutti i discorsi tenuti dai leader politici all’Assemblea Generale delle Nazioni Unite dal 1970 al 2015. In sole 13 ore e con un costo irrisorio di 7 dollari e 80 centesimi (spesi per le risorse di cloud computing), il loro modello ha iniziato a tenere discorsi realistici su una vasta gamma di argomenti sensibili, dal disarmo nucleare ai rifugiati.
Bullock e Luengo-Oroz hanno testato il modello su tre aree: argomenti generali (per esempio, i “cambiamenti climatici”), le introduzioni degli interventi del Segretario generale dell’ONU e le frasi ad effetto (per esempio, “gli immigrati rubano il lavoro …”).
Nel caso della prima categoria i risultati corrispondevano strettamente allo stile e alla cadenza dei veri discorsi delle Nazioni Unite circa il 90 per cento delle volte. La terza categoria ha richiesto, invece, una ricerca più approfondita, producendo risultati convincenti circa il 60 per cento delle volte.
Questo studio dimostra la velocità e la facilità con cui è ora possibile diffondere notizie false, generare incitamento all’odio e mettere insieme discorsi di alto profilo, con implicazioni allarmanti per il futuro dell’informazione.
I ricercatori hanno invitato a una riflessione globale sull’utilizzo dei contenuti generati dall’IA.
(rp)
