AutoMod consente di risparmiare tempo e prevenire potenziali problemi di disagio mentale, ma il sistema è ancora imperfetto e necessita di un intervento umano successivo.
di Tanya Basu
Negli ultimi quattro anni, Shagun Jhaver ha moderato diversi subreddit, vale a dire dei forum di nicchia, scorrendo diligentemente le pagine e bloccando i post che violano le regole della comunità o sono decisamente offensivi.
Jhaver, che sta completando un dottorato sulla moderazione dei contenuti alla Georgia Tech, si è chiesto se un moderatore automatico potesse aiutarlo a risparmiare non solo tempo, ma anche il pedaggio mentale di setacciare i contenuti psicologicamente ad alto impatto. Quindi, insieme a tre colleghi, ha deciso di capire se un moderatore automatico, in questo caso AutoMod, funzionasse davvero.
Il team ha moderato diverse pagine su Reddit e quindi ha condotto interviste con altri 16 moderatori di alcuni dei più famosi subreddit sul sito, entrando in contatto con milioni di abbonati. Tutti si affidano ad AutoMod per aiutarli a moderare. Jhaver presenterà la ricerca alla conferenza ACM sul lavoro cooperativo supportato dal computer e l’apprendimento sociale.
Le piattaforme di social media come Facebook, Instagram e YouTube si affidano da tempo ai moderatori umani per intervenire sui contenuti e rimuovere materiale violento e offensivo che spazia dal discorso di odio razzista e sessista al video di sparatorie di massa. Spesso lavorando su un contratto, con un salario minimo con pochi benefici, i moderatori possono trovarsi a passare numerose ore a contatto diretto con contenuti che mettono a dura prova la loro salute mentale.
Gli automoderatori sono un tentativo di mitigare gli effetti negativi di tale lavoro. Sviluppato da Chad Birch come un modo per aumentare la sua capacità di moderare il canale r/gaming, AutoMod è uno strumento basato su regole per identificare parole che violano le regole di pubblicazione su una determinata pagina. Da allora è stato ampiamente utilizzato: Reddit lo ha adottato in tutto il sito nel 2015 e due piattaforme di streaming di gioco estremamente popolari Twitch e Discord hanno seguito l’esempio poco dopo.
Anche se AutoMod permette di risparmiare tempo, rimangono delle questioni aperte. Da un lato, gli automoderatori sono molto bravi in quello che fanno: se sono programmati per trovare parolacce, troveranno e bloccheranno i post che li contengono senza errori. Possono anche inviare notifiche sui contenuti problematici a chi ha inviato i post, che secondo Jhaver è “educativo”, in quanto gli autori possono imparare cosa c’era che non andava in quello che avevano pubblicato.
Non è un lavoro semplice. Come notano Jhaver e i suoi colleghi, circa il 22 per cento di tutti gli invii su Reddit tra marzo e ottobre del 2018 sono stati rimossi. Stiamo parlando di 17,4 milioni di post in quel periodo di tempo.
Ma diciamo che le parole assumono un valore importante nel contesto di un post; si pensi, per esempio, alle polemiche nel 2016 sul famigerato commento del futuro presidente Donald Trump relativo a fare ciò che si vuole di una donna agguantandola per i genitali. Tali messaggi verrebbero segnalati a causa del linguaggio offensivo, anche se suscitare la discussione su quanto detto è l’obiettivo del post.
Jhaver afferma che ciò frustra gli utenti, che devono quindi chiedere ai moderatori di ripristinare il post. E in un mondo di social media in cui i contenuti sono sempre più costituiti da meme offensivi, streaming live di riprese o altri contenuti visivi, la dipendenza di AutoMod dalla ricerca di parole chiave è un serio limite.
Robert Peck, un moderatore per i grandi subreddits r/pics e r/aww, lo sa fin troppo bene. Ognuna di quelle pagine è basata sull’immagine e ognuna ha milioni di follower che pubblicano molti più contenuti di quanti si possa ragionevolmente chiedere a chiunque di setacciare.
Tuttavia, ritiene che anche se non è in grado di analizzare le immagini, AutoMod ha semplificato il suo lavoro. “Gli utenti aggiungono direttamente descrittori alle immagini e possiamo controllare quei titoli”, egli afferma. “Cerchiamo spam con account che automatizzano i post e sappiamo che spesso usano le parentesi. Possiamo dire ad AutoMod di cercare quei modelli”.
Piaccia o no, AutoMod e prodotti simili sono il futuro della moderazione della piattaforma social. Probabilmente sarà sempre imperfetto, perché le macchine sono ancora molto lontane dalla comprensione del linguaggio umano. Ma l’automazione ha questa funzione: far risparmiare tempo alle persone in compiti noiosi o discutibili.
Essere in grado di concentrarsi su post di qualità rende il lavoro di un moderatore molto più prezioso, anche se non risolverà il problema delle persone che pubblicano contenuti dannosi o deleteri, che rimarrà comunque uno dei problemi più spinosi che affliggono Internet moderna.
Peck afferma di essere grato per la capacità di AutoMod di aiutarlo nell’elaborare in batch i post. “È una tecnologia abbastanza intuitiva, semplice e sarei perso senza di essa”.
Immagine: Jefferson Santos / Unsplash
(rp)
