Illustrazione di Mother Jones
Quando Reddit ha bandito r/The_Donald a giugno, la comunità era diventata una delle più famose nella storia della piattaforma. La bacheca pro-Trump, sede di un gruppo nocivo di suoi sostenitori, non era necessariamente la comunità più tossica su un sito che, a volte, ha ospitato subreddit per gruppi nazionalisti bianchi e la condivisione di foto suggestive di bambini. Ma, tra le comunità tossiche del sito, è probabilmente quella che ha avuto più portata e impatto.
Negli ultimi anni, centinaia di migliaia di post dei membri del gruppo hanno contribuito a plasmare l’ambiente informativo del web, in quanto hanno pompato decine di meme pro-Trump ogni settimana che a volte si sono fatti strada nei feed dei social media di Donald Trump Jr. e dello stesso presidente, contribuendo a un flusso di contenuti apparentemente di base per aumentare i suoi sforzi politici. Nel 2016, una “war room” presso il quartier generale della Trump Tower della campagna ha monitorato il subreddit per i memi che valeva la pena elevare; Brad Parscale, l’ex manager della campagna di Trump, una volta ha scritto che controllava la bacheca quotidianamente.
I critici delle politiche di moderazione di Reddit si sono chiesti pubblicamente per anni perché r/The_Donald non fosse stato bandito, nonostante la costante violazione delle regole della società sul razzismo, il bigottismo e la diffusione di disinformazione. A giugno, dopo che i suoi precedenti gli avevano già fatto guadagnare un lungo periodo di quarantena – il termine di Reddit per uno stato di accesso limitato imposto alle comunità problematiche – il sito lo ha bandito completamente. Ma nel momento in cui ciò è accaduto, i membri erano già fuggiti mesi prima per un forum fatto in casa progettato per imitare Reddit chiamato TheDonald.win, che era in lavorazione da quando la quarantena è stata introdotta, così come per i server ospitati da Discord, un servizio di chat internet.
Anche se il loro subreddit è stato bandito da Reddit per oltre quattro mesi, gli ex membri di The_Donald continuano a creare scompiglio sul sito. Mother Jones ha ottenuto l’accesso a due server ospitati da Discord dove si riuniscono gli ex membri del subreddit bandito, compreso un server privato che richiede che i membri siano controllati. I messaggi di chat pubblicati lì mostrano come gli ex membri di The_Donald hanno trovato nuove case su Reddit e continuano a coordinare e pianificare la diffusione di odio, vetriolo e disinformazione sul sito e in altre sedi, nonostante il divieto della società.
Con più di 3.000 membri, The_Donald Est. 2017, che è stato elencato come il Discord ufficiale di r/The_Donald prima che il subreddit fosse eliminato, è il più piccolo dei due server Discord. A differenza di un server Discord separato “The Donald”, che è parzialmente aperto a tutti e ha oltre 21.000 membri, il server The_Donald Est. 2017 sostiene di controllare strettamente i suoi membri, limitando gli utenti che non hanno superato il processo in una sala d’attesa dove non possono postare. Prima che r/The_Donald fosse bandito, l’ammissione al Discord ufficiale del subreddit richiedeva due mesi di storia di post nel subreddit. Oggi, i requisiti elencati nel suo canale “extreme_vetting”, dove i nuovi candidati al Discord vengono esaminati, specificano di avere una storia di “tweeting/retweeting pro-MAGA.”
I moderatori di questo canale Discord privato sembrano essere ex moderatori del subreddit r/The_Donald, in base alle loro stesse affermazioni e un’analisi dei loro account sui social media. Essi affermano di essere un gruppo di sostenitori di Trump che hanno moderato The_Donald fino a quando non hanno perso il controllo del forum per un’altra fazione ad un certo punto dello scorso anno.
Questi moderatori usano regolarmente il canale privato per organizzare i suoi utenti, molti dei quali provengono direttamente da r/The_Donald. Mentre i moderatori hanno incoraggiato i membri a farsi beffe del divieto di Reddit e ad unirsi ai subreddit tra cui r/trumpteam e r/donald_trump, essi spingono più frequentemente r/donaldtrump come nuovo subreddit del gruppo. I membri usano il Discord per diffondere memi, aumentare i post pro-Trump su Reddit e altre piattaforme di social media, inseguire i loro avversari politici online e diffondere disinformazione.
“Poco dopo che questo team di mod è stato rimosso da r/The_Donald, abbiamo iniziato un viaggio per assicurarci di fare del nostro meglio per servire il presidente Trump e aiutarlo ad essere rieletto”, ha scritto un moderatore sul canale di annuncio del Discord, spiegando che avevano “trovato un modo per raggiungere nuovi elettori su Reddit con https://www.reddit.com/r/donaldtrump” e sostenendo che un ex moderatore di r/The_Donald aveva contribuito a stabilire quel nuovo subreddit. In un altro annuncio iniziale nella chat, lo stesso moderatore ha spiegato che “stiamo collaborando con r/DonaldTrump esclusivamente su Reddit” e si è vantato della stretta relazione del gruppo con il subreddit.
“Abbiamo tutti i mod che ci sono qui ed è IMPORTANTE espandere la base per Trump”, ha spiegato il moderatore, delineando una speranza che il nuovo forum potrebbe riprendere il ruolo del loro subreddit bandito nel raggiungere nuovi sostenitori. “Il vero successo di r/The_Donald è stato quanto velocemente e quanti normies ha raggiunto e si vincono le elezioni non solo mantenendo la propria base, ma espandendola.”
Gli utenti dell’originale r/The_Donald erano estremamente efficaci nel giocare con gli algoritmi di Reddit per ottenere il suo contenuto sulla prima pagina aggregata algoritmicamente dalla società. Quella prominenza ha aiutato il subreddit ad espandere la sua base ed esporre più persone al bigottismo e alla disinformazione. Robert Peck in Wired ha delineato come i moderatori di r/The_Donald hanno sfruttato la funzione “sticky” del sito, destinata a spillare messaggi informativi o di benvenuto in cima a un subreddit, per sfruttare i voti dal subreddit e aumentare il suo contenuto.
Con r/donaldtrump, secondo i messaggi Discord dei suoi moderatori, sperano di replicare il successo che hanno avuto portando r/The_Donald nel mainstream. “Stiamo facendo regolarmente salire r/all e r/popular su una base frequente, a volte più volte al giorno”, ha scritto un moderatore sul nuovo forum il 25 luglio. “La chat lì è fino a 10k anche, rendendola una delle chat più grandi su Reddit. Continuate così!”
Non c’è nulla di necessariamente sbagliato nel cercare di aumentare il profilo di un subreddit dedicato a un candidato presidenziale, tuttavia, le tattiche specifiche che r/The_Donald ha adottato per farlo violano le politiche del sito: Reddit vieta la manipolazione dei voti attraverso il coordinamento degli upvotes sui post, su o fuori dalla piattaforma. Ma r/The_Donald è stato punito perché è diventato un terreno fertile per i troll nocivi per sperimentare insulti razziali all’avanguardia, giustificare o invocare la violenza contro gruppi di persone sulla base della loro politica o razza, e diffondere un flusso infinito di disinformazione.
Prima di essere bandito da Reddit, r/The_Donald ha messo in atto un avviso che diceva ai membri che i post “No Racism/Anti-Semitism” erano benvenuti, e i moderatori hanno lavorato per rimuovere gli articoli che violavano. Ma i loro sforzi ammontavano a poco, solo una gomma da masticare infilata nelle fessure di una diga che si sgretolava sotto un torrente di bigottismo. Nel 2017, dopo che un terrorista ha investito dei pedoni a Londra, uccidendone cinque, il subreddit è esploso nell’odio islamofobico. Dopo la sparatoria del 2019 a Christchurch, in Nuova Zelanda, e l’attacco terroristico del 2017 sul ponte di Westminster a Londra, gli utenti hanno nuovamente inondato il subreddit di post islamofobici. Quando i membri repubblicani della legislatura statale dell’Oregon hanno inscenato un walkout per evitare di votare sulla legislazione ambientale, i membri del subreddit hanno minacciato violentemente i funzionari democratici e la polizia statale incaricata di recuperare i legislatori.
Su r/donaldtrump e il canale privato Discord The_Donald Est. 2017, quell’odio è continuato. I manifesti sul subreddit hanno usato il termine “jogger”, una controfigura della parola n che è nata su 4chan dopo che Ahmaud Arbery, un nero americano, è stato ucciso da uomini bianchi in Georgia mentre faceva esercizio. In altri casi, hanno condiviso memi sui “coreani sul tetto” – una chiamata sottilmente velata a brandire le armi contro i manifestanti neri che fa riferimento ai proprietari di negozi coreani e coreano-americani armati che hanno preso i tetti delle loro attività durante le proteste dopo che la polizia di Los Angeles ha picchiato Rodney King nel 1992.
In altri post su r/donaldtrump, gli utenti hanno giustificato l’uccisione di bambini innocenti presi nel fuoco incrociato degli interventi militari americani in Medio Oriente, lodato l’ICE per aver presumibilmente servito carne di maiale ai detenuti musulmani, pubblicato contenuti che lodano l’uccisione di manifestanti da parte di Kyle Rittenhouse, invitato a “porre fine alle rivolte con forza eccessiva”, e diffuso cospirazioni infondate sull’antifa che ha causato incendi in Oregon.
Mentre Reddit dice che vieta alle comunità e agli utenti di fare post che “incitano alla violenza o che promuovono l’odio basato sull’identità o la vulnerabilità”, Sierra Gamelgaard, una portavoce di Reddit, ha rifiutato di commentare i post di odio trovati sul subreddit o sulle indicazioni che il divieto della società è stato aggirato. Invece, ha indicato le politiche di contenuto del sito, scrivendo che “proibiscono esplicitamente agli utenti di barare o impegnarsi nella manipolazione dei contenuti, compresa l’evasione del divieto.”
Sul server Discord chiuso che ha promosso r/donaldtrump, i membri diffondono versioni meno protette dello stesso tipo di bigottismo, disinformazione e incitamenti alla violenza che condividono su Reddit – post che apparentemente violano anche i termini di servizio di Discord. I moderatori hanno ripetutamente supplicato i membri di smettere di usare l’insulto “jogger”, e gli utenti hanno creato una vasta libreria di memi lascivi e sessisti che attaccano Kamala Harris e la ritraggono mentre invita e si impegna in vari atti sessuali.
Un utente ha offerto consigli su come uccidere i manifestanti e farla franca, citando il caso del proprietario di un bar del Nebraska che è stato accusato di omicidio colposo dopo aver sparato e ucciso James Scurlock, un manifestante della giustizia razziale, a Omaha a fine maggio. “Se avete sparato a qualcuno e prendete la decisione (sbagliata) di sparare un colpo di avvertimento non ammettete che era un colpo di avvertimento”, ha scritto, “perché quando avete il tempo di sparare colpi di avvertimento e gridare oscenità all’attacco non è difficile portare accuse contro di voi che indicano che non era puramente per difesa personale”. Invece, ha suggerito ai lettori in una tale situazione di dire “hai semplicemente mancato due volte”. Altri hanno sostenuto che l’uccisione era giustificata.
Il più grande, aperto Discord ospita ancora più contenuti probabilmente in violazione delle politiche di Discord. A settembre un utente di The Donald ha postato che “dovremmo sparare a tutti i BLM”. Dopo che i manifestanti si sono radunati nelle strade di Louisville in seguito alla decisione del gran giurì di non accusare gli agenti di polizia nell’uccisione di Breonna Taylor, un altro membro ha suggerito che le forze dell’ordine locali “devono usare proiettili veri”. Quando lo stesso utente ha poi ripetuto quell’appello alla violenza, diverse persone hanno reagito con emoji di approvazione. “Investire i manifestanti BLM con la mia Tesla”, ha scherzato un altro.
Inaspettatamente, il bigottismo religioso e il razzismo palese che prendono di mira una serie di gruppi sono facili da trovare sul server Discord più grande. All’inizio di settembre, un utente ha postato un insulto anti-ebraico, e ha scritto “ebreo = sporco imbroglione”. Altri postano frequentemente messaggi islamofobici, tra cui iterazioni di “remove kebab”, stenografia razzista su internet per la pulizia etnica dei musulmani. Alla fine di settembre, un altro utente ha scherzato sullo sposare una donna musulmana e poi ucciderla se la relazione non avesse funzionato. Altri rimpiangono i giorni delle crociate anti-musulmane, un ritornello comune tra i nazionalisti bianchi. Nel mezzo di un avanti e indietro islamofobico su Discord, un utente ha postato una GIF di quello che sembra essere un filmato aereo di diversi uomini, forse in Medio Oriente, uccisi da un attacco aereo.
A differenza del discord privato, i moderatori del più grande server The Donald Discord non sembrano avere collegamenti formali a qualsiasi bacheca ospitata su Reddit. Tuttavia, sembra esserci un crossover tra gli utenti del server e il subreddit r/donaldtrump, un’altra indicazione che gli ex membri di r/The_Donald stanno aggirando il divieto di Reddit della loro vecchia comunità. I membri del Discord fanno riferimenti occasionali e postano link al subreddit.
Le regole di Discord vietano gli utenti che “organizzano, promuovono o coordinano server intorno a discorsi di odio” e dicono che è “inaccettabile attaccare una persona o una comunità sulla base di attributi come la loro razza, etnia, origine nazionale, sesso, genere, orientamento sessuale, affiliazione religiosa o disabilità”. Essi vietano anche di fare “minacce di violenza o… danno”, comprese le “minacce indirette”. Dopo che Mother Jones ha chiesto a Discord di commentare l’attività che si svolge nelle due chat, la società ha detto che ha preso provvedimenti per rimuovere gli utenti che violano le sue regole. “Il nostro team di sicurezza Trust & ha indagato su questi server, ha identificato i cattivi attori / utenti, e successivamente ha preso l’azione appropriata di bannarli”, ha scritto Paul Cafiero, un portavoce della società, in una e-mail. Ha detto che la società aveva “avvertito i moderatori del server che questo tipo di attività non può essere tollerato sul nostro servizio”.”
Le azioni di Discord, prese la scorsa settimana, sembrano aver avuto un certo impatto. Ma potrebbero anche servire come un avvertimento che permette alle persone dietro i server di chat pro-Trump di pianificare la loro prossima mossa. Dopo aver ricevuto un avvertimento da Discord, i moderatori del più grande dei due chat server, The Donald, hanno risposto direttamente chiudendo tutti i suoi chat server pubblici. Ora permetterà solo ai suoi membri controllati di utilizzare le chat private “almeno fino a dopo le elezioni”.”
“Se sei stato bannato prima di oggi, 16 ottobre 2020, non sarai sbaraccato prima delle elezioni. Contattateci dopo il 3 novembre”, ha postato un moderatore in un altro canale, rivolgendosi ai singoli utenti bannati dopo l’inchiesta di Mother Jones.
Su The_Donald Est. 2017, in seguito a un avvertimento di Discord, i moderatori hanno incoraggiato gli utenti a unirsi a una chat di backup su una piattaforma diversa, dove potrebbero riorganizzarsi di fronte a un eventuale ban completo di Discord.
Le ricadute delle azioni di Discord illustrano una dinamica che mostra come potrebbe essere stato inevitabile che il divieto di Reddit su The_Donald sarebbe stato così facilmente aggirato dagli utenti del forum. Rishab Nithyanand, un professore di informatica presso l’Università dell’Iowa, ha pubblicato un documento l’anno scorso analizzando le pratiche di moderazione di Reddit su 3.000 subreddit. La sua ricerca ha scoperto che Reddit sembra applicare in modo incoerente le proprie regole, il che ha permesso ai membri dei subreddit vietati di migrare semplicemente verso comunità tossiche ancora attive con ideologie simili.
La decisione di Reddit di mettere in quarantena r/The_Donald ha assicurato che sarebbe spuntato altrove. I subreddit in quarantena spesso finiscono per essere bannati, e i membri del subreddit hanno preso il passo come un segno di avvertimento che r/The_Donald alla fine avrebbe incontrato lo stesso destino. Di conseguenza, i membri di r/The_Donald hanno iniziato a pianificare, incanalando i loro membri in altri canali di social media, tra cui Discord, in modo che potessero ricevere istruzioni su dove migrare quando il divieto sarebbe finalmente arrivato.
“Un divieto improvviso sarebbe stato molto più efficace per impedire loro di creare una nuova comunità”, dice Jacob Silver, un ricercatore senior presso la società di consulenza di media e tech investigations Memetica. “Sono anonimi, quindi se non hanno una comunità, è difficile per loro coordinarsi.”
Silver, come suggerisce la ricerca di Nithyanand, sostiene che era solo una questione di tempo prima che The_Donald avrebbe capito come ri-manifestarsi su Reddit. “È quasi come un gioco per loro”, dice Silver, che analizza le comunità Reddit dal 2017. “L’errore di Reddit, secondo Silver, è quello di trattare le comunità pericolose come casi isolati che possono essere banditi per una rapida spinta di PR. Invece, dice che dovrebbero concentrarsi sulle reti complete di utenti che le alimentano e le frequentano. Fare altrimenti, dice, equivale a tagliare le erbacce invece di strappare le radici.
“Se si ha una parte negli angoli bui di Internet sempre a tramare come possono ottenere più influenza, e un’altra parte che sta effettivamente operando sulla base di vittorie pubbliche con divieti occasionali e frammentari,” avverte Silver, “una parte continuerà a vincere.”