>
Mother Jones illustration
Quando Reddit baniu r/The_Donald em junho, a comunidade tinha se tornado uma das mais notórias da história da plataforma. O quadro de mensagens pró-Trump, lar de um grupo nocivo de seus apoiadores, não era necessariamente a comunidade mais tóxica de um site que, em alguns pontos, hospedou subreddits para grupos nacionalistas brancos e compartilhando fotos sugestivas de crianças. Mas, das comunidades tóxicas do site, ele foi sem dúvida a que teve mais alcance e impacto.
Nos últimos anos, centenas de milhares de posts de membros do grupo ajudaram a moldar o ambiente de informação da web, já que eles bombearam dezenas de memes Pro-Trump a cada semana, que às vezes entraram na mídia social de Donald Trump Jr. e do próprio presidente, contribuindo para uma enchente de conteúdo aparentemente popular que impulsionou seus esforços políticos. Em 2016, uma “sala de guerra” na sede da Trump Tower da campanha monitorou o subreddit para memes que valiam a pena elevar; Brad Parscale, ex-gerente de campanha da Trump, uma vez escreveu que verificava o quadro de mensagens diariamente.
Críticos das políticas de moderação da Reddit questionaram-se publicamente durante anos porque r/The_Donald não tinha sido banido, apesar de constantemente quebrar as regras da empresa sobre racismo, fanatismo e a disseminação de desinformação. Em junho, depois de seu histórico já ter ganho um longo período de quarentena – o prazo do r/The_Donald para um estado de acesso restrito imposto às comunidades problemáticas – o site o baniu completamente. Mas quando isso aconteceu, os membros já tinham decampado meses antes para um fórum caseiro projetado para imitar Reddit chamado TheDonald.win, que estava em funcionamento desde que a quarentena foi introduzida, bem como para servidores hospedados pela Discord, um serviço de bate-papo na internet.
Even embora seu subredito tenha sido banido da Reddit por mais de quatro meses, The_Donald’s antigos membros continuam a causar estragos no site. Madre Jones ganhou acesso a dois servidores hospedados pela Discord onde antigos membros do subredito banido se reúnem, incluindo um servidor privado que requer que os membros sejam avaliados. Mensagens de chat postadas lá mostram como antigos membros do The_Donald encontraram novas casas no Reddit e continuam a coordenar e planejar a disseminação de ódio, vitríolo e desinformação no site e em outros locais, apesar da proibição da empresa.
Com mais de 3.000 membros, The_Donald Est. 2017, que foi listado como r/The_Donald’s Discord oficial antes do subreddit ser retirado, é o menor dos dois servidores Discord. Ao contrário de um servidor “The Donald” Discord separado, que é parcialmente aberto a todos e tem mais de 21.000 membros, o servidor The_Donald Est. 2017 afirma que controla rigorosamente os seus membros, restringindo os utilizadores que não limparam o seu processo a uma sala de espera onde não podem postar. Antes do r/The_Donald ser banido, a admissão no Discord oficial do subredito requeria dois meses de histórico de postagem no subredito. Atualmente, os requisitos listados em seu canal “extreme_vetting”, onde novos candidatos ao Discord são investigados, especificam ter um histórico de “pro-MAGA tweeting/retweeting”
Os moderadores deste canal privado Discord parecem ser antigos moderadores do r/The_Donald subreddit, baseados em suas próprias reivindicações e uma análise de suas contas nas mídias sociais. Eles se dizem um grupo de apoiadores do Trump que moderaram The_Donald até perderem o controle do conselho para outra facção em algum momento do ano passado.
Os moderadores usam regularmente o canal privado para organizar seus usuários, muitos dos quais vieram diretamente de r/The_Donald. Embora os moderadores tenham encorajado os membros a desrespeitar a proibição da Reddit e a se juntar aos subredits, incluindo r/trumpteam e r/donald_trump, eles mais freqüentemente empurram r/donaldtrump como o novo subredito do grupo. Os membros usam o Discord para divulgar memes, impulsionar posts pró-Trump na Reddit e outras plataformas de mídia social, ir atrás de seus adversários políticos online, e espalhar desinformação.
“Pouco depois que esta equipe mod foi removida de r/The_Donald, começamos uma jornada para garantir que fizemos o nosso melhor para servir o Presidente Trump e ajudá-lo a ser reeleito”, um moderador escreveu no canal do anúncio da Discord, explicando que eles tinham “uma maneira de alcançar novos eleitores em Reddit com https://www.reddit.com/r/donaldtrump” e afirmando que um antigo moderador r/The_Donald tinha ajudado a estabelecer esse novo subredito. Em outro anúncio inicial no chat, o mesmo moderador explicou que “estamos nos associando com r/DonaldTrump exclusivamente no Reddit” e se gabou da estreita relação do grupo com o subredito.
“e ter todos os mods que estão aqui e é IMPORTANTE expandir a base para o Trump”, o moderador explicou, delineando uma esperança de que o novo fórum possa retomar o papel do subredito banido para alcançar novos apoiadores. “O verdadeiro sucesso do r/The_Donald foi o quão rápido e quantos normies ele alcançou e você ganha eleições não apenas mantendo sua base, mas expandindo-a.”
Os usuários do r/The_Donald original foram extremamente eficazes nos algoritmos de jogo do Reddit para conseguir seu conteúdo na página inicial agregada ao algoritmo da empresa. Essa proeminência ajudou o subredit a expandir sua base e expor mais pessoas ao fanatismo e desinformação. Robert Peck em Wired delineou como moderadores do r/The_Donald aproveitaram o recurso “pegajoso” do site, com o objetivo de colocar posts informativos ou de boas-vindas no topo de um subredito, para aproveitar os votos do subredito e aumentar seu conteúdo.
Com r/donaldtrump, de acordo com as mensagens Discord dos seus moderadores, eles esperam replicar o sucesso que tiveram trazendo r/The_Donald para o mainstream. “Estamos regularmente a conseguir r/all e r/popular subindo com frequência, por vezes várias vezes ao dia”, escreveu um moderador sobre o novo quadro no dia 25 de Julho. “O bate-papo lá é de até 10k também, tornando-o um dos maiores chats no Reddit”. Continue assim!”
Não há nada necessariamente errado em tentar elevar o perfil de um subredito dedicado a um candidato presidencial, no entanto, as táticas específicas que r/The_Donald empregou para fazer isso violam as políticas do site: Reddit proíbe a manipulação de votos através da coordenação de votações em postos, dentro ou fora da plataforma. Mas r/The_Donald foi castigado porque se tornou um campo de força para os trolls nocivos testarem as calúnias raciais de vanguarda, justificarem ou apelarem à violência contra grupos de pessoas com base na sua política ou raça, e espalharem um fluxo interminável de desinformação.
Antes de ser banido do Reddit, r/The_Donald pôs em prática um aviso dizendo aos membros que os posts “No Racism/Anti-Semitism” eram bem-vindos, e os moderadores trabalharam para remover itens violadores. Mas os seus esforços foram pouco – apenas pastilha elástica enfiada nas fendas de uma barragem que se desmoronava sob uma torrente de fanatismo. Em 2017, depois de um terrorista ter entrado em Londres, matando cinco pessoas, o subreddit irrompeu em ódio islamofóbico. Depois da Christchurch de 2019, dos tiroteios na mesquita da Nova Zelândia e do ataque terrorista de 2017 na ponte de Westminster em Londres, os usuários inundaram novamente o subreddit com postos islamofóbicos. Quando os membros republicanos da legislatura do estado do Oregon encenaram uma campanha para evitar a votação da legislação ambiental, os membros do subreddit ameaçaram violentamente as autoridades democratas e a polícia estadual encarregada de recuperar os legisladores.
On r/donaldtrump e o canal privado The_Donald Est. 2017 Discord, esse ódio continuou. Cartazes no subreddit usaram o termo “jogger”, um stand-in para a palavra n que nasceu no 4chan depois que Ahmaud Arbery, um homem negro americano, foi morto por homens brancos na Geórgia enquanto se exercitava. Em outros casos, eles compartilharam memes sobre “coreanos de telhado” – uma chamada velada para empunhar armas contra manifestantes negros que faz referência a coreanos armados e donos de lojas coreanas americanas que levaram para os telhados de seus negócios durante os protestos depois que a polícia de Los Angeles espancou Rodney King em 1992.
Em outros posts no r/donaldtrump, os usuários justificaram a morte de crianças inocentes apanhadas no fogo cruzado das intervenções militares americanas no Oriente Médio, elogiaram o ICE por supostamente servir carne de porco a prisioneiros muçulmanos, postaram conteúdo elogiando a morte de manifestantes por Kyle Rittenhouse, pediram para “acabar com os tumultos com força excessiva”, e espalharam conspirações sem fundamento sobre o início de incêndios florestais no Oregon.
Embora Reddit diga que proíbe comunidades e usuários de fazer posts que “incitam à violência ou que promovem o ódio com base na identidade ou vulnerabilidade”, Sierra Gamelgaard, porta-voz da Reddit, recusou-se a comentar sobre os posts de ódio encontrados no subreddit ou sobre indicações de que a proibição da empresa estava sendo contornada. Em vez disso, ela apontou para as políticas de conteúdo do site, escrevendo que elas “proíbem explicitamente os usuários de trapacear ou se envolver em manipulação de conteúdo, incluindo a evasão à proibição”
No servidor fechado Discord que promoveu r/donaldtrump, os membros espalham versões menos guardadas do mesmo tipo de intolerância, desinformação e incitação à violência que compartilham nos posts da Reddit que ostensivamente também violam os termos de serviço da Discord. Moderadores têm repetidamente implorado aos membros que parem de usar o slur “jogger”, e os usuários criaram uma vasta biblioteca de memes lascivos e sexistas atacando Kamala Harris e retratando seu convite e envolvimento em vários atos sexuais.
Um usuário ofereceu dicas de como matar os manifestantes e se safar, citando o caso de um dono de bar do Nebraska que foi indiciado por homicídio involuntário após atirar e matar James Scurlock, um manifestante de justiça racial, em Omaha, no final de maio. “Se você atirou em alguém e tomou a (incorreta) decisão de atirar um tiro de advertência, não admita que foi um tiro de advertência”, escreveu ele, “porque quando você tem tempo de atirar tiros de advertência e gritar obscenidades no ataque não é difícil apresentar acusações contra você que indiquem que não foi puramente em defesa própria”. Em vez disso, ele sugeriu aos leitores em tal situação que eles deveriam dizer “você simplesmente errou duas vezes”. Outros argumentaram que a matança foi justificada.
O maior, aberto Discord hospeda ainda mais conteúdo, provavelmente em violação às políticas do Discord. Em setembro, um usuário do The Donald postou que “devemos atirar em todos os BLM”. Depois de manifestantes se reunirem nas ruas de Louisville após a decisão de um grande júri de não acusar policiais no assassinato de Breonna Taylor, outro membro sugeriu às autoridades locais “necessidade de usar munições ao vivo”. Quando o mesmo utilizador repetiu mais tarde esse apelo à violência, várias pessoas reagiram com a aprovação dos emojis. “Atropelar manifestantes do BLM com o meu Tesla”, outra brincadeira.
Não surpreende que o fanatismo religioso e o racismo ostensivo que visa uma série de grupos seja fácil de encontrar no servidor maior da Discord. No início de setembro, um usuário postou um slur anti-judaico, e escreveu “jew=trickster sujo”. Outros frequentemente postam mensagens islamofóbicas, incluindo iterações de “remover kebab”, estenografia de internet racista para a limpeza étnica dos muçulmanos. No final de setembro, outro usuário brincou sobre casar com uma mulher muçulmana e depois matá-los se a relação não funcionasse. Outros anseiam pelos dias das Cruzadas anti-muçulmanas, um refrão comum entre os nacionalistas brancos. No meio de um Islamófobo para frente e para trás na Discord, um usuário postou um GIF do que parece ser uma filmagem aérea de vários homens, possivelmente no Oriente Médio, sendo mortos por um ataque aéreo.
ÀÀ semelhança da discórdia privada, os moderadores do grande servidor Donald Discord não parecem ter links formais para qualquer quadro de mensagens hospedado de volta no Reddit. Entretanto, parece haver um cruzamento entre os usuários do servidor e o subreddit r/donaldtrump, outra indicação de que os antigos membros do r/The_Donald estão contornando a proibição de Reddit de sua antiga comunidade. Membros do Discord fazem referências ocasionais e postam links para o subredito.
As regras do Discord proíbem usuários que “organizam, promovem ou coordenam servidores em torno do discurso do ódio” e dizem que é “inaceitável atacar uma pessoa ou uma comunidade com base em atributos como raça, etnia, origem nacional, sexo, gênero, orientação sexual, afiliação religiosa ou deficiências”. Eles também proíbem fazer “ameaças de violência ou…danos”, incluindo “ameaças indirectas”. Depois que a Madre Jones pediu à Discord para comentar sobre as atividades que acontecem nas duas conversas, a empresa disse que tomou medidas para remover usuários que violam suas regras. “Nossa confiança & A equipe de segurança investigou esses servidores, identificou os maus atores/usuários e, posteriormente, tomou a ação apropriada de proibi-los”, escreveu Paul Cafiero, porta-voz da empresa, em um e-mail. Ele disse que a empresa tinha “avisado os moderadores dos servidores que este tipo de actividade não pode ser tolerada no nosso serviço”
As acções do Disco, tomadas no final da semana passada, parecem ter tido algum impacto. Mas elas também poderiam servir como um aviso, permitindo que as pessoas por trás dos servidores de chat pró-Trump traçassem seu próximo passo. Após receberem um aviso da Discord, os moderadores do maior dos dois servidores de chat, The Donald, responderam diretamente fechando todos os seus servidores de chat públicos. Ele agora só vai deixar seus membros vetados usar seus bate-papos privados “pelo menos até depois da eleição”
“Se você foi banido antes de hoje, 16 de outubro de 2020, você não será banido antes da eleição. Contacte-nos depois de 3 de Novembro”, um moderador postou em outro canal, abordando os usuários individuais banidos após a consulta da Madre Jones.
No The_Donald Est. 2017, após um aviso da Discord, os moderadores encorajaram os usuários a se juntar a um chat de backup em uma plataforma diferente, onde eles poderiam se reorganizar em face de qualquer possível proibição total da Discord.
As consequências das acções do Discord ilustram uma dinâmica que mostra como pode ter sido inevitável que a proibição do Reddit no The_Donald fosse tão facilmente contornada pelos utilizadores do fórum. Rishab Nithyanand, professor de ciências da computação na Universidade de Iowa, publicou um artigo no ano passado analisando as práticas de moderação da Reddit em 3.000 subreddits. Sua pesquisa descobriu que Reddit parecia aplicar de forma inconsistente suas próprias regras, o que permitiu que membros de subredits proibidos simplesmente migrassem para comunidades tóxicas ainda operantes com ideologias similares.
A decisão de Reddit de colocar em quarentena r/The_Donald all mas assegurou que ela apareceria em outro lugar. Os subreditos em quarentena acabam muitas vezes por ser banidos, e os membros do subredito tomaram o passo como um sinal de aviso de que r/The_Donald acabaria por encontrar o mesmo destino. Assim, os membros de r/The_Donald começaram a planejar, canalizando seus membros para outros canais de mídia social, incluindo a Discord, para que pudessem receber instruções sobre para onde migrar quando o banimento finalmente chegasse.
“Um banimento repentino teria sido muito mais eficaz para impedi-los de criar uma nova comunidade”, diz Jacob Silver, um pesquisador sênior da consultoria de mídia e investigação tecnológica Memetica. “Eles são anônimos, então se eles não têm uma comunidade, é difícil para eles coordenar”
Prata, como a pesquisa de Nithyanand sugere, argumenta que era apenas uma questão de tempo até que The_Donald descobrisse como se re-manifestar em Reddit. “É quase como um jogo para eles”, diz Silver, que tem analisado as comunidades Reddit desde 2017. “Eles vão estar sempre a traçar em segundo plano como podem ser mais voltados para o público e subverter as regras das plataformas”
O erro do Reddit, de acordo com o Silver disse, é tratar as comunidades perigosas como instâncias pontuais que podem ser banidas para um rápido impulso de relações públicas. Em vez disso, ele diz que eles devem se concentrar nas redes abrangentes de usuários que os alimentam e freqüentam. Fazer o contrário, diz ele, equivale a cortar ervas daninhas em vez de arrancar raízes.
“Se você tem um lado em cantos escuros da internet sempre traçando como eles podem ganhar mais influência, e outro lado que está efetivamente operando com base no entalhe do público ganha com proibições ocasionais e fragmentadas”, adverte Silver, “um lado vai continuar ganhando”.