Mother Jones illustration
När Reddit förbjöd r/The_Donald i juni hade communityt blivit ett av de mest ökända i plattformens historia. Den pro-Trump-positiva anslagstavlan, som var hemvist för en giftig grupp av hans anhängare, var inte nödvändigtvis den mest giftiga gemenskapen på en webbplats som vid vissa tillfällen har varit värd för subreddits för vita nationalistiska grupper och delning av suggestiva bilder på barn. Men av webbplatsens giftiga grupper hade den utan tvekan den största räckvidden och effekten.
Under de senaste åren har hundratusentals inlägg från medlemmarna i gruppen bidragit till att forma webbens informationsmiljö, eftersom de har pumpat ut mängder av pro-Trump-memes varje vecka, som ibland har tagit sig in i de sociala medierna för Donald Trump Jr. och presidenten själv, vilket har bidragit till en flodvåg av till synes gräsrotsinnehåll som har stärkt hans politiska ansträngningar. Under 2016 övervakade ett ”krigsrum” vid kampanjens högkvarter i Trump Tower subreddit för att hitta memes som var värda att lyfta upp; Brad Parscale, Trumps tidigare kampanjchef, skrev en gång att han kontrollerade anslagstavlan dagligen.
Kritiker av Reddits modereringspolicy undrade offentligt i åratal varför r/The_Donald inte hade förbjudits, trots att det konsekvent bröt mot företagets regler om rasism, bigotteri och spridning av desinformation. I juni, efter att den redan hade fått en lång period i karantän – Reddits term för ett tillstånd av begränsad tillgång för problematiska grupper – förbjöd sajten den helt och hållet. Men när det hände hade medlemmarna redan flera månader tidigare flyttat till ett hemmagjort forum som är utformat för att efterlikna Reddit och som heter TheDonald.win, vilket hade varit på gång sedan karantänen infördes, samt till servrar som drivs av Discord, en chattjänst på internet.
Trots att deras subreddit har varit bannlyst från Reddit i över fyra månader fortsätter The_Donalds före detta medlemmar att skapa förödelse på sajten. Mother Jones har fått tillgång till två servrar som drivs av Discord där tidigare medlemmar av det förbjudna subredditet samlas, inklusive en privat server där medlemmarna måste kontrolleras. Chattmeddelanden som lagts upp där visar hur före detta medlemmar av The_Donald har hittat nya hem på Reddit och fortsätter att samordna och planera spridningen av hat, vitriol och desinformation på sajten och på andra platser, trots företagets förbud.
Med mer än 3 000 medlemmar är The_Donald Est. 2017, som angavs som r/The_Donalds officiella Discord innan subredditet togs ner, den mindre av de två Discord-servrarna. Till skillnad från den separata Discord-servern ”The Donald”, som delvis är öppen för alla och har över 21 000 medlemmar, hävdar The_Donald Est. 2017-servern att den har en strikt kontroll av sina medlemmar och begränsar användare som inte har klarat processen till ett väntrum där de inte kan skriva inlägg. Innan r/The_Donald förbjöds krävdes det två månaders inläggshistorik i subredditet för att få tillträde till subredditets officiella Discord. Numera anges i de krav som anges i kanalen ”extreme_vetting”, där nya sökande till Discord undersöks, att de ska ha en historia av ”pro-MAGA tweeting/retweeting”.
Moderatorerna i denna privata Discord-kanal tycks vara tidigare moderatorer för r/The_Donald subreddit, baserat på deras egna påståenden och en analys av deras konton i sociala medier. De påstår sig vara en grupp Trump-anhängare som modererade The_Donald tills de förlorade kontrollen över forumet till en annan grupp någon gång under det senaste året.
Dessa moderatorer använder regelbundet den privata kanalen för att organisera sina användare, av vilka många kom direkt från r/The_Donald. Även om moderatorerna har uppmuntrat medlemmarna att strunta i Reddits förbud och gå med i underredaktioner som r/trumpteam och r/donald_trump, driver de oftast r/donaldtrump som gruppens nya underredaktion. Medlemmarna använder Discord för att sprida memes, öka antalet pro-Trump-inlägg på Reddit och andra sociala medieplattformar, ge sig på sina politiska motståndare på nätet och sprida desinformation.
”Kort efter att det här mod-teamet togs bort från r/The_Donald började vi en resa för att se till att vi gjorde vårt bästa för att tjäna president Trump och hjälpa honom att bli omvald”, skrev en moderator på Discord-kanalen för tillkännagivandet, och förklarade att de hade ”hittat ett sätt att nå nya väljare på Reddit med https://www.reddit.com/r/donaldtrump” och hävdade att en före detta r/The_Donald-moderator hade hjälpt till att etablera det nya subredditet. I ett annat tidigt tillkännagivande i chatten förklarade samma moderator att ”vi samarbetar med r/DonaldTrump exklusivt på Reddit” och skröt om gruppens nära relation med subredditet.
”e har alla mods som finns här inne och det är VIKTIGT att utöka basen för Trump”, förklarade moderatorn och skisserade en förhoppning om att det nya forumet skulle kunna återuppta deras förbjudna subreddits roll för att nå nya anhängare. ”Den verkliga framgången för r/The_Donald var hur snabbt och hur många normalister det nådde och man vinner val inte bara genom att behålla sin bas, utan genom att utöka den.”
Användare av det ursprungliga r/The_Donald var extremt effektiva på att manipulera Reddits algoritmer för att få sitt innehåll på företagets algoritmiskt aggregerade förstasida. Denna framträdande ställning hjälpte subredditet att utöka sin bas och utsätta fler människor för bigotteri och desinformation. Robert Peck i Wired beskrev hur moderatorerna på r/The_Donald utnyttjade webbplatsens ”sticky”-funktion, som är avsedd att placera informations- eller välkomstinlägg högst upp i ett underreddit, för att få upp röster från underredditet och öka dess innehåll.
Med r/donaldtrump hoppas de, enligt moderatorernas Discord-meddelanden, kunna upprepa den framgång de hade med att föra in r/The_Donald i mainstream. ”Vi gör det regelbundet till r/all och r/popular rising på frekvent basis, ibland flera gånger dagligen”, skrev en moderator om det nya forumet den 25 juli. ”Chatten där är upp till 10k också, vilket gör den till en av de största chattarna på Reddit. Fortsätt så!”
Det är inte nödvändigtvis något fel med att försöka höja profilen på ett subreddit som är tillägnat en presidentkandidat, men den specifika taktik som r/The_Donald använde sig av för att göra det bryter mot webbplatsens riktlinjer: Reddit förbjuder röstmanipulation genom att samordna upphöjda röster på inlägg, på eller utanför plattformen. Men r/The_Donald bestraffades eftersom den blev en plats för skadliga troll som testade avantgardistiska rasistiska skällsord, rättfärdigade eller uppmanade till våld mot grupper av människor på grund av deras politik eller ras och spred en aldrig sinande ström av desinformation.
Innan den förbjöds från Reddit införde r/The_Donald ett meddelande som talade om för medlemmarna att ”Inga inlägg om rasism/antisemitism” var välkomna, och moderatorerna arbetade med att ta bort de inlägg som bröt mot reglerna. Men deras ansträngningar räckte inte till mycket – det var bara tuggummi som stoppades in i sprickorna i en damm som rasade under en flodvåg av bigotteri. År 2017, efter att en terrorist körde in i fotgängare i London och dödade fem personer, bröt subreddit ut i islamofobiskt hat. Efter moskéskjutningarna i Christchurch i Nya Zeeland 2019 och terroristattacken på Westminster Bridge i London 2017 översvämmade användarna återigen subredditet med islamofobiska inlägg. När republikanska medlemmar av delstatsförsamlingen i Oregon iscensatte en walkout för att undvika att rösta om miljölagstiftning, hotade medlemmar av subreddit våldsamt demokratiska tjänstemän och delstatspolisen som hade till uppgift att hämta lagstiftarna.
På r/donaldtrump och den privata Discord-kanalen The_Donald Est. 2017 har det hatet fortsatt. Posters på subreddit har använt termen ”joggare”, ett stand-in för n-ordet som föddes på 4chan efter att Ahmaud Arbery, en svart amerikansk man, dödades av vita män i Georgia när han motionerade. I andra fall har de delat memes om ”koreaner på taket” – en lätt förtäckt uppmaning att använda vapen mot svarta demonstranter som hänvisar till beväpnade koreanska och koreansk-amerikanska butiksägare som tog sig upp på sina affärers tak under protesterna efter att polisen i Los Angeles hade misshandlat Rodney King 1992.
I andra inlägg på r/donaldtrump har användare rättfärdigat dödandet av oskyldiga barn som hamnat i korselden av USA:s militära interventioner i Mellanöstern, berömt ICE för att de påstås ha serverat fläskkött till muslimska fångar, lagt upp innehåll som hyllar Kyle Rittenhouses dödande av demonstranter, uppmanat till att ”avsluta upploppen med överdrivet våld” och spridit grundlösa konspirationer om att antifa skulle ha startat skogsbränder i Oregon.
Reddit säger att det förbjuder grupper och användare att göra inlägg som ”uppmanar till våld eller som främjar hat baserat på identitet eller utsatthet”, men Sierra Gamelgaard, talesperson för Reddit, avböjde att kommentera de hatinlägg som hittats på subreddit eller indikationer på att företagets förbud har kringgåtts. I stället hänvisade hon till webbplatsens innehållspolicy och skrev att den ”uttryckligen förbjuder användare att fuska eller delta i innehållsmanipulation, inklusive att kringgå förbud.”
På den stängda Discord-servern som har främjat r/donaldtrump sprider medlemmarna mindre försiktiga versioner av samma typ av fanatism, desinformation och uppmaningar till våld som de delar med sig av på Reddit – inlägg som tydligen också bryter mot Discords användarvillkor. Moderatorer har upprepade gånger vädjat till medlemmarna att sluta använda ”joggare”, och användarna har skapat ett stort bibliotek av oanständiga, sexistiska memes som angriper Kamala Harris och föreställer henne när hon bjuder in till och deltar i olika sexuella handlingar.
En användare erbjöd tips om hur man dödar demonstranter och kommer undan med det, och citerade fallet med en barägare i Nebraska som åtalades för dråp efter att ha skjutit och dödat James Scurlock, en demonstrant som protesterade för rasrättvisa, i Omaha i slutet av maj. ”Om du har skjutit någon och fattar det (felaktiga) beslutet att avfyra ett varningsskott, erkänn inte att det var ett varningsskott”, skrev han, ”för när du har tid att avfyra varningsskott och skrika skällsord vid angreppet är det inte svårt att väcka åtal mot dig som visar att det inte var rent självförsvar”. Istället föreslog han läsare i en sådan situation att de skulle säga ”du missade helt enkelt två gånger”. Andra hävdade att dödandet var berättigat.
Den större, öppna Discord är värd för ännu mer innehåll som sannolikt bryter mot Discords policy. I september skrev en användare av The Donald att ”vi borde skjuta alla BLM”. Efter att demonstranter samlades på Louisvilles gator efter en storjurys beslut att inte åtala poliser för mordet på Breonna Taylor, föreslog en annan medlem att de lokala polismyndigheterna ”måste använda skarpa skott”. När samma användare senare upprepade denna uppmaning till våld reagerade flera personer med godkännande emojis. ”Kör över BLM-demonstranter med min Tesla”, skämtade en annan.
Oförvånande nog är religiös bigotteri och öppen rasism riktad mot en rad olika grupper lätt att hitta på den större Discord-servern. I början av september postade en användare ett antijudiskt skällsord och skrev ”jew=filthy trickster”. Andra postar ofta islamofobiska meddelanden, inklusive iterationer av ”remove kebab”, en rasistisk internetförkortning för etnisk rensning av muslimer. I slutet av september skämtade en annan användare om att gifta sig med en muslimsk kvinna och sedan döda henne om förhållandet inte fungerade. Andra längtar tillbaka till de antimuslimska korstågen, vilket är en vanlig refräng bland vita nationalister. Mitt i en islamofobisk diskussion på Discord lade en användare upp en GIF-film med vad som verkar vara flygbilder av flera män som dödas av en flygattack, möjligen i Mellanöstern.
Till skillnad från den privata discorden verkar moderatorerna på den större The Donald Discord-servern inte ha några formella länkar till några anslagstavlor som finns på Reddit. Det verkar dock finnas övergångar mellan användare av servern och subreddit r/donaldtrump, vilket är ytterligare en indikation på att tidigare medlemmar av r/The_Donald kringgår Reddits förbud mot deras gamla community. Medlemmar av Discord gör ibland hänvisningar och lägger upp länkar till subreddit.
Discords regler förbjuder användare som ”organiserar, främjar eller samordnar servrar kring hatretorik” och säger att det är ”oacceptabelt att angripa en person eller ett samhälle baserat på attribut som ras, etnicitet, nationellt ursprung, kön, genus, sexuell läggning, religiös tillhörighet eller funktionsnedsättning”. De förbjuder också ”hot om våld eller… skada”, inklusive ”indirekta hot”. Efter att Mother Jones bett Discord att kommentera den aktivitet som ägde rum i de två chattarna sa företaget att det vidtagit åtgärder för att ta bort användare som bryter mot dess regler. ”Vårt Trust & Safety team undersökte dessa servrar, identifierade de dåliga aktörerna/användarna och vidtog därefter lämpliga åtgärder för att förbjuda dem”, skrev Paul Cafiero, en talesperson för företaget, i ett e-postmeddelande. Han sade att företaget hade ”varnat servermoderatorerna att den här typen av aktivitet inte kan tolereras i vår tjänst.”
Discords åtgärder, som vidtogs i slutet av förra veckan, verkar ha haft viss effekt. Men de kan också fungera som en varning så att personerna bakom chatservrarna som är för Trump kan planera sitt nästa drag. Efter att ha fått en varning från Discord svarade moderatorerna på den större av de två chattservrarna, The Donald, direkt genom att stänga alla sina offentliga chattservrar. De kommer nu bara att låta sina granskade medlemmar använda sina privata chattar ”åtminstone fram till efter valet.”
”Om du blev bannlyst före idag, den 16 oktober 2020, kommer du inte att bli avbannad före valet. Kontakta oss efter den 3 november”, skrev en moderator i en annan kanal och riktade sig till de enskilda användare som bannlysts efter Mother Jones förfrågan.
På The_Donald Est. 2017, efter en varning från Discord, uppmuntrade moderatorerna användarna att gå med i en reservchatt på en annan plattform, där de kunde omorganisera sig inför en eventuell fullständig Discord-bannlysning.
Fallhöjningen av Discords åtgärder illustrerar en dynamik som visar hur det kan ha varit oundvikligt att Reddits förbud mot The_Donald skulle kringgås så lätt av forumets användare. Rishab Nithyanand, professor i datavetenskap vid University of Iowa, publicerade förra året en artikel där han analyserade Reddits modereringspraxis i 3 000 underredaktioner. Hans forskning visade att Reddit tycktes inte konsekvent tillämpa sina egna regler, vilket gjorde det möjligt för medlemmar i förbjudna underredaktioner att helt enkelt migrera till fortfarande fungerande giftiga gemenskaper med liknande ideologier.
Reddits beslut att sätta r/The_Donald i karantän garanterade nästan helt och hållet att den skulle dyka upp någon annanstans. Underreddar med karantän hamnar ofta i bannlysning, och medlemmarna i underredden tog steget som ett varningstecken för att r/The_Donald så småningom skulle gå samma öde till mötes. Följaktligen började medlemmarna i r/The_Donald planera och slussade sina medlemmar till andra sociala mediekanaler, bland annat Discord, så att de kunde få instruktioner om vart de skulle migrera när förbudet till slut kom.
”Ett plötsligt förbud hade varit mycket effektivare för att hindra dem från att starta ett nytt community”, säger Jacob Silver, seniorforskare på konsultföretaget Memetica, som utför undersökningar av medier och teknik. ”De är anonyma, så om de inte har en gemenskap är det svårt för dem att samordna sig.”
Silver menar, i likhet med vad Nithyanands forskning tyder på, att det bara var en tidsfråga innan The_Donald skulle komma på hur han/hon skulle kunna återskapa sig på Reddit. ”Det är nästan som ett spel för dem”, säger Silver, som har analyserat Reddit-gemenskaper sedan 2017. ”De kommer alltid att planera i bakgrunden hur de kan bli mer offentliga och undergräva plattformarnas regler.”
Reddits misstag, enligt Silver sa, är att behandla farliga communities som enstaka fall som kan förbjudas för en snabb PR-höjning. Istället säger han att de borde fokusera på de omfattande nätverk av användare som driver och frekventerar dem. Att göra något annat, säger han, är att klippa ogräs i stället för att slita ut rötterna.
”Om du har en sida i mörka hörn av Internet som alltid planerar hur de kan få mer inflytande, och en annan sida som effektivt arbetar på grundval av att vinna offentliga segrar med tillfälliga, fragmentariska förbud”, varnar Silver, ”kommer den ena sidan att fortsätta att vinna.”