Mother Jones illustration
Da Reddit forbød r/The_Donald i juni, var fællesskabet blevet et af de mest berygtede i platformens historie. Den pro-Trump-beskedtavle, der var hjemsted for en skadelig gruppe af hans tilhængere, var ikke nødvendigvis det mest giftige fællesskab på et websted, der på visse punkter har været vært for subreddits for hvide nationalistiske grupper og deling af suggestive billeder af børn. Men af webstedets giftige fællesskaber havde det nok den største rækkevidde og effekt.
I løbet af de sidste mange år har hundredtusindvis af indlæg fra medlemmer af gruppen været med til at forme webmiljøets informationsmiljø, da de har pumpet snesevis af Pro-Trump-memes ud hver uge, som nogle gange har fundet vej til Donald Trump Jr. og præsidenten selv på de sociale medier, hvilket har bidraget til en strøm af tilsyneladende græsrodsindhold, der har styrket hans politiske bestræbelser. I 2016 overvågede et “krigsrum” i kampagnens Trump Tower-hovedkvarter underreddit for memes, der var værd at løfte; Brad Parscale, Trumps tidligere kampagneleder, skrev engang, at han tjekkede opslagstavlen dagligt.
Kritikere af Reddits moderationspolitik undrede sig offentligt i årevis over, hvorfor r/The_Donald ikke var blevet forbudt, selv om det konsekvent brød virksomhedens regler om racisme, fanatisme og spredning af misinformation. I juni, efter at det allerede havde fået en lang periode i karantæne – Reddits betegnelse for en tilstand med begrænset adgang, der er pålagt problematiske fællesskaber – forbød sitet det fuldstændigt. Men da det skete, havde medlemmerne allerede flere måneder tidligere forladt stedet til et hjemmelavet forum, der skulle efterligne Reddit, kaldet TheDonald.win, som havde været undervejs, siden karantænen blev indført, samt til servere hostet af Discord, en chat-tjeneste på internettet.
Selv om deres subreddit har været forbudt fra Reddit i over fire måneder, fortsætter The_Donalds tidligere medlemmer med at skabe ravage på webstedet. Mother Jones har fået adgang til to servere hostet af Discord, hvor tidligere medlemmer af det forbudte subreddit samles, herunder en privat server, som kræver, at medlemmerne skal godkendes. Chatbeskeder, der er lagt der, viser, hvordan tidligere medlemmer af The_Donald har fundet nye hjem på Reddit og fortsætter med at koordinere og planlægge spredningen af had, vitriol og misinformation på sitet og andre steder på trods af virksomhedens forbud.
Med mere end 3.000 medlemmer er The_Donald Est. 2017, der var opført som r/The_Donalds officielle Discord, før underredditet blev taget ned, den mindre af de to Discord-servere. I modsætning til en separat Discord-server “The Donald”, som er delvist åben for alle og har over 21.000 medlemmer, hævder The_Donald Est. 2017-serveren, at den nøje gennemgår sine medlemmer og begrænser brugere, der ikke har gennemgået processen, til et venteværelse, hvor de ikke kan skrive indlæg. Før r/The_Donald blev forbudt, krævede adgang til underredditets officielle Discord to måneders posteringshistorik i underredditet. I dag specificerer de krav, der er anført i dens “extreme_vetting”-kanal, hvor nye ansøgere til Discord undersøges, at de skal have en historie med “pro-MAGA tweeting/retweeting.”
Moderatorerne i denne private Discord-kanal ser ud til at være tidligere moderatorer for r/The_Donald subreddit, baseret på deres egne påstande og en analyse af deres konti på de sociale medier. De hævder at være en gruppe Trump-tilhængere, der modererede The_Donald, indtil de mistede kontrollen over forummet til en anden fraktion på et tidspunkt i det forgangne år.
Disse moderatorer bruger regelmæssigt den private kanal til at organisere sine brugere, hvoraf mange kom direkte fra r/The_Donald. Mens moderatorerne har opfordret medlemmerne til at tilsidesætte Reddits forbud og tilslutte sig underreddits, herunder r/trumpteam og r/donald_trump, skubber de oftest til r/donaldtrump som gruppens nye underreddit. Medlemmerne bruger Discord til at sprede memes, booste pro-Trump-indlæg på Reddit og andre sociale medieplatforme, gå efter deres politiske modstandere online og sprede misinformation.
“Kort efter at dette mod-team blev fjernet fra r/The_Donald, begyndte vi en rejse for at sikre, at vi gjorde vores bedste for at tjene præsident Trump og hjælpe ham med at blive genvalgt”, skrev en moderator på Discord’ens annoncerings kanal og forklarede, at de havde “fundet en måde at nå nye vælgere på Reddit med https://www.reddit.com/r/donaldtrump” og hævdede, at en tidligere r/The_Donald moderator havde hjulpet med at etablere denne nye subreddit. I en anden tidlig meddelelse i chatten forklarede den samme moderator, at “vi indgår et partnerskab med r/DonaldTrump udelukkende på Reddit” og pralede af gruppens tætte forhold til subredditet.
“e har alle de mods, der er derinde, herinde, og det er VIGTIGT at udvide basen for Trump,” forklarede moderatoren og skitserede et håb om, at det nye forum kunne gentage deres forbudte subreddits rolle i at nå nye tilhængere. “Den virkelige succes med r/The_Donald var, hvor hurtigt og hvor mange normies det nåede ud til, og man vinder valg ikke bare ved at fastholde sin base, men ved at udvide den.”
Brugere af det oprindelige r/The_Donald var ekstremt effektive til at snyde Reddits algoritmer for at få deres indhold på virksomhedens algoritmisk aggregerede forside. Denne fremtrædende placering hjalp subreddit’en med at udvide sin base og udsætte flere mennesker for bigotteri og misinformation. Robert Peck beskrev i Wired, hvordan moderatorerne af r/The_Donald udnyttede webstedets “sticky”-funktion, der har til formål at fastgøre informations- eller velkomstindlæg øverst i et subreddit, til at udnytte upvotes fra subredditet og øge dets indhold.
Med r/donaldtrump håber de ifølge moderatorernes Discord-beskeder at kunne gentage den succes, de havde med at bringe r/The_Donald ind i mainstream. “Vi får jævnligt r/all og r/popular til at stige hyppigt, nogle gange flere gange dagligt,” skrev en moderator om det nye forum den 25. juli. “Chatten der er også oppe på 10k, hvilket gør den til en af de største chats på Reddit. Keep it up!”
Der er ikke nødvendigvis noget forkert i at forsøge at øge profilen af et subreddit dedikeret til en præsidentkandidat, men den specifikke taktik, som r/The_Donald engagerede sig i for at gøre det, er dog i strid med webstedets politikker: Reddit forbyder manipulering af stemmer ved at koordinere upvotes på indlæg, på eller uden for platformen. Men r/The_Donald blev straffet, fordi det blev en grobund for skadelige trolls, der afprøvede avantgardistiske racistiske smædeskrifter, retfærdiggjorde eller opfordrede til vold mod grupper af mennesker baseret på deres politik eller race og spredte en uendelig strøm af misinformation.
Hvor det blev bandlyst fra Reddit, indførte r/The_Donald en meddelelse, der fortalte medlemmerne, at “Ingen racisme/anti-semitisme”-indlæg var velkomne, og moderatorer arbejdede på at fjerne overtrædende indlæg. Men deres indsats beløb sig til lidt – blot tyggegummi skubbet ind i sprækkerne i en dæmning, der smuldrede under en strøm af bigotteri. I 2017, efter at en terrorist kørte ind i fodgængere i London og dræbte fem personer, brød subreddit ud i islamofobisk had. Efter moskéskyderierne i Christchurch i New Zealand i 2019 og terrorangrebet på Westminster Bridge i London i 2017 oversvømmede brugerne igen subreddit’en med islamofobiske indlæg. Da republikanske medlemmer af den lovgivende forsamling i delstaten Oregon afholdt sig fra at gå på gaden for at undgå at stemme om miljølovgivning, truede medlemmer af subreddit’et voldeligt demokratiske embedsmænd og det statspoliti, der havde til opgave at hente lovgiverne.
På r/donaldtrump og den private Discord-kanal The_Donald Est. 2017 er dette had fortsat. Postere på subreddit har brugt udtrykket “jogger”, et stand-in for n-ordet, der blev født på 4chan, efter at Ahmaud Arbery, en sort amerikansk mand, blev dræbt af hvide mænd i Georgia, mens han dyrkede motion. I andre tilfælde har de delt memes om “koreanere på tagene” – en slet skjult opfordring til at gribe til våben mod sorte demonstranter, der henviser til bevæbnede koreanske og koreansk-amerikanske butiksejere, der gik op på deres forretningers tage under protesterne efter Los Angeles’ politi slog Rodney King i 1992.
I andre indlæg på r/donaldtrump har brugere retfærdiggjort drab på uskyldige børn, der er fanget i krydsilden af USA’s militære interventioner i Mellemøsten, rost ICE for angiveligt at servere svinekød til muslimske fanger, lagt indhold ud, der roser Kyle Rittenhouses drab på demonstranter, opfordret til at “afslutte optøjerne med overdreven magt” og spredt grundløse konspirationer om, at antifa har startet naturbrande i Oregon.
Selv om Reddit siger, at det forbyder fællesskaber og brugere at lave indlæg, der “tilskynder til vold eller som fremmer had baseret på identitet eller sårbarhed”, afviste Sierra Gamelgaard, en talsmand for Reddit, at kommentere de hadefulde indlæg, der blev fundet på subreddit, eller om tegn på, at virksomhedens forbud blev omgået. I stedet pegede hun på webstedets indholdspolitikker og skrev, at de “udtrykkeligt forbyder brugere at snyde eller deltage i indholdsmanipulation, herunder omgåelse af forbud.”
På den lukkede Discord-server, der har fremmet r/donaldtrump, spreder medlemmerne mindre forsigtige versioner af den samme slags fanatisme, misinformation og opfordringer til vold, som de deler på Reddit – indlæg, der angiveligt også overtræder Discords vilkår for tjeneste. Moderatorer har gentagne gange bønfaldt medlemmerne om at holde op med at bruge “jogger”-sladder, og brugerne har oprettet et stort bibliotek af utugtige, sexistiske memes, der angriber Kamala Harris og afbilder hende, der inviterer og deltager i forskellige sexhandlinger.
En bruger gav tips om, hvordan man kan dræbe demonstranter og slippe af sted med det, og citerede sagen om en bar-ejer i Nebraska, der blev tiltalt for manddrab efter at have skudt og dræbt James Scurlock, en demonstrant for racemæssig retfærdighed, i Omaha i slutningen af maj. “Hvis du har skudt nogen og træffer den (forkerte) beslutning om at affyre et advarselsskud, så indrøm ikke, at det var et advarselsskud,” skrev han, “for når du har tid til at affyre advarselsskud og råbe skældsord ved angrebet, er det ikke svært at rejse anklager mod dig, der indikerer, at det ikke var rent selvforsvar.” I stedet foreslog han læserne i en sådan situation, at de skulle sige, at “du ramte simpelthen ved siden af to gange”. Andre hævdede, at drabet var berettiget.
Den større, åbne Discord er vært for endnu mere indhold, der sandsynligvis er i strid med Discords politikker. I september skrev en bruger af The Donald, at “vi burde skyde alle BLM”. Efter at demonstranter havde samlet sig i Louisvilles gader efter en storjurys beslutning om ikke at sigte politibetjente for drabet på Breonna Taylor, foreslog et andet medlem, at de lokale ordensmagter “skal bruge skarpe skud”. Da den samme bruger senere gentog denne opfordring til vold, reagerede flere personer med anerkendende emojis. “Kør BLM-demonstranter over med min Tesla”, jokede en anden.
Uoverraskende nok er religiøs fanatisme og åbenlys racisme rettet mod en række grupper let at finde på den større Discord-server. I begyndelsen af september postede en bruger et anti-jødisk skældsord og skrev “jew=filthy trickster”. Andre poster ofte islamofobiske budskaber, herunder gentagelser af “remove kebab”, en racistisk internetforkortelse for etnisk udrensning af muslimer. I slutningen af september jokede en anden bruger med, at han ville gifte sig med en muslimsk kvinde og derefter dræbe hende, hvis forholdet ikke fungerede. Andre længes tilbage til de anti-muslimske korstog, hvilket er en fælles omkvæd blandt hvide nationalister. Midt i en islamofobisk frem og tilbage på Discord postede en bruger en GIF-film af, hvad der ser ud til at være luftoptagelser af flere mænd, muligvis i Mellemøsten, der bliver dræbt af et luftangreb.
I modsætning til den private discord ser det ikke ud til, at moderatorerne på den større The Donald Discord-server har formelle links til nogen opslagstavler, der er hostet tilbage på Reddit. Der ser dog ud til at være crossover mellem brugere af serveren og r/donaldtrump subreddit, hvilket er endnu et tegn på, at tidligere medlemmer af r/The_Donald omgår Reddits forbud mod deres gamle fællesskab. Medlemmer af Discord laver lejlighedsvise henvisninger og poster links til subreddit.
Discords regler forbyder brugere, der “organiserer, fremmer eller koordinerer servere omkring hadefuld tale” og siger, at det er “uacceptabelt at angribe en person eller et fællesskab baseret på egenskaber såsom deres race, etnicitet, nationale oprindelse, køn, køn, seksuel orientering, religiøst tilhørsforhold eller handicaps”. De forbyder også at fremsætte “trusler om vold eller … skade”, herunder “indirekte trusler”. Efter at Mother Jones havde bedt Discord om at kommentere de aktiviteter, der fandt sted i de to chats, sagde virksomheden, at den tog skridt til at fjerne brugere, der overtrådte dens regler. “Vores Trust & Safety team undersøgte disse servere, identificerede de dårlige aktører/brugere og tog efterfølgende den passende foranstaltning til at forbyde dem,” skrev Paul Cafiero, en talsmand for virksomheden, i en e-mail. Han sagde, at selskabet havde “advaret servermoderatorerne om, at denne type aktivitet ikke kan tolereres på vores tjeneste.”
Discords foranstaltninger, der blev truffet sidst i sidste uge, ser ud til at have haft en vis virkning. Men de kunne også tjene som en advarsel, der gør det muligt for folkene bag de pro-Trump-chat-servere at planlægge deres næste træk. Efter at have modtaget en advarsel fra Discord reagerede moderatorerne for den største af de to chat-servere, The Donald, direkte ved at lukke alle sine offentlige chat-servere. De vil nu kun lade deres godkendte medlemmer bruge deres private chats “i det mindste indtil efter valget.”
“Hvis du er blevet bannet før i dag, den 16. oktober 2020, vil du ikke blive ophævet før valget. Kontakt os efter den 3. november”, skrev en moderator i en anden kanal og henvendte sig til de enkelte brugere, der blev bannet efter Mother Jones’ henvendelse.
På The_Donald Est. 2017 opfordrede moderatorer efter en advarsel fra Discord brugerne til at deltage i en backup-chat på en anden platform, hvor de kunne reorganisere sig i lyset af et eventuelt fuldt Discord-forbud.
Udfaldet af Discords handlinger illustrerer en dynamik, der viser, hvordan det måske har været uundgåeligt, at Reddits forbud mod The_Donald ville blive så let omgået af boardets brugere. Rishab Nithyanand, en professor i datalogi ved University of Iowa, offentliggjorde sidste år en artikel, der analyserede Reddits moderationspraksis på tværs af 3.000 subreddits. Hans forskning viste, at Reddit tilsyneladende ikke håndhævede sine egne regler konsekvent, hvilket gjorde det muligt for medlemmer af forbudte underreddits blot at migrere til stadig fungerende giftige fællesskaber med lignende ideologier.
Reddits beslutning om at sætte r/The_Donald i karantæne sikrede stort set, at det ville dukke op andre steder. Underreddits i karantæne ender ofte med at blive forbudt, og medlemmer af underredditet tog dette skridt som et advarselstegn på, at r/The_Donald i sidste ende ville få den samme skæbne. Derfor begyndte medlemmerne af r/The_Donald at planlægge og kanaliserede deres medlemmer over på andre sociale mediekanaler, herunder Discord, så de kunne få instruktioner om, hvor de skulle migrere hen, når forbuddet endelig blev nedlagt.
“Et pludseligt forbud ville have været meget mere effektivt for at afholde dem fra at oprette et nyt fællesskab”, siger Jacob Silver, seniorforsker ved konsulentfirmaet Memetica, der beskæftiger sig med medie- og techundersøgelser. “De er anonyme, så hvis de ikke har et fællesskab, er det svært for dem at koordinere.”
Silver hævder, ligesom Nithyanands forskning antyder, at det kun var et spørgsmål om tid, før The_Donald ville finde ud af at remanifestere sig selv på Reddit. “Det er næsten som et spil for dem,” siger Silver, der har analyseret Reddit-fællesskaber siden 2017. “De vil altid planlægge i baggrunden, hvordan de kan være mere offentligt tilgængelige og undergrave platformenes regler.”
Reddits fejltagelse er ifølge Silver sagt, at de behandler farlige fællesskaber som engangstilfælde, der kan forbydes for et hurtigt PR-boost. I stedet siger han, at de bør fokusere på de omfattende netværk af brugere, der driver og frekventerer dem. Hvis man gør noget andet, siger han, svarer det til at trimme ukrudt i stedet for at rive rødderne ud.
“Hvis du har en side i internettets mørke hjørner, der altid planlægger, hvordan de kan få mere indflydelse, og en anden side, der effektivt opererer på grundlag af at score offentlige sejre med lejlighedsvise, fragmentariske forbud,” advarer Silver, “vil den ene side blive ved med at vinde.”