Mother Jones illustratie
Toen Reddit in juni r/The_Donald verbood, was de gemeenschap een van de beruchtste in de geschiedenis van het platform geworden. Het pro-Trump message board, de thuisbasis van een schadelijke groep van zijn aanhangers, was niet noodzakelijk de meest giftige gemeenschap op een site die op sommige momenten subreddits heeft gehost voor wit-nationalistische groepen en het delen van suggestieve foto’s van kinderen. Maar van de giftige gemeenschappen van de site had het aantoonbaar het grootste bereik en de grootste impact.
In de afgelopen jaren hebben honderdduizenden berichten van leden van de groep de informatieomgeving van het web helpen vormen, omdat ze elke week tientallen pro-Trump-memo’s pompten die soms hun weg vonden naar de sociale media-feeds van Donald Trump Jr. en de president zelf, wat bijdroeg aan een vloed van schijnbaar grassroots inhoud die zijn politieke inspanningen stimuleerde. In 2016 hield een “oorlogskamer” in het Trump Tower-hoofdkwartier van de campagne de subreddit in de gaten voor memes die het waard waren om te verheffen; Brad Parscale, de voormalige campagnemanager van Trump, schreef eens dat hij het prikbord dagelijks controleerde.
Critici van het moderatiebeleid van Reddit vroegen zich jarenlang publiekelijk af waarom r/The_Donald niet was verbannen, ondanks het consequent overtreden van de bedrijfsregels inzake racisme, onverdraagzaamheid en de verspreiding van desinformatie. In juni, nadat de site r/The_Donald al een lange quarantaineperiode had opgelegd – de term van Reddit voor een staat van beperkte toegang voor problematische gemeenschappen – werd r/The_Donald volledig verboden. Maar tegen de tijd dat dat gebeurde, waren de leden al maanden eerder vertrokken naar een zelfgemaakt forum ontworpen om Reddit na te bootsen genaamd TheDonald.win, dat al in de maak was sinds de quarantaine werd ingevoerd, evenals naar servers gehost door Discord, een internet chat service.
Ondanks dat hun subreddit al meer dan vier maanden van Reddit is verbannen, gaan de voormalige leden van The_Donald door met het aanrichten van ravage op de site. Mother Jones heeft toegang gekregen tot twee door Discord gehoste servers waar voormalige leden van de verbannen subreddit samenkomen, waaronder een privéserver waarvoor leden moeten worden doorgelicht. Chatberichten die daar zijn geplaatst, laten zien hoe voormalige leden van The_Donald een nieuw thuis hebben gevonden op Reddit en doorgaan met het coördineren en plannen van de verspreiding van haat, vitriool en desinformatie op de site en op andere plaatsen, ondanks het verbod van het bedrijf.
Met meer dan 3.000 leden is The_Donald Est. 2017, die werd vermeld als r/The_Donald’s officiële Discord voordat de subreddit werd neergehaald, de kleinste van de twee Discord-servers. In tegenstelling tot een aparte “The Donald” Discord-server, die gedeeltelijk open is voor iedereen en meer dan 21.000 leden heeft, beweert de The_Donald Est. 2017-server zijn leden streng te screenen en gebruikers die niet door het proces zijn gekomen te beperken tot een wachtkamer waar ze niet kunnen posten. Voordat r/The_Donald werd verbannen, was voor toelating tot de officiële Discord van de subreddit twee maanden postgeschiedenis in de subreddit vereist. Tegenwoordig wordt in het “extreme_vetting”-kanaal, waar nieuwe aanvragers van de Discord worden onderzocht, gespecificeerd dat ze een geschiedenis hebben van “pro-MAGA tweeten/retweeten.”
De moderators van dit privé Discord-kanaal lijken voormalige moderators van r/The_Donald subreddit te zijn, gebaseerd op hun eigen beweringen en een analyse van hun sociale media-accounts. Ze beweren een groep Trump-aanhangers te zijn die The_Donald modereerden totdat ze ergens in het afgelopen jaar de controle over het forum verloren aan een andere factie.
Deze moderators gebruiken het privékanaal regelmatig om de gebruikers ervan te organiseren, van wie velen rechtstreeks van r/The_Donald kwamen. Hoewel moderators leden hebben aangemoedigd om Reddit’s verbod te negeren en lid te worden van subreddits waaronder r/trumpteam en r/donald_trump, pushen ze het vaakst r/donald_trump als de nieuwe subreddit van de groep. Leden gebruiken de Discord om memes te verspreiden, pro-Trump posts op Reddit en andere sociale media platforms te stimuleren, online achter hun politieke tegenstanders aan te gaan, en desinformatie te verspreiden.
“Kort nadat dit modteam van r/The_Donald was verwijderd, begonnen we aan een reis om ervoor te zorgen dat we ons best deden om president Trump te dienen en hem te helpen herkozen te worden,” schreef een moderator op het aankondigingskanaal van de Discord, waarbij hij uitlegde dat ze “een manier hadden gevonden om nieuwe kiezers op Reddit te bereiken met https://www.reddit.com/r/donaldtrump” en beweerde dat een voormalige r/The_Donald-moderator had geholpen die nieuwe subreddit op te richten. In een andere vroege aankondiging in de chat, legde dezelfde moderator uit dat “we exclusief samenwerken met r/DonaldTrump op Reddit” en pochte over de nauwe relatie van de groep met de subreddit.
“e hebben alle mods die er zijn in hier en het is BELANGRIJK om de basis voor Trump uit te breiden,” legde de moderator uit, een hoop schetsend dat het nieuwe forum de rol van hun verbannen subreddit in het bereiken van nieuwe supporters zou kunnen hernemen. “Het echte succes van r/The_Donald was hoe snel en hoeveel normies het bereikte en je wint verkiezingen niet door alleen je basis te behouden, maar door het uit te breiden.”
Gebruikers van de oorspronkelijke r/The_Donald waren zeer effectief in het bespelen van de algoritmen van Reddit om zijn inhoud op de algoritmisch geaggregeerde voorpagina van het bedrijf te krijgen. Die bekendheid hielp de subreddit zijn basis uit te breiden en meer mensen bloot te stellen aan onverdraagzaamheid en desinformatie. Robert Peck schetste in Wired hoe de beheerders van r/The_Donald gebruik maakten van de “sticky”-functie van de site, die bedoeld is om informatieve of welkome berichten bovenaan een subreddit te plaatsen, om upvotes van de subreddit te verzamelen en de inhoud ervan te stimuleren.
Met r/donaldtrump, volgens de Discord-berichten van zijn moderatoren, hopen ze het succes te herhalen dat ze hadden met het in de mainstream brengen van r/The_Donald. “We laten r/all en r/popular regelmatig stijgen, soms meerdere keren per dag,” schreef een moderator op 25 juli over het nieuwe board. “De chat daar is ook opgelopen tot 10k, waardoor het een van de grootste chats op Reddit is. Ga zo door!”
Er is niet per se iets mis met het profileren van een subreddit gewijd aan een presidentskandidaat, maar de specifieke tactiek die r/The_Donald toepast om dit te doen is in strijd met het beleid van de site: Reddit verbiedt stemmanipulatie door het coördineren van upvotes op berichten, op of buiten het platform. Maar r/The_Donald werd gestraft omdat het een stampterrein werd voor schadelijke trollen om avant-garde racistische scheldwoorden uit te testen, geweld tegen groepen mensen op basis van hun politiek of ras te rechtvaardigen of daartoe op te roepen, en een eindeloze stroom desinformatie te verspreiden.
Voordat het van Reddit werd verbannen, plaatste r/The_Donald een bericht dat leden vertelde dat “Geen racisme/Anti-semitisme” berichten welkom waren, en moderators werkten eraan om overtredende items te verwijderen. Maar hun inspanningen leverden weinig op – alleen kauwgom die in de spleten van een dam werd geduwd die afbrokkelde onder een stortvloed van onverdraagzaamheid. In 2017, nadat een terrorist in Londen op voetgangers inreed, waarbij vijf doden vielen, barstte de subreddit uit in islamofobe haat. Na de 2019 Christchurch, Nieuw-Zeeland moskee schietpartij en de 2017 terroristische aanslag op de Londense Westminster Bridge, gebruikers opnieuw overspoeld de subreddit met islamofobe berichten. Toen Republikeinse leden van de wetgevende macht van de staat Oregon een staking organiseerden om niet te hoeven stemmen over milieuwetgeving, bedreigden leden van de subreddit met geweld Democratische ambtenaren en de staatspolitie die tot taak had de wetgevers terug te halen.
Op r/donaldtrump en het The_Donald Est. 2017 privé Discord-kanaal, is die haat doorgegaan. Posters op de subreddit hebben de term “jogger” gebruikt, een stand-in voor het n-woord dat werd geboren op 4chan nadat Ahmaud Arbery, een zwarte Amerikaanse man, werd gedood door blanke mannen in Georgia tijdens het sporten. In andere gevallen deelden ze memes over “dak-Koreanen” – een nauwelijks verhulde oproep om de wapens op te nemen tegen zwarte demonstranten, die verwijst naar gewapende Koreaanse en Koreaans-Amerikaanse winkeleigenaars die het dak van hun zaak opnamen tijdens protesten nadat de politie van Los Angeles Rodney King in 1992 in elkaar had geslagen.
In andere posts op r/donaldtrump hebben gebruikers het doden van onschuldige kinderen in het kruisvuur van Amerika’s militaire interventies in het Midden-Oosten gerechtvaardigd, ICE geprezen voor het naar verluidt serveren van varkensvlees aan moslimgevangenen, inhoud gepost waarin Kyle Rittenhouse wordt geprezen voor het doden van demonstranten, opgeroepen tot “het beëindigen van de rellen met buitensporig geweld,” en ongefundeerde samenzweringen verspreid over antifa die bosbranden in Oregon zou hebben veroorzaakt.
Hoewel Reddit zegt dat het gemeenschappen en gebruikers verbiedt om berichten te maken die “aanzetten tot geweld of die haat bevorderen op basis van identiteit of kwetsbaarheid,” weigerde Sierra Gamelgaard, een woordvoerder van Reddit, commentaar te geven op de haatdragende berichten die werden gevonden op de subreddit of op aanwijzingen dat het verbod van het bedrijf werd omzeild. In plaats daarvan wees ze op het inhoudsbeleid van de site en schreef dat het “gebruikers expliciet verbiedt om vals te spelen of zich bezig te houden met manipulatie van inhoud, inclusief het omzeilen van het verbod.”
Op de gesloten Discord-server die r/donaldtrump heeft gepromoot, verspreiden leden minder omzichtige versies van hetzelfde soort onverdraagzaamheid, desinformatie en aansporingen tot geweld die ze delen op Reddit-posts die naar verluidt ook in strijd zijn met de servicevoorwaarden van Discord. Moderators hebben herhaaldelijk gepleit bij leden om te stoppen met het gebruik van de “jogger” slurp, en gebruikers hebben een enorme bibliotheek van onzedelijke, seksistische memes gemaakt die Kamala Harris aanvallen en haar uitnodigen tot en zich bezighouden met verschillende seksuele handelingen.
Een gebruiker bood tips over hoe je demonstranten kunt doden en ermee wegkomt, verwijzend naar het geval van een bareigenaar uit Nebraska die werd aangeklaagd voor doodslag na het neerschieten en doden van James Scurlock, een demonstrant voor raciale rechtvaardigheid, in Omaha eind mei. “Als je iemand hebt neergeschoten en de (onjuiste) beslissing neemt om een waarschuwingsschot af te vuren, geef dan niet toe dat het een waarschuwingsschot was,” schreef hij, “want als je de tijd hebt om waarschuwingsschoten af te vuren en obsceniteiten te schreeuwen bij de aanval is het niet moeilijk om een aanklacht tegen je in te dienen die aangeeft dat het niet puur uit zelfverdediging was.” In plaats daarvan suggereerde hij lezers in zo’n situatie te zeggen: “Je hebt gewoon twee keer gemist.” Anderen betoogden dat de moord gerechtvaardigd was.
De grotere, open Discord hosts nog meer inhoud die waarschijnlijk in strijd is met het beleid van Discord. In september postte een gebruiker van The Donald dat “we alle BLM moeten neerschieten”. Nadat demonstranten in de straten van Louisville demonstreerden na de beslissing van een jury om geen politieagenten aan te klagen voor de moord op Breonna Taylor, suggereerde een ander lid dat de lokale ordehandhavers “echte kogels moeten gebruiken”. Toen dezelfde gebruiker later die oproep tot geweld herhaalde, reageerden verschillende mensen met goedkeurende emoji’s. “Ren over BLM demonstranten met mijn Tesla,” grapte een ander.
Opvallend genoeg zijn religieuze onverdraagzaamheid en openlijk racisme gericht op een scala aan groepen gemakkelijk te vinden op de grotere Discord-server. Begin september postte een gebruiker een anti-joodse scheldwoord en schreef “jew=filthy trickster.” Anderen posten regelmatig islamofobe berichten, waaronder herhalingen van “verwijder kebab,” racistische internetjargon voor de etnische zuivering van moslims. Eind september grapte een andere gebruiker over trouwen met een moslimvrouw en haar vervolgens te vermoorden als de relatie niet zou werken. Anderen verlangden terug naar de tijd van de kruistochten tegen moslims, een veelgehoorde uitspraak van blanke nationalisten. In het midden van een islamofoob heen en weer op Discord, postte een gebruiker een GIF van wat lijkt op luchtopnames van verschillende mannen, mogelijk in het Midden-Oosten, die gedood worden door een luchtaanval.
In tegenstelling tot de privé-discord, lijken de moderators van de grotere The Donald Discord server geen formele links te hebben naar enige message boards die op Reddit gehost worden. Er lijkt echter wel kruisbestuiving te zijn tussen gebruikers van de server en de r/donaldtrump subreddit, een andere aanwijzing dat voormalige leden van r/The_Donald het verbod van Reddit op hun oude community omzeilen. Leden van de Discord maken af en toe verwijzingen en plaatsen links naar de subreddit.
De regels van Discord verbieden gebruikers die “servers organiseren, promoten of coördineren rond haatzaaien” en zeggen dat het “onaanvaardbaar is om een persoon of een gemeenschap aan te vallen op basis van attributen zoals hun ras, etniciteit, nationale afkomst, geslacht, seksuele geaardheid, religieuze overtuiging of handicaps.” Ze verbieden ook het maken van “bedreigingen met geweld of … schade” met inbegrip van “indirecte bedreigingen”. Nadat Mother Jones Discord om commentaar had gevraagd op de activiteiten die plaatsvonden in de twee chats, zei het bedrijf dat het stappen had ondernomen om gebruikers die de regels schonden te verwijderen. “Ons Trust & Safety team onderzocht deze servers, identificeerde de slechte actoren / gebruikers, en nam vervolgens de gepaste actie om hen te bannen,” schreef Paul Cafiero, een woordvoerder van het bedrijf, in een e-mail. Hij zei dat het bedrijf “de servermoderators had gewaarschuwd dat dit soort activiteiten niet kan worden getolereerd op onze service.”
Discords acties, eind vorige week ondernomen, lijken enig effect te hebben gehad. Maar ze kunnen ook dienen als een waarschuwing voor de mensen achter de pro-Trump chatservers om hun volgende zet te plannen. Na een waarschuwing van Discord, reageerden de moderators van de grootste van de twee chatservers, The Donald, direct door al zijn publieke chatservers te sluiten. Het zal nu alleen zijn gescreende leden gebruik laten maken van de prive-chats “ten minste tot na de verkiezingen.”
“Als je voor vandaag, 16 oktober 2020, bent gebanned, zul je niet worden unbanned voor de verkiezingen. Neem contact met ons op na 3 november,” postte een moderator in een ander kanaal, gericht aan de individuele gebruikers die werden verbannen na het onderzoek van Mother Jones.
Op The_Donald Est. 2017, na een waarschuwing van Discord, moedigden moderatoren gebruikers aan om deel te nemen aan een back-upchat op een ander platform, waar ze zich konden reorganiseren in het gezicht van een mogelijke volledige Discord-ban.
De fall-out van Discord’s acties illustreren een dynamiek die laat zien hoe het misschien onvermijdelijk was dat Reddit’s verbod op The_Donald zo gemakkelijk zou worden omzeild door de gebruikers van het bord. Rishab Nithyanand, een hoogleraar computerwetenschappen aan de Universiteit van Iowa, publiceerde vorig jaar een artikel waarin hij de moderatiepraktijken van Reddit in 3000 subreddits analyseerde. Uit zijn onderzoek bleek dat Reddit zijn eigen regels niet consequent leek te handhaven, waardoor leden van verboden subreddits eenvoudigweg konden migreren naar nog functionerende giftige gemeenschappen met vergelijkbare ideologieën.
Reddit’s besluit om r/The_Donald in quarantaine te plaatsen, zorgde er vrijwel zeker voor dat het elders zou opduiken. In quarantaine geplaatste subreddits worden vaak uiteindelijk geband, en leden van de subreddit zagen de stap als een waarschuwingsteken dat r/The_Donald uiteindelijk hetzelfde lot zou treffen. Dienovereenkomstig begonnen leden van r/The_Donald te plannen, hun leden naar andere sociale mediakanalen te trechteren, waaronder Discord, zodat ze instructies konden krijgen over waar ze naartoe konden migreren wanneer het verbod uiteindelijk zou komen.
“Een plotseling verbod zou veel effectiever zijn geweest om hen ervan te weerhouden een nieuwe gemeenschap op te zetten,” zegt Jacob Silver, een senior onderzoeker bij het media- en techonderzoeksadviesbureau Memetica. “Ze zijn anoniem, dus als ze geen gemeenschap hebben, is het moeilijk voor ze om te coördineren.”
Silver stelt, net als Nithyanand’s onderzoek suggereert, dat het slechts een kwestie van tijd was voordat The_Donald erachter zou komen hoe hij zichzelf opnieuw zou manifesteren op Reddit. “Het is bijna als een spel voor hen,” zegt Silver, die sinds 2017 Reddit-gemeenschappen analyseert. “Ze zullen altijd op de achtergrond aan het plotten zijn hoe ze meer publiek kunnen zijn en de regels van platforms kunnen ondermijnen.”
Reddit’s fout, aldus Silver, is in het behandelen van gevaarlijke gemeenschappen als eenmalige gevallen die kunnen worden verbannen voor een snelle PR-boost. In plaats daarvan, zegt hij, moeten ze zich richten op de uitgebreide netwerken van gebruikers die de macht en frequent hen. Als je dat niet doet, komt dat volgens hem neer op het snoeien van onkruid in plaats van het uittrekken van wortels.
“Als je een kant hebt die in donkere hoeken van het internet altijd aan het plannen is hoe ze meer invloed kunnen krijgen, en een andere kant die effectief opereert op basis van het scoren van publiekelijke overwinningen met incidentele, versnipperde verboden,” waarschuwt Silver, “zal één kant blijven winnen.”