Mother Jones illustration
Als Reddit im Juni r/The_Donald verbannte, war die Community zu einer der berüchtigtsten in der Geschichte der Plattform geworden. Das Pro-Trump-Forum, in dem sich eine Gruppe von Trump-Anhängern tummelte, war nicht unbedingt die giftigste Community auf einer Website, die zeitweise Subreddits für weiße nationalistische Gruppen und den Austausch anzüglicher Fotos von Kindern beherbergte. Aber von den toxischen Gemeinschaften der Website hatte sie wohl die größte Reichweite und Wirkung.
In den letzten Jahren haben Hunderttausende von Beiträgen von Mitgliedern der Gruppe dazu beigetragen, das Informationsumfeld im Internet zu gestalten, da sie jede Woche zahlreiche Pro-Trump-Memes veröffentlichten, die manchmal ihren Weg in die Social-Media-Feeds von Donald Trump Jr. und dem Präsidenten selbst fanden und zu einer Flut von scheinbar basisdemokratischen Inhalten beitrugen, die seine politischen Bemühungen unterstützten. Im Jahr 2016 überwachte ein „Kriegsraum“ im Hauptquartier der Kampagne im Trump Tower den Subreddit auf Memes, die es wert waren, hervorgehoben zu werden; Brad Parscale, Trumps ehemaliger Wahlkampfmanager, schrieb einmal, dass er das Message Board täglich überprüfte.
Kritiker der Moderationsrichtlinien von Reddit fragten sich jahrelang öffentlich, warum r/The_Donald nicht verboten worden war, obwohl es ständig gegen die Regeln des Unternehmens zu Rassismus, Bigotterie und der Verbreitung von Desinformation verstieß. Im Juni wurde r/The_Donald schließlich komplett gesperrt, nachdem es bereits eine lange Zeit unter Quarantäne gestellt worden war – Reddits Bezeichnung für einen eingeschränkten Zugang, der problematischen Gemeinschaften auferlegt wird. Doch als dies geschah, hatten sich die Mitglieder bereits Monate zuvor in ein selbstgebautes Forum mit dem Namen TheDonald.win verzogen, das Reddit imitieren sollte und an dem seit der Einführung der Quarantäne gearbeitet wurde, sowie auf Server, die von Discord, einem Internet-Chatdienst, gehostet werden.
Obwohl ihr Subreddit seit über vier Monaten von Reddit verbannt ist, richten die ehemaligen Mitglieder von The_Donald weiterhin Chaos auf der Website an. Mother Jones hat sich Zugang zu zwei von Discord gehosteten Servern verschafft, auf denen sich ehemalige Mitglieder des verbotenen Subreddits versammeln, darunter ein privater Server, der eine Überprüfung der Mitglieder erfordert. Chat-Nachrichten, die dort gepostet wurden, zeigen, wie ehemalige Mitglieder von The_Donald ein neues Zuhause auf Reddit gefunden haben und trotz des Verbots des Unternehmens weiterhin die Verbreitung von Hass, Feindseligkeit und Desinformation auf der Seite und an anderen Orten koordinieren und planen.
Mit mehr als 3.000 Mitgliedern ist The_Donald Est. 2017, der als offizieller Discord von r/The_Donald aufgeführt war, bevor das Subreddit abgeschaltet wurde, der kleinere der beiden Discord-Server. Im Gegensatz zum separaten „The Donald“-Discord-Server, der teilweise für alle offen ist und über 21.000 Mitglieder hat, gibt der Server The_Donald Est. 2017 an, seine Mitglieder streng zu überprüfen und Nutzer, die den Prozess nicht durchlaufen haben, in einen Warteraum zu sperren, wo sie nicht posten können. Bevor r/The_Donald verboten wurde, musste man zwei Monate lang im offiziellen Discord des Subreddits gepostet haben, um zugelassen zu werden. Heutzutage sind die Anforderungen im „extreme_vetting“-Kanal, in dem neue Bewerber für den Discord untersucht werden, auf „Pro-MAGA-Tweets/Retweets“ festgelegt.
Die Moderatoren dieses privaten Discord-Kanals scheinen ehemalige Moderatoren des Subreddits r/The_Donald zu sein, basierend auf ihren eigenen Angaben und einer Analyse ihrer Social-Media-Konten. Sie behaupten, eine Gruppe von Trump-Anhängern zu sein, die The_Donald moderierten, bis sie irgendwann im vergangenen Jahr die Kontrolle über das Board an eine andere Fraktion verloren.
Diese Moderatoren nutzen den privaten Kanal regelmäßig, um seine Nutzer zu organisieren, von denen viele direkt von r/The_Donald kamen. Die Moderatoren haben die Mitglieder zwar ermutigt, sich über das Verbot von Reddit hinwegzusetzen und Subreddits wie r/trumpteam und r/donald_trump beizutreten, aber am häufigsten haben sie r/donaldtrump als neues Subreddit der Gruppe gefördert. Die Mitglieder nutzen den Discord, um Memes zu verbreiten, Pro-Trump-Posts auf Reddit und anderen Social-Media-Plattformen zu unterstützen, ihre politischen Gegner online zu verfolgen und Desinformationen zu verbreiten.
„Kurz nachdem das Mod-Team von r/The_Donald entfernt wurde, begannen wir eine Reise, um sicherzustellen, dass wir unser Bestes tun, um Präsident Trump zu dienen und ihm zu helfen, wiedergewählt zu werden“, schrieb ein Moderator auf dem Ankündigungskanal des Discords und erklärte, dass sie „einen Weg gefunden haben, um neue Wähler auf Reddit mit https://www.reddit.com/r/donaldtrump zu erreichen“ und behauptete, dass ein ehemaliger r/The_Donald-Moderator geholfen hatte, dieses neue Subreddit zu gründen. In einer weiteren frühen Ankündigung im Chat erklärte derselbe Moderator, dass „wir mit r/DonaldTrump exklusiv auf Reddit zusammenarbeiten“ und prahlte mit der engen Beziehung der Gruppe zum Subreddit.
„Wir haben alle Mods, die dort sind, hier drin, und es ist WICHTIG, die Basis für Trump zu erweitern“, erklärte der Moderator und äußerte die Hoffnung, dass das neue Forum die Rolle des verbotenen Subreddits beim Erreichen neuer Unterstützer übernehmen könnte. „Der wirkliche Erfolg von r/The_Donald war, wie schnell und wie viele Normalos es erreicht hat, und man gewinnt Wahlen nicht nur, indem man seine Basis behält, sondern indem man sie erweitert.“
Die Nutzer des ursprünglichen r/The_Donald waren äußerst effektiv darin, die Algorithmen von Reddit zu manipulieren, um ihre Inhalte auf die algorithmisch zusammengestellte Startseite des Unternehmens zu bringen. Diese Prominenz half dem Subreddit, seine Basis zu erweitern und mehr Menschen mit Bigotterie und Desinformation zu konfrontieren. Robert Peck beschrieb in Wired, wie die Moderatoren von r/The_Donald die „Sticky“-Funktion der Website nutzten, die dazu dient, informative oder willkommene Beiträge an den Anfang eines Subreddits zu heften, um Upvotes aus dem Subreddit zu nutzen und dessen Inhalt zu fördern.
Mit r/donaldtrump hoffen die Moderatoren, den Erfolg zu wiederholen, den sie hatten, als sie r/The_Donald in den Mainstream brachten. „Wir schaffen es regelmäßig, dass r/all und r/popular ansteigen, manchmal mehrmals täglich“, schrieb ein Moderator am 25. Juli über das neue Board. „Der Chat dort ist auch bis zu 10k, was ihn zu einem der größten Chats auf Reddit macht. Mach weiter so!“
Es ist nicht unbedingt falsch zu versuchen, das Profil eines Subreddits, das einem Präsidentschaftskandidaten gewidmet ist, zu erhöhen, aber die spezielle Taktik, die r/The_Donald dabei anwandte, verstößt gegen die Richtlinien der Website: Reddit verbietet die Manipulation von Stimmen durch die Koordinierung von Upvotes in Beiträgen, sei es auf oder außerhalb der Plattform. Aber r/The_Donald wurde bestraft, weil es zu einem Tummelplatz für schädliche Trolle wurde, um avantgardistische rassistische Verunglimpfungen auszuprobieren, Gewalt gegen Gruppen von Menschen aufgrund ihrer Politik oder Rasse zu rechtfertigen oder dazu aufzurufen und einen nicht enden wollenden Strom von Desinformationen zu verbreiten.
Bevor es von Reddit verbannt wurde, richtete r/The_Donald einen Hinweis ein, der die Mitglieder darauf hinwies, dass „No Racism/Anti-Semitism“-Beiträge willkommen waren, und die Moderatoren arbeiteten daran, verletzende Beiträge zu entfernen. Aber ihre Bemühungen brachten wenig – nur Kaugummi, der in die Ritzen eines Dammes geschoben wurde, der unter einer Flut von Bigotterie zusammenbrach. Nachdem 2017 ein Terrorist in London Fußgänger anfuhr und fünf Menschen tötete, brach im Subreddit islamfeindlicher Hass aus. Nach den Schießereien in einer Moschee in Christchurch, Neuseeland, im Jahr 2019 und dem Terroranschlag auf der Londoner Westminster Bridge im Jahr 2017 überschwemmten Nutzer das Subreddit erneut mit islamfeindlichen Beiträgen. Als republikanische Mitglieder der Legislative des Bundesstaates Oregon die Arbeit niederlegten, um eine Abstimmung über Umweltgesetze zu verhindern, bedrohten Mitglieder des Subreddits gewaltsam demokratische Beamte und die Staatspolizei, die mit der Rückholung der Gesetzgeber beauftragt war.
Auf r/donaldtrump und dem privaten Discord-Kanal The_Donald Est. 2017 hat sich dieser Hass fortgesetzt. Poster auf dem Subreddit haben den Begriff „Jogger“ verwendet, ein Ersatz für das N-Wort, das auf 4chan geboren wurde, nachdem Ahmaud Arbery, ein schwarzer Amerikaner, von weißen Männern in Georgia beim Sport getötet wurde. In anderen Fällen haben sie Memes über „Rooftop-Koreaner“ geteilt – ein kaum verhüllter Aufruf, Waffen gegen schwarze Demonstranten einzusetzen, der sich auf bewaffnete koreanische und koreanisch-amerikanische Ladenbesitzer bezieht, die sich während der Proteste auf die Dächer ihrer Geschäfte begaben, nachdem die Polizei in Los Angeles 1992 Rodney King geschlagen hatte.
In anderen Beiträgen auf r/donaldtrump haben Nutzer die Tötung unschuldiger Kinder gerechtfertigt, die im Kreuzfeuer von Amerikas Militärinterventionen im Nahen Osten gefangen waren, ICE dafür gelobt, dass sie angeblich Schweinefleisch an muslimische Häftlinge serviert haben, Inhalte gepostet, die Kyle Rittenhouse für die Tötung von Demonstranten loben, dazu aufgerufen, „die Unruhen mit exzessiver Gewalt zu beenden“, und unbegründete Verschwörungen darüber verbreitet, dass die Antifa Waldbrände in Oregon gelegt hat.
Reddit sagt zwar, dass es Gemeinschaften und Nutzern verbietet, Beiträge zu verfassen, die „zu Gewalt anstiften oder Hass aufgrund von Identität oder Verletzlichkeit fördern“, doch Sierra Gamelgaard, eine Reddit-Sprecherin, lehnte es ab, die im Subreddit gefundenen Hassbeiträge zu kommentieren oder Hinweise darauf zu geben, dass das Verbot des Unternehmens umgangen wurde. Stattdessen verwies sie auf die Inhaltsrichtlinien der Website und schrieb, dass diese „Nutzern ausdrücklich verbieten, zu betrügen oder Inhalte zu manipulieren, einschließlich der Umgehung von Verboten.“
Auf dem geschlossenen Discord-Server, der r/donaldtrump gefördert hat, verbreiten Mitglieder weniger vorsichtige Versionen derselben Art von Bigotterie, Desinformation und Gewaltaufrufe, die sie auf Reddit teilen – Beiträge, die angeblich auch gegen die Nutzungsbedingungen von Discord verstoßen. Die Moderatoren haben wiederholt an die Mitglieder appelliert, die Beleidigung „Jogger“ nicht mehr zu verwenden, und die Nutzer haben eine riesige Sammlung unzüchtiger, sexistischer Memes erstellt, in denen Kamala Harris angegriffen und dargestellt wird, wie sie zu verschiedenen sexuellen Handlungen einlädt und sich daran beteiligt.
Ein Nutzer gab Tipps, wie man Demonstranten töten und damit davonkommen kann, und zitierte den Fall eines Barbesitzers aus Nebraska, der wegen Totschlags angeklagt wurde, nachdem er Ende Mai in Omaha auf James Scurlock, einen Demonstranten für Rassengerechtigkeit, geschossen und diesen getötet hatte. „Wenn Sie auf jemanden geschossen haben und die (falsche) Entscheidung treffen, einen Warnschuss abzugeben, geben Sie nicht zu, dass es ein Warnschuss war“, schrieb er, „denn wenn Sie Zeit haben, Warnschüsse abzugeben und bei dem Angriff Obszönitäten zu rufen, ist es nicht schwer, Sie anzuklagen, was darauf hindeutet, dass es keine reine Selbstverteidigung war.“ Stattdessen schlug er den Lesern vor, in einer solchen Situation zu sagen: „Sie haben einfach zweimal danebengeschossen“. Andere argumentierten, die Tötung sei gerechtfertigt gewesen.
Das größere, offene Discord beherbergt noch mehr Inhalte, die wahrscheinlich gegen die Discord-Richtlinien verstoßen. Im September postete ein Nutzer von The Donald, dass „wir alle BLM erschießen sollten“. Nachdem sich Demonstranten in den Straßen von Louisville versammelt hatten, nachdem ein Geschworenengericht beschlossen hatte, keine Anklage gegen Polizeibeamte wegen der Ermordung von Breonna Taylor zu erheben, schlug ein anderes Mitglied vor, dass die örtlichen Strafverfolgungsbehörden „scharfe Munition verwenden sollten“. Als derselbe Nutzer später diesen Aufruf zur Gewalt wiederholte, reagierten mehrere Personen mit zustimmenden Emojis. „Überfahre BLM-Demonstranten mit meinem Tesla“, scherzte ein anderer.
Überraschenderweise sind religiöse Bigotterie und offener Rassismus, der sich gegen eine Reihe von Gruppen richtet, auf dem größeren Discord-Server leicht zu finden. Anfang September postete ein Nutzer eine antijüdische Beleidigung und schrieb: „Jude = dreckiger Betrüger.“ Andere posten häufig islamfeindliche Nachrichten, darunter Wiederholungen von „remove kebab“, einer rassistischen Internet-Verknüpfung für die ethnische Säuberung von Muslimen. Ende September scherzte ein anderer Nutzer darüber, eine muslimische Frau zu heiraten und sie dann zu töten, wenn die Beziehung nicht funktioniere. Andere sehnen sich nach den Tagen der antimuslimischen Kreuzzüge, ein unter weißen Nationalisten weit verbreiteter Refrain. Inmitten eines islamfeindlichen Hin und Her auf Discord postete ein Nutzer ein GIF, bei dem es sich um Luftaufnahmen zu handeln scheint, die zeigen, wie mehrere Männer, möglicherweise im Nahen Osten, durch einen Luftangriff getötet werden.
Im Gegensatz zum privaten Discord scheinen die Moderatoren des größeren The Donald Discord-Servers keine formellen Links zu Nachrichtenbrettern zu haben, die auf Reddit gehostet werden. Es scheint jedoch Überschneidungen zwischen den Nutzern des Servers und dem Subreddit r/donaldtrump zu geben, ein weiteres Indiz dafür, dass ehemalige Mitglieder von r/The_Donald das Verbot ihrer alten Community durch Reddit umgehen. Die Discord-Mitglieder verweisen gelegentlich auf das Subreddit und posten Links dazu.
Die Discord-Regeln verbieten Benutzer, die „Server für Hassreden organisieren, fördern oder koordinieren“ und sagen, dass es „inakzeptabel ist, eine Person oder eine Gemeinschaft aufgrund von Merkmalen wie Rasse, ethnischer Zugehörigkeit, nationaler Herkunft, Geschlecht, sexueller Orientierung, religiöser Zugehörigkeit oder Behinderung anzugreifen“. Sie verbieten auch „Drohungen mit Gewalt oder Schaden“, einschließlich „indirekter Drohungen“. Nachdem Mother Jones Discord um eine Stellungnahme zu den Aktivitäten in den beiden Chats gebeten hatte, erklärte das Unternehmen, es habe Schritte unternommen, um Nutzer zu entfernen, die gegen seine Regeln verstoßen. „Unser Trust & Safety Team untersuchte diese Server, identifizierte die Übeltäter/Nutzer und ergriff daraufhin die angemessene Maßnahme, sie zu sperren“, schrieb Paul Cafiero, ein Sprecher des Unternehmens, in einer E-Mail. Er sagte, das Unternehmen habe „die Server-Moderatoren gewarnt, dass diese Art von Aktivität in unserem Dienst nicht toleriert werden kann“.
Discords Maßnahmen, die Ende letzter Woche ergriffen wurden, scheinen Wirkung gezeigt zu haben. Sie könnten aber auch als Vorwarnung dienen, die es den Leuten hinter den Pro-Trump-Chat-Servern ermöglicht, ihren nächsten Schritt zu planen. Nachdem sie eine Warnung von Discord erhalten hatten, reagierten die Moderatoren des größeren der beiden Chatserver, The Donald, direkt, indem sie alle ihre öffentlichen Chatserver schlossen. Die privaten Chats werden nur noch von überprüften Mitgliedern genutzt, zumindest bis nach der Wahl.“
„Wenn du vor dem heutigen 16. Oktober 2020 gesperrt wurdest, wird deine Sperre vor der Wahl nicht aufgehoben. Kontaktieren Sie uns nach dem 3. November“, postete ein Moderator in einem anderen Kanal und wandte sich an die einzelnen Nutzer, die nach der Anfrage von Mother Jones gesperrt wurden.
Am The_Donald Est. 2017 ermutigten die Moderatoren nach einer Warnung von Discord die Nutzer, einem Backup-Chat auf einer anderen Plattform beizutreten, wo sie sich angesichts eines möglichen vollständigen Discord-Banns neu organisieren könnten.
Die Auswirkungen der Maßnahmen von Discord veranschaulichen eine Dynamik, die zeigt, dass es möglicherweise unvermeidlich war, dass das Reddit-Verbot von The_Donald von den Nutzern des Forums so leicht umgangen werden konnte. Rishab Nithyanand, ein Informatikprofessor an der Universität von Iowa, veröffentlichte letztes Jahr eine Arbeit, in der er die Moderationspraktiken von Reddit in 3.000 Subreddits analysierte. Seine Untersuchung ergab, dass Reddit seine eigenen Regeln anscheinend nicht konsequent durchsetzt, was es den Mitgliedern verbotener Subreddits ermöglichte, einfach in noch funktionierende toxische Gemeinschaften mit ähnlichen Ideologien abzuwandern.
Die Entscheidung von Reddit, r/The_Donald unter Quarantäne zu stellen, stellte sicher, dass es anderswo auftauchen würde. Subreddits, die unter Quarantäne gestellt werden, werden oft verboten, und die Mitglieder des Subreddits sahen diesen Schritt als ein Warnzeichen dafür, dass r/The_Donald schließlich das gleiche Schicksal ereilen würde. Dementsprechend begannen die Mitglieder von r/The_Donald mit der Planung und leiteten ihre Mitglieder in andere Social-Media-Kanäle, einschließlich Discord, um Anweisungen zu erhalten, wohin sie abwandern sollten, wenn das Verbot schließlich verhängt würde.
„Ein plötzliches Verbot wäre viel effektiver gewesen, um sie davon abzuhalten, eine neue Gemeinschaft zu gründen“, sagt Jacob Silver, ein leitender Forscher bei der Medien- und Tech-Untersuchungsfirma Memetica. „
Silver, wie auch Nithyanand, ist der Meinung, dass es nur eine Frage der Zeit war, bis The_Donald herausfinden würde, wie er sich auf Reddit neu manifestieren könnte. „Es ist fast wie ein Spiel für sie“, sagt Silver, der seit 2017 Reddit-Communities analysiert. „Sie werden im Hintergrund immer überlegen, wie sie mehr in die Öffentlichkeit treten und die Regeln der Plattformen unterlaufen können.“
Der Fehler von Reddit liegt laut Silver darin, gefährliche Gemeinschaften als einmalige Fälle zu behandeln, die für einen schnellen PR-Schub verboten werden können. Stattdessen solle man sich auf die umfassenden Netzwerke von Nutzern konzentrieren, die sie betreiben und frequentieren. Andernfalls würde man nur das Unkraut stutzen, anstatt die Wurzeln auszureißen.
„Wenn es eine Seite gibt, die in dunklen Ecken des Internets immer darüber nachdenkt, wie sie mehr Einfluss gewinnen kann, und eine andere Seite, die mit gelegentlichen, stückweisen Verboten öffentliche Erfolge erzielt“, warnt Silver, „dann wird eine Seite immer gewinnen.“