Illustration de Mother Jones
Au moment où Reddit a banni r/The_Donald en juin, la communauté était devenue l’une des plus notoires de l’histoire de la plateforme. Le forum pro-Trump, qui abritait un groupe nocif de ses partisans, n’était pas nécessairement la communauté la plus toxique sur un site qui, à certains moments, a accueilli des subreddits pour des groupes nationalistes blancs et le partage de photos suggestives d’enfants. Mais, parmi les communautés toxiques du site, elle a sans doute eu la plus grande portée et le plus grand impact.
Au cours des dernières années, des centaines de milliers de messages publiés par les membres du groupe ont contribué à façonner l’environnement d’information du web, car ils ont pompé des dizaines de mèmes pro-Trump chaque semaine qui se sont parfois retrouvés dans les flux de médias sociaux de Donald Trump Jr. et du président lui-même, contribuant à un flot de contenu apparemment populaire qui a stimulé ses efforts politiques. En 2016, une « salle de guerre » au siège de la Trump Tower de la campagne surveillait le subreddit pour les mèmes qui valaient la peine d’être élevés ; Brad Parscale, l’ancien directeur de campagne de Trump, a un jour écrit qu’il vérifiait le tableau de messages quotidiennement.
Les critiques des politiques de modération de Reddit se sont publiquement demandé pendant des années pourquoi r/The_Donald n’avait pas été banni, bien qu’il ait constamment enfreint les règles de l’entreprise sur le racisme, le sectarisme et la diffusion de la désinformation. En juin, alors que ses antécédents lui avaient déjà valu une longue période de quarantaine – terme utilisé par Reddit pour désigner un état de restriction d’accès imposé aux communautés problématiques – le site l’a complètement banni. Mais le temps que cela se produise, les membres avaient déjà décampé des mois plus tôt pour un forum maison conçu pour imiter Reddit, appelé TheDonald.win, qui était en préparation depuis l’introduction de la quarantaine, ainsi que sur des serveurs hébergés par Discord, un service de chat sur Internet.
Même si leur subreddit a été banni de Reddit depuis plus de quatre mois, les anciens membres de The_Donald continuent de faire des ravages sur le site. Mother Jones a obtenu l’accès à deux serveurs hébergés par Discord où se réunissent les anciens membres du subreddit interdit, dont un serveur privé qui exige que les membres soient contrôlés. Les messages de chat qui y sont postés montrent comment les anciens membres de The_Donald ont trouvé de nouveaux foyers sur Reddit et continuent de coordonner et de planifier la diffusion de la haine, du vitriol et de la désinformation sur le site et dans d’autres lieux, malgré l’interdiction de l’entreprise.
Avec plus de 3 000 membres, The_Donald Est. 2017, qui était répertorié comme le Discord officiel de r/The_Donald avant que le subreddit ne soit retiré, est le plus petit des deux serveurs Discord. Contrairement au serveur Discord « The Donald », qui est partiellement ouvert à tous et compte plus de 21 000 membres, le serveur The_Donald Est. 2017 prétend contrôler rigoureusement ses membres, limitant les utilisateurs qui n’ont pas passé le processus à une salle d’attente où ils ne peuvent pas poster. Avant que r/The_Donald ne soit interdit, l’admission sur le Discord officiel du subreddit nécessitait deux mois d’historique de publication dans le subreddit. Aujourd’hui, les exigences énumérées dans son canal « extreme_vetting », où les nouveaux candidats au Discord sont examinés, précisent avoir un historique de « tweeting/retweeting pro-MAGA. »
Les modérateurs de ce canal Discord privé semblent être d’anciens modérateurs du subreddit r/The_Donald, d’après leurs propres affirmations et une analyse de leurs comptes de médias sociaux. Ils prétendent être un groupe de partisans de Trump qui ont modéré The_Donald jusqu’à ce qu’ils perdent le contrôle du conseil d’administration au profit d’une autre faction à un moment donné de l’année dernière.
Ces modérateurs utilisent régulièrement le canal privé pour organiser ses utilisateurs, dont beaucoup viennent directement de r/The_Donald. Si les modérateurs ont encouragé les membres à faire fi de l’interdiction de Reddit et à rejoindre des subreddits, notamment r/trumpteam et r/donald_trump, ils poussent le plus souvent r/donaldtrump comme le nouveau subreddit du groupe. Les membres utilisent le Discord pour diffuser des mèmes, stimuler les publications pro-Trump sur Reddit et d’autres plateformes de médias sociaux, s’en prendre à leurs adversaires politiques en ligne et diffuser de la désinformation.
« Peu après que cette équipe de modérateurs a été retirée de r/The_Donald, nous avons commencé un voyage pour nous assurer que nous faisions de notre mieux pour servir le président Trump et l’aider à être réélu », a écrit un modérateur sur le canal d’annonce du Discord, expliquant qu’ils avaient « trouvé un moyen d’atteindre de nouveaux électeurs sur Reddit avec https://www.reddit.com/r/donaldtrump » et affirmant qu’un ancien modérateur de r/The_Donald avait aidé à établir ce nouveau subreddit. Dans une autre annonce faite au début du chat, le même modérateur a expliqué que « nous sommes en partenariat avec r/DonaldTrump exclusivement sur Reddit » et s’est vanté de la relation étroite du groupe avec le subreddit.
« Nous avons tous les mods qui sont là ici et il est IMPORTANT d’élargir la base pour Trump », a expliqué le modérateur, soulignant un espoir que le nouveau forum pourrait reprendre le rôle de leur subreddit interdit pour atteindre de nouveaux partisans. « Le véritable succès de r/The_Donald a été la rapidité et le nombre de normies qu’il a atteint et vous gagnez des élections non pas en conservant simplement votre base, mais en l’élargissant. »
Les utilisateurs du r/The_Donald original étaient extrêmement efficaces pour jouer avec les algorithmes de Reddit afin de faire passer son contenu sur la première page agrégée par algorithme de la société. Cette proéminence a permis au subreddit d’élargir sa base et d’exposer davantage de personnes au sectarisme et à la désinformation. Robert Peck, dans Wired, a décrit comment les modérateurs de r/The_Donald ont exploité la fonction « sticky » du site, destinée à épingler les messages informatifs ou de bienvenue en haut d’un subreddit, pour exploiter les upvotes du subreddit et dynamiser son contenu.
Avec r/donaldtrump, selon les messages Discord de ses modérateurs, ils espèrent reproduire le succès qu’ils ont eu en amenant r/The_Donald dans le grand public. « Nous arrivons régulièrement à r/all et r/popular rising sur une base fréquente, parfois plusieurs fois par jour », a écrit un modérateur à propos du nouveau forum le 25 juillet. « Le chat qui s’y trouve atteint également les 10k, ce qui en fait l’un des plus grands chats de Reddit. Continuez comme ça ! »
Il n’y a rien de nécessairement mauvais à essayer de rehausser le profil d’un subreddit dédié à un candidat à la présidence, cependant, les tactiques spécifiques dans lesquelles r/The_Donald s’est engagé pour le faire violent les politiques du site : Reddit interdit la manipulation des votes par la coordination des votes positifs sur les messages, sur ou hors plateforme. Mais r/The_Donald a été puni parce qu’il est devenu un terrain de jeu pour des trolls nocifs qui testaient des insultes raciales d’avant-garde, justifiaient ou appelaient à la violence contre des groupes de personnes en fonction de leur politique ou de leur race, et diffusaient un flot ininterrompu de désinformation.
Avant d’être banni de Reddit, r/The_Donald a mis en place un avis indiquant aux membres que les messages « Pas de racisme/antisémitisme » étaient les bienvenus, et les modérateurs se sont efforcés de supprimer les éléments en infraction. Mais leurs efforts n’ont pas abouti à grand-chose – juste du chewing-gum enfoncé dans les crevasses d’un barrage croulant sous un torrent de bigoterie. En 2017, après qu’un terroriste a foncé sur des piétons à Londres, faisant cinq morts, le subreddit a éclaté en haine islamophobe. Après les fusillades de 2019 dans une mosquée de Christchurch, en Nouvelle-Zélande, et l’attaque terroriste de 2017 sur le pont de Westminster, à Londres, les utilisateurs ont à nouveau inondé le subreddit de posts islamophobes. Lorsque les membres républicains de l’assemblée législative de l’État de l’Oregon ont organisé un débrayage pour éviter de voter sur la législation environnementale, les membres du subreddit ont violemment menacé les responsables démocrates et la police de l’État chargée de récupérer les législateurs.
Sur r/donaldtrump et le canal Discord privé The_Donald Est. 2017, cette haine a continué. Les posteurs sur le subreddit ont utilisé le terme « jogger », un stand-in pour le mot « n » qui est né sur 4chan après qu’Ahmaud Arbery, un Noir américain, ait été tué par des hommes blancs en Géorgie alors qu’il faisait de l’exercice. Dans d’autres cas, ils ont partagé des mèmes sur les « Coréens sur les toits » – un appel à peine voilé à brandir des armes contre les manifestants noirs qui fait référence aux propriétaires de magasins coréens et coréo-américains armés qui ont pris place sur les toits de leur entreprise lors des manifestations après que la police de Los Angeles a battu Rodney King en 1992.
Dans d’autres messages sur r/donaldtrump, des utilisateurs ont justifié le meurtre d’enfants innocents pris dans le feu croisé des interventions militaires de l’Amérique au Moyen-Orient, ont fait l’éloge de l’ICE pour avoir prétendument servi du porc à des détenus musulmans, ont posté du contenu faisant l’éloge du meurtre de manifestants par Kyle Rittenhouse, ont appelé à « mettre fin aux émeutes par une force excessive » et ont répandu des conspirations sans fondement sur le fait que les antifa auraient déclenché des feux de forêt dans l’Oregon.
Bien que Reddit dise qu’il interdit aux communautés et aux utilisateurs de faire des posts qui « incitent à la violence ou qui promeuvent la haine basée sur l’identité ou la vulnérabilité », Sierra Gamelgaard, une porte-parole de Reddit, a refusé de commenter les posts haineux trouvés sur le subreddit ou les indications que l’interdiction de l’entreprise était contournée. Au lieu de cela, elle a pointé du doigt les politiques de contenu du site, écrivant qu’elles « interdisent explicitement aux utilisateurs de tricher ou de s’engager dans la manipulation du contenu, y compris le contournement de l’interdiction. »
Sur le serveur Discord fermé qui a promu r/donaldtrump, les membres diffusent des versions moins surveillées du même type de sectarisme, de désinformation et d’incitations à la violence qu’ils partagent sur Reddit – des messages qui violent aussi ostensiblement les conditions de service de Discord. Les modérateurs ont plaidé à plusieurs reprises auprès des membres pour qu’ils cessent d’utiliser l’injure « jogger », et les utilisateurs ont créé une vaste bibliothèque de mèmes obscènes et sexistes attaquant Kamala Harris et la représentant en train d’inviter et de se livrer à divers actes sexuels.
Un utilisateur a offert des conseils sur la façon de tuer des manifestants et de s’en sortir, citant le cas d’un propriétaire de bar du Nebraska qui a été inculpé pour homicide involontaire après avoir tiré et tué James Scurlock, un manifestant pour la justice raciale, à Omaha fin mai. « Si vous avez tiré sur quelqu’un et que vous prenez la (mauvaise) décision de tirer un coup de semonce, n’admettez pas qu’il s’agissait d’un coup de semonce », écrit-il, « car lorsque vous avez le temps de tirer des coups de semonce et de crier des obscénités à l’attaque, il n’est pas difficile de porter des accusations contre vous qui indiquent que ce n’était pas purement de la légitime défense. » Au lieu de cela, il a suggéré aux lecteurs dans une telle situation de dire « vous avez simplement manqué deux fois ». D’autres ont soutenu que le meurtre était justifié.
Le Discord, plus grand et ouvert, héberge encore plus de contenu probablement en violation des politiques de Discord. En septembre, un utilisateur de The Donald a posté que « nous devrions tirer sur tous les BLM ». Après que des manifestants se sont rassemblés dans les rues de Louisville à la suite de la décision d’un grand jury de ne pas inculper les policiers dans le meurtre de Breonna Taylor, un autre membre a suggéré que les forces de l’ordre locales « doivent utiliser des balles réelles ». Lorsque le même utilisateur a ensuite répété cet appel à la violence, plusieurs personnes ont réagi avec des émojis approbateurs. « Écraser les manifestants de BLM avec ma Tesla », a plaisanté un autre.
Sans surprise, le sectarisme religieux et le racisme manifeste ciblant toute une série de groupes sont faciles à trouver sur le plus grand serveur Discord. Début septembre, un utilisateur a posté une insulte anti-juive, et a écrit « juif=filthy trickster ». D’autres publient fréquemment des messages islamophobes, notamment des itérations de « remove kebab », un raccourci internet raciste pour le nettoyage ethnique des musulmans. Fin septembre, un autre utilisateur a plaisanté sur le fait d’épouser une femme musulmane et de la tuer si la relation ne fonctionnait pas. D’autres se languissent de l’époque des croisades antimusulmanes, un refrain courant chez les nationalistes blancs. Au milieu d’un va-et-vient islamophobe sur Discord, un utilisateur a posté un GIF de ce qui semble être des images aériennes de plusieurs hommes, probablement au Moyen-Orient, tués par une frappe aérienne.
Contrairement au discord privé, les modérateurs du plus grand serveur Discord de The Donald ne semblent pas avoir de liens formels avec les babillards hébergés de nouveau sur Reddit. Cependant, il semble y avoir un croisement entre les utilisateurs du serveur et le subreddit r/donaldtrump, une autre indication que les anciens membres de r/The_Donald contournent l’interdiction de leur ancienne communauté par Reddit. Les membres du Discord font occasionnellement des références et postent des liens vers le subreddit.
Les règles du Discord interdisent les utilisateurs qui « organisent, promeuvent ou coordonnent des serveurs autour de discours de haine » et disent qu’il est « inacceptable d’attaquer une personne ou une communauté en fonction d’attributs tels que leur race, leur ethnicité, leur origine nationale, leur sexe, leur genre, leur orientation sexuelle, leur affiliation religieuse ou leurs handicaps ». Ils interdisent également de proférer des « menaces de violence ou… de préjudice », y compris des « menaces indirectes ». Après que Mother Jones a demandé à Discord de commenter l’activité qui se déroule dans les deux chats, la société a déclaré avoir pris des mesures pour supprimer les utilisateurs qui violent ses règles. « Notre équipe de sécurité Trust & a enquêté sur ces serveurs, a identifié les mauvais acteurs / utilisateurs, et a ensuite pris les mesures appropriées pour les bannir », a écrit Paul Cafiero, un porte-parole de l’entreprise, dans un courriel. Il a ajouté que la société avait « averti les modérateurs des serveurs que ce type d’activité ne peut être toléré sur notre service. »
Les actions de Discord, prises à la fin de la semaine dernière, semblent avoir eu un certain impact. Mais elles pourraient aussi servir d’avertissement permettant aux personnes derrière les serveurs de discussion pro-Trump de préparer leur prochain coup. Après avoir reçu un avertissement de Discord, les modérateurs du plus grand des deux serveurs de discussion, The Donald, ont répondu directement en fermant tous ses serveurs de discussion publics. Il ne laissera désormais que ses membres contrôlés utiliser ses chats privés « au moins jusqu’après l’élection ».
« Si vous avez été banni avant aujourd’hui, 16 octobre 2020, vous ne serez pas débanné avant l’élection. Contactez-nous après le 3 novembre », a posté un modérateur dans un autre canal, s’adressant aux utilisateurs individuels bannis après la demande de Mother Jones.
Le_Donald Est. 2017, suite à un avertissement de Discord, les modérateurs ont encouragé les utilisateurs à rejoindre un chat de secours sur une plateforme différente, où ils pourraient se réorganiser face à une éventuelle interdiction complète de Discord.
Les retombées des actions de Discord illustrent une dynamique qui montre comment il était peut-être inévitable que l’interdiction de Reddit sur The_Donald soit si facilement contournée par les utilisateurs du forum. Rishab Nithyanand, professeur d’informatique à l’université de l’Iowa, a publié l’année dernière un article analysant les pratiques de modération de Reddit sur 3 000 subreddits. Ses recherches ont révélé que Reddit semblait ne pas appliquer ses propres règles de manière cohérente, ce qui permettait aux membres des subreddits interdits de simplement migrer vers des communautés toxiques encore en activité et présentant des idéologies similaires.
La décision de Reddit de mettre en quarantaine r/The_Donald a pratiquement garanti qu’il apparaîtrait ailleurs. Les subreddits mis en quarantaine finissent souvent par être interdits, et les membres du subreddit ont pris cette étape comme un signe d’avertissement que r/The_Donald finirait par connaître le même sort. En conséquence, les membres de r/The_Donald ont commencé à planifier, en canalisant leurs membres vers d’autres canaux de médias sociaux, y compris Discord, afin qu’ils puissent recevoir des instructions sur l’endroit où migrer lorsque l’interdiction est finalement tombée.
« Une interdiction soudaine aurait été beaucoup plus efficace pour les empêcher de créer une nouvelle communauté », déclare Jacob Silver, chercheur principal au cabinet de conseil en enquêtes sur les médias et les technologies Memetica. « Ils sont anonymes, donc s’ils n’ont pas de communauté, il leur est difficile de se coordonner. »
Silver, comme le suggère la recherche de Nithyanand, soutient que ce n’était qu’une question de temps avant que The_Donald ne trouve comment se re-manifester sur Reddit. « C’est presque comme un jeu pour eux », explique Silver, qui analyse les communautés Reddit depuis 2017. « Ils vont toujours comploter en arrière-plan pour savoir comment ils peuvent être plus tournés vers le public et subvertir les règles des plateformes. »
L’erreur de Reddit, selon Silver dit, est de traiter les communautés dangereuses comme des cas uniques qui peuvent être bannis pour un coup de pouce rapide de relations publiques. Au lieu de cela, il dit qu’ils devraient se concentrer sur les réseaux complets d’utilisateurs qui les alimentent et les fréquentent. Agir autrement, dit-il, revient à tailler les mauvaises herbes au lieu d’arracher les racines.
« Si vous avez un côté dans les coins sombres d’Internet qui complote toujours comment il peut gagner plus d’influence, et un autre côté qui fonctionne effectivement sur la base de la notation des victoires publiques avec des interdictions occasionnelles et fragmentaires, » avertit Silver, « un côté va continuer à gagner. »