L’extrémisme sort de l’ombre

Lorsque l’on a commencé à discuter de la menace que représente l’extrémisme en ligne, il y a environ dix ans, la conversation portait surtout sur l’utilisation que faisait l’État islamique des réseaux sociaux en tant qu’outils de conversion et de recrutement. Si ces extrémismes sont loin d’avoir disparu, ce sont les groupes d’extrême droite qui sont aujourd’hui au centre des préoccupations de nombreux observateurs.

Ces groupes — qu’ils soient composés de suprémacistes blancs, de militants anti-gouvernement, d’« incels » (célibataires involontaires) ou de militaires, ou encore d’un mélange de tous ces courants, sont dorénavant suffisamment décomplexés pour sortir de l’ombre.

« Pendant de nombreuses années, la plupart des suprémacistes blancs restaient discrets sur leurs allégeances en ligne », affirme Joan Donovan, B.A. 2006; M.A. 2008, directrice de recherche au Centre Shorenstein sur les médias, la politique et les politiques publiques à la John F. Kennedy School of Government de l’Université Harvard. « Ce n’est plus le cas. L’époque où seulement une poignée de groupes étaient actifs en ligne est aujourd’hui révolue. »

En 2020, une étude réalisée par l’Institute for Strategic Dialogue (ISD) a répertorié plus de 6 000 chaînes, pages, groupes et comptes faisant circuler des propos d’extrême droite sur les différentes plateformes des médias sociaux. L’année dernière, les contenus d’extrême droite ont augmenté de 33,7 % sur Facebook et de 66,5 % sur 4chan. Au cours des cinq dernières années, l’activité en ligne des extrémistes de droite a plus que doublé. Selon le Center for Strategic and International Studies, un groupe de réflexion de Washington, D.C., 90 % des attaques et des attentats survenus aux États-Unis au début de 2020 ont été perpétrés par des extrémistes de droite, ce qui représente une augmentation de deux tiers par rapport à 2019.

Même sans commettre d’actes ouvertement terroristes, les extrémistes de droite ont eu une profonde incidence sur la société, ce qui a donné lieu à une polarisation idéologique accrue partout dans le monde. De nombreuses personnes, notamment des membres du gouvernement, ont fait l’objet de harcèlement en ligne ou de menaces de mort ou ont vu leurs données personnelles divulguées.

Les groupes conspirationnistes tels que QAnon ainsi que les mouvements « Stop the Steal » et antivaccin ont été alimentés par la mésinformation et la désinformation en ligne. Cette radicalisation a mené à des événements marquants comme l’attaque du 6 janvier contre le Capitole et le convoi perturbateur de camionneurs au Canada. C’est dans ce contexte que des équipes de recherche ont commencé à explorer le rôle des activités en ligne dans l’essor de ces mouvements.

Nous avons une lourde tâche devant nous, affirme Vivek Venkatesh, M.A. 2003; Ph. D. 2008, cotitulaire de la Chaire UNESCO en prévention de la radicalisation et de l’extrémisme violent et professeur en pratiques inclusives en arts visuels au Département d’éducation artistique.

« Nous savons que la discrimination, la xénophobie et le sectarisme existent et qu’ils constituent des préludes à des formes violentes d’extrémisme. Toutefois, nous n’arrivons pas à mettre à profit les instruments dont nous disposons, qu’ils soient d’ordre juridique, politique, social, financier ou même culturel, pour acquérir une meilleure compréhension des raisons de la persistance de ces phénomènes. »

Les méthodes employées par les extrémistes actifs en ligne

« La résilience de ces groupes est liée au recrutement et à la rétention », affirme Joan Donovan. Les extrémistes se servent d’Internet pour recruter et radicaliser ainsi que pour disséminer de l’information fabriquée et coordonner leurs activités. Ils sévissent surtout sur les plateformes des médias sociaux comme Facebook, Reddit, Twitter et YouTube, mais aussi sur les plateformes plus nichées comme Gab, 4chan et 8kun.

Ils arrivent à recruter des personnes vulnérables en les manipulant et en leur offrant sympathie et amitié.

« Ce que nous observons actuellement en ce qui a trait à l’extrémisme en ligne et à la montée d’un populisme qui penche davantage vers l’extrême droite, c’est que les groupes sont capables de faire appel aux émotions des gens », relève Vivek Venkatesh, cocréateur du Projet SOMEONE (SOcial Media EducatiON Every day), plateforme en ligne multimédia qui vise à contrer la haine et l’extrémisme violent.

Cependant, le recrutement peut aussi se faire au moyen de la désinformation, soit la transmission d’informations fallacieuses dans le but de tromper.

« On trouve dans la documentation la notion d’“exposition subversive” », explique Yasmin Jiwani. « Cette exposition a lieu entre autres par la circulation de la désinformation, l’emploi d’un langage codé et hermétique et la diffusion de mèmes. Ces messages font lentement leur effet et sont subversifs en ce sens qu’ils incitent les personnes déjà portées vers l’extrémisme de droite à considérer la désinformation comme réelle et factuelle. »

Le rythme et le volume de production de la désinformation sont impressionnants. Par exemple, les auteurs de l’étude de l’ISD ont dénombré 2 467 comptes, chaînes et pages actifs d’extrémistes de droite ayant généré plus de 3,2 millions d’éléments de contenu.

« Il est possible de vivre à plein temps dans ce type d’environnement, dans cet écosystème médiatique », ajoute Joan Donovan. « C’est le cas de certaines personnes, qui naviguent en permanence dans les méandres de cet univers. »

Les personnes qui sont happées par cet univers sont continuellement exposées à la même information, et ce, sur de multiples plateformes.

Cette information peut aisément devenir une arme. Les deux tiers des suprémacistes blancs et des extrémistes islamistes interrogés dans le cadre d’une étude réalisée récemment par le groupe de réflexion RAND Corporation ont rapporté avoir été radicalisés au contact de la propagande en ligne.

Les conséquences peuvent être dévastatrices. Les attaquants solitaires comme le tireur de la synagogue de Pittsburgh, en 2018, celui du Walmart d’El Paso, en 2019, et celui de la mosquée de Christchurch, en Nouvelle-Zélande, en 2019, étaient tous des consommateurs de propagande haineuse d’extrême droite. Le tireur de la mosquée de Québec, en 2017, avait également été endoctriné en ligne par des conspirationnistes de la droite alternative.

Radicalisés, ces quatre hommes ont tué 91 personnes et en ont blessé 88 autres. Des actions coordonnées en groupe ont également été fomentées par les discours en ligne, comme le complot visant l’enlèvement et l’exécution de la gouverneure du Michigan Gretchen Whitmer, et les tentatives de fausser les résultats de l’élection présidentielle de 2020.

Les extrémistes de droite tirent également parti de leurs capacités en matière de mésinformation, soit la communication de renseignements trompeurs visant à inciter les gens à adopter des points de vue plus extrémistes.

La pandémie de COVID-19 a exacerbé le problème. Selon Statistique Canada, 41 % de la population canadienne a passé plus de temps en ligne au cours des années 2020 et 2021.

« La pandémie a véritablement créé un écosystème virtuel propice à l’amplification de la mésinformation, de la désinformation et de l’extrémisme », souligne Aphrodite Salas, M.A. 1999, professeure adjointe de journalisme au Département de journalisme et formatrice dans le cadre du projet de lutte contre la mésinformation de l’organisme Journalistes pour les droits humains.

La combinaison des nombreuses heures passées devant l’écran et de la colère suscitée par les périodes de confinement, l’obligation vaccinale et les fausses déclarations de fraude électorale est venue compliquer les choses. Le résultat?

« La pandémie a contribué au rayonnement des contenus extrémistes en ligne », avance Aphrodite Salas. Dans le contexte de la récente occupation de la ville d’Ottawa par des camionneurs opposés à la vaccination et au gouvernement (fomentée par des groupes extrémistes en ligne) et de la possibilité réelle que Donald Trump se présente de nouveau aux élections présidentielles de 2024, les observateurs comme Aphrodite Salas craignent que le combat ne fasse que commencer.

Le combat contre l’extrémisme en ligne

La difficulté de combattre l’extrémisme en ligne provient en partie du fait que les chercheurs, les journalistes, les militants et les politiciens, entre autres, étaient tous mal préparés pour répondre à la menace.

« Nous sommes toujours en mode réaction », déplore Kyle Matthews, directeur général de l’Institut montréalais d’études sur le génocide et les droits de la personne. « Quand vous réagissez à tout, vous traînez constamment de l’arrière. Il faut aller au-devant des choses et tenter d’infléchir les tendances pour en amoindrir les effets. »

Plusieurs contre-mesures ont été prises. Par exemple, des pays comme les États-Unis ont récemment alloué des fonds (77 millions de dollars dans le cas du Department of Homeland Security) dans le but d’apporter une meilleure réponse au terrorisme intérieur, ce qui est dorénavant considéré comme une priorité nationale.

Ailleurs dans le monde, plusieurs initiatives ont vu le jour, comme la création du Global Network on Extremism and Technology, du Forum de l’UE sur l’internet et du Global Internet Forum to Counter Terrorism, pour ne nommer que celles-là. De plus, un soutien accru est accordé aux recherches universitaires sur l’extrémisme en ligne, plus particulièrement sur les façons de le prévenir et de le contrer.

Ces initiatives sont essentielles, selon Joan Donovan. « L’avancement du savoir coûte cher. On ne peut pas générer des connaissances simplement à partir de nos expériences et de nos perceptions. Il faut vérifier nos hypothèses, recueillir des données et les analyser de façon objective. »

« Les entreprises de médias sociaux font aussi actuellement l’objet de fortes pressions pour qu’elles fassent plus que bannir les extrémistes des plateformes », note Kyle Matthews.

Les entreprises de technologie ont répondu (le caractère adéquat ou non de cette réponse est sujet à débat) en procédant au sociomuselage de certains contenus, individus et groupes. Toutefois, des observateurs font remarquer que cette mesure n’est efficace qu’à court terme. Lorsqu’un groupe d’extrême droite est interdit d’accès sur une plateforme, il resurgit habituellement ailleurs ou est remplacé par un autre.

Ainsi, depuis 2020, Facebook a banni plus de 11 000 groupes et près de 51 000 personnes associées aux mouvances extrémistes. Et pourtant, l’étude de l’Institute for Strategic Dialogue indique que d’une année à l’autre, on ne constate souvent aucune diminution du nombre de pages Facebook et de chaînes YouTube consacrées à l’extrémisme de droite.

« C’est un peu comme le jeu de la taupe », admet Aphrodite Salas. « Facebook ou Twitter peuvent bannir un groupe ou limiter sa présence, mais celui-ci migre alors vers les marges ou se voit remplacé par un autre. »

De nombreux utilisateurs ayant fait l’objet d’un sociomuselage trouvent tout simplement une autre tribune sur des plateformes marginales dont les politiques de modération des contenus sont plus permissives. Les applications de messagerie sécurisée comme Telegram peuvent également constituer un refuge pour ces utilisateurs.

Ce phénomène a un effet d’entraînement : les comportements toxiques prennent de l’ampleur et la radicalisation s’accélère parmi les utilisateurs qui se déplacent vers des plateformes peu modérées et peu surveillées. Par ailleurs, le bannissement et la modération des contenus ne permettent pas de remédier à un problème plus profond.

« Il nous faut avoir une discussion plus large sur la question des algorithmes », suggère Kyle Matthews. « Parfois, les utilisateurs sont entraînés dans une espèce de vortex en ligne et regardent une succession de vidéos qui regorgent d’informations erronées, et ils se radicalisent. »

Dans ce contexte, selon Kyle Matthews, les décideurs cherchent de plus en plus à comprendre comment et pourquoi certains contenus extrémistes se retrouvent sur le fil de discussion des utilisateurs. L’examen systématique des algorithmes des médias sociaux figure parmi les mesures de prévention possibles. Toutefois, il faudra mettre en place de solides politiques pour surmonter la résistance acharnée à laquelle nous devons nous attendre de la part des dirigeants des entreprises de technologie.

Des mesures préventives plutôt que réactives

On propose souvent de tout simplement déradicaliser les extrémistes qui sévissent en ligne. Or tout admirable qu’il soit, cet objectif n’est pas facile à atteindre.

« Ce n’est pas comme lorsqu’on supprime un logiciel de notre ordinateur », objecte Kyle Matthews. « Nous avons affaire à des personnes dont les idées en sont venues à faire partie de leur identité. »

Il est donc peu probable que des personnes de l’extérieur puissent convaincre les extrémistes de se déradicaliser. Des études ont montré que les changements de vie — un nouvel emploi, de nouvelles relations, de nouvelles expériences — sont beaucoup plus susceptibles de déclencher ce type de transformation.

De plus, la déradicalisation est une démarche réactive. Selon de nombreux experts, les mesures de prévention présentent le potentiel de changement le plus élevé. Une mesure en particulier et souvent évoquée.

« Il est très important d’accorder une place prépondérante à la littératie et à l’éducation numériques afin de renforcer la résilience dans ce nouvel écosystème, en particulier chez les jeunes », soutient Aphrodite Salas.

Lorsqu’ils peuvent bénéficier d’une éducation aux médias, les internautes sont moins vulnérables face à la mésinformation ou à la désinformation qui pourrait les pousser à s’engager sur une voie dangereuse.

Nous devons commencer à intégrer à notre système d’éducation des cours de littératie numérique et de citoyenneté responsable, et donner aux jeunes les moyens de réfléchir à ces enjeux de façon critique », insiste Kyle Matthews. « Si nous ne le faisons pas, nous allons accumuler encore plus de retard. »

Selon Vivek Venkatesh, le but consiste à enseigner « aux gens à s’interroger sur la validité de leurs sources et à se reporter à des articles de fond et à des données empiriques. »

Cette mesure peut constituer une protection efficace.

« Vous prenez conscience de ce que vous voyez et de ce que vous pensez, au lieu de suivre passivement ce qui se déroule en ligne », explique Aphrodite Salas. « C’est un processus long et lent, mais il est important, car il permet d’acquérir de la résilience. »

Le catalogage de l’extrémisme en ligne et les mesures à prendre pour le contrer constituent une tâche dont l’ampleur peut susciter le découragement. Mais comme le fait remarquer Vivek Venkatesh, « le changement ne se fera pas du jour au lendemain ».

Maintenant que les gouvernements, l’industrie de la technologie, les organismes politiques, les universités et le public s’intéressent plus activement au problème, nous avons toutes les raisons d’espérer.

« Il est facile de se décourager, admet Aphrodite Salas, mais si nous abandonnons, que nous restera-t-il? »