On a beaucoup écrit au cours des derniers jours, si ce n'est des dernières années, à propos du concept de la radicalisation en ligne. L'industrie de la technologie s'est souvent montrée ambivalente sur la manière dont elle doit se comporter pour faire face à cette nouvelle réalité.
Prenons l'exemple de cellules terroristes nourrissant la haine chez certains individus au profil vulnérable et susceptible de poser des gestes violents au nom d'ISIS ou d'Al-Qaïda. Dans de tels cas, où il y a clairement utilisation de techniques de radicalisation, les compagnies qui contrôlent les communications privées des utilisateurs doivent-elles partager avec les autorités des accès sécurisés, afin de prévenir des tueries ou de faciliter la mise en accusation des suspects?
Les démarches en ce sens demeurent floues et le débat fait encore rage entre les partisans de la vie privée et ceux de la sécurité avant tout.
Depuis quelque temps, on remet également en question le rapport ambigu entretenu entre les critères d'utilisation desdites plateformes et le principe de liberté d'expression.
Est-ce qu'un porte-voix médiatique comme Alex Jones et son Infowars, qui patauge dans la fumisterie et les théories de conspiration, n'enfreint-il pas les règles de bienséance mises de l'avant par Facebook, Twitter, PayPal et d'autres, pour ne nommer que ceux-là?
La réponse, après un mouvement de contestation de plusieurs groupes de pression: oui, le type de contenu partagé par Alex Jones enfreint les règles d'utilisation et, après plusieurs avertissements, ses accès furent supprimés.
Mais depuis les nombreux attentats à la bombe d'un fanatique de Donald Trump et la tuerie dans une synagogue provoquée par un antisémite radicalisé sur la plateforme Gab, il est désormais question de la radicalisation d'individus à travers leur utilisation des médias sociaux.
La plateforme Gab, forcée de fermer momentanément à la suite d'un boycottage généralisé de sites d'hébergement, prétend être l'équivalent libre de Twitter (surtout depuis que la plateforme a décidé de fermer plusieurs profils qui ne répondent pas à leurs critères d'utilisation — comme Alex Jones et Infowars). Pour plusieurs analystes, Gab encourage plutôt les discours haineux qui ne trouvent pas leur place sur les autres plateformes.
Par contre, au-delà des plateformes de communication comme Gab, 4chan, 8chan, qui demeurent marginales même si elles génèrent un important trafic de l'offre communicationnelle: qu'en est-il de la responsabilité des Facebook, Twitter, Google et Reddit?
Car derrière la radicalisation accomplie grâce à un certain type de contenus qu'on pourrait qualifier de douteux, se cache un algorithme qui favorise le contact entre un usager et un certain type de contenu de manière à rentabiliser le processus. Par exemple, le forcené responsable des attentats à la bombe envers différentes personnalités démocrates et médiatiques partageait des memes Facebook et Twitter incitant à la violence contre ces mêmes personnes.
Voici comment Facebook, Twitter, Google, Reddit fonctionnent
Dans l'immédiat, un algorithme évalue les similitudes existant entre différents utilisateurs qui semblent partager certaines caractéristiques, dans le but de leur présenter un type de contenu les rassemblant.
Ensuite, un nouveau profil est dégagé par l'algorithme à partir du nombre d'interactions générées entre les utilisateurs jugés similaires et le contenu identifié comme leur étant pertinent. Ce même processus sera répété jusqu'à ce qu'un niveau optimal soit atteint, soit lorsque les utilisateurs reçoivent quasi exactement le type de contenu qu'ils souhaitent recevoir grâce aux profils avec lesquels ils sont pratiquement certains d'interagir.
Ensuite, les plateformes rendent ce regroupement d'utilisateurs actifs disponible à des marques qui peuvent y vendre un produit quelconque: la preuve d'interactions sur du contenu similaire représentant une unité de mesure crédible au succès de la campagne publicitaire.
Il faut contester plus largement ce plan d'affaires, c'est-à-dire le mécanisme sur lequel repose la prémisse fondamentale des médias sociaux.
Au même moment où vous lisez ces lignes, sachez qu'un algorithme tente de déterminer le dénominateur commun entre votre géolocalisation, votre proximité avec les personnes de votre entourage (dans le métro, au bureau, à la maison, etc.) et vos intérêts (comme la lecture de cet article).
En fonction des résultats obtenus, un certain type de contenu vous sera présenté. Peu importe votre interaction, et pour maximiser votre présence dans un groupe ou un autre, du contenu plus adapté vous sera ensuite suggéré. Dans quel but? Pour vous vendre de la nourriture pour chat, un abonnement à un centre d'entraînement à proximité ou une offre sur la dernière sortie pour PS4.
C'est de cette manière que chacun active et renforce ce système d'exploitation de nos interactions, afin de recevoir uniquement, ou presque, du contenu auquel nous adhérons d'emblée.
Qu'il soit question d'informations, de politique ou de produits de consommation, l'algorithme ne fait point de différence et ne demande qu'à se perfectionner de manière incessante et infinie. C'est ainsi que les utilisateurs en viennent à ne consulter qu'un nombre limité de contenus et à se (re)construire une réalité qui semble parallèle à celle des autres, de ceux qui ont des intérêts différents.
Mais il est (encore) impossible de vivre complètement en vase clos, et lorsque nous sommes en contact avec l'une de ces réalités qui diffèrent de la nôtre, le choc est brutal et la conciliation laisse place au «lançage de bouette». Ces mêmes plateformes n'ont pas encouragé la cohabitation cordiale avec la différence, bien au contraire: elles privilégient la mise en contact pratiquement exclusive avec ce qui est similaire.
Alors, même s'il est important de comprendre les phénomènes de radicalisation, de mettre à l'index le contenu dangereux ainsi que de censurer les plateformes obscures qui encouragent la diffusion de discours haineux, il serait bon que les utilisateurs des médias sociaux traditionnels comprennent comment leurs actions quotidiennes participent à un système de rentabilisation de la polarisation qui mène — malheureusement, et la preuve en est faite — à de malencontreux actes de violence qui nous affligent tous.
Est-ce réellement le prix que nous sommes prêts à payer pour utiliser une plateforme médiatique gratuite, qui érode le tissu social?