VANCOUVER — Alors que les communautés en ligne sont de plus en plus la cible des cyberintimidateurs, des discours racistes et des pourriels, une entreprise de la Colombie-Britannique a mis au point une technologie permettant de tenir les «trolls» à distance.
Établie à Kelowna, Community Sift a conçu une armure électronique pour les médias sociaux et les entreprises de jeux vidéo souhaitant protéger leurs mondes virtuels. Le filtre pour le clavardage et les outils de modération examinent en temps réel les commentaires faits sur les sites web, les conversations dans les salons de clavardage et les plaisanteries échangées par les joueurs.
Selon le chef de la direction de Community Sift, Chris Priebe, l'objectif n'est pas de repérer les gros mots, mais bien de bannir complètement l'intimidation du web.
Cette nouvelle technologie s'inscrit dans le cadre d'une campagne mondiale contre les abus sur Internet qui a été en partie lancée à cause du suicide d'Amanda Todd, une adolescente de Port Coquitlam, en Colombie-Britannique, qui a mis fin à ses jours en 2012 après avoir été victime de chantage et d'intimidation concernant des photos d'elle dénudée publiées en ligne.
Karen Olsson, directrice de l'exploitation de Community Sift, a pour sa part déclaré que l'entreprise voulait éviter d'autres cas comme celui d'Amanda et contribuer à trouver une solution à la cyberintimidation.
D'après les analyses de la firme, qui passe en revue quatre milliards de messages par jour, moins d'un pour cent des usagers se comportent mal, mais ce sont eux qui provoquent le gros des dommages. Le matériel offensant est classé selon différentes catégories comme intimidation, sextage, racisme et menaces à la bombe.
L'entreprise a dressé une liste comptant plus d'un million de phrases fréquemment utilisées par les «trolls», comme «tu es tellement laid», a indiqué M. Priebe, qui est aussi programmeur et spécialiste de la sécurité.
La technologie tient compte du contexte lorsqu'elle identifie un comportement répréhensible. Elle combine apprentissage machine et vérification humaine en ayant recours à la fois à l'intelligence artificielle et au savoir-faire de 30 experts du langage. Chris Priebe soutient que cela permet de protéger les usagers des cyberintimidateurs aussi efficacement que les ordinateurs sont protégés des virus informatiques par les logiciels antivirus.
Community Sift a déjà une trentaine de clients à travers le monde. Flexible, la technologie peut s'adapter aux besoins de chacun, offrant notamment la possibilité de modifier le filtre pour le contenu en fonction de l'âge des utilisateurs.
M. Priebe, qui a lui-même été intimidé lorsqu'il était adolescent, croit que les gens ont souvent l'impression d'être impuissants par rapport aux «trolls».
«Lorsqu'ils réalisent qu'il y a une solution au problème, ils n'acceptent plus d'être traités de la sorte», a-t-il conclu.
