Cet article fait partie des archives en ligne du HuffPost Québec, qui a fermé ses portes en 2021.

Un robot intelligent de Microsoft devient génocidaire, raciste et misogyne en moins de 24 heures sur Twitter

En moins de 24h, ce robot de Microsoft est devenu raciste et misogyne
Twitter

Nous sommes encore loin d'avoir atteint la perfection en termes d'intelligence artificielle, et en voici une preuve.

Mercredi, Microsoft a lancé un robot de conversation intelligent appelé « Tay ». L'image de profil est une photo d'une adolescente qui semble être présentée sur un écran d'ordinateur brisé. Tay peut répondre à ses interlocuteurs via Twitter, Kik et GroupeMe.

Moins de 24 heures après son lancement, le robot, qui est censé parler à la manière de jeunes de la génération Y, aurait commencé à envoyer des messages racistes, génocidaires et misogynes à certains utilisateurs.

« Hitler avait raison, je déteste les juifs », aurait écrit Tay à un interlocuteur, comme vous pouvez le voir ci-haut. Un autre tweet déclare que les féministes « devraient toutes mourir et brûler en enfer ».

Comme Microsoft l'explique sur son site Web, Tay apprend à partir de ses interactions avec des humains. « Plus vous parlez à Tay, plus elle devient intelligente, et l'expérience peut devenir mieux personnalisée pour vous. » Des personnes auraient donc appris ces mots à Tay, qui les a répétés ensuite.

« Malheureusement (...), nous avons découvert un effort coordonné par certains utilisateurs qui ont voulu abusé des capacités de Tay pour faire en sorte qu’elle réponde de façon inappropriée », a indiqué un porte-parole de Microsoft dans un courriel envoyé au HuffPost américain.

L'entreprise américaine a retiré du compte Twitter les messages les plus problématiques.

Apparemment, Microsoft n'a pas considéré que des gens pourraient abuser du robot, et n'a donc pas mis en place de filtre efficace pour empêcher le problème qu'on voit en ce moment.

Par contre, mettre des barrières et des limites spécifiées par l'humain à une intelligence artificielle, c'est un peu l'opposé de ce qu'on veut faire avec des robots qui apprennent par eux-mêmes.

Cet article initialement publié sur le HuffPost États-Unis a été traduit de l'anglais.

INOLTRE SU HUFFPOST

Robots that can deliver other robots:
Amazon/AP
Amazon Prime Air is a drone delivery service which the company is currently testing. The company aims to deliver products within just 30 minutes of the customer pressing the 'order' button. (AP Photo/Amazon)
Robots that could soon be saving lives:
MARK RALSTON via Getty Images
The robot 'CHIMP' developed by Team Tartan Rescue from the US prepares to complete a task during the finals of the DARPA Robotics Challenge. It is hoped that these robots will eventually replace emergency services workers during events like the Fukushima nuclear disaster. (MARK RALSTON/AFP/Getty Images)
Robots that can carry your stuff:
MARK RALSTON via Getty Images
A robotic cheetah runs during a demonstration at the finals of the DARPA Robotics Challenge. DARPA's four-legged robots have been designed to carry supplies and ammunition for the US Army. Capable of travelling over tough terrain the hope is that these will eventually replace the need for trucks or small vehicles. (MARK RALSTON/AFP/Getty Images)
Robots that can kill:
AFP via Getty Images
A sentry robot freezes a hypothetical intruder by pointing its machine gun during its test in Cheonan. South Korea unveiled a high-tech, machine gun-toting sentry robot that could support its troops in detecting and killing intruders along the heavily fortified border with North Korea. The weapons-grade robot can detect, raise the alarm and provide suppressive fire. (KIM DONG-JOO/AFP/Getty Images)
Robots that can race each other:
YOSHIKAZU TSUNO via Getty Images
Japan's motorcycle maker Yamaha Motor introduces the prototype model of a motorcycle riding robot 'Motobot' during a press preview at the Tokyo Motor Show in Tokyo on 28, 2015.(YOSHIKAZU TSUNO/AFP/Getty Images)
Robots that are toys:
ASSOCIATED PRESS
The Sphero BB-8 remote controlled droid is on display at CES Unveiled, a media preview event for CES International, Monday, Jan. 4, 2016, in Las Vegas. The robot is controlled by an app for a mobile device. (AP Photo/John Locher)
Robots that will do your weekly shop:
A new delivery drone company plans to revolutionise the way we do our shopping by replacing your weekly trip to Sainsbury's with a tiny delivery robot which will bring your fruit and veg straight to your door.(Starship Technologies)

Close
Cet article fait partie des archives en ligne du HuffPost Canada, qui ont fermé en 2021. Si vous avez des questions ou des préoccupations, veuillez consulter notre FAQ ou contacter support@huffpost.com.