Cet article fait partie des archives en ligne du HuffPost Québec, qui a fermé ses portes en 2021.

Les téléphones intelligents sont-ils sexistes?

Il est intéressant d'observer que les robots conversationnels sont largement perçus et/ou représentés sous des traits féminins.
This post was published on the now-closed HuffPost Contributor platform. Contributors control their own work and posted freely to our site. If you need to flag this entry as abusive, send us an email.

Faut-il encore s'en convaincre? Nous sommes accros à nos téléphones intelligents. Une étude récente du cabinet Deloitte souligne «qu'un Français sur cinq consulte son téléphone portable moins de cinq minutes après le réveil (deux sur cinq pour les 18-24 ans), et qu'ils sont 23% à l'utiliser moins de cinq minutes avant de s'endormir. Au total, nous vérifions nos smartphones 26,6 fois par jour en moyenne, un chiffre qui s'élève à 50 fois par jour pour les 18-24 ans.»

«Proche des yeux et proche du cœur», voilà comment pourrait se résumer la relation que nous entretenons avec nos terminaux mobiles. Une relation qui entre désormais dans une nouvelle ère et prend une forme plus «intelligente», plus «humaine» aussi. En cause: l'irrésistible ascension des chats bots et autres assistants conversationnels désormais au cœur des téléphones intelligents. D'après la société de recherche américaine Parks Associates, Siri - l'emblématique chat bot d'Apple qui fait parler nos iPhones - rencontre l'adhésion de ses utilisateurs. Alors que 40% des possesseurs d'iPhones l'utilisaient en 2013, ils étaient (déjà) 52% en 2015. A croire que nous sommes aujourd'hui à un tournant majeur de l'histoire des interactions hommes (et femmes)/machines: ce n'est plus à nous d'apprendre le langage informatique, mais bien à la machine d'apprendre notre langage.

Vastes programmes - informatiques - qui empruntent à de nombreuses technologies (traitement automatique du langage, algorithmes, reconnaissance vocale, reconnaissance visuelle etc.) réunies sous le tout aussi vaste champ de recherche qu'est l'intelligence artificielle.

Cette intelligence artificielle, elle est aujourd'hui sous les feux de la rampe... et soulève de nombreuses questions pour le législateur. Lancée par Axelle Lemaire et Thierry Mandon fin janvier 2017, la «stratégie nationale pour l'intelligence artificielle» (actuellement en cours d'élaboration) réunit chercheurs, entrepreneurs, ingénieurs et spécialistes du genre pour structurer une véritable filière industrielle de l'IA, en mesure de mettre en avant le potentiel français dans ce domaine. Cette nouvelle stratégie entend également ouvrir «un débat éthique» pour répondre aux inquiétudes que peut soulever l'IA, notamment dans le domaine le respect de la vie privée et la protection des données personnelles.

Nous nous sommes demandé si notre téléphone intelligent ne serait pas sexiste?

En cette journée internationale des droits de la femme, nous avons, nous aussi, souhaité soulever un débat éthique: celui de la perpétuation des stéréotypes de genres dans les applications grand public de l'intelligence artificielle. En bref, nous nous sommes demandé si notre téléphone intelligent ne serait pas sexiste?

Sous ce questionnement volontairement provocateur (oui, l'IA en tant que technologie n'a pas - encore - conscience d'elle-même et ne peut donc pas avoir de croyances discriminatoires basées sur tel ou tel critère), nous avons voulu interroger le miroir que nous tend l'intelligence artificielle.

Les algorithmes sont entrainés à nous présenter les informations que nous souhaitons voir ou entendre, qui vont nous plaire, car leur modèle économique (le plus souvent publicitaire) est conditionné à notre adhésion. Miroir de nos attentes ou de nos frustrations, ils nous renvoient nos représentations plus ou moins conscientes, mais ils le font en s'appuyant sur leurs extraordinaires moyens techniques (capacités de calcul, algorithmes d'apprentissage s'exerçant sur d'énormes quantités de données, ...).

L'effet amplificateur est terrible.

Les questions de genre n'échappent pas, bien au contraire, à nos anxiétés lorsque nous sommes face à la technologie. Toute interaction avec une machine est déjà une interaction genrée. Chaque IA véhicule une représentation de ce que signifie être un homme et être une femme - la représentation de son auteur, dans sa volonté de satisfaire ce qu'il pense être la représentation qui va nous plaire.

Pour s'en convaincre, il suffit de se prêter à un petit exercice en 3 temps:

1.Déconnectez-vous de votre compte Google

2.Rendez-vous sur Google image

3.Effectuez une recherche avec la requête «homme», puis «femme»

Saisissant non?

En cause, le fonctionnement même de l'algorithme de Google: si je clique sur l'image après la recherche, ce dernier comprend «qu'il ne s'est pas trompé». Il va donc me montrer des résultats similaires la fois suivante. Je re-clique, et ainsi de suite: nous contribuons à renforcer les stéréotypes qui sont véhiculés.

L'Intelligence artificielle n'est autre qu'un programme informatique qui apprend de nos actions et réactions, et cherche à s'y adapter. En ce sens, il est facile, très facile, trop facile même, de créer une bulle qui renforce les stéréotypes de genre déjà présents dans nos sociétés.

Mais revenons-en à nos téléphones intelligents.

Il est intéressant d'observer que les robots conversationnels sont largement perçus et/ou représentés sous des traits féminins. De l'aveu même de son créateur, Siri signifie ainsi «une belle femme qui vous conduit à la victoire» (en norvégien). Cortana - l'assistant virtuel de Microsoft - doit son nom à l'IA «bimbo» du jeu vidéo Halo. Pour la petite histoire, Wikipedia nous apprend que «Cortana» n'était à l'origine que le nom de code de l'assistant virtuel de Microsoft. Nom de code qui a finalement été conservé officiellement après que de nombreux internautes en aient fait la demande. Sans parler des nombreuses représentations des chatbots dédiés à la relation client chez les grands opérateurs, banques, assureurs etc. Notons au passage que ces robots ont même leur concours Miss et Mister Clients qui ambitionne d'élire les «meilleurs agents virtuels intelligents» de l'année. Pour l'édition 2016, sur les 39 «candidats», plus de 30 ont des prénoms féminins...

Plus grave encore, cette enquête menée par Leah Fessler pour Quartz. La journaliste y révèle que, de l'aveu même du CEO de Robin Labs (un robot qui aide les chauffeurs professionnels à trouver le meilleur itinéraire), 5% des interactions de sa plateforme étaient «sexuellement explicites». Constat similaire du côté de Deborah Harrison, l'une des auteures des réponses de Cortana, qui confie qu'«une bonne partie des requêtes faites à Cortana» concernent sa vie sexuelle. Des informations troublantes qui ont poussé Leah Fessler à se lancer dans un laborieux travail de harcèlement des assistants conversationnels les plus utilisés (Google Home, Alexa, Siri et Cortana). Pour au final, analyser et comparer les réponses.

Sa conclusion est sans appel:

«De toute évidence, ces dames ne protestent pas trop. Parmi tous les bots, Cortana est celle qui a résisté à mes abus avec le plus de défiance. Siri et Alexa sont, elles, presque à égalité pour la deuxième place, et même si pour Siri sa réponse par le flirt à mes diverses insultes la place à la troisième position. Enfin, bien que la définition du viol par Google Home soit impressionnante, une confusion presque constante sur tous les autres niveaux lui réserve la dernière place.»

Des résultats inquiétants qui ne surprendraient certainement pas Margaret Burnett, professeure en Génie électrique et informatique à l'université d'Oregon: "Du point de vue de l'apprentissage automatique (machine learning), si vous ne pensez pas à l'inclusion des genres, alors souvent les déductions que vous faites sont biaisées vers le groupe majoritaire - dans notre cas, les hommes riches et blancs", confiait-elle à Bloomberg en juillet 2016.

Un message on ne peut plus clair qui invita l'auteur du papier, James Clark, à titrer que l'IA faisait désormais face à un 'Sea of Dudes Problem' (littéralement "une mer de mecs")... pointant ainsi l'enjeu fondamental pour lutter contre les biais de l'IA: un besoin impérieux de féminiser les métiers de l'intelligence artificielle.

Cet article est un résumé de la keynote « Mon téléphone, pas si smart ? » réalisée par Cap Digital en ouverture de la conférence « La Belle et le Bot : l'intelligence artificielle est-elle sexiste ? », qui s'est tenue le 7 mars 2017, dans les locaux de Bpifrance (conférence co-organisée par Le Centre Hubertine Auclert et Cap Digital). Il a d'abord été publié sur le Huffington Post France.

VOIR AUSSI SUR LE HUFFPOST

Marie Lacoste-Gérin-Lajoie (1867-1945)

Principales pionnières féministes du Québec

Close
Cet article fait partie des archives en ligne du HuffPost Canada, qui ont fermé en 2021. Si vous avez des questions ou des préoccupations, veuillez consulter notre FAQ ou contacter support@huffpost.com.