Google a décidé de bannir les pronoms personnels de genre de sa fonction Smart Response de Gmail après des tests montrant que l'intelligence artificielle n'arrivait pas à faire la différence entre le masculin et le féminin dans une conversation.
Smart Response n'est pour le moment disponible qu'en anglais. Elle permet de compléter les phrases des utilisateurs lorsqu'ils écrivent leurs courriels.
Le risque que l'intelligence artificielle de Smart Response se trompe de genre est trop grand et Google veut ainsi éviter que des utilisateurs se sentent offusqués, un risque la compagnie ne voulait pas prendre, selon Reuters. Le chef de produit Paul Lambert a expliqué que des tests de chercheurs chez Google avaient mené à la réalisation que Smart Response n'arrivait pas à bien prédire le sexe d'un interlocuteur.
À lire aussi sur le HuffPost Québec:
Alors qu'il tapait «I am meeting an investor next week» (j'ai une rencontre avec un investisseur la semaine prochaine), l'application suggérait la question «Do you want to meet him?» (Voulez-vous le rencontrer?) au lieu de «Do you want to meet her» (Voulez-vous la rencontrer?).
«Toutes les erreurs ne sont pas égales», a indiqué Paul Lambert, selon The Independent. «Le genre en est une très, très grosse.»
Selon ce dernier, 11% des courriels envoyés utilisent déjà la fonction Smart Response.
Ce n'est pas la première fois que Google doit modifier ses outils pour cause d'inexactitudes. La compagnie a dû s'excuser en 2015 quand son outil de reconnaissance d'image avait qualifié un couple noir de gorilles. En 2016, Google a modifié sa fonction de saisie semi-automatique dans sa barre de recherche après qu'elle eut suggéré des recherches antisémites comme «est-ce que les Juifs sont mauvais» quand les usagers cherchaient de l'information sur les Juifs.