Cet article fait partie des archives en ligne du HuffPost Québec, qui a fermé ses portes en 2021.

Pourquoi nous rêvons de robots doués de conscience

Parler de robots autonomes, c'est supposer qu'ils puissent prendre des décisions que leurs programmeurs n'avaient pas prévues pour eux. Sans compter que c'est encore bien loin des possibilités technologiques, est-ce bien souhaitable?
This post was published on the now-closed HuffPost Contributor platform. Contributors control their own work and posted freely to our site. If you need to flag this entry as abusive, send us an email.

Le parlement européen a adopté le 12 janvier dernier un texte intitulé «On civil law rules and robotics». Après une référence à Frankenstein inattendue dans un texte parlementaire, le document introduit l'idée du robot comme «personne» : «À long terme, la possibilité de créer un statut juridique spécial de "personnes électroniques" pour les robots autonomes les plus sophistiqués devrait également être envisagée, afin de clarifier la responsabilité en cas de dommages, expliquent les députés.»

Cette proposition est évidemment une excellente nouvelle pour les juristes qui vont pouvoir réfléchir aux droits et devoirs des «robots autonomes». Mais c'est une catastrophe pour la compréhension que nous avons des robots, de ce que nous pouvons en attendre et des risques qu'ils présentent.

Réalité et imaginaire des robots

Parler de robots autonomes, c'est supposer qu'ils puissent prendre des décisions que leurs programmeurs n'avaient pas prévues pour eux. Sans compter que c'est encore bien loin des possibilités technologiques, est-ce bien souhaitable? N'est-ce pas au contraire ce qu'il faudrait éviter à tout prix, et je ne parle pas seulement des robots militaires? Quant à l'expression «personne électronique», elle évoque immédiatement la personne humaine et ses droits. Dans la philosophie occidentale, du point de vue social, la personne se différencie de l'individu en tant qu'elle est définie par ses droits et ses devoirs. Et du point de vue structurel, elle est associée à la conscience qu'elle a d'exister et à sa capacité de distinguer le bien du mal. Créer un statut de «personne électronique», c'est inévitablement introduire à court terme la question des droits et devoirs des robots, et à moyen terme celle du droit à l'autodétermination. Ce n'est pas pour rien que la mise en scène des robots «autonomes et sophistiqués» tourne toujours autour de leurs capacités d'émancipation : acquérir une conscience, une volonté, un libre arbitre, et finalement un destin. C'était le thème de très célèbre série suédoise Real Humans, c'est aujourd'hui le cas de la non moins célèbre série américaine WestWorld.

A partir de ce constat, deux attitudes sont possibles. La première est de vouloir remettre nos concitoyens sur le «chemin de la réalité» en leur rappelant que les robots seront encore pendant longtemps des machines sous contrôle, automatique, mais non autonomes, certes aussi éloignées d'un grille-pain que celui-ci l'est d'un silex taillé, mais ne méritant pas plus de divagations. La seconde attitude consiste à penser que ces mythes ont une fonction. S'ils n'en avaient pas, ils n'auraient jamais été inventés! Or pourquoi la mythologie privilégiée autour des robots concerne-t-elle leur devenir humain?

L'inquiétante étrangeté des robots

Il y a trente ans, le roboticien Masahiro Mori a montré que le robot d'apparence humanoïde suscite un sentiment d'inquiétante étrangeté, et il a rapporté celle-ci à sa ressemblance à la fois troublante et imparfaite avec l'être humain. Aujourd'hui, nous constatons que le robot ne déroute pas seulement nos repères dans nos relations à nos semblables, mais aussi ceux qui organisent nos relations aux objets et aux images. Le robot est en effet un objet, mais différent de tous les autres : il parle, prend des initiatives et plaisante! Le robot a aussi une apparence qui le fait ressembler à ceux que nous avons vus dans les films, mais tout se passe comme s'il était sorti du cadre de l'image pour marcher dans la même pièce que nous! Or c'est justement par le cadre que notre culture occidentale, qui a valorisé et encouragé les images, a tenté de maîtriser les risques de confusion entre réalité et fiction dont elles sont porteuses. Enfin, le robot humanoïde, voire androïde, c'est-à-dire doté d'une apparence semblable à la nôtre, nous inspire des sentiments humains, et pourtant son constructeur nous donne le droit de le débrancher comme une simple machine!

Rien d'étonnant donc si le robot suscite chez nous un sentiment d'inquiétante étrangeté! Des informaticiens travaillent donc sur les moyens de nous rendre ces machines familières, notamment à travers la possibilité de les doter d'une capacité «d'empathie artificielle». Mais parallèlement aux efforts menés dans les laboratoires, les imaginations, elles aussi, travaillent...

Imaginer un «cœur» aux robots pour croire les apprivoiser

Au-delà du seuil technologique de la machine autonome, l'être humain ne peut plus penser l'outil seulement comme un outil, car celui-ci échappe à son contrôle pour passer sous celui de son constructeur. C'est la révolution des algorithmes. Que j'achète un marteau ou une voiture, dans les deux cas je suis son propriétaire et je les contrôle totalement. Mais si j'achète un robot, je ne sais pas comment son fabricant l'a programmé, et je ne sais pas non plus si un hacker ne va pas un jour le retourner contre moi. C'est pourquoi l'homme a besoin de croire que les machines autonomes aient un jour une conscience, une volonté et un libre arbitre pour pouvoir penser les apprivoiser. Le mythe du robot doué d'une conscience est en cela un peu l'équivalent de la prostituée au grand cœur : plus l'homme accepte de se mettre en situation de vulnérabilité, plus il a besoin de penser que la créature entre les mains de laquelle il s'en remet possède «un cœur». L'idée que l'on puisse un jour donner une conscience aux robots obéit à cette logique : nous permettre d'échapper à l'image de machines réalisant leurs «programmes» sans état d'âme, ni pitié, ni empathie. Le robot «libre» peut être méchant, mais parce qu'il est «libre», on peut rêver de le faire changer d'avis. Des déportées ont raconté qu'elles étaient rassurées de voir leurs tortionnaires nouer des liaisons amoureuses avec leurs homologues masculins. Elles y voyaient la preuve que ces femmes, qui leur paraissaient insensibles et «robotisées», étaient toujours des êtres humains, et qu'elles pouvaient, peut-être, en s'y prenant bien, les attendrir. Cela a aidé ces déportées à vivre.

Conserver à l'utilisateur un statut de personne

Le problème, avec les robots, est évidemment bien différent, mais il repose sur la même logique. Les imaginer avoir une conscience nous permet de penser pouvoir les influencer même si nous ne connaissons pas leurs programmes. Hélas, cela risque en même temps de nous faire sous-estimer le pouvoir des programmeurs d'entretenir cette illusion, et donc nous de rendre plus vulnérables encore aux manipulations de toutes sortes. Le fantasme d'un robot «autonome», et donc à terme libre, cherche à opposer au cauchemar du robot manipulé par son fabricant une vision qui n'est pas forcément plus rassurante, mais qui rend à l'homme sa propre part d'autonomie et donc de liberté. Il ne relève pas d'une mauvaise appréciation de la réalité des robots, bien au contraire. Il témoigne d'une appréciation juste du danger d'un robot qui mettrait son utilisateur sous influence, et lui ferait perdre sa liberté sans même qu'il s'en rende compte, bref qui le transformerait... en robot.

Hélas, un fantasme ne s'est jamais opposé efficacement à une réalité. Plutôt que de fantasmer sur un statut de «personnes technologiques» pour les robots, mieux vaudrait garantir le statut de l'utilisateur comme personne humaine libre de ses choix. Et pour cela mettre en place des garanties juridiques qui permettent aux utilisateurs des robots non seulement de les arrêter, mais aussi de connaître la logique des algorithmes qui les dirigent, l'utilisation qui est faite de leurs données personnelles et les stratégies manipulatoires que ces machines introduites dans notre intimité pourront opérer sur nous à notre insu.

VOIR AUSSI SUR LE HUFFPOST

Close
Cet article fait partie des archives en ligne du HuffPost Canada, qui ont fermé en 2021. Si vous avez des questions ou des préoccupations, veuillez consulter notre FAQ ou contacter support@huffpost.com.