Transcendence: la «singularité» vue par Hollywood

Le projet de créer une intelligence artificielle dépassant l'intelligence humaine est peut-être l'idée la plus discutée en ce moment au sein du mouvement «transhumaniste», qui prône la transformation radicale de la condition humaine par le développement et l'utilisation de nouvelles technologies (Ray Kurzweil, David Chalmers et Nick Bostrom sont des exemples récents de penseurs ayant abordé cette question dans leurs écrits).

Cette idée semble aussi être l'objet d'une attention croissante en-dehors de la communauté transhumaniste, comme en témoigne le nouveau film Transcendence, attendu sur les écrans en avril prochain. Le héros du film, Will Caster (interprété par Johnny Depp), est un chercheur en intelligence artificielle qui est mortellement blessé par les membres d'un groupe anti-technologie. Avant son décès, toutefois, son épouse et un ami parviennent à transférer son esprit sur un support informatique. Will a désormais un but central: amplifier ses pouvoirs (cognitifs et autres) indéfiniment...

Comme le révèle sa bande-annonce, Transcendence met en évidence des concepts qui se trouvent au cœur de la pensée transhumaniste contemporaine. Le premier est celui de l'«émulation cérébrale» («whole brain emulation»): il désigne un système informatique qui, basé sur des données obtenues par scanneur au sujet d'un cerveau humain particulier, copierait exactement le fonctionnement du cerveau en question, produisant ainsi l'équivalent d'un esprit tournant sur ordinateur. De nombreux transhumanistes considèrent qu'une telle procédure permettrait de prolonger radicalement la durée de vie: lorsque vous avez été frappé par la Grande Faucheuse, il suffirait de scanner votre cerveau en détail pour pouvoir transférer votre esprit sur un ordinateur, vous permettant ainsi de continuer votre existence, en principe, jusqu'à la fin des temps!

Un second concept est celui de «superintelligence» artificielle, une entité qui pourrait résulter de ce que certains ont nommé une «explosion de l'intelligence»: selon cette idée, une fois qu'une intelligence artificielle équivalente à l'intelligence humaine aura été produite (par émulation cérébrale, ou une autre voie), il devrait être possible de modifier celle-ci de manière à la rendre encore plus intelligente - par exemple, dans le cas d'une émulation, en la faisant tourner plus vite. Cette nouvelle intelligence «surhumaine» devrait elle-même être capable de s'améliorer encore, et ainsi de suite, le processus se répétant de manière exponentielle jusqu'à la création d'une «superintelligence», autrement dit une intelligence artificielle très largement supérieure à l'intelligence humaine. Cet événement a reçu le nom de «Singularité» (il est désigné par le terme «transcendance» dans le film).

Bien que l'on puisse s'attendre à ce que le film, comme souvent avec Hollywood, prenne certaines libertés avec l'exactitude empirique, Transcendence soulève plusieurs questions importantes liées au projet de développer des machines intelligentes - en un sens d'«intelligence» plus proche de l'intelligence humaine que de l'intelligence «artificielle» telle que nous la connaissons aujourd'hui, à la façon des programmes de jeu d'échecs, dont les performances sont impressionnantes, mais ne concernent que des domaines d'activité très étroits.

Si l'émulation cérébrale s'avérait possible, permettrait-elle vraiment de transférer l'esprit d'une personne sur un support informatique, ou bien l'identité de cette personne serait-elle menacée par la procédure (qui constituerait alors une forme de copie, mais non de survie, de l'individu)? Une machine (intelligente) peut-elle être consciente, et éprouver des émotions?

Enfin, comment s'assurer que, si nous parvenons à créer une machine superintelligente, celle-

ci ne se retournera pas contre nous? Des questions qui posent des problèmes philosophiques difficiles, et qui pourraient bien être parmi les plus importantes que l'humanité aura à affronter au cours du siècle à venir.