L’Homme et sa Créature — D’où vient la peur des robots ?

Je n’aime pas les robots.

Petite, je retournais mes quelques poupées avant d’aller dormir. Les poupées de porcelaine de ma mère m’ont toujours crispée. Je trouve encore quelque chose de malsain dans un automate. Les musées de bonhommes en cire sont l’idée que je me fais de l’horreur, et les Furbys du Mal sur Terre (mais c’est un peu hors-sujet).

Alors les robots androïdes, laissez-moi vous dire que ça atteint le summum de l’incompréhension chez moi.

Tu veux bien laisser ça tranquille, oui ?

Ce qui est rassurant, c’est que je ne suis pas la seule dans ce cas. Peut-être que toi, là, qui me lis, tu fais partie de ces gens qui, au contraire, ne comprennent pas le problème ; tu aimes les poupées, tu admires la merveille de mécanisme et de travail que représente la conception d’un automate ou d’un robot, et tu balances le Furby de ton petit neveu par la fenêtre en haussant les épaules. Peut-être que tu trouves les robots ingénieux et que tu ne les crains en aucun cas. C’est ton droit.

Je dirais même que ça reste représentatif de la perception qu’a l’Homme de ses propres créatures, à l’échelle de l’humanité : un mélange de fierté et de répulsion, une fascination qui se retrouve dans nos mythes et hante encore notre vie culturelle. Un des premiers problèmes avec les robots, c’est qu’on ne parvient toujours pas à mettre le doigt sur ce qu’ils sont…

La créature anthropomorphe… et intelligente

Ils sont comme nous, mais ils ne sont pas nous. Et on a beau faire avancer avec entrain les travaux dans la robotique à la recherche de l’intelligence artificielle parfaite, de la prouesse de reproduction anthropomorphique… le malaise continue à survivre, profondément ancré dans notre culture, et s’exprime notamment à travers la littérature.

Prenons la science-fiction, genre d’anticipation le plus à même de parler de robots (et je ne parle pas des histoires d’horreur à base d’automates, parce que je vais pleurer) : rares sont les messages optimistes à l’égard de l’insertion des androïdes dans notre société. Révolution des robots, attaque des robots, suprématie des robots… Perte de contrôle des robots ? Bref. La fête.

Gunnm, excellent manga dont l’héroïne n’est pas celle que vous croyez

Ce qui est intéressant dans la science-fiction, c’est qu’il ne s’agit pas nécessairement de jouer de cette peur, mais plutôt de l’interroger. Et le premier problème de l’androïde ou de cette machine qui nous ressemble, c’est probablement qu’elle agit comme un reflet indésirable, qui soulève des questions auxquelles on ne sait pas répondre.

Ben tiens ! On se débarrasse plus facilement d’un aspirateur ! Mais que faire quand votre machine a deux bras, deux jambes, qu’elle vous regarde et vous répond ? Et voilà qu’on s’acharne à les rendre doués d’une intelligence propre, et même… à les faire rêver. Quand plus grand-chose ne nous séparera, comment, alors traiter un robot ? Pourra-t-on continuer à les utiliser comme des esclaves sans crises de conscience ? Qu’est-ce qui nous rend supérieurs à eux ? Nos sentiments ?

Et puis des gens comme Steven Spielberg nous balancent des fictions pleines de robots… avec des émotions. Pensez donc à A.I intelligence artificielle : on y suit les tribulations fort peu joyeuses d’un Pinocchio du futur qui nous serrent le coeur.

David ne sait pas qu’il est un robot, qu’il n’est pas « réel », car il a été programmé ainsi, ses émotions ont été programmées ainsi : il aime ses « parents » d’un amour… véritable ? Et quand ils retrouvent leur vrai fils biologique, se faire jeter comme un vulgaire objet et revenir à sa situation d’être mécanique lui brise ce coeur qu’il n’a pas.

Ce film me met extrêmement mal à l’aise, parce que, comme je le disais très clairement plus haut, je n’aime pas les robots. Mais le sentiment d’injustice face à la situation de ce qui ne devrait être qu’une chose, pourtant, je le ressens. Accepter sa part d’humanité ? La refuser ? Encore aujourd’hui, c’est le conflit dans ma tête (et dans mon petit coeur).

Angoisse et humanité

Qu’est-ce qui fait qu’un humain… est humain ? Quand on arrive à court de justifications pour placer l’Homme au-dessus de la créature intelligente, c’est le malaise. Nous ne parlerons même pas de la question du cyborg, mi-être humain, mi-créature mécanique ! Ça peut être une personne à qui on a greffé des parties mécaniques, mais quand il s’agit d’un cerveau organique implanté dans une créature de métal, peut-on toujours parler d’un être humain ?

Les fans savent.

On s’impose des principes. Ce que l’être humain a de supérieur à l’être mécanique, ce sont, mettons, les émotions, les sentiments… Ou encore l’empathie. Une machine n’est pas capable d’appréhender et de ressentir les émotions de l’Autre. Sauf que la science-fiction aime beaucoup se représenter le pire.

Ainsi, lorsque Philip K. Dick décrit dans

Les androïdes rêvent-ils de moutons électriques ? une société futuriste dans laquelle les androïdes ont atteint un tel niveau de perfection qu’il devient difficile de les distinguer, il imagine le « test de Voigt-Kampff ».

Ce test, utilisé par les forces de l’ordre pour démasquer les androïdes fugitifs, est basé sur l’empathie ; le sujet se voit présenter un certain nombre de situations censée susciter chez lui l’empathie, mesurée grâce aux variations du rythme cardiaque, de la respiration, etc. Une simple création de l’homme ne peut pas décemment réussir ce test… Ou peut-être que si ? Et que faire des êtres humains qui ont très peu d’empathie ?

Aha.

Je vous présente Philip K. Dick, troll de la robotique par excellence.

Mais enfin, tout ceci est déjà du niveau de l’anticipation, qui pousse la réflexion très loin et suggère l’angoisse de perdre le contrôle de nos propres créations, dont nous sommes si fiers. En attendant, et à défaut d’avoir encore à utiliser un test de Voigt-Kampff, nous avons le test de Turing, qui, lui, existe pour de vrai.

« Une machine peut-elle penser ? » était la grande question d’Alan Turing, déjà, en 1950, quand il a imaginé ce test — même si ce dernier ne fournit pas la réponse. L’idée est de confronter un sujet (humain) à un ordinateur et à un autre humain, et de voir si, au cours de diverses conversations, le sujet parvient à déterminer lequel de ses interlocuteurs est la machine. Ce test a ses failles, mais il arrive qu’aujourd’hui, il soit très difficile de répondre…

Lequel est le vrai petit garçon ?

Au fond, tous ces moyens de calmer notre angoisse finissent par l’accentuer . Elle se concrétise peut-être depuis les temps modernes à cause de l’avancée du progrès, la peur de se faire remplacer par des machines — mais il n’y a rien de nouveau dans le fantasme de la créature qui dépasse son créateur.

Prenez le mythe du Golem, qui répond à un schéma de fiction/mythe classique. L’homme créé une créature humanoïde intelligente pour la mettre à son service. La créature grandit et commence à échapper au contrôle de l’homme, puis se rebelle ; l’homme la détruit, ou se fait détruire. La première légende du Golem datant au moins du XVIème siècle, on peut dire que l’humanité avait déjà un petit complexe bien avant le niveau de perfectionnement actuel du robot !

L’acceptation de la société, ou le complexe de Frankenstein

Je sais à quoi vous avez pensé en lisant le passage sur le Golem. Vous avez pensé à Frankenstein. Et vous avez eu bien raison.

Si vous n’avez pas lu le roman de Mary Shelley, vous en connaissez sûrement les grandes lignes : un savant (un peu foufou dans sa tête) réussit à défier le Ciel en insufflant la vie à la chose qu’il vient de créer. Mais, horrifié par sa propre création, il l’abandonne aussitôt, la livrant à elle-même… et à sa capacité, désormais, de surpasser son créateur.

Quel boulet.

Une machine peut-elle rêver ?

Ce thème n’est pas étranger à notre perception des robots : même le grand maître de la science-fiction robotique par excellence, Isaac Asimov, l’utilise pour donner un nom à la peur des créations mécaniques humanoïdes — le complexe de Frankenstein. Il décrit ainsi une phobie de la société vis-à-vis de ces créations artificielles, les androïdes, qui ressemblent beaucoup trop à un être humain, en plus… parfaits ?

Ce « complexe » est une notion qu’Asimov utilisait dans ses nouvelles pour décrire la manière dont étaient reçus les robots par la population, c’est-à-dire avec crainte, incompréhension et méfiance — la peur sous-jacente étant que ces choses ressemblant à nous en « mieux » nous surpassent, voire nous dominent un jour. Et ce malgré les trois lois de la robotique, inventées par Asimov toujours, et à partir desquelles sont programmés tous les androïdes :

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

Ces trois lois, que les scientifiques et pro-robots dans les romans brandissent comme une preuve que les robots ne peuvent rien contre nous, sont pourtant rarement convaincantes à 100% ! Même Asimov, comme tant d’autres auteurs de SF, s’entête à trouver des moyens parfaitement logiques de les contourner pour nous prouver le contraire !

Voilà qui ne va pas calmer le petit complexe d’infériorité de l’humanité, dont les arguments pour justifier sa supériorité face à la perfection mécanique pataugent un peu dans la semoule…

Un exemple populaire est le film I, Robot avec Will Smith, en réalité inspiré d’un recueil de nouvelles d’Isaac Asimov. Plus simpliste que le livre, il va droit au but de façon claire, en mettant en scène un inspecteur drastiquement opposé aux robots face à une société qui les adore. Ce qu’il leur reproche ? Leur manque de sentiments et d’empathie. Classique. Mais son argumentation s’effondre souvent… Comme lorsqu’il martèle à Sonny, le robot intelligent, qu’un vulgaire automate ne peut pas réaliser un chef-d’oeuvre à partir d’une feuille de papier. La réponse qui fuse est sans appel :

« Et vous, inspecteur ? »

Opposer le concept d’humanité à la vie artificielle, ce n’était déjà pas sans crises de conscience et divers complexes. Mais au niveau individuel, la remise en question est un peu plus difficile à appréhender…

The Uncanny : comme un nom sur le malaise de l’individu

En fin de compte, cette relation créateur/créature est malsaine à bien des égards. Enfin, disons que ça marque l’imaginaire collectif ! On a d’un côté cette peur implicite de voir la créature prendre le dessus sur nous autres, pauvres humains faits d’une chair mortelle… Et de l’autre, gros paradoxe, cette terreur à l’idée de s’être pris pour Dieu en créant la vie. On voudrait se pourrir l’existence qu’on ne ferait pas autrement.

C’est un peu la morale de Frankenstein : l’homme qui a outrepassé ses capacités de mortel en s’octroyant le droit divin de donner la vie a été puni pour une telle usurpation. Les Grecs anciens appelaient ça l’hubris, le péché de démesure, celui de vouloir se faire l’égal des dieux, qui se retrouve dans beaucoup de mythes. C’est dire si on n’a pas la conscience tranquille ! Et puis, se prendre pour Dieu, ok, mais bonjour la responsabilité, après.

Tout ça nous touche — vous et moi, pauvres individus lambda qui ne savons même pas monter un jeu Kinder — d’assez loin. À notre échelle, il faudrait commencer par nous expliquer d’où vient ce besoin absolu de faire ces machines à notre image. Quoi, c’est toujours cet espèce de complexe moitié-infériorité moitié-démiurge, à base de « l’Homme a créé la machine à son image », c’est ça ?

On a voulu faire les malins, et voilà qu’on ne sait même pas d’où vient de sentiment d’inconfort lorsqu’on se trouve face à une créature anthropomorphique un peu trop réaliste… Certains ont essayé, cela dit.

C’est le psychiatre Ernst Jentsch qui, le premier, en 1906, a parlé du « Unheimliche » dans un essai du même nom, ou uncanny en anglais, voire « inquiétante étrangeté » en français (mais la traduction est loin d’être convaincante). Littéralement l’opposé ou le non-familier, l’uncanny décrit une sensation d’incertitude intellectuelle.

Il propose à titre d’exemple une nouvelle de E.T.A. Hoffman, The Sandman, que je vous recommande et qui met en scène une poupée, Olympia, tellement réaliste que le protagoniste principal en tombe amoureux, ne comprenant pas que c’est un automate… et le lecteur doute un peu également.

L’Uncanny, c’est cette impression que l’on se trouve en présence de quelque chose que l’on connaît (ici un autre être humain) mais que quelque chose cloche sans que l’on puisse exactement mettre le doigt dessus. On est à la fois attiré et effrayé par la chose.

Le concept a été repris, critiqué et étudié par bien des gens, dont Freud. Et surtout, il a été rapproché du domaine de la robotique dans les années 70 par le roboticien Masahiro Mori et sa théorie de l’Uncanny valley, ou « vallée dérangeante », qui tente de définir et comprendre les réactions face à une présence artificielle. L’idée est que la réaction des gens est de plus en plus positive au fur et à mesure que l’objet prend une forme et des traits humains — deux bras, deux jambes, un visage… Ce qui expliquerait un peu mieux le besoin premier de donner une forme anthropomorphique à nos machines.

SAUF QUE (parce qu’il y a un sauf que) ce n’est vrai que jusqu’à un certain point. Dès que l’objet artificiel atteint un trop haut niveau de perfection dans l’imitation, la réaction s’inverse radicalement et devient négative ; nous nous trouvons alors dans le malaise dont je parlais plus haut, la méfiance, l’incompréhension… la peur. La « vallée dérangeante » désigne cette zone dans laquelle l’imitation n’est non plus bénéfique, mais effrayante, et source de rejet.

Pourquoi le robot ?

Ainsi, l’anthropomorphisme n’est pas nécessairement une mauvaise idée. On donnera un aspect humanoïde à une machine pour la rendre plus proche de l’être humain : quelques aspects familiers dans la chose animée en face de nous, nous suffiront pour nous y identifier, nous sentir dans un cadre familier et provoquer une certaine empathie.

Mais verser dans l’excès va provoquer l’effet inverse, car dès que la machine provoque la confusion, malgré l’admiration devant le travail et le savoir-faire qu’elle a demandé, le malaise peut s’installer. « Trop » humain n’est pas une option encore viable pour une machine, pas tant que l’on ne sera pas un peu plus fixés sur le concept d’humanité et la place que l’on veut donner au robot dans notre société.

« Trop » humain, ajouté à l’invulnérabilité de la machine, devient une menace. Que ce soit justifié ou non n’est pas vraiment la question…

La conscience, on l’a vu, joue aussi : pour l’instant, nos connaissances en robotique ne nous permettent pas de faire d’un robot humanoïde autre chose qu’une démonstration de tout ce qui est déjà possible (des machines intelligentes, des robots qui peuvent imiter notre démarche, des mouvements mécaniques de plus en plus fluides…).

Mais le but de toute machine est de nous aider, voire remplacer, au quotidien, comme une voiture qui fait le trajet pour nous, ou un robot ménager qui prépare des aliments. Dès que les techniques seront suffisamment perfectionnées pour avoir des machines nous ressemblant trait pour trait et faisant notre vaisselle… ne serons-nous pas tentés de parler d’esclaves ?

Bon, à vrai dire, l’anticipation étant ce qu’elle est, on est déjà tentés. Regardez par exemple l’excellente série Real Humans, qui appuie bien où ça fait mal : l’identification, la peur, la méfiance, la jalousie, les relations troubles, la conscience, et l’abattage des frontières entre humain et machine. Tout un programme.

Non, nous n’y sommes pas encore, c’est vrai. Mais la présence du robot dans notre culture populaire et la place qu’il y occupe montre bien qu’on y pense déjà, même devant une jolie poupée très réaliste qui dit « maman ». Vous ne faites peut-être pas un malaise devant un automate grandeur nature, mais ne me dites pas qu’au-delà de la prouesse technique qu’il représente, vous ne ressentez rien !

Mon petit coeur anti-robot et moi-même faisons tout notre possible pour être objectifs, mais nous ne vous croirons pas.