banner societe 2016
jeudi, 12 novembre 2015 10:44

Des robots et des hommes

Écrit par

Les robots sont de plus en plus présents dans nos vies et de plus en plus anthropomorphes.[1] L’ « empathie » qui peut se développer avec ces objets est à double tranchant. Il convient de réfléchir à la relation que nous voulons entretenir avec eux, pour ne pas nous laisser piéger dans des relations fausses.[2]

Deux chercheurs en robotique rapportent cette anecdote. Une femme âgée doit recevoir chez elle le robot de compagnie et de téléassistance uBOT-5. Il s’agit d’une machine capable d’identifier ses interlocuteurs, de dialoguer avec eux, de reconnaître leurs manifestations pathologiques et de leur rappeler leur prise de médicaments. Avant d’installer la machine chez la vieille dame, les techniciens lui en expliquent les caractéristiques. Elle s’écrie : « Que cela va m’impressionner quand ce charmeur va me toucher, me regarder et me rappeler l’heure de mes médicaments ! »[3]


Cette situation pose une question essentielle : notre relation aux machines contient une part de désirs qui échappe aux tâches techniques pour lesquelles elles sont conçues. Certes, les concepteurs des robots nous les présentent comme de simples objets utilitaires, mais nous serons inévitablement enclins à les traiter comme des humains. C’est ce que résume un rapport de l’armée américaine sur les soldats utilisant des robots démineurs : « Il est très clair pour les militaires que le robot est un outil, mais [...] ils interagissent parfois avec eux comme ils le feraient avec un être humain ou un animal. »[4] Et quand le robot devient capable de simuler des émotions, l’observateur a beau savoir que ces émotions ne sont pas réelles, il n’en est pas moins enclin à les croire...
Si nous ne réfléchissons pas dès aujourd’hui à ce que seront nos relations avec de tels robots, nous risquerions bien de basculer demain dans deux attitudes extrêmes et dangereuses : soit refuser ces machines sous prétexte qu’elles sont des ersatz d’humains qui brouillent les repères de la conscience, de la dignité et de la liberté, soit voir en elles une nouvelle catégorie du vivant à laquelle il faudra octroyer des droits.
La question ne date pas d’aujourd’hui. Notre culture s’est largement détournée du problème de la place des technologies dans nos vies, sauf pour s’en inquiéter. Seul Gilbert Simondon construit une théorie de l’homme et de ses objets placée sous le signe de l’humanisation réciproque. Pour lui, l’origine de l’incompréhension de l’homme visà- vis des technologies s’enracine dans la non-connaissance de la nature et de l’essence de la machine.[5] C’est vrai, mais c’est insuffisant.

Relations à l’objet
Cette incompréhension trouve tout autant son origine dans le déni des relations complexes que nous entretenons avec nos objets familiers. La preuve en est la honte que nous pouvons ressentir pour notre attachement à un objet hors d’usage (un vêtement, un meuble usagé), pour le désir « incompréhensible » que nous avons de le garder bien qu’il ne nous rende plus service. Ces expériences contiennent déjà l’infinie subtilité de ce qui sera mobilisé demain dans nos relations avec les robots.
Nous devrons prendre en compte le fait que nous ne faisons pas qu’utiliser nos objets. Nous les aimons aussi... De ce point de vue, les robots nous obligent à nous intéresser à « l’obscur désir pour les objets » qui nous habite, pour paraphraser Luis Buñuel. Car l’empathie[6] pour nos objets et notre attachement à eux accompagnent l’homme depuis la nuit des temps, comme le prouvent les nombreuses sépultures dans lesquelles des personnes sont enterrées avec leurs objets familiers.
Il faut cependant distinguer deux formes d’attachement. Nous pouvons être attachés à un objet pour sa capacité de médiatiser une relation avec un autre humain. L’objet est alors dit « transitionnel » : il a un statut intermédiaire entre une partie de soi et un partenaire (Winnicott dit qu’il est à la fois « moi » et « non moi ») et ne joue ce rôle que pour un temps limité, au bout duquel il est abandonné au profit d’une relation différente aux personnes.
Mais l’objet peut aussi durablement rem placer l’humain. Il devient alors ce qu’on appelle en psychopathologie un « fétiche » : il est chargé de tenir lieu de l’humain qui nous manque, que celui-ci soit un être réel qui a disparu ou une créature imaginaire qui n’a jamais existé. La relation avec l’objet fétiche est placée sous le signe d’une consolation qui s’éternise et s’enkyste. Il est à craindre que ce soit là demain le statut des robots, destinés à nous consoler des inévitables difficultés que nous rencontrons avec d’autres humains.

Des robots empathiques
Un robot du programme Feelix growing, destiné à favoriser la construction de robots émotionnels, est présenté sur Internet avec le commentaire suivant : Emotional robot has empathy. L’être humain a toujours eu tendance à attribuer à son environnement des émotions, voire des pensées, semblables aux siennes. Or les robots émotionnels sont capables d’une performance inédite : nous renvoyer un feed back émotionnel. En pratique, un robot identifie les émotions d’un humain en se basant sur des indices physiques, comme le mouvement du corps et les muscles du visage, la posture, la vites se de déplacement, la position des sourcils, et la distance entre son interlocuteur et lui, celle-ci l’informant sur une attitude familière ou au contraire craintive.
Une fois les réactions affectives des humains identifiées, le robot est capable d’y répondre avec des expressions, mimiques et gestuelles susceptibles de générer l’illusion qu’il comprend les états affectifs de l’homme et qu’il y est « sensible ».
Cette simulation a des conséquences : l’utilisateur peut penser que le robot a des émotions (« il a l’air triste ») ou des émotions pour lui (« il me trouve sympathique »), et il peut, inversement, avoir lui-même des émotions pour le robot (« ça me fait de la peine de penser qu’il souffre »). C’est ce qui justifie le slogan évoqué plus haut : Emotional robot has empathy.
Il ne s’agit là cependant que d’une empathie de base, qui peut tout aussi bien être mise au service de l’emprise que de la réciprocité et de l’altruisme. Pour introduire la composante de l’altruisme, il faut faire intervenir un nouvel étage à l’édifice, relevant non pas du développement biologique de l’humain cette fois, mais de l’éducation, puis des choix personnels de chacun. Cet étage correspond à la décision de nous orienter vers une utilisation de notre empathie émotionnelle et cognitive dans le sens d’un bien vivre ensemble plutôt que dans celui d’une manipulation permanente de notre entourage. Cette « empathie réciproque » suppose non seulement la capacité de se mettre à la place de l’autre, mais aussi celle d’accepter que l’autre se mette à la nôtre.
Suit l’empathie intersubjective, qui consiste à reconnaître à l’autre non seulement la possibilité de se mettre à notre place, mais aussi celle de nous éclairer sur ce que nous sommes, de nous faire découvrir des aspects de nous-mêmes que nous ignorons. Que l’homme puisse un jour développer son empathie pour le robot jusqu’à lui demander de l’informer sur lui-même, nous en sommes loin. Il faudrait déjà pour commencer qu’une forme d’empathie de base ait été établie.
Mais pour quels avantages et dans quelles limites ? Les propriétés et les comportements d’un robot capable de susciter l’empathie d’un interlocuteur humain sont nombreux. L’anthropomorphisme (autrement dit l’apparence humaine) n’est pas un élément essentiel, l’appréciation du robot paraissant plutôt multidimensionnelle, c’est-à-dire relevant à la fois de l’apparence, de la gestuelle et des relations qu’il est possible d’établir avec lui. L’aspect enfantin rassure, comme avec les robots Nao et Pepper, ainsi que la richesse des interactions sensorielles, la prosodie, le ton de la voix du robot et le contact physique, comme avec le robot Paro destiné aux personnes âgées.
Il faut prendre en compte aussi les services qu’il rend, comme de rappeler l’horaire d’une prise de médicaments ou de proposer des jeux vidéo, ce que fait le robot Kompai lorsqu’il s’aperçoit que son partenaire s’ennuie.
Plusieurs études montrent qu’un robot qui donne un feed back émotionnel est perçu comme supérieur et plus fiable qu’un robot qui répond de manière neutre. Cette capacité est essentielle dans les situations où l’homme doit accepter d’être aidé par un robot comme il pourrait l’être par un être humain, notamment dans les procédures d’apprentissage. Elle joue également un rôle important quand une personne est invitée à accepter l’aide d’un robot là où elle ne l’accepterait pas d’un humain. Des enfants autistes, par exemple, qui ont de la difficulté à identifier la signification des mimiques, acceptent plus facilement de les apprendre avec un robot aux mimiques simples et schématiques, qu’avec un hu main chez qui elles sont d’une grande complexité et d’une infinité de nuances.[7]

Les dangers
Hélas ! il y a aussi des dangers à développer l’empathie (et l’attachement qui peut en résulter) entre un homme et un robot. Tout d’abord, la souffrance imaginée à un robot malmené ou endommagé est mal vécue par beaucoup d’observateurs et peut même devenir in supportable à certains.
Sur un champ de bataille, l’attachement à un robot peut nuire à l’efficacité d’une mission en incitant des combattants à risquer leur vie pour éviter la destruction d’un objet fabriqué en série et facilement remplaçable.[8] Connaître le fonctionnement de la machine réduit ce risque, mais ne le couvre pas. Pour éviter un trop fort attachement, il est envisagé de donner aux robots une apparence un peu aversive, comme celle d’un insecte, c’est-à-dire d’un animal qui ne suscite aucune empathie dans nos cultures.[9] Mais cet insecte ne doit pas être non plus menaçant...
Si l’empathie risque bien d’être un piège pour l’utilisateur d’un robot militaire, elle peut aussi s’avérer problématique dans le cas d’un robot de compagnie. Les personnes bénéficiant d’un assistant robotisé à domicile - notamment les personnes âgées - risquent d’oublier que leur machine est reliée à des hommes. Aussi vrai que « personne n’a de secret pour son valet de chambre », personne n’aura de secret pour les équipes qui accèderont en temps réel à l’ensemble des données visuelles, auditives et olfactives recueillies par les assistants robotisés. Quel contrôle faudra-t-il prévoir pour les équipes chargées de veiller au fonctionnement des robots et à la santé de leurs utilisateurs, et quelle déontologie ?
Quant aux robots de compagnie, ils risquent de devenir rapidement les dépositaires d’un grand nombre d’informations personnelles sur leurs propriétaires, informations qui risquent à tout moment de basculer dans le domaine public, que ce soit du fait de précautions insuffisantes, d’une faille de sécurité du Cloud ou de piratage.
Nous allons donc être confrontés à des pouvoirs de manipulation décuplés de la part de ceux qui fabriquent les robots. Il ne sera pas très difficile, en effet, de programmer un robot pour qu’il se synchronise sur son interlocuteur, à la fois sur le plan verbal, par le choix de ses mots, paraverbal, par ses mimiques et ses intonations, et comportemental, par ses attitudes.[10] Une telle synchronisation établit une symbiose en miroir, qui permet d’entrer dans le monde des représentations de l’interlocuteur (le Mirroring) et, si elle est gardée suffisamment longtemps pour établir la confiance (le Pacing), d’amener l’interlocuteur à changer (le Leading).
Des études récentes confirment ces risques. L’une d’entre elles montre qu’un robot interactif peut obtenir un nombre important d’informations sur son interlocuteur à travers une conversation habilement menée.[11] Une autre indique que les conseils et les instructions donnés par un robot sont beaucoup plus efficaces si on a pris soin d’attribuer à celui-ci certaines caractéristiques, comme une voix masculine ou un menton court.[12]
Nous devons reconnaître que l’extériorisation des capacités humaines, qui culmine dans le désir de fabriquer des robots autonomes, est la manifestation la plus récente de deux désirs aussi anciens que l’homme lui-même : le désir d’emprise et le désir de réciprocité. [13] Le désir d’emprise ne nous menace par seulement par la tentation de quelques-uns de mettre au point des machines qui leur permettent de contrôler toujours mieux leurs semblables. La menace viendra de notre propre désir d’ignorer que d’autres hommes, dont les intentions et l’éthique peuvent être bien différentes des nôtres, les programment.

Qui est l’autre ?
Un autre danger sera la tentation de remplacer, dans les relations affectives et sexuelles, l’être humain, toujours imprévisible, par des robots conçus pour nous étonner dans les limites de nos attentes. De tels robots seront programmés pour nous aimer et être aimés, sur le modèle de ceux qui sont mis en scène dans la série télévisée Real Humans ou dans le film Her, de Spike Jonze.
Ils nous proposeront un partenaire idéal, possédant une mémoire parfaite de nos échanges passés, capable d’une attention toujours égale à nos manifestations émotionnelles parce que jamais perturbé par les siennes, dénué de tout narcissisme et de tout souci de préséance, et d’autant plus réceptif à nos attentes qu’il n’aura aucune exigence propre. Peut-être même viendra-t-il un temps où, raffinement suprême, ces machines seront capables de répondre à nos attentes sans même que nous ayons besoin de les formuler parce qu’elles seront directement branchées sur nos commandes mentales.
Comment ces ersatz d’êtres humains modifieront-ils l’idée que nous nous faisons de la conscience, de l’homme et de la rencontre ? Et l’autre, avec ses différences et sa part d’imprévisible, sera-t-il toujours désirable ?

[1] • Serge Tisseron est l’auteur de nombreux ouvrages de psychanalyse et s’intéresse spécialement au monde de la télévision, des bandes dessinées et des univers virtuels. (n.d.l.r.)
[2] • Une version plus étoffée de cet article est parue dans Etudes, Paris, novembre 2014, pp. 33-44.
[3] • Agnès Guillot et Jean-Arcady Meyer, Poulpe fiction. Quand l’animal inspire l’innovation, Paris, Dunod 2014, p. 149.
[4] • Thèse de Julie Carpenter, The Quiet Professional. An investigation of US military Explosive Ordnance Disposal personnel interactions with everyday field robots, Washington University 2013.
[5] • Gilbert Simondon, Du mode d’existence des objets techniques, Paris, Aubier 2012, 368 p.
[6] • Capacité de percevoir les émotions et les états mentaux d’un autre être humain.
[7] • Jaqueline Nadel, Imiter pour grandir. Développement du bébé et de l’enfant avec autisme, Paris, Dunod 2011, 213 p.
[8] • Julie Carpenter, op. cit.
[9] • Ibid.
[10] • Olivier Lockert, Hypnose, évolution hu - mai ne, qualité de vie, santé, Paris, IFHE éditions 2013 (4e éd. revue et augmentée), 720 p.
[11] • Aaron Powers et al, « Eliciting information from people with a gendered humanoid robot », in Proceedings of the IEEE Int. Workshop Robot and Human Interactive Communication 2005, pp. 158-163.
[12] • Aaron Powers, Sara Kiesler, « The advisor robot. Tracing people’s mental model from a robot’s physical attributes », in Proceedings Conf. Human-Robot Interaction 2006, pp. 218-225.
[13] • Serge Tisseron, L’empathie au coeur du jeu social, Paris, Albin Michel 2010, 240 p.

Ce qu’on appelle « robots »
Un robot est défini par quatre critères : il est une machine construite par l’homme ; il possède des senseurs pour appréhender son environnement ; il contient des programmes qui lui permettent de définir une réponse ; et il a les moyens de mettre celle-ci en œuvre.

Lu 2584 fois

CouvLivreChoisir

Coédité par choisir et les éditions Slatkine, ce recueil regroupe douze nouvelles retenues par le jury du concours pour écrivain(e)s lancé par notre revue lors de son 60e anniversaire.

COMMANDER LE RECUEIL


Solitude

Informaticienne, la trentaine, Erin Lederrey préside l’Antenne LGBTI de Genève. Avant cela, elle étudiait la théologie à l’Université de Genève. Son souhait? Travailler, un jour, au sein de l'Église.


Michel Gounot Godong

Comment notre cerveau dépouille-t-il les ondes sonores et quels impacts ont-elles sur nous? D’où viennent les hallucinations auditives? Des réponses avec la neuroscientifique Valentina Mancini.


la race des orphelins

Rencontre en musique et autour d’un feu avec le pasteur évangélique manouche May Bittel. En attendant de repartir sur la route, il évoque ses voyages en Terre sainte, où il emmène «ses gens».
À lire et à écouter!