www.sergetisseron.com

© Éditions Albin Michel, 2015

ISBN : 978-2-226-38232-0

Pour Marie

INTRODUCTION

La vieille dame et le prince charmant

En 2014, deux chercheurs en robotique ont installé chez une femme âgée, à titre expérimental, un robot de compagnie perfectionné capable d’identifier ses interlocuteurs et de dialoguer avec eux(1). Ils lui ont expliqué comment la machine allait s’adapter à ses besoins, et soudain la dame s’est écriée : « Que cela va m’impressionner quand ce charmeur va me toucher, me regarder et me rappeler l’heure de mes médicaments ! » Les ingénieurs lui parlaient de ses besoins, mais elle a répondu en évoquant ses émotions et ses désirs, et l’image du prince charmant s’est aussitôt imposée à elle ! Combien de personnes seules réagiraient-elles ainsi à l’introduction dans leur vie d’un partenaire robotisé ? Je suis prêt à parier qu’elles sont nombreuses. Les bénéficiaires de ces objets technologiques seront bien entendu encouragés à les utiliser comme de simples outils, mais beaucoup ne risquent-ils pas d’en attendre beaucoup plus et de s’attacher à eux comme à des interlocuteurs autonomes et vivants ? Leur introduction ne va-t-elle pas provoquer un gigantesque quiproquo entre ce que ces robots nous proposeront et la place que nous serons prêts à leur donner dans nos vies ? Ce n’est pas sous-estimer l’importance des enjeux technologiques et économiques de la révolution robotique que de poser le problème ainsi. Bien au contraire ! Avec les robots, des métiers disparaîtront et d’autres apparaîtront, proposant leurs services dans tous les domaines de la vie, familiale, culturelle et associative(2), mais ce développement sera inséparable de la façon dont nous serons capables de mettre à leur juste place les machines autonomes qui l’accompagneront. Or justement, quelle devra être cette place ? Et sommes-nous certains qu’il suffise de concevoir des machines dans un certain but pour que leurs utilisateurs s’y tiennent ?

C’est exactement le problème auquel a été confrontée l’armée américaine avec les soldats qui utilisent des robots démineurs *. Ces machines ressemblent à une caisse montée sur chenilles et munie d’un bras articulé, et pourtant, note l’armée américaine, les militaires qui les ont en charge « interagissent parfois avec elles comme ils le feraient avec un être humain ou un animal(3) ». Autrement dit, les militaires savent très bien que ces robots sont des outils, mais ils ne peuvent pas s’empêcher de les traiter parfois comme un animal domestique, voire comme un autre humain, au risque de provoquer de graves problèmes sur le champ de bataille car un robot est facilement remplaçable, mais pas un homme ! Quand nous disposerons de robots domestiques, est-il imaginable que nous puissions tomber amoureux de l’un d’entre eux au point de préférer sa compagnie à celle que nous proposent nos semblables ? Oui, assurément. Du coup, nous pourrions croire que tout soit fait par les concepteurs de robots pour nous éviter cette confusion. Eh bien détrompez-vous ! C’est exactement le contraire qui se passe !

La preuve : en juin 2014, le groupe japonais SoftBank a lancé le robot Pepper en jouant largement sur la confusion entre l’homme et la machine. Lors de sa présentation devant la presse mondiale, son président Masayoshi Son a déclaré : « Pour la première fois dans l’histoire de la robotique, nous présentons un robot avec un cœur(4). » Un robot qui a du cœur ? Comme Rodrigue, donc, et prêt comme lui à craquer pour les beaux yeux de Chimène ? Ne rêvons pas, et sachons raison garder, même si le président de SoftBank ne nous y encourage guère. Pepper n’aura pas plus de cœur qu’une machine à laver, mais à la différence de celle-ci, il sera capable de simuler l’affection que tout être humain attend de ses semblables – ou au moins de certains d’entre eux. Et c’est ce qui donnera envie de l’acheter ! En effet, nous n’avons guère envie d’héberger sous notre toit une créature de métal qui nous batte constamment aux échecs ou au Memory, qui nous demande si nous avons bien pris nos médicaments et nous rappelle l’heure d’aller nous coucher. Ce n’est donc pas l’intelligence des robots qui sera mise en avant pour nous convaincre d’en acheter, mais leur « cœur ». L’intelligence artificielle fait peur, l’empathie artificielle sera là pour nous rassurer. C’est elle qui sera le fer de lance de leur promotion. Et pour nous en convaincre, il est très important que nous puissions communiquer avec ces robots exactement comme avec un être humain, c’est-à-dire en utilisant la voix, le regard et le geste. Telle est donc la première référence qui va nous guider dans notre projet de penser nos relations aux robots : l’homme. Pourtant, nous ne cesserons probablement jamais tout à fait de considérer les robots comme des machines. Nous reporterons inévitablement sur eux des attentes et des espoirs que nous avons renoncé à satisfaire avec des humains, exactement comme nous le faisons déjà avec nos objets familiers. Notre seconde référence sera donc les relations de l’homme à ses objets, et nous verrons qu’elle est beaucoup plus riche et complexe que nous ne le pensons ! Enfin, les progrès technologiques nous permettront très vite de donner à nos robots les apparences de notre choix, y compris la nôtre ou celle d’un proche. C’est pourquoi la relation que nous avons avec les images que nous créons et qui nous entourent sera le troisième axe à partir duquel nous chercherons à comprendre nos relations possibles aux robots.

Ces trois références – les relations de l’homme à ses semblables, à ses objets et à ses images – nous permettront d’abord de mieux comprendre la fascination que les robots exercent sur beaucoup d’entre nous. Mais nous verrons qu’elles sont également utiles pour anticiper les impasses dans lesquelles ils risquent de nous entraîner. En effet, que nous considérions les robots comme des ersatz d’êtres humains, comme des sortes de super-ouvre-boîtes sophistiqués, ou que nous décidions de leur donner l’apparence des créatures qui peuplent notre imagination, dans tous les cas, des pièges inédits vont surgir. D’autant plus que ces machines conçues pour être capables de s’adapter au moindre de nos désirs auront des pouvoirs de séduction, et donc de manipulation, sans précédent. De ce point de vue, le projecteur braqué aujourd’hui sur l’existence possible d’une intelligence artificielle qui dépasserait rapidement l’homme dans tous les domaines ne nous aide guère à comprendre les enjeux des robots. Son existence est inévitable, certes, mais pour après-demain. La présenter partout comme le « grand soir » de la révolution technologique, aussi redoutée par certains et crainte par d’autres que la révolution bolchevique au XXe siècle, contribue hélas à détourner notre attention de problèmes bien plus urgents.

N’oublions pas que plusieurs générations d’automobiles ont été conçues de manière à répondre toujours mieux au désir d’aller toujours plus vite, jusqu’à ce qu’une nouvelle philosophie de la voiture ne la valorise comme un espace de sécurité et de convivialité plus conforme aux intérêts de ses divers passagers. Si nous voulons éviter de découvrir demain que la fabrication des robots s’est engagée sur une voie où l’homme s’égare, il faut commencer à nous interroger dès aujourd’hui sur les raisons qui nous poussent à en désirer et sur les intentions de ceux qui en fabriquent. C’est d’autant plus urgent que lorsque les premiers humanoïdes seront parmi nous, ils nous seront présentés comme le résultat de choix techniques indiscutables. Pourtant, l’histoire montre que le progrès technique n’est pas contraignant en soi et qu’il peut répondre à des demandes sociales très diverses… même s’il prétend toujours s’adapter aux nécessités pour imposer de nouveaux produits(5). Bill Gates nous promet pour très bientôt un assistant robotisé dans chaque foyer(6). Mais si nous attendons qu’une première génération de robots nous soit proposée pour nous emparer du problème, il risque d’être trop tard car ce ne sera pas forcément les machines que nous souhaitons. Il y va de la société dans laquelle nous désirons vivre.

Note

*  Ce sont les Packbots, également appelés robots « EOD » pour Explosive Ordnance Disposal (en français : neutralisation des engins explosifs).

1

Mon robot, les émotions et moi

Le P-DG de SoftBank qui parle de « cœur » pour vendre les qualités de son robot Pepper n’est pas le seul à jouer sur cette fibre. Depuis 2006, l’Europe développe un projet intitulé Feelix-croissance. La croissance, tout le monde comprend de quoi il s’agit. Quant au mot « feelix », il est fabriqué à partir des mots anglais feel, interactive et express qui signifient respectivement « sentir », « interagir » et « exprimer ». Ce programme s’est fixé comme objectif de concevoir des robots capables de décrypter les manifestations émotionnelles des humains et de leur répondre de façon adaptée. Et comme toute grande entreprise à destination commerciale, il est porté par un slogan : Emotional robot has empathy, en français : « Un robot émotionnel a de l’empathie. » Les émotions seraient-elles donc indispensables à un robot ? Pas du tout. Un robot est un système capable de percevoir les informations du monde ambiant grâce à ses nombreux capteurs, d’avoir une représentation de ce monde et de s’y adapter. Cette définition ne nécessite pas que les robots aient une apparence humaine, avec une tête, deux bras et deux jambes, et encore moins qu’ils aient des émotions. Mais si c’était la condition pour que les humains les adoptent ?

Robot, as-tu du cœur ?

Imaginez un robot qui vous propose une partie de cartes ou d’échecs au moment où vous tombez de sommeil, ou qui vous invite à faire une promenade alors que vous souffrez d’un terrible mal de dos. Il est probable que vous demanderiez vite qu’on vous en débarrasse ! Pour qu’un robot soit accepté, la première condition est qu’il soit capable de reconnaître la signification des mimiques humaines et les émotions dont elles témoignent, afin d’y répondre de façon adaptée. Mais ce n’est pas suffisant. Si le même robot qui vous voit tomber de sommeil vous déclare d’une voix métallique, et sans esquisser un geste : « Vous-de-vriez-a-ller-vous-coucher », il vous semblera vite insupportable. Et s’il demande à un enfant, de la même manière : « Est-ce-que-tu-as-en-vie-que-nous-jou-ions-en-sem-ble ? », il finira enfermé dans un placard ! Pour qu’un robot soit complètement accepté, il est indispensable qu’il parle avec des intonations et des mimiques qui évoquent de vraies émotions(7). C’est cela que le P-DG de SoftBank appelle « un robot qui a du cœur », et sur cette voie que s’avancent les recherches dédiées à ce qu’il est convenu d’appeler « l’empathie homme-machine ». Elles ont pour objectif de concevoir un robot capable non seulement d’interagir avec un être humain en s’adaptant à lui, mais aussi comme s’il était lui-même un être humain. Il semble en effet que cela soit essentiel pour que nous acceptions d’être aidés par un robot en lui faisant pleinement confiance. Mais en même temps, un robot, parce qu’il n’est pas un être humain, peut aussi proposer une communication simplifiée. Et cette caractéristique s’avère très utile avec des personnalités, ou dans des situations où la complexité des émotions humaines peut dérouter. C’est pourquoi les travaux sur les robots et les émotions portent sur trois domaines : mieux comprendre les émotions humaines(8), fabriquer des robots mieux acceptés par la majorité de la population, et, dans certaines circonstances, réduire la complexité des échanges de façon à les adapter aux handicaps de leurs interlocuteurs.

C’est notamment le cas avec les enfants atteints d’autisme. On sait aujourd’hui que ces enfants ont de la difficulté à identifier les mimiques humaines, et plus encore à intégrer simultanément une multitude d’informations relatives à la fois aux gestes, aux attitudes et aux intonations. Du fait de leur handicap, la complexité de la communication humaine les déroute. Une situation d’échange normale pour nous les plonge dans un bain d’émotions contradictoires, à tel point qu’ils sont tentés de se retrancher de toute communication. Il n’est donc pas étonnant que ces enfants acceptent plus facilement d’interagir avec un robot qu’avec un être humain(9). Les mimiques d’une machine peuvent être programmées pour être simples, schématiques et prévisibles, alors que chez l’homme, elles ont une infinité de nuances et ne peuvent généralement pas être anticipées. Le robot propose alors à l’enfant des exercices de reconnaissance centrés sur des mimiques élémentaires ou des intonations simplifiées, afin de faciliter un apprentissage progressif des subtilités de la communication humaine. Le robot, grâce à sa capacité d’adaptation(10), réalise ainsi un entraînement personnalisé à la communication et à l’intégration sociale. Il peut en même temps collecter un grand nombre d’informations sur le comportement de l’enfant, qu’il saura analyser lui-même ou transmettre à un médecin. Enfin, il peut faire tout cela à la maison, mais également dans une institution où il facilitera l’interaction de chaque enfant avec tous les autres.

Bref, le robot pourrait bien devenir une sorte d’interlocuteur « à la carte », adapté aux possibilités, aux handicaps voire aux pathologies de chacun. Mais pour être accepté par la majeure partie de ses utilisateurs potentiels, c’est le modèle de la complexité humaine qui semble le plus pertinent(11). Autrement dit, la première condition pour que le robot soit bien accepté est que son utilisateur puisse interagir avec lui de manière aussi simple et naturelle qu’avec un autre humain. Pour cela, le robot doit être doté de deux capacités complémentaires : tout d’abord reconnaître les émotions humaines, et ensuite y répondre de façon adaptée, c’est-à-dire par des attitudes, des expressions faciales et des intonations. Pourtant, il semble que ce ne soit pas encore assez pour créer entre l’homme et un robot une relation satisfaisante…

Qu’est-ce qui nous assure de pouvoir faire confiance à un robot ?

Sa ressemblance avec un être humain ?

Prenez le Nao. Avec sa taille d’un enfant de 6 ans, son visage rond et ses grands yeux colorés, il attire immédiatement la sympathie et l’envie de communiquer avec lui. Pourtant, si notre confiance à l’égard d’un robot augmente proportionnellement à sa ressemblance avec un être humain, il semble que cela ne soit vrai que jusqu’à un certain point. Lorsque cette ressemblance deviendrait trop grande, notre confiance chuterait brutalement parce que le robot commencerait à évoquer un zombie ou un revenant. C’est ce que le chercheur en robotique Masahiro Mori a appelé l’« uncanny valley », qu’on peut traduire par « la vallée dérangeante » ou « la vallée de l’étrange », ou encore « la vallée de l’angoisse d’étrangeté(12) ». Pendant trente ans, cette hypothèse a été largement utilisée pour expliquer les impressions négatives suscitées par des personnages virtuels ou des robots d’apparence humaine. Pourtant, les preuves empiriques de cette hypothèse restent rares et elle est aujourd’hui très critiquée(13). Les résultats expérimentaux vont même en sens contraire. Un robot ressemblant à un humain suscite parfois de l’aversion, mais pas toujours. Autrement dit, la peur du robot et son rejet ne s’expliquent pas uniquement par son degré d’anthropomorphisme. Il y a d’autres variables à prendre en compte, notamment sa façon de se déplacer dans l’espace et le rythme de ses mouvements.

La cohérence de ses réponses ?

Il existe des formes de pathologies mentales qui nous déroutent. C’est le cas de certaines formes de psychoses, notamment de la schizophrénie lorsque celui qui en est atteint peut dire une chose triste avec une mimique étonnée tout en affichant une attitude empreinte d’abattement. Nous sommes déroutés parce que ces diverses manifestations nous paraissent renvoyer à des états mentaux incompatibles. C’est exactement la même chose avec les robots. La cohérence de leurs réactions nous rassure. En d’autres termes, c’est moins l’apparence humaine du robot qui importe que la possibilité de trouver chez lui des mimiques, des gestes et des intonations qui nous semblent témoigner d’une sorte d’harmonie interne. Repensons à ce qui peut nous angoisser chez les revenants et les zombies des films de science-fiction. Plus que leur apparence, c’est la dissociation qui existe entre leur apparence humaine et le caractère non humain de leurs gestes et de leurs déplacements. Leur motricité est trop rapide, trop lente ou trop saccadée. Ce sont des humains discordants, et c’est ce qui nous angoisse aussitôt que nous les voyons bouger.

Inversement, un lien de confiance peut être établi avec un robot dont l’apparence est très éloignée de celle d’un humain à condition que ses réponses paraissent cohérentes. Repensons à « R2-D2 » de la saga Star Wars. Nous serions probablement prêts à lui faire confiance, bien qu’il ressemble à un tonneau et qu’il ne communique que par quelques sons synthétiques. Mais sa façon d’explorer l’espace nous paraît si proche de la nôtre, y compris dans ses maladresses et ses hésitations, que nous sommes prêts à lui faire confiance. Bref, l’apparence anthropomorphe d’un robot ne facilite pas forcément la qualité du lien que nous pouvons établir avec lui, mais elle ne la complique pas non plus. En revanche, bien sûr, si nous attendons de lui qu’il accomplisse des tâches dont les interfaces sont adaptées à l’être humain, comme conduire une voiture ou faire la cuisine et le ménage à notre place, il devient essentiel de le doter de deux bras et de deux jambes, et aussi d’un visage qui permette à son utilisateur de communiquer facilement avec lui.

Mais alors, comment expliquer que l’hypothèse de Masahiro Mori(14) ait été si facilement acceptée et si souvent reproduite alors qu’aucune expérimentation ne l’avait validée ? La réponse pourrait être qu’elle a fourni un argument facile aux développeurs de personnages virtuels et de robots pour ne pas s’efforcer de leur donner une apparence humanoïde ! Aujourd’hui, il est acquis que l’hypothèse de l’uncanny valley ne devrait plus être utilisée pour freiner le développement d’androïdes très réalistes, tout au moins dans le domaine des robots civils. Hiroshi Ishiguro est le partisan le plus convaincu de cette thèse. Il a notamment conçu le Géminoïde, un robot humanoïde qui lui ressemble et dont le contact oculaire, la qualité des expressions, la reproduction de l’épiderme et l’implantation capillaire sont inquiétants de vérité. Il distingue cinq degrés de proximité successifs entre un robot et son interlocuteur : l’apparence qui le fait ressembler à un être humain ; ses mouvements qui imitent ceux d’un être humain (il peut prendre des objets, marcher…) ; des systèmes de perception proches de ceux d’un être humain (il voit, entend et il est doté d’odorat et de sens tactile grâce à une peau artificielle*) ; le fait qu’il soit capable d’interactions complexes avec un être humain (il parle et répond, et peut faire la conversation à un être humain) ; et enfin le fait qu’il soit capable de gérer un environnement social et d’apprendre de l’expérience afin de développer ses possibilités d’interaction(15). Chaque fois que l’une de ces possibilités est ajoutée à un robot, l’homme l’accepte plus facilement et il est enclin à lui accorder sa confiance.

Sa fourrure ?

Paro évoque un bébé phoque à la douce fourrure blanche. Il suscite immédiatement l’intérêt des personnes âgées, notamment de celles qui sont atteintes de démence : elles ont avec lui des échanges encore plus intenses qu’avec un animal domestique. Paro ne se dérobe en effet jamais à la relation et montre une attention toujours soutenue à ses interlocuteurs. Ils prennent l’habitude de lui parler comme à un être humain et la plupart ajoutent qu’ils ont vraiment l’impression qu’il les comprend, même si certains prennent soin d’ajouter qu’ils savent bien que ce n’est pas vrai…

Soit. Mais est-ce parce qu’un robot satisfera à toutes ces conditions qu’il « aura du cœur », comme l’a déclaré le P-DG de SoftBank au moment de la présentation de Pepper ? Et cela justifie-t-il le slogan Emotional robot has empathy ? Quelle forme d’empathie ? Une empathie artificielle, bien sûr, mais que signifie cette expression ? Dans le langage commun, le mot empathie désigne la capacité de se mettre à la place de l’autre sans s’y perdre, c’est-à-dire sans se confondre avec lui. Mais nous allons voir que l’empathie ressemble plus à un feuilleté de concepts qu’à un concept unique.

L’harmonie rêvée de l’empathie artificielle

Comment une relation « empathique » peut-elle s’établir entre un homme et un robot ? Et est-elle toujours souhaitable ? Un film de science-fiction aborde cette question avec toutes les nuances qu’elle mérite. Il s’agit de I, Robot **. Un robot de dernière génération partage les valeurs des humains et veut leur éviter l’asservissement que d’autres machines ont programmé pour eux. À un moment du film, il fait un clin d’œil au héros pour lui indiquer qu’il n’est pas du côté des machines rebelles mais du côté des hommes, et que le discours de solidarité qu’il vient d’adresser à celles-ci est un piège destiné à les tromper. Il a appris le clin d’œil par imitation, en voyant un humain le faire, et il s’est aussitôt préoccupé de la signification de ce comportement. Il l’a ensuite intégré à son répertoire comportemental. Mais dans ce même film, l’empathie de la machine pour l’homme prend un autre aspect. L’immense intelligence artificielle chargée de contrôler et d’harmoniser tous les systèmes robotisés de la planète a elle aussi développé de l’empathie pour les hommes… mais aucune sympathie ! Elle les considère comme des attardés mentaux tout juste bons à fabriquer des armes pour s’entretuer jusqu’au dernier, et elle a donc décidé de leur retirer tout pouvoir d’initiative sur l’évolution de la planète et de gérer les choses à leur place. Le bonheur collectif, pour lequel elle a été conçue, exige ce changement de programme, et le degré de liberté que lui ont donné les hommes le lui permet. Programmée pour protéger les hommes, elle va les asservir pour les protéger contre eux-mêmes ! Nous ne sommes pas loin de telles inquiétudes puisqu’une lettre publiée sur Internet au début de l’année 2015, et signée par un grand nombre de chercheurs, prétend mettre en garde la communauté internationale contre le danger que représenterait une intelligence artificielle pour l’avenir de l’humanité(16).

Nous voyons en tout cas que la possibilité de « se mettre à la place » de l’autre – en l’occurrence ici de l’homme – entraîne dans un cas un comportement solidaire et dans l’autre une manipulation. C’est que l’empathie et l’altruisme ne vont pas forcément ensemble. Parfois la première s’accompagne de la seconde, et d’autres fois non(17). Pour le comprendre, il nous faut entrer dans les diverses dimensions de ce mot. Car l’empathie est une compétence complexe, dans laquelle l’observation, la mémoire, la connaissance et le raisonnement sont combinés pour donner un aperçu de l’expérience subjective de l’autre. En même temps, cet aperçu est une construction mentale de celui qui s’y livre, et à ce titre toujours sujette à erreurs.

En pratique, tout commence par l’empathie directe. Tous la partagent, sauf exception pathologique, et elle a trois composantes : l’empathie émotionnelle qui apparaît vers un an et demi ; l’empathie cognitive qui apparaît vers 4 ans et demi ; et la capacité de changer de perspective émotionnelle qui apparaît entre 8 et 12 ans. Puis tout continue avec l’empathie morale, qui est une autre affaire…

L’empathie émotionnelle

Elle apparaît chez l’enfant au moment où il accède à la reconnaissance de sa propre identité, distincte de celle d’autrui. Avant ce moment, il s’agit de contagion émotionnelle plutôt que d’empathie(18). La contagion émotionnelle permet au bébé de sourire quand sa mère lui sourit, d’échanger des mimiques avec elle et d’éprouver les émotions correspondantes, mais il n’a pas encore acquis la capacité de pouvoir faire une nette différence entre l’autre et lui, bien que quelques chercheurs soient convaincus que cette capacité existe dès la naissance(19). Quant aux enfants autistes, ils posséderaient cette capacité, mais elle ne s’installerait pas spontanément chez eux. C’est pourquoi il faudrait concevoir des programmes d’apprentissage grâce auxquels ils puissent y accéder de façon progressive… éventuellement en utilisant des robots !

L’empathie émotionnelle de l’homme vers le robot

Quelle relation un être humain va-t-il établir avec un robot qui mime l’humain ? Jusqu’où pensera-t-il qu’il s’agit d’une simulation, et à partir de quand pensera-t-il que le robot éprouve de « vraies » émotions ? Une chose à laquelle on croit est parfois fausse, cette croyance n’en a pas moins des conséquences réelles. L’utilisateur d’un robot peut glisser facilement de la pensée « Il a l’air content » à l’affirmation « Il est content ».

L’empathie émotionnelle du robot vers l’homme

Considérons maintenant le problème inverse et complémentaire, celui de l’empathie éventuelle du robot pour l’homme. En pratique, un robot identifie les émotions d’un interlocuteur humain en se basant sur des indices physiques. Il s’agit des mouvements du corps et des muscles du visage, de la posture, de la vitesse de déplacement, de la position des sourcils, et de la distance entre son interlocuteur et lui puisque celle-ci peut l’informer sur une attitude familière, craintive ou hostile. Le robot n’identifie pas la signification de ces informations à partir de ce qu’il éprouve lui-même, comme le fait un humain, mais en le comparant à des modèles qui ont été mis en mémoire dans ses logiciels. Le robot se comporte ainsi un peu comme un autiste qui n’identifie pas la signification du sourire ou du froncement de sourcils de son interlocuteur à partir de la résonance émotionnelle qu’il éprouve, mais qui les déchiffre en rapprochant le visage qu’il voit devant lui des pictogrammes à partir desquels il a appris à identifier la variété des mimiques humaines. En utilisant la classification des expressions microfaciales établie par le psychologue Paul Ekman, des chercheurs du MIT ont mis au point un logiciel – appelé Affectiva – qui permet aux ordinateurs, lorsqu’ils échangent avec un être humain, de repérer ses émotions grâce à une caméra et d’en tenir compte. D’autres programmes analysent le rythme de la voix et les intonations dans le même but… jusqu’au jour où sera réalisée une grande synthèse entre l’ensemble de ces données de façon à nous donner un robot qui simule parfaitement l’humain.

Notes

*  Les robots pourront beaucoup mieux apprendre par imitation et par essais et erreurs à partir du moment où ils auront une perception de ce qui endommage leur enveloppe afin de s’en tenir écarté. Une peau artificielle, déjà, peut leur permettre de percevoir la température, la pression et l’humidité.

**  Film américain de Alex Proyas, sorti en 2004.

Conclusion

La fascination que les robots exercent sur nous trouve son origine dans notre désir de réunir trois domaines que l’homme a toujours été obligé d’aborder et de résoudre séparément : communiquer en utilisant ses cinq sens et les interfaces mimo-gestuelles dont la nature l’a pourvu ; contrôler totalement un objet au point de lui confier tout ou partie de lui-même en toute sécurité ; et voir devant lui les personnages qui peuplent son monde intérieur. Avant le développement des technologies numériques, ces trois désirs étaient satisfaits dans trois domaines distincts. L’homme pouvait communiquer par la voix, le geste et le regard avec d’autres humains, ou à la rigueur avec quelques animaux très bien dressés, mais il ne pouvait pas leur faire jouer tous les rôles qu’il désirait et encore moins modeler leur apparence selon ses goûts. Par ailleurs, il pouvait déléguer à des objets certaines fonctions physiques ou psychiques, les traiter selon son bon vouloir et les détruire s’il le souhaitait, mais aucun d’entre eux ne lui permettait de communiquer exactement comme avec un être humain. Enfin, il lui était possible de s’entourer d’images représentant d’autres humains ou des créatures de fiction, mais il ne pouvait jamais leur déléguer des fonctions dans la vie concrète : les images étaient toujours prisonnières de leur support, de la toile ou du mur sur lequel elles étaient peintes ou projetées, ou de l’écran dans lequel elles prenaient forme. Or ce sont ces trois domaines, et les désirs qui y sont associés, que les robots vont réunir sur eux. Pour la première fois dans l’histoire de l’humanité, il va devenir possible de satisfaire en même temps trois formes d’attente : celles que nous attachons à nos semblables, aux objets dont nous nous entourons, et aux images que nous fabriquons. Nous interagirons en effet avec les robots comme avec des humains, c’est-à-dire par la voix et par le regard ; ils resteront en même temps toujours sous contrôle, limités par les programmes que nous y aurons introduits comme de simples machines ; et il sera enfin possible de leur donner l’apparence de notre choix au point d’en faire des super-images animées à notre service ! Bien évidemment, tant de possibilités ne manqueront pas d’engendrer un nombre égal de confusions et des problèmes.

Bien sûr, tout cela peut nous paraître lointain, mais n’oublions pas que beaucoup d’entre nous vivront parmi les robots et que ce sera évidemment le cas de nos enfants. Or chacun conviendra qu’il serait absurde de les élever pour qu’ils soient capables de vivre dans le monde d’hier, mais il n’est pas non plus adapté de les préparer à vivre dans celui d’aujourd’hui puisque ce ne sera plus le leur demain. Nous devons les préparer à vivre dans un monde où les objets seront fondamentalement différents de ce qu’ils sont aujourd’hui, et la première condition pour y parvenir est de prendre conscience de ce que seront ses opportunités, mais aussi ses séductions et ses risques. Bref, il nous faut faire avec nos enfants ce que nos propres parents n’ont pas fait avec nous lorsqu’ils n’ont pas pris la mesure de la révolution des écrans et la nécessité d’y préparer les plus jeunes. Si les écrans sont devenus pour certains adolescents et jeunes adultes d’aujourd’hui autant de pièges, c’est parce que leurs parents n’avaient pas compris que le monde était en train de changer. Ils ont expliqué à leurs enfants qu’il ne fallait pas faire confiance aux gentils messieurs qui leur tendent un bonbon à travers la portière de leur voiture, et nous découvrons aujourd’hui qu’il est bien aussi important de les protéger précocement contre les séductions des écrans, qu’il s’agisse du flux télévisuel qui transforme chacun en spectateur passif du monde, des jeux vidéo répétitifs ou des espaces numériques dans lesquels pullulent les Églises et les sectes. Bientôt, nous allons devoir leur apprendre beaucoup d’autres choses. Pas pour les tenir à l’écart des robots, mais pour leur apprendre à les utiliser pour ce qu’ils peuvent apporter de meilleur tout en se gardant de leur demander ce qu’ils ne peuvent pas donner.

Tout d’abord, il va devenir nécessaire de penser autrement notre rapport aux objets : accepter que nous puissions les aimer et les désirer, peut-être même jusqu’à la passion amoureuse, et en même temps prendre en compte qu’ils puissent être autant de mouchards reliés à des tiers. Nous devrons renoncer à penser en termes de « ou bien, ou bien » et accepter qu’ils puissent être à la fois la cause de grands avantages et de grands dangers, de façon à choisir, chaque fois, en comparant les uns et les autres.

Parallèlement, il sera essentiel de développer dès le plus jeune âge le goût du débat et de la controverse afin de familiariser nos enfants avec la multitude des choix possibles dans chaque situation, et d’éviter que les logiciels conçus par quelques-uns ne finissent par imposer à tous une représentation univoque du monde.

Mais surtout, l’éducation devra apprendre à considérer les robots tout ensemble comme des objets technologiques perfectionnés, des créatures possiblement douées d’une forme de conscience – même si celle-ci n’a rien de commun avec la nôtre –, et comme des images porteuses de toutes les confusions possibles. Les robots seront en effet à la fois et inséparablement un alter ego, un simple objet et une image. Et la meilleure manière de préparer les nouvelles générations à une pensée si complexe sera probablement de les inviter à en construire eux-mêmes le plus précocement possible. Si l’apprentissage du langage de la programmation est un élément majeur sur la voie de comprendre ce qu’on appelle bien improprement l’« intelligence artificielle », il n’est pas suffisant à lui seul pour écarter tous les pièges que les robots pourront susciter. La fabrication d’objets-robots conçus à l’image de figures que l’enfant désire animer est un autre volet de cet indispensable travail de prévention. Fabriquer des petits robots comme autant de nouvelles formes d’images deviendra aussi important pour l’enfant qu’apprendre à dessiner aujourd’hui : il y découvrira le fait que le robot, comme l’image, se substitue au modèle d’une façon qui ne le remplace pas, et que sa fabrication est l’occasion privilégiée de s’approprier à la fois l’expérience de sa construction et celle de sa perception propre du monde, puisque le robot une fois fabriqué permet de voir, d’entendre et de toucher le monde à travers ses capteurs. Le robot deviendra alors pour eux une machine transformable à tout instant en fonction de leurs attentes, et c’est ce qu’on peut leur souhaiter de mieux. En effet, plus un usager saura transformer son robot et moins le risque d’attachement à lui sera problématique. Car la relation entre eux ne sera jamais réciproque : le robot ne transformera pas l’homme, ou tout au moins pas sans son accord. Il sera un objet formidablement multifonction dont l’usager ajustera chaque fois les comportements en lien avec ses attentes ou celles de ses semblables.

Bien sûr, ces mesures éducatives, si importantes soient-elles, ne seront pas suffisantes pour nous protéger des risques que les robots nous feront courir. En effet, avant même de nous retrouver – peut-être – tous dominés par un super-cerveau artificiel plus puissant que l’ensemble des intelligences humaines réunies, nous courons le risque d’être manipulés par une multitude de petites intelligences artificielles introduites par des programmeurs dans le moindre de nos objets quotidiens. C’est pourquoi nous devrons toujours exiger que leurs choix soient explicites. Dans la mesure où nos robots domestiques n’auront pas seulement de grands yeux attendrissants et des oreilles surdimensionnées pour mieux nous comprendre, mais aussi pour mieux nous surveiller, il sera également essentiel que leurs utilisateurs puissent les paramétrer de façon à décider de ce qu’ils accepteront ou non de transmettre sur eux-mêmes, et qu’ils puissent connaître la destination et l’usage des données recueillies. Toutes les machines qui nous seront proposées, justement parce qu’elles seront des machines, devront se présenter comme des systèmes ouverts, modifiables et reprogrammables. Enfin, plus l’apparence des robots se rapprochera de celle des humains et plus nous risquons de renouer avec la tentation qui a toujours marqué la relation de l’homme aux représentations qu’il fabrique : penser qu’une image puisse contenir un peu – ou beaucoup ! – de ce qu’elle représente. Après des siècles consacrés à nous convaincre que l’image n’est rien d’autre qu’un signe, ce serait un formidable retournement de l’histoire que de penser qu’un robot ayant l’apparence d’un humain mérite un peu du respect que nous accordons à celui-ci !

L’urgence pourrait bien être, alors, de réfléchir à des robots humanisants plutôt qu’à des robots humanoïdes. L’être humain ne s’individualise en effet psychiquement que par l’intermédiaire des milieux techniques par lesquels les différents individus se relient entre eux. Les robots peuvent y contribuer s’ils sont d’emblée conçus dans cet esprit. Il n’y a pas d’un côté des techniques imposées par la nécessité, et de l’autre des bons et des mauvais usages de celles-ci. Bien sûr, les techniques ne déterminent pas tous les usages, mais elles déterminent un grand nombre d’entre eux. Il est donc essentiel que les usages que nous désirons valoriser avec les robots soient clairement définis.

Et pour cela, ce n’est pas seulement l’usager qu’il est important de placer au centre de leur développement, mais le collectif. De tels robots ne seraient des interfaces de communication de chaque humain avec lui-même que pour favoriser la communication de chacun avec tous les autres. En d’autres termes, l’objectif à poursuivre ne serait pas de donner aux robots une conscience toujours plus grande, mais de réfléchir aux modalités limitées de conscience dont ils pourraient être dotés, de façon à permettre à l’homme de développer toutes les formes de sa propre conscience du monde et de lui-même. Et pour y répondre, demandons-nous, parmi toutes les choses que les robots peuvent apprendre à faire, lesquelles sont vraiment valables. À mon avis, ce sont celles qu’une société qui vise l’égalité de ses membres doit chercher à réaliser et soutenir. Par exemple, il y aurait un grand danger à ce que les robots d’assistance infantilisent les gens et les traitent comme des récipiendaires passifs de soins et de services. Au contraire, nous aurons tout à gagner à avoir des robots qui protègent et soutiennent l’autonomie des personnes : des robots qui fassent faire de la gymnastique et de la rééducation aux personnes âgées plutôt que des robots qui les portent dans leurs bras ; et des robots qui leur apprennent l’Internet et ses nouveautés, et facilitent leurs communications avec d’autres personnes partout dans le monde, plutôt que des robots qui leur proposent de jouer avec elles.

Réfléchissons alors dès aujourd’hui à ce que nous pouvons faire tous ensemble avec des robots, que nous ne pouvons faire ni chacun séparément, ni ensemble sans robots. Les experts de Google prévoient que l’intelligence artificielle sera, en 2045, un milliard de fois plus puissante que tous les cerveaux humains réunis(20). Mais les robots peuvent aussi devenir des partenaires au service de notre désir de mieux nous connaître et de mieux nous comprendre afin de devenir toujours plus maîtres de notre propre vie. Pour cela, il est vrai, il va nous falloir renoncer à des robots auxquels nous dirions : « Obéis-moi en tout, fais à ma place ce que je renonce à faire moi-même, anticipe mes désirs même les plus secrets et montre-moi toujours que tu m’aimes. » Car s’il arrivait que ce soit un jour le cas, cette situation entraînerait inévitablement l’angoisse que la machine veuille nous manipuler à son tour, et l’oubli des hommes qui les auraient conçues pour nous asservir ! Demandons plutôt aux programmeurs de réfléchir à des robots auxquels nous puissions dire : « Permets-moi de mieux me connaître, de mieux comprendre mon passé et mon histoire, de mieux communiquer mon présent, et, avec toi ou sans toi, de mieux maîtriser mon avenir. »

Notes

Introduction

(1) Guillot, A., Meyer, J.A. (2014). Poulpe fiction, quand l’animal inspire l’innovation, Paris, Dunod, p. 149.

(2) Boué, C. (2014). Confucius et les automates, L’avenir de l’homme dans la civilisation des machines, Grasset et Fasquelle.

(3) Carpenter, J. (2013). « Just doesn’t look right : Exploring the impact of humanoid robot integration into Explosive Ordnance Disposal teams », in R. Lupiccini (ed.), Handbook of Research on Technoself: Identity in a Technological Society (609-636). Hershey, PA : Information science Publishing. Doi:10.4018/978-1-4666-2211-1.

(4) Les Échos, 6-7 juin 2014.

(5) Feenberg, A. (2010). Pour une théorie critique de la technique, Montréal, Lux Éditeur, 2014.

(6) Dossier Pour la science, n° 87, avril-juin 2015, 6-9.

1. Mon robot, les émotions et moi

(7) Eyssel, F. et al. (2010). « Anthropomorphic inferences from emotional nonverbal cues: A case study », in: Proc IEEE Int. Symp. Robot and Human Interactive Communication, 681-686.

(8) Canamero, L. (2002). « Playing the emotion game with feelix: What can a lego robot tell us about emotion? », in Dautenhahn, K., Bond, A., Canamero, L. et al. (ed.), Socially Intelligent Agents: Creating Relationships with Computers and Robots, Norwell, MA: Kluwer Academic Publishers, 69-76.

(9) Nadel, J. (2011). Imiter pour grandir. Développement du bébé et de l’enfant avec autisme, Dunod.

(10) BBC News. 23 February 2007. Emotion Robots learn from People. Retrieved on March 4, 2007.

(11) Ishiguro, H. (2006). « Interactive humanoids and androids as ideal interfaces for humans », in Proc 11th Int Conf. on Intelligent User Interfaces, IUI 06, New York.

(12) Mori, Masahiro (1970). « The uncanny valley » (K.F. MacDorman and T. Minsto, Trans.), Energy, 7 (4). 33-35.

(13) Bartneck, C., Kanda, T., Ishiguro, H., Hagita, N. (2009). « My robotic Doppelganger – a critical look at the uncanny valley theory », in Proc 18th IEEE Int Symposium on Robot and Human Interactive Communication, 269-276.

(14) Hiroshi Ishiguro est directeur du Intelligent Robotics Laborstory qui dépend du Department of Adaptive Machine (Département des systèmes machine adaptables) à l’Université d’Osaka au Japon.

(15) Kaplan, F. et Oudeyer, P.Y. (2007). « Un robot motivé pour apprendre : le rôle des motivations intrinsèques dans le développement sensorimoteur », Enfance, 1, 46-58.

(16) Dossier Pour la science, op. cit., 102-107.

(17) Decety, J. (2010). « The neurodevelopment of empathy in humans », Developmental Neuroscience, 32, 257-267.

(18) Berthoz, A. (2014). « Une théorie spatiale de la différence entre la sympathie et les processus de l’empathie », in L’empathie au carrefour des sciences et de la clinique, Botbol M., Garret-Gloanec N., Besse A., Montrouge, Doin Ed.

(19) Trevarthen, C., Aitken, K.J. « Intersubjectivité chez le nourrisson : recherche, théorie et application clinique », Devenir 2003 ; 15 : 309-428.

Conclusion

(20) Cahier « Sciences et médecine » du journal Le Monde, mercredi 7 mai 2014.

Remerciements

Je remercie Dominique Peccoud pour son soutien et ses conseils.

DU MÊME AUTEUR

Essais

Un psy au cinéma, Belin, 2013.

3-6-9-12, apprivoiser les écrans et grandir, Erès, 2013.

Fragments d’une psychanalyse empathique, Albin Michel, 2013.

Rêver, fantasmer, virtualiser. Du virtuel psychique au virtuel numérique, Dunod, 2012.

Les secrets de famille, PUF, 2011.

L’Empathie au cœur du jeu social, Albin Michel, 2010.

Le jeu des trois figures en classes maternelles, Fabert, 2010.

Les dangers de la télé pour les bébés, Érès, 2008.

Qui a peur des jeux vidéo ? Albin Michel (avec Isabelle Gravillon), 2008.

Virtuel, mon amour, Albin Michel, 2008.

Le Mystère des graines à bébé, Albin Michel Jeunesse (ouvrage illustré), 2008.

La Résilience, PUF, 2007.

Vérités et mensonges de nos émotions, Albin Michel, 2005.

Voyage à travers la honte. Coordination de l’aide aux victimes de la maltraitance, Ministère de la Communauté française, Éditions Henry Ingberg, 2005.

Manuel à l’usage des parents dont les enfants regardent trop la télévision, Bayard, 2004.

Comment Hitchcock m’a guéri, Albin Michel, 2003.

Les bienfaits des images, Odile Jacob, 2002 (Prix Stassart de l’académie des sciences morales et politiques, 2003).

L’intimité surexposée, Ramsay, 2001 (Prix du Livre de télévision, 2002).

Petites mythologies d’aujourd’hui, Aubier, 2000.

Enfants sous influence, les écrans rendent-ils les jeunes violents ?, (2000) 10/18, 2002.

Comment l’esprit vient aux objets, Aubier, 1999 (rééd. PUF, 2016).

Y a-t-il un pilote dans l’image ?, Aubier, 1998.

Le Mystère de la chambre claire (1996), Flammarion, 1999.

Le bonheur dans l’image, Les empêcheurs de penser en rond, 1996.

Secrets de famille, Mode d’emploi (1996), rééd. Marabout, 1997.

Psychanalyse de l’image. Des premiers traits au virtuel, Dunod, 1995.

Tintin et le secret d’Hergé, Hors collection, Presses de la Cité, 1993.

La Honte, psychanalyse d’un lien social, Dunod, 1992.

Tintin et les secrets de famille (1990), Aubier, 1992.

La Bande dessinée au pied du mot, Aubier, 1990.

Psychanalyse de la bande dessinée (1987), Flammarion, 2000.

Tintin chez le psychanalyste, Aubier, 1985.

En collaboration

Tassin J-P., Tisseron S., Les 100 mots du rêve, PUF, 2014.

Bach J.F, Houdé O., Léna P., Tisseron S., L’enfant et les écrans, un avis de l’Académie des Sciences, Le Pommier, 2013.

Stiegler B., Tisseron S., Faut-il interdire les écrans aux enfants ? Éd. Mordicus, 2009.

Papetti Y., Tisseron S., L’Érotisme du toucher des étoffes, Séguier, 1990.

Directions d’ouvrages collectifs

Subjectivation et empathie dans les mondes numériques, Dunod, 2012.

L’enfant au risque du virtuel, Dunod, 2005.

Le Psychisme à l’épreuve des générations, Dunod, 1995.

Bandes dessinées et ouvrages illustrés

Guide de survie pour accrocs aux écrans, Nathan, 2014 (dessins de Jacques Azam).

Le Mystère des graines à bébé, Albin Michel Jeunesse, 2008 (dessins de Aurélie Guillerey).

Le Petit Livre pour bien vivre les secrets en famille, Bayard Jeunesse, 2006.

Dessous de divan, Calmann-Lévy, 2005.

Tintouin chez le psychanalyste, Calmann-Lévy, 2004.

La télé en famille, Oui !, Bayard jeunesse, 2004.

Journal d’un psychanalyste, Calmann-Lévy/Ramsay, 2003 (rééd. Marabout Poche, 2004).

Bulles de divan, Calmann-Lévy/Ramsay, 2001 (rééd. Marabout Poche, 2005).

Les Oreilles sales, Les Empêcheurs de penser en rond, 1994.

Histoire de la psychiatrie en bande dessinée, Savelli, 1978.

CHEZ LE MÊME ÉDITEUR

Claude Allard, L’enfant au siècle des images

Sabine Belliard, La couleur dans la peau. Ce que voit l’inconscient

Annie Birraux, L’adolescent face à son corps

– et Didier Lauru (dir.), Adolescence et prise de risques

– L’énigme du suicide à l’adolescence

– Le poids du corps à l’adolescence

Gérard Bonnet, Défi à la pudeur. Quand la pornographie devient l’initiation sexuelle des jeunes

Élisabeth Brami et Patrick Delaroche, Dolto, l’art d’être parents. L’éducation, la parole, les limites

Nicole Catheline, Harcèlements à l’école

Pr Patrick Clervoy, Le syndrome de Lazare. Traumatisme psychique et destinée

Maurice Corcos, L’homme selon le DSM. Le nouvel ordre psychiatrique

Dominique-Alice Decelle, Alzheimer. Le malade, sa famille et les soignants

Patrick Delaroche, La peur de guérir

– Psychanalyse du bonheur

Pierre Delion, Tout ne se joue pas avant 3 ans

– Écouter, soigner. La souffrance psychique de l’enfant

Joëlle Desjardins-Simon et Sylvie Debras, Les verrous inconscients de la fécondité

Caroline Eliacheff, La famille dans tous ses états

– Puis-je vous appeler Sigmund ?

– et Nathalie Heinich, Mères-filles, une relation à trois

– et Daniel Soulez Larivière, Le temps des victimes

Mark Epstein, Se libérer de la souffrance. Au-delà de nos peines quotidiennes

Christian Flavigny, Avis de tempête sur la famille

Fernando Geberovich, No satisfaction. Psychanalyse du toxicomane

Dr Alain Gérard, Du bon usage des psychotropes. Le médecin, le patient et les médicaments

– et le CRED, Dépression, la maladie du siècle

Sylviane Giampino, Les mères qui travaillent sont-elles coupables ?

– et Catherine Vidal, Nos enfants sous haute surveillance : évaluations, dépistages, médicaments…

Claudia Gold, À l’écoute des émotions de l’enfant. Chagrins, angoisses, colères et autres problèmes du quotidien

Roland Gori et Pierre Le Coz, L’empire des coachs, une nouvelle forme de contrôle social

François Grosjean, Vivre plusieurs langues. Le monde des bilingues

Jean-Michel Hirt, L’insolence de l’amour. Fictions de la vie sexuelle

Philippe Hofman, L’impossible séparation entre les jeunes adultes et leurs parents

Patrice Huerre et François Marty (dir.), Alcool et adolescence, jeunes en quête d’ivresse

– Cannabis et adolescence. Les liaisons dangereuses

Jean-Marie Jadin, Côté divan, côté fauteuil. Le psychanalyste à l’œuvre

Simon-Daniel Kipman, L’oubli et ses vertus

Didier Lauru, De la haine de soi à la haine de l’autre

Pierre Le Coz, Le gouvernement des émotions et l’art de déjouer les manipulations

Pr Daniel Marcelli, La surprise, chatouille de l’âme

– L’enfant, chef de la famille. L’autorité de l’infantile

– Les yeux dans les yeux. L’énigme du regard

– Il est permis d’obéir. L’obéissance n’est pas la soumission

– Le règne de la séduction. Un pouvoir sans autorité

Anne Marcovich, Qui aura la garde des enfants ?

Jean-Paul Mialet, Sex æquo. Le quiproquo des sexes

Gustave Pietropolli Charmet, Arrogants et fragiles. Les adolescents d’aujourd’hui

Xavier Pommereau, Ado à fleur de peau

– Ados en vrille, mères en vrac

– et Jean-Philippe de Tonnac, Le mystère de l’anorexie

Jean-Jacques Rassial, Pour en finir avec la guerre des psys

Élise Ricadat et Lydia Taïeb, Rien à me mettre ! Le vêtement, plaisir et supplice

Renata Salecl, La tyrannie du choix

Serge Tisseron, Comment Hitchcock m’a guéri. Que cherchons-nous dans les images ?

– Vérités et mensonges de nos émotions

– Virtuel, mon amour. Penser, aimer, souffrir à l’ère des nouvelles technologies

– L’empathie au cœur du jeu social

– Fragments d’une psychanalyse empathique

Saverio Tomasella, La folie cachée. Survivre auprès d’une personne invivable

Jean-Philippe de Tonnac, Anorexia. Enquête sur l’expérience de la faim

Yvane Wiart, L’attachement, un instinct oublié

Jean-Pierre Winter, Homoparenté