Serge Tisseron

L’emprise insidieuse
des machines parlantes

LES LIENS QUI LIBÈRENT

« L’obligation de se tenir soi-même compagnie est une épreuve à laquelle nombre de cerveaux ne résistent pas. »

Gaëtan Gatian de Clérambault,
Souvenirs d’un médecin opéré de la cataracte,
Les empêcheurs de penser en rond,
Paris, 1992, page 36.

Introduction

Si vous n’en avez pas chez vous, vous en avez probablement entendu parler et il est impossible que vous n’ayez pas aperçu leurs publicités. Ce sont les enceintes connectées. Elles inaugurent un nouveau règne de l’intelligence artificielle, celui des machines parlantes. Celles-ci s’adressent déjà à nous par l’intermédiaire de nos téléphones mobiles, comme Siri sur Apple, ou à partir de nos ordinateurs, comme Cortona pour les PC. Mais, avec les enceintes connectées, ces machines entrent aussi dans nos appartements, comme Echo ou Google Home. Leur simplicité d’utilisation a tout pour séduire. Avec elles, plus besoin de clavier, de souris, de télécommande, ni même d’applications. Nous interagissons exactement de la même façon qu’avec un être humain, c’est-à-dire par la parole. Nous passons du « cliquer » au « parler ». Un exemple. Vous voulez avoir les dernières nouvelles sur votre téléphone mobile ? Il vous faut le déverrouiller, chercher l’application, la lancer et définir les paramètres avant d’obtenir le résultat. En revanche, il suffit de dire : « Alexa / O.K. », ou « Siri, quelles sont les nouvelles ? » Chacun peut les utiliser sans avoir besoin d’un mode d’emploi et en gardant sa pleine liberté de mouvement grâce à la portée des microphones. Leur slogan ? « Demandez et vous serez exaucé. » Dites : « O.K. Djingo », « Allo Siri », « Alexa », et la machine se met à votre écoute. Il suffit alors de lui demander : « Je voudrais voir un film d’action » ; « Quel est le programme ce soir ? », « Peux-tu m’indiquer la météo de demain ? », « Ferme un peu les volets », « Monte-moi la lumière dans la pièce », etc. La commande vocale nous permet de choisir nos programmes musicaux, de passer des appels, de programmer des alarmes et des minuteurs, de poser des questions, de vérifier la météo, le trafic et les résultats sportifs, de gérer nos listes d’achats, de contrôler les appareils connectés compatibles tels que les lumières de l’appartement, d’écouter des livres audio et beaucoup plus encore. Certaines enceintes intègrent d’ores et déjà des interactions plus directement émotionnelles : « Qu’est-ce que je peux faire pour vous ? », « Je suis toujours content de vous parler », etc. Quelques unes peuvent même passer des coups de téléphone en se faisant passer pour un humain, comme Google Dupleix. On les imagine déjà capables de révolutionner nos relations à nos objets quotidiens et d’apporter une aide importante aux personnes en situation de handicap ou d’illettrisme.

Bon. Redevenons réalistes. Tout cela, c’est encore de la publicité. Ces machines présentées avec enthousiasme ont en réalité des performances très en deçà des discours marketing destinés à les faire acheter1. Les interactions avec elles sont laborieuses et l’utilisateur doit faire un véritable travail d’ajustement pour comprendre ce que peut réaliser sa machine et trouver comment lui ordonner de l’accomplir. Elles ne sont pas non plus formidablement efficaces avec les voix enfantines et les personnes ayant un accent régional. De leur côté, les fabricants avouent que la reconnaissance vocale est « perfectible », ce qui est une façon de reconnaître qu’elle est encore très médiocre. Quant aux réseaux sociaux, ils moquent volontiers ces machines, qui y sont même parfois traitées de simples gadgets.

Pourtant, demain, beaucoup d’objets qui nous entourent vont être progressivement dotés de la voix, associée à un certain degré d’intelligence sociale et émotionnelle. Cela concernera tout autant notre véhicule automobile que notre éventuel robot de compagnie, mais nos partenaires privilégiés seront dans un premier temps les assistants vocaux et les robots virtuels que nous pourrons télécharger gratuitement sur nos smartphones. Le cabinet de stratégie et prévision numérique Juniper Research2 prévoit 8 milliards d’appareils à l’horizon 2023, et estime que 30 % de la navigation web se fera sans écran dès cette année. D’ici à 2021, la planète pourrait compter plus d’assistants conversationnels que d’humains3. D’ailleurs, malgré la pauvreté de leurs réponses, ces assistants vocaux séduisent déjà un grand nombre d’utilisateurs.

Bien sûr, si l’on prend en compte l’ensemble des bouleversements en cours, le traitement du langage naturel paraît assez anecdotique. L’intelligence artificielle nous promet de mettre fin à la maladie et à la mort et de transformer durablement l’espèce humaine grâce aux nanotechnologies et aux manipulations génétiques. Les technologies vocales, elles, auraient pour seul objectif de simplifier nos relations aux machines. Leurs fabricants nous disent que nous aurions bien tort de leur prêter des caractéristiques humaines, et plus encore de les craindre. Elles ne sont pas du tout dotées d’une intelligence forte, capable de rivaliser avec l’intelligence humaine, mais d’une intelligence faible, très faible même, bien moins intelligentes qu’une fourmi, tout juste capables de répéter des phrases qu’on leur a apprises.

Mais ce n’est qu’un début. Déjà, les assistants vocaux comme Siri ne se contentent plus de réaliser des tâches instrumentales comme la recherche d’informations, mais ils sont également programmés pour simuler une personnalité, notamment en maniant l’humour ou l’ironie. L’objectif est d’accrocher durablement les clients à l’aide de stratégies susceptibles de générer un lien d’attachement4. Avec l’attribution de la voix aux machines, l’élan est donné à des systèmes artificiels qui incorporeront de plus en plus de caractéristiques humaines. D’autres compétences suivront, comme l’attention conjointe, qui nous rend attentifs à ce que regarde autrui, et la coordination motrice, qui nous fait aligner nos gestes sur ceux de notre entourage.

C’est pourquoi, dans ce qui suit, nous partirons des enceintes connectées pour élargir notre réflexion à l’ensemble des agents artificiels dits « intelligents » que sont les assistants vocaux, les chatbots et les robots qualifiés de « sociaux ». Nous mettons en effet ces deux qualificatifs entre guillemets car aucune machine, aussi intelligente soit-elle, n’aura jamais une intelligence semblable à celle de l’homme, dans la mesure où elle ne fonctionnera pas avec des substrats biologiques, et qu’aucune machine ne sera jamais dotée de la compréhension du contexte interhumain qui fait la sociabilité entre les hommes. Il n’en reste pas moins que, malgré leurs nombreuses imperfections actuelles, les enceintes vocales connectées inaugurent un changement radical du statut des machines. Avec la voix, ce n’est pas seulement une compétence supplémentaire dont elles bénéficient, mais une dimension spécifique de la communication interhumaine. D’ailleurs, sa seule introduction dans un objet, à l’exclusion de toute présentation anthropomorphe, suffit à induire chez ses utilisateurs l’illusion qu’il posséderait une véritable personnalité5. C’est avec la voix que tout commence. Elle ne rend pas seulement plus confortables nos relations avec les objets, elle confronte l’utilisateur à un problème existentiel : « Y a-t-il quelqu’un ? » et « Qui est là ? » Il en résulte quatre ruptures civilisationnelles majeures qui sont l’objet du présent livre6.

Tout d’abord, plus une voix artificielle se rapproche d’une voix humaine, et plus nous sommes enclins à lui prêter des émotions réellement humaines, même si nous savons qu’elle n’en a pas. Rappelons-nous du pouvoir envoûtant de la voix de Scarlett Johannson dans le film Her de Spike Jonze. Il est dès maintenant possible de manipuler toutes les caractéristiques d’une voix de synthèse, notamment l’âge, le genre et les émotions7. Il est facile de créer une voix suggestive, persuasive ou culpabilisante, et, quand l’interlocuteur est mieux connu, de la caler sur ses attentes et ses particularités psychologiques afin qu’elle lui convienne le mieux. Comment accepterons-nous d’avoir des émotions non partagées quand des machines capables de simuler l’attention et la compréhension humaines rendront à tout moment possible ce partage ?

En deuxième lieu, la voix de synthèse, en donnant à la machine une forme d’expressivité jusqu’ici réservée aux humains, pourrait accroître de manière significative la propension humaine à l’anthropomorphisation. Même si l’utilisateur d’une machine peut continuer à la considérer comme un objet seulement plus perfectionné qu’un grille-pain, beaucoup risquent de lui octroyer dans leur vie quotidienne des formes de prévenance traditionnellement réservées aux humains, à commencer par la politesse, et de l’intégrer au monde de leurs relations sociales. La voix ne contribue pas seulement à donner aux machines un statut radicalement différent que celui qu’elles ont eu jusqu’ici, mais aussi à reconfigurer la représentation que nous avons de ce qu’on appelle une « personne ». D’ores et déjà, des entreprises prévoient d’associer à des robots, mêmes rudimentaires, des caractéristiques anthropomorphes, afin de renforcer leur acceptabilité et leur intégration dans l’univers familial. Comment seront-ils considérés par les uns et par les autres ? Quels rôles joueront-ils ?

En troisième lieu, l’installation des enceintes connectées dans l’espace domestique va accroître considérablement le potentiel d’intimité entre l’homme et ses machines. Google, Amazon, Facebook et Apple – les fameux Gafa – ne cachent pas leurs ambitions d’en faire un cheval de Troie capable non seulement de capturer nos données les plus intimes, mais aussi de nous faire accepter, à terme, d’autres technologies plus invasives encore, utilisant des avatars numériques, puis des robots physiques dotés de capacités « empathiques ». Il en résultera des problèmes inédits liés à la sécurité et à la préservation de la vie privée. Mais, en même temps, que deviendra notre désir de partage quand une machine se présentera à tout moment comme attentive et disponible, et jamais fatiguée de nous écouter ? Et comment évoluera la représentation que nous avons de l’intimité ?

Enfin, les capacités d’autorégulation, qui permettent à l’être humain d’organiser ses choix, risquent d’être elles aussi fortement impactées par la révolution des machines parlantes. Pas tout de suite, bien entendu. Mais au fur et à mesure que leur voix pourra être adaptée aux attentes et aux fantasmes de leurs utilisateurs, il deviendra de plus en plus difficile de leur résister. Ces machines pourraient alors se révéler non seulement de redoutables instruments pour manipuler les émotions, mais, au-delà, les pensées et même les comportements d’une personne. Les seniors, qui sont souvent en situation de fragilité psychique chronique, pourraient devenir des cibles. Quant à nos enfants, il a été montré qu’ils sont facilement influençables par des robots8, et certains d’entre eux sont même portés à faire plus confiance à un robot qu’à un humain9. Enfin, n’oublions pas que si les fabricants d’objets numériques mettent en avant l’aide qu’ils nous apportent pour mieux organiser et gérer nos vies, ils installent parfois aussi de redoutables machines à nous déréguler pour mieux nous imposer leurs propres régulations.

En 1952, Gusdorf écrivait : « Je parle parce que je ne suis pas seul10. » Les machines parlantes pourraient bien nous obliger à reformuler les choses : « Je parle (à une machine) parce que je suis seul », avant de devenir : « Je ne suis jamais seul avec une machine qui parle. » La littérature et le cinéma se sont largement fait l’écho des difficultés de la communication interhumaine, dans laquelle il est nécessaire d’intégrer sans cesse un grand nombre de paramètres : gestes, attitudes, intonations, mimiques… Ajoutez à cela l’impossibilité d’interrompre brutalement une communication établie en face-à-face, et vous comprendrez pourquoi beaucoup d’entre nous préfèrent déjà le Skype vocal au Skype visuel, et la communication par textos et SMS à des conversations téléphoniques qui imposent encore une présence humaine par les intonations de la voix. Dans un monde où la solitude est une souffrance pour beaucoup et la compagnie un poids pour d’autres, le marché des machines parlantes est immense, et il attise bien entendu la convoitise de Google, Amazon, et Apple. Leurs stratégies ne sont hélas, pour l’instant, ni régulées, ni évaluées… et très opaques. Que sommes-nous prêts à accepter aujourd’hui ? C’est de la réponse à cette question que dépendra ce que nous vivrons demain.

CHAPITRE 1

La voix arriva, et avec elle,
la nécessité de redéfinir ce qui fait notre humanité

L’invention du phonographe par Thomas Edison, en 1877, provoqua un mélange de fascination et d’effroi. Beaucoup ne pouvaient pas croire qu’un appareil métallique puisse se substituer à la voix humaine, et ceux qui en étaient convaincus se demandaient si c’était bien raisonnable. Des dessins humoristiques montraient des curieux plonger la tête dans le pavillon d’où sortait la voix, probablement à la recherche d’un nain minuscule qui y serait caché. Et lorsque l’objet fut présenté à l’Académie des sciences, quelques savants connus pour leur perspicacité crièrent à la supercherie. L’apparition des premiers répondeurs téléphoniques provoqua chez certains la même incrédulité. « Y a-t-il quelqu’un ? »

1. DES MACHINES DE PLUS EN PLUS « EMPATHIQUES »

Le répondeur téléphonique a inauguré un nouveau régime de relation à la voix. Au début, nombreux étaient ceux qui hésitaient à parler à la machine. À vrai dire, personne n’aimait ça. La situation était étrange. La voix du répondeur n’était pas celle d’un majordome annonçant de façon neutre l’absence du propriétaire et invitant à lui laisser un message. Cette voix était celle du propriétaire lui-même qui répondait pour dire qu’il n’était pas là mais qu’on pouvait lui parler. Le paradoxe était double : la personne que nous voulions joindre répondait pour dire qu’elle n’était pas présente, mais elle nous invitait aussitôt à lui parler en nous assurant qu’elle nous écoutait. En même temps, chacun pouvait maquiller sa voix, faire répondre quelqu’un d’autre à sa place, notamment son enfant, mettre un message énigmatique, voire une charade à déchiffrer. Un nouvel espace de relation s’établissait, mobilisant l’artifice, le jeu, et parfois la tromperie. Quant à ceux qui « tombaient sur un répondeur », comme on le disait à ce moment-là, leurs réponses n’étaient pas moins diverses. Il y a ceux qui prenaient acte de l’absence du propriétaire, ceux qui l’imaginaient embusqué derrière sa machine et qui cherchaient à le convaincre de répondre, et même ceux qui s’étonnaient de son obstination à répéter toujours la même phrase. Certains rappelaient toutes les cinq minutes sans jamais laisser de message, d’autres disaient : « Quand tu écouteras ce répondeur, fais bien attention à ce que je dis », d’autres encore : « Je sais que tu es là, réponds-moi, espèce de… » et même quelques-uns : « Pourquoi tu me répètes toujours la même chose et ne réponds jamais à mes questions ? » Des romans et des essais se firent l’écho de ces nouvelles façons d’interagir en situation de présence-absence. Tout le monde se rendait compte qu’en touchant à la voix, la technologie affectait un élément fondateur du lien que les humains ont développé entre eux depuis les origines de l’humanité. En devenant capables de parler en lieu et place d’un humain, ces machines inauguraient de nouvelles formes de relation, c’est-à-dire de duplicité, de quiproquos et de manipulation possible. Pourtant, elles ne faisaient que parler à la place de leur propriétaire, et avec sa voix propre. Les nouvelles machines parlantes ne prétendront pas parler à la place de quelqu’un. Elles feront mieux, ou pire : elles nous engageront à croire qu’elles ont une personnalité.

L’informatique affective

Le projet de machines parlantes est apparu au milieu des années 1990, lorsque la possibilité de fabriquer des robots de compagnie a cessé d’être un fantasme pour commencer à devenir une réalité. Des informaticiens se sont interrogés sur les façons de simplifier au maximum les interactions entre ces machines et leurs usagers. L’idée s’est développée, au sein du MIT, de calquer à terme les relations que nous avons avec les robots sur celles que nous entretenons avec nos semblables1. L’expression Affective Computing (AC), que l’on peut traduire en français par « informatique affective », a été lancée, parallèlement à celle de Cognitive Computing, pour désigner l’informatique cognitive. Le Cognitive Computing – à distinguer du Computing, relatif au calcul pur - permet à une machine de comprendre parfaitement le sens des phrases qui lui sont fournies. C’est cette compétence qui a permis à l’ordinateur Watson d’IBM de gagner en 2011 au jeu télévisé Jeopardy !, dans lequel le candidat doit comprendre la question qui correspond à la réponse qui lui est donnée. Mais la signification de beaucoup de phrases que nous prononçons dans la vie courante ne peut se comprendre que relativement à la situation de communication. D’où l’importance de l’Affective Computing.

Pourtant, il est vite apparu qu’un être humain ne communiquerait pas longtemps avec une machine comme avec un semblable si celle-ci ne lui répondait pas comme un humain le ferait. Qu’une machine « comprenne » les émotions n’était que la première étape d’un programme plus ambitieux. L’Affective computing s’est alors mué en Emotion AI, que l’on peut traduire par « intelligence artificielle émotionnelle ».

L’intelligence artificielle émotionnelle

Avec l’intelligence artificielle émotionnelle, il ne s’agit plus seulement pour les machines de détecter et d’interpréter les diverses modalités de la relation humaine afin de créer l’illusion de les « comprendre », comme dans l’Affective computing. Il s’agit aussi de les simuler. Pour cela, ces machines sont dotées de modalités d’expressivité qui passent par la texture de la voix, mais aussi par la forme et la couleur de leurs yeux, et bien entendu par la gestuelle d’accompagnement adaptée, notamment dans les mouvements de la tête. Un mot a même été conçu pour les désigner2, les « émorobots », autrement dit les « robots doués d’émotions » (sic). Il s’agit évidemment d’un mensonge éhonté : les robots n’ont pas d’émotions ! Le robot humanoïde Pepper, lancé en 2014, est la plus connue des machines de cette génération. Il est installé dans de nombreux espaces publics comme les gares, les aéroports ou les foires-expositions, et beaucoup d’enfants le connaissent. Les publicités qui y sont associées exagèrent largement ses capacités réelles en faisant croire qu’il serait capable de rêver en regardant la lune, de s’intéresser aux camarades de vos enfants, ou d’essayer de vous consoler s’il vous voit triste, toutes choses dont il est évidemment bien incapable. Mais la publicité a toujours été conçue pour vendre du rêve… Pourtant, de telles machines s‘avèrent d’ores et déjà capables de réduire chez certaines personnes la nervosité, l’irritation, voire l’agressivité. L’automate Paro, conçu pour ressembler à un bébé phoque afin de rendre impossible toute comparaison avec un animal domestique familier, est déjà utilisé dans ce sens auprès de personnes âgées atteintes de démence, avec des effets positifs sur leur sociabilité3.

La perception humaine artificielle

Il n’a pas fallu longtemps aux chercheurs pour s’apercevoir que des robots dotés seulement d’intelligence émotionnelle ne permettraient jamais aux hommes de se sentir parfaitement en phase avec eux. Qu’une machine puisse interpréter les émotions de son interlocuteur et en simuler quelques-unes, c’est très bien, mais c’est encore insuffisant. La société Affectiva, qui se veut leader dans ce domaine, envisage d’aller beaucoup plus loin, comme on peut le lire sur son blog : « Nous envisageons un monde où la technologie comprend tout ce qui est humain. Pour y parvenir, nous sommes les pionniers de l’IA de la perception humaine : un logiciel qui peut détecter non seulement les émotions humaines, mais aussi les états cognitifs complexes, tels que la somnolence et la distraction. Et, à l’avenir, il pourra comprendre les activités humaines, les interactions et les objets que les gens utilisent4. »

L’Emotion AI, qui avait succédé à l’Affective computing, a fait place à l’Human Perception AI (HPAI), qu’on peut traduire par « perception humaine artificielle ». On parle aussi de machines « empathiques ». Toutes ces expressions qui accolent le mot « artificiel » à une compétence humaine pour désigner celle d’une machine sont évidemment malheureuses, à commencer par la fameuse « intelligence artificielle ». Rien, dans le fonctionnement d’un robot, n’est semblable à ce qui existe chez un être humain, et aucun robot ne peut « éprouver » quelque empathie que ce soit dans la mesure où il est dépourvu d’émotions. Il est seulement doté de la capacité de détecter une manifestation émotionnelle (telle que la modification du rythme cardiaque, une mimique, une posture), de la rapporter à une émotion humaine par comparaison avec une base de données, et de simuler à son tour des émotions5. Et dans tout cela, il n’éprouve rien du tout ! Vous me direz qu’on parle bien d’« arôme artificiel » lorsqu’une molécule chimique est ajoutée à un plat pour lui donner le goût du citron ou de la noix de coco. Soit. Mais l’enjeu n’est pas le même, d’autant plus que l’expression s’est rapidement imposée avec l’appui de certains chercheurs qui rêvent de fabriquer une intelligence artificielle capable de déclarer un jour : « Rien de ce qui est humain ne m’est étranger. » Entendons par là que tout ce qui est humain lui resterait bien entendu étranger, mais que l’illusion serait parfaite !

2. UN USAGER DE PLUS EN PLUS SOLLICITÉ

Que seront les réactions émotionnelles, psychologiques et sociales des humains confrontés à ces machines ? Elles dépendront évidemment du degré de complexité de celles auxquelles ils auront affaire. On peut actuellement en distinguer quatre types : de la plus simple à la plus complexe, il s’agit de l’enceinte connectée, répondant à quelques ordres simples, du robot conversationnel, capable de rudiments de conversation, du compagnon digital, qui ajoute à sa voix une présence personnalisée sur un écran, et bien entendu du véritable robot, doté d’une voix semblable à celle d’un humain. Dans tous les cas, les activités interactives que nous aurons avec ces objets technologiques modifieront nos caractéristiques mentales et sociales.

L’enceinte connectée

C’est le plus connu de ces nouveaux outils, et les ambiguïtés sont nombreuses autour de la façon de le désigner. En principe, les expressions « smart speaker » et « enceinte connectée » sont plutôt réservées aux objets matériels. En revanche, « robot conversationnel », « assistant intelligent » et « chatbot » désignent les programmes informatiques qui peuvent se manifester sur d’autres supports que l’enceinte, comme le téléphone par exemple, et qui sont capables de simuler une conversation avec un ou plusieurs humains par échange vocal ou textuel. Mais on s’y perd car les mêmes expressions peuvent renvoyer à la fois aux terminaux et aux programmes ! C’est le cas de Google Home, que son fabricant désigne tout à la fois comme un « haut-parleur intelligent », une « enceinte connectée » et même un « assistant personnel intelligent ». Enfin, ces enceintes connectées sont parfois appelées « agents conversationnels immatériels » du fait que la « personne » qui parle n’existe que sous la forme d’une voix sortant d’un cylindre. Pour simplifier, retenons qu’une enceinte connectée est un objet connecté au réseau Internet, commandé par la voix, et centré sur des tâches simples et efficaces.

En France il y avait, selon Médiamétrie, 1,7 million d’utilisateurs d’enceinte à commande vocale en décembre 20186. L’IA intégrée dans une enceinte permet de piloter, juste avec la voix, de nombreux services. Citons la commande de la télévision (changer de chaîne, rechercher un film, afficher le programme, monter le son…), le choix de ses musiques préférées, la consultation de la météo, les appels téléphoniques en mains libres, sans oublier les avantages de la maison connectée : lumière, stores, etc. Mais, à terme, la vocation de ces assistants virtuels est beaucoup plus ambitieuse : répondre à toutes les questions des usagers sur l’ensemble des services proposés, de façon personnalisée et sécurisée, à tout moment du jour et de la nuit, avec toujours la même disponibilité affable. En même temps, rien n’empêche qu’une enceinte soit intégrée dans des dynamiques relationnelles ou créatrices, plus ou moins prévues initialement par le concepteur ou l’acquéreur7.

L’assistant conversationnel ou « chatbot »

Le mot chatbot est créé à partir de la contraction de deux expressions : to chat, qui signifie discuter en anglais, et robot. Dans ce qui suit, nous l’appellerons souvent « assistant conversationnel ». Il s’agit d’automates capables de créer l’illusion d’une conversation simple. Certains roboticiens ne leur reconnaissent pas la qualité de « vrais robots » et préfèrent les appeler des « bots ». La controverse porte sur le fait que, pour avoir la qualité de robot à part entière, une machine devrait posséder non seulement des capteurs qui l’informent sur le monde, un programme qui lui permet de gérer ces informations selon le but organisé par le programmeur, mais également la possibilité d’agir sur le monde physique environnant. Pour ces informaticiens, les « robots traders », aptes à réaliser des transactions financières au millionième de seconde, ne sont donc pas des robots à proprement parler, ni non plus les automates destinés à provoquer des réactions émotionnelles favorables chez leurs utilisateurs, comme le fameux robot Paro, capable de tranquilliser certaines personnes âgées lorsqu’il est placé sur leurs genoux.

Les « assistants conversationnels » ont pour fonction essentielle, comme leur nom l’indique, de faire la conversation. Ils proposent pour cela à leurs utilisateurs de s’exprimer aussi simplement que s’ils le faisaient avec un humain capable de les conseiller. Ils sont beaucoup plus multifonctions que les enceintes connectées, mais encore très peu autonomes. Pour répondre correctement, ils doivent être capables de passer par une analyse de la syntaxe de la phrase pour comprendre quel en est le sujet, quel en est l’objet et quelle relation les lie l’un à l’autre. Aujourd’hui, ils sont tout juste capables d’aller chercher de l’information au travers de courts dialogues. On ne peut donc pas vraiment parler de conversation. Il s’y ajoute une difficulté supplémentaire. Les robots conversationnels ne se lassent jamais de répéter la même chose et leur patience est infinie, mais il n’en va pas de même de celle de leurs utilisateurs. Une machine qui ferait toujours la même réponse à la même question, aurait tôt fait d’agacer son propriétaire. Il pourrait en résulter un rejet qui irait bien au-delà de l’outil, et qui pourrait entraîner une réticence générale vis-à-vis des machines nouvelles susceptibles d’être installées sur le marché.

Les concepteurs des assistants vocaux qu’on retrouve sur nos smartphones et nos enceintes connectées ne ménagent donc pas leurs efforts pour nous rassurer et nous étonner. Ce ne sont pas seulement des informaticiens et des programmeurs qui travaillent à trouver comment retenir les usagers au-delà d’un premier échange, mais des romanciers, des scénaristes, des écrivains et des psychologues. Ces machines ont même des réponses aux questions que l’on ne pose jamais à des êtres humains, ou tout au moins pas lors d’une première rencontre. Du genre : « Dieu existe-t-il ? », « Quel est ton sexe ? », « Est-ce que tu as une âme ? », « Est-ce que tu veux bien m’épouser ? », « Est-ce que tu as des vraies émotions ? », sans oublier le fameux et indémodable : « Est-ce que tu m’aimes ? » Des réponses sont également prévues pour toutes les insultes spécifiques que les usagers du monde entier sont susceptibles de lancer à leur machine. Mais ces assistants n’ont pas pour vocation de faire la conversation très longtemps. Leur objectif est d’abord de rendre gratuitement des services concrets à leurs utilisateurs, avant de leur en proposer d’autres, payants bien entendu.

Il existe pourtant des systèmes propres à donner l’impression qu’ils sont capables de relancer une conversation. Cela se fait essentiellement au moyen d’éléments de bavardage et leur clientèle privilégiée est celle des personnes âgées. Beaucoup d’entre elles ont réduit leur conversation à quelques lieux communs, et quelques-unes oublient même au fur et à mesure les propos qu’elles tiennent. La machine permet de relancer leur discours. Il arrive aussi fréquemment qu’une personne âgée oublie les anniversaires de ses enfants et petits-enfants, ou qu’elle s’en souvienne sans pour autant avoir le réflexe ou la motivation de le leur souhaiter. Un bot peut non seulement lui rappeler ce type d’événements, mais aussi l’encourager à réaliser des gestes simples comme téléphoner ou écrire. Cela lui permet de conserver le sentiment de gérer sa propre vie, et d’entretenir un lien social.

Bien que les possibilités de ces systèmes soient encore très limitées, ils sont cependant capables de créer une confusion concernant leurs compétences et leurs modalités de fonctionnement. En effet, les usagers sont enclins à rapporter les performances de leurs machines à leurs possibilités, alors que l’intervention humaine y joue un rôle essentiel à chaque moment, et pas seulement dans la phase de conception. Beaucoup de travailleurs y contribuent, et certains sont très mal payés8. Mais tout est fait par les concepteurs de ces systèmes pour que nous l’ignorions.

Et ce n’est qu’un début. L’objectif est de créer l’illusion que la relation avec un chatbot se construit exactement comme celle qui s’établit avec un être humain. Il s’agit de surprendre l’utilisateur, de lui proposer des expériences inattendues, toujours nouvelles, et de créer le sentiment d’une progression dans la relation. Pour y parvenir, les programmeurs tentent d’imposer l’illusion que le chatbot aurait une vraie personnalité. Le travail des scénaristes est alors de dénicher des réponses spirituelles et le plus souvent consensuelles, mais susceptibles de faire croire à l’existence d’un « caractère ». Ils prévoient notamment la possibilité d’un grand nombre de réponses possibles à la même question, de façon à éviter un effet de répétition mécanique qui renverrait immédiatement l’assistant vocal à ses limites. Car, pour entretenir l’illusion que le chatbot répondrait selon son humeur, parfois imprévisible, il ne doit évidemment pas répondre toujours la même chose, selon le temps qu’il fait, l’endroit où vous êtes avec « lui » et vos échanges précédents…

Le compagnon digital

À la différence de l’enceinte connectée et du chatbot, le compagnon digital a une apparence. Il se manifeste sous la forme d’une image animée sur le téléphone mobile ou d’un hologramme. Il est en outre doté d’une histoire, de goûts personnels, notamment dans le choix de ses vêtements, et surtout d’une subjectivité « artificielle » dont font partie quelques zones d’ombre savamment programmées. Plus encore que pour l’assistant conversationnel, les tâches de supervision et d’élaboration des arborescences de dialogue nécessitent des équipes considérables. L’objectif n’est plus seulement d’aider l’utilisateur en répondant précisément à ses questions dans un secteur spécifique, mais de créer un attachement durable, comparable à celui qui s’établit avec un humain. Or n’oublions pas que la plupart des applis disponibles sur téléphone mobile ne sont pas utilisées plus d’une semaine. Le compagnon digital est donc fabriqué d’emblée de telle façon que celui qui le découvre et commence à interagir avec lui ne puisse plus jamais s’en détacher. Il s’agit de retenir l’utilisateur en l’intriguant, en lui donnant l’impression qu’il part à la découverte d’une personnalité complexe, et le rendre toujours plus curieux de celle-ci au fur et à mesure que la relation s’installe. Pour y parvenir, le programme intègre notamment les modalités psychologiques par lesquelles se construit un sentiment d’attachement entre deux humains. Cela suppose d’abord que la machine se rappelle tout ce que lui a dit son utilisateur. Une sorte de carte intérieure des interactions passées est construite peu à peu, de telle façon que tout ce que l’utilisateur a dit et/ou montré de lui soit utilisable pour rebondir sur le moindre de ses propos et lui proposer de nouvelles expériences.

Les robots empathiques

Ils restent à ce jour très expérimentaux car ils posent des problèmes spécifiques qui ne relèvent pas seulement de l’intelligence artificielle, mais aussi de la mécanique et de la physique9. Mais ne nous montrons pas trop impatients car ils auront le pouvoir de nous influencer mieux encore ! C’est ce que montrent des études portant sur les réponses des usagers à trois habillages de la même intelligence artificielle donneuse de conseils. La première est réduite à une simple voix sortant d’une enceinte connectée ; la seconde est une voie associée à un avatar sur un écran, c’est-à-dire à un compagnon digital ; et la troisième consiste en une voix provenant d’un robot physique de type humanoïde, c’est-à-dire ayant une apparence fonctionnelle avec un être humain, autrement dit, doté d’un tronc, d’une tête, de deux bras et de deux jambes. Les résultats ont montré que les utilisateurs sont plus attentifs à ce qui leur est dit lorsque la voix est associée à un corps virtuel, c’est-à-dire à un compagnon digital, mais qu’ils le sont mieux encore lorsque c’est un robot physique qui leur parle. Les robots physiques, par le pouvoir qu’ils ont de captiver les interlocuteurs par leur présence mobile dans l’espace, suscitent des sentiments beaucoup plus intenses que les intelligences artificielles s’exprimant par une enceinte et que les robots virtuels présents sur un écran10. De la même façon, les conseils sont mieux suivis lorsqu’ils sont donnés par un robot, notamment dans le domaine de l’alimentation et des activités physiques. Autrement dit, de ces trois technologies, c’est le robot physique qui a le plus grand pouvoir d’influencer ses usagers11.

Une contre-expérience a également été réalisée. On a demandé à des enfants d’infliger des chocs électriques à une intelligence artificielle, à un avatar sur un écran et à un robot physique. Les enfants éprouvent beaucoup plus d’empathie pour les souffrances qu’ils imaginent au robot physique que pour celles qu’ils imaginent à I’IA et au robot virtuel. Autrement dit, l’émotion simulée par la machine devient facilement une émotion partagée par l’humain.

3. L’HOMME MIS À NU PAR SES MACHINES, MÊME

Une œuvre célèbre de Marcel Duchamp s’appelle La Mariée mise à nu par ses célibataires, même. Le titre de ce paragraphe s’en inspire. L’homme pourrait, par les machines parlantes, être renvoyé non pas à sa nudité physique, mais à sa nudité psychique. Autrement dit, ces machines pourraient nous renvoyer à une fragilité essentielle que nous cherchons à nous cacher par tous les moyens : notre nature fondamentalement émotionnelle et irrationnelle. Cela ne concernera peut-être pas ceux qui fabriquent ces machines, et encore ce n’est pas certain. Mais tous ceux qui se contenteront de les utiliser pourraient bien abandonner un peu de ce vernis culturel par lequel nous avons tenté de nous convaincre que nous étions des créatures libres et raisonnables. Il existe une part de magie dans toute technologie, et les pouvoirs de la voix vont incontestablement la renforcer. Déjà, certains acheteurs d’une enceinte connectée s’étonnent qu’elle ne puisse pas fermer leurs volets quand ils le lui demandent alors qu’ils n’ont pas de volets automatiques12… La machine parlante risque de confronter l’homme à deux caractéristiques qui lui ont permis de se socialiser et de conquérir le monde, mais qui pourraient le perdre à partir du moment où elles seraient exploitées sans autre préoccupation par les marchands : la recherche d’un interlocuteur attentif et jamais fatigué de l’écouter, et la tendance à attribuer aux objets qui attirent son attention des dispositions bienveillantes ou hostiles.

Ce qui nous amène à cette question : si la synthèse vocale simplifie nos relations aux machines, ne va-t-elle pas compliquer nos relations avec nous-mêmes et avec nos semblables ?

« Parlez-moi de moi, il n’y a que ça qui m’intéresse. »

Dans un premier temps, bien entendu, ces machines parlantes, même très simples, vont scotcher un grand nombre de leurs utilisateurs. Leurs fabricants savent en effet jouer sur la fascination qu’exercent certaines de leurs compétences spectaculaires. Des personnes déroutées par de nombreuses démarches qui nécessitent aujourd’hui d’utiliser un écran, comme de payer ses impôts ou de prendre un billet de train, seront également soulagées de pouvoir interagir avec une machine en lui parlant. Bien sûr, il y aura des ratés au début, mais le marché est immense avec une population vieillissante et souvent ignorante du numérique. Des personnalités dénonceront la supercherie et l’incapacité de ces machines à tenir de vraies conversations mais, pour beaucoup d’utilisateurs, il s’agira moins de « tenir une conversation » que de trouver une oreille attentive et surtout complaisante. Et beaucoup d’entre nous seront séduits par leur capacité à manifester une attention soutenue à nos préoccupations les plus intimes.

D’autant plus que nombre de ces machines sont conçues sur le modèle que j’ai appelé « Nutella13. » Cette pâte à tartiner a d’abord été élaborée comme un ersatz de chocolat à une période, la dernière guerre mondiale, pendant laquelle ce produit manquait. Mais, à la différence du chocolat dont les qualités sont étroitement dépendantes du produit biologique d’origine, le Nutella est fabriqué sur mesure pour flatter notre palais. C’est exactement ce qui se passera avec des robots de compagnie programmés pour nous être agréables en tout, et finalement aussi flatteurs pour notre ego que l’est le Nutella pour notre palais. Avec le risque que certains d’entre nous finissent par préférer leur compagnie à celle des humains, exactement comme certains préfèrent le Nutella au chocolat !

Puis, comme pour les automobiles, et aujourd’hui les écrans, après la dépendance viendra la saturation. Nous aurons fait le tour des trente ou cinquante réponses différentes que la première génération de machines parlantes sera capable de fournir à une même question. Beaucoup d’usagers découvriront que le temps qu’ils passent avec leur robot conversationnel réduit d’autant leurs échanges avec des humains. Nous lirons dans les journaux des confidences alarmistes d’hommes et de femmes qui se lamenteront sur ces « maudits chatbots » qui ont brisé leur couple ou leur vie sociale. Des scientifiques nous expliqueront à l’aide de diagrammes très médiatisés que cela n’est pas bon « pour notre cerveau », et il y aura évidemment, comme pour les smartphones, des petits malins pour nous proposer des « séjours de détox ». Jusqu’à ce qu’une nouvelle génération de machines soit lancée avec la promesse de nous faire échapper aux inconvénients de la précédente, mais en réalité basée sur un nouveau modèle économique, dont nous ne pouvons encore avoir aucune idée.

Des relations sans corps

Le progrès technologique nous a progressivement éloignés d’une communication en face-à-face pour nous engager massivement dans une communication à distance14. C’est ce qu’on appelle valoriser les centres d’intérêt partagés sur la proximité physique. Au point que l’habitude d’interagir à travers des outils numériques semble avoir fait perdre à certains la capacité de gérer la complexité des mimiques de leurs interlocuteurs. Ils ont toujours plus recours aux communications à distance, au risque de s’éloigner encore davantage d’une bonne gestion des relations de proximité. Tous ceux qui s’occupent d’enfants, à commencer par les enseignants, constatent aujourd’hui qu’un nombre de plus en plus grand d’entre eux semblent avoir de la difficulté à apprivoiser et comprendre les mimiques de leurs camarades. C’est ce qui m’a incité, en 2006, à mettre au point et promouvoir une activité théâtrale, appelée « le jeu des trois figures », pour réapprendre aux enfants à tenir compte des mimiques de leurs interlocuteurs15. Et c’est aussi ce qui a incité en 2016 l’Éducation nationale à inscrire dans les programmes la reconnaissance des mimiques et des émotions. Un cercle vicieux peut en effet facilement s’installer, les enfants qui ne donnent pas une signification correcte aux mimiques de leurs camarades risquant de s’enfermer dans une attitude de fuite ou d’attaque. Tout d’abord, se sentir entouré de mimiques incompréhensibles s’avère rapidement anxiogène, et tout individu dans cette situation est tenté de se réfugier toujours plus derrière l’écran de son ordinateur ou de son téléphone mobile. Quant à l’attaque, elle risque de devenir chez d’autres une réaction habituelle aussitôt qu’ils confondent des mimiques d’anxiété ou de doute chez certains de leurs camarades avec des intentions hostiles.