DU MÊME AUTEUR

Paroles de singes. L’impossible dialogue homme-primate, Paris, La Découverte, 1995.

L’Animalité. Essai sur le statut de l’humain, Paris, Hatier, 1996 ; rééd. Paris, Éditions de l’Herne, 2002, 2007.

Les Origines animales de la culture, Paris, Flammarion, 2001 ; coll. « Champs », 2009.

L’Animal singulier, Paris, Seuil, 2004.

Les Grands Singes. L’humanité au fond des yeux, avec Pascal Picq, Vinciane Despret et Chris Herzfeld, Paris, Odile Jacob, 2005.

Les Amis de mes amis, Paris, Seuil, 2007.

Voyage au bout de l’espèce, vol. 1, Le Guide des métamorphoses singulières, avec Thierry Bardini, Paris, Éditions Dis Voir, 2010.

L’animal est l’avenir de l’homme. Munitions pour ceux qui veulent (toujours) défendre les animaux, Paris, Fayard, 2010.

Apologie du carnivore, Paris, Fayard, 2011.

À quoi sert l’homme ?, Paris, Fayard, 2015.

Hacer las paces con el animal, Santiago, Doble Ciencia Editorial, 2018.

Nous sommes les autres animaux, Paris, Fayard, 2019.

Machines insurrectionnelles : n. féminin pluriel. Machines qui résistent aux usages que les humains en font, qui génèrent des frictions et avec lesquelles il faut négocier.

AVANT-PROPOS

La robotique autonome est aujourd’hui un domaine de recherche d’une très grande créativité. Un point essentiel, comme le lecteur va vite s’en rendre compte, c’est que cette révolution technologique est aussi une révolution esthétique qui va largement déborder l’espace de l’art. La robotique autonome est un champ d’expertise qui synthétise l’ensemble des technologies émergentes contemporaines, et c’est l’une des raisons qui la rendent si fascinante. Un robot, c’est une IA – Intelligence Artificielle – dotée de senseurs et d’effecteurs. Un robot, c’est une IA dotée d’une perception du monde et de capacités d’agir sur ce monde. On pourrait dire qu’un robot est une IA avec un corps, mais un corps particulier, qui n’est plus ni animal ni végétal. Ce qui est révolutionnaire est moins l’IA stricto sensu que la combinaison de l’IA, de la mécanique de précision, de l’électronique quantique, des biotechnologies et des nanotechnologies. Cette technologie n’est pas seulement une branche très dynamique de l’ingénierie, elle ne produit pas seulement des machines extraordinaires : elle transforme le monde en profondeur, dans ses effets, mais aussi et peut-être surtout dans sa texture. Pas uniquement les sociétés humaines, mais l’humain lui-même et la catégorie du vivant de façon générale. La robotique autonome et l’IA qui lui est corrélative nous engagent sur la voie d’une révolution ontologique dont il est difficile d’anticiper les effets. Les choses peuvent aller beaucoup plus vite qu’on pourrait l’imaginer, et la robotique autonome fait partie de ces champs innovants dont la temporalité est hors de contrôle. Une très grande quantité de familles ne seront pas seulement recomposées, mais poly-composées : animaux, végétaux et robots en feront intégralement partie avec des difficultés inédites en perspective – je n’en cite que quelques-unes à titre d’exemple : un robot de famille pourra-t-il/devra-t-il recevoir un héritage ? Avoir des relations sexuelles avec le robot familial sera-t-il perçu comme de l’inceste ? Un robot pourra-t-il être considéré comme un citoyen à part entière ? Pourquoi faire encore des bébés humains si les bébés robots sont plus satisfaisants (quoi qu’une telle expression veuille dire) ? De telles questions sont encore très spéculatives ; ce qui est sûr, en revanche, c’est que les avantages obtenus seront accompagnés de problèmes nouveaux difficiles à gérer. Surtout, les humains et les autres êtres vivants ne seront plus les mêmes. Ce qui est déstabilisé avec ces technologies, c’est l’Évolution même. C’est ce point que je veux discuter dans ce livre : comment la robotique autonome transforme en profondeur ce que signifie être un agent vivant. On m’accusera d’écrire de la science-fiction plutôt que de la philosophie. Mais aujourd’hui, la philosophie est devenue une branche de la science-fiction. Toute autre façon de penser relève de l’histoire de la philosophie, de la casuistique post-jésuite ou du bavardage.

INTRODUCTION

Les robots deviennent un sujet à la mode à la fin du XXe siècle, quand on commence à voir apparaître des artefacts divers capables de s’autonomiser en partie. La plupart des robots sont fonctionnels. Ils se contentent d’effectuer les tâches plus ou moins simples pour lesquelles ils sont conçus. D’autres acquièrent des capacités plus dérangeantes ; ils sont capables de montrer ce qu’on identifie aisément comme une forme d’initiative dans ce qu’ils font. Plus troublant encore, d’étranges machines se glissent dans les interstices de cette nouvelle ingénierie de l’autonomie, des machines qui ne font rien de particulier, qui se contentent d’être et de susciter des attachements émotionnels d’autant plus déroutants pour les esprits rationalistes qu’un nombre croissant de gens sont prêts non seulement à les considérer comme vivants, mais à les faire entrer dans leur vie comme d’authentiques partenaires. Des attentes décalées et des analyses inadéquates en résultent. Les mises en garde se multiplient contre des technologies que de plus en plus de gens ressentent comme invasives, en même temps que les attentes fantasmatiques qui laissent une place inappropriée à des désirs mal maîtrisés. L’analyse de ces technologies à promesses reste cependant décevante. Nous restons fondamentalement aristotéliciens alors que nous sommes déjà engagés dans un monde où émergent des machines insurrectionnelles, des machines qui entrent en friction avec les autres êtres vivants.

Une approche originale :
ontologies par contraintes et covalence

Ce livre discute le phénomène des machines insurrectionnelles en adoptant une approche très minoritaire aujourd’hui, même si elle s’inscrit dans une histoire longue et complexe. Il s’appuie sur une conception qui considère que nous comprenons le monde en même temps que nous le construisons, parce que le monde est ce que nous en faisons. Nous n’accédons au monde qu’à travers nos actions, ce qui, pour autant, ne veut pas dire que nous pouvons faire ce que nous voulons ; nous devons tenir compte de contraintes fortes qui ne dépendent pas de nous – la gravité par exemple. Au XXe siècle, une de ses versions les plus intéressantes est associée à l’épistémologie génétique de Jean Piaget, pour qui l’intelligence organise le monde en s’organisant elle-même. C’est celle que conceptualise plus largement un psychologue et linguiste atypique, Ernst von Glasersfeld, qui l’identifie avec le terme, à mon sens inadapté, de « constructivisme », et que je vais appeler, à la suite de Jean Piaget, « constructionnisme », pour ne pas le confondre avec le constructivisme social des sociétés postmodernes.

Pour von Glasersfeld, il est illusoire de chercher des représentations « vraies » et abstraites qui montreraient comment est vraiment le monde. Nous n’avons jamais affaire qu’à des contraintes non négociables à partir desquelles nous pourrions développer des pratiques multiples qui n’ont aucune raison d’être strictement cohérentes et homogènes les unes avec les autres. L’essentialiste est souvent un réaliste qui pense qu’il existe un réel indépendant, puisqu’il agit dans un monde qui est déjà là et qui préexiste aux représentations qu’on peut en donner. Dans cette optique, un penseur qui élabore une représentation particulière du réel n’a aucune influence sur ce réel, il ne fait qu’en rendre compte. Il découvre seulement ce qui existe déjà, et il le fait de façon plus ou moins exacte en s’aidant des concepts à sa disposition et des outils méthodologiques qui lui permettent d’affiner ses constructions théoriques. Dans une telle conception réaliste du réel, ce que j’y fais n’a aucune influence sur ce qu’il est. Mes actions sont dans le monde ; elles ne transforment pas ce monde, elles se contentent d’exploiter ce qu’il permet de faire1. À la conception habituelle dans notre culture du monde comme représentation, von Glasersfeld substitue une conception de la connaissance comme adaptation. Une connaissance pertinente n’est pas une connaissance vraie, mais une connaissance qui correspond à notre expérience du réel – et qu’elle soit vraie ou non (au sens des logiciens) n’a plus aucune importance de ce point de vue. Le constructionnisme de von Glasersfeld n’est donc pas un relativisme que chacun pourrait cuisiner à sa convenance en fonction de ses goûts propres ou de ses intérêts plus ou moins avoués. Ce n’est même pas quelque chose propre à l’humain ; tous les êtres vivants abstraient des régularités et des règles qui leur permettent d’éviter les expériences désagréables et de générer des situations agréables. Nous ne pouvons pas construire toutes les réalités que nous voulons, car il faut que nos constructions soient viables, même si elles ne sont pas nécessairement vraies. Le savoir, dans cette théorie, n’est donc pas une image de la réalité, mais un répertoire des actions et des pensées qui se révèlent efficaces dans l’expérience. Comme un alpiniste chevronné, chacun se représente ce qu’il peut faire et surtout ce qu’il ne peut pas faire. L’alpiniste fait des choix à l’intérieur de l’espace laissé entre les contraintes de la montagne. Il analyse d’abord la situation en fonction des avalanches possibles, des crevasses, des prises disponibles, etc. Confronté à une paroi rocheuse, plusieurs voies possibles lui permettent d’arriver au sommet. Le champ des possibles n’a cependant aucune raison d’être déterminé a priori. Un alpiniste qui dispose d’un outillage moderne (piton, mousqueton, treuil, etc.) a ainsi un choix plus étendu que celui qui affronte la paroi à mains nues, et ce n’est pas parce que cet ensemble est ouvert qu’il peut faire ce qui lui plaît. Un autre exemple pédagogique est celui du jeu d’échecs, qui génère bien des certitudes, mais celles-ci n’ont de sens que dans le cadre très restrictif du jeu. Pour le constructionnisme radical de von Glasersfeld, la connaissance ne reflète pas une réalité ontologique « objective », mais la mise en ordre et l’organisation d’un monde qui se constitue à travers l’expérience de l’agent. Pour préciser sa position, von Glasersfeld recourt à une opposition éclairante entre convenance (fit) et correspondance (match). La relation entre connaissance et réalité est vue dans l’épistémologie traditionnelle et la psychologie cognitive la plus répandue comme une correspondance plus ou moins figurative (iconique), alors que le constructivisme la conçoit comme une adaptation fonctionnelle. Les cambrioleurs professionnels savent qu’« il existe beaucoup de clefs découpées tout à fait différemment des nôtres, mais qui n’en ouvrent pas moins nos portes ». Et von Glasersfeld ajoute : « Nous nous trouvons face à notre environnement comme le cambrioleur face à une serrure qu’il doit ouvrir pour atteindre le butin qu’il espère emporter. »

L’approche qu’adopte von Glasersfeld doit être replacée dans une constellation au sein de laquelle se retrouvent d’autres théoriciens majeurs du XXe siècle. Gregory Bateson (1904-1980) attribue ainsi une place privilégiée à la cybernétique parce qu’elle n’explique pas le monde en dévoilant des relations causales qui existent de façon univoque, mais en spécifiant des contraintes que l’action fait émerger. Bateson caractérise la cybernétique comme art de créer des équilibres dans un monde de possibilités et de contraintes. À sa suite, von Glasersfeld considère que la cybernétique diffère des autres sciences parce qu’elle n’opère pas et n’explique pas par le moyen de causes et d’effets, mais par des contraintes spécifiantes (specifying constraints). Dans le schéma cause/effet, la liberté n’existe pas, ni l’invention. Dans l’approche constructionniste, en dehors des contraintes imposées, tout est possible. Tout ce qui n’est pas compatible avec les contraintes données est éliminé. Ce qui permet à von Glasersfeld d’écrire : « Le principe fondamental de l’épistémologie constructiviste radicale coïncide avec celui de la théorie de l’évolution. » La notion d’adaptation suscite des malentendus persistants dont il faut se garder. Les organismes ne s’adaptent pas à la réalité, mais celle-ci, en limitant ce qui est possible, élimine ce qui n’est pas apte à vivre. La théorie de Darwin s’élabore elle-même à partir de la notion de contrainte et non sur celle de causalité. Von Glasersfeld ajoute : « Ainsi, toute structure cognitive qui fonctionne encore aujourd’hui en tant que telle ne prouve par là, ni plus ni moins, que ceci : étant donné les circonstances dont on a fait l’expérience (et qu’on a déterminées en en faisant l’expérience), cette structure a accompli ce qu’on a attendu d’elle. Logiquement, une telle posture ne nous donne aucune indication sur les éventuelles caractéristiques du monde “objectif”, mais signifie seulement que nous connaissons un moyen viable d’atteindre un but que nous avons choisi parmi les circonstances spécifiques dans notre monde empirique. Une telle posture ne nous dit rien – et ne peut rien nous dire – sur le nombre des autres moyens pouvant exister, ou sur la manière dont l’expérience que nous considérons comme but peut être liée à un monde au-delà de notre expérience. »

Heinz von Foerster (1911-2002) est l’un des théoriciens majeurs du constructionnisme. Sa conception d’une cybernétique de deuxième ordre, c’est-à-dire d’une cybernétique de la cybernétique qui prend l’aptitude à connaître comme objet de sa connaissance, constitue une avancée majeure. Connaître n’est jamais une découverte ; c’est toujours une invention – qui responsabilise celui qui connaît. On est rarement responsable de ce qu’on découvre ; on l’est toujours de ce qu’on invente. Inversement, et corrélativement, échecs et succès doivent être personnalisés. Ce ne sont pas les capacités d’une quelconque Nature, mais celles de celui qui la montre, et qui la montre en se montrant lui-même. Inventer est toujours une façon de s’exposer. On invente même ses surprises, dira von Foerster. Pour Von Glasersfeld, l’intuition fondamentale de Heinz von Foerster s’exprime dans l’idée selon laquelle nos vies sont bordées par des contraintes qui reposent au-delà de ce qu’on peut savoir. La cybernétique fournit une attitude pour comprendre et organiser sa vie tout en offrant un nouvel impératif éthique : générer de nouvelles possibilités plutôt que frapper nos têtes contre des contraintes que nous ne pouvons changer. Pour von Glasersfeld, la caractéristique majeure de l’analyse cybernétique des phénomènes en général, et de la cybernétique de deuxième ordre en particulier, est de nous engager à penser en termes d’équilibre entre des contraintes et non en termes de causalités plus conventionnelles.

Penser le phénomène des machines insurrectionnelles

L’ontologie par contraintes qui vient d’être exposée constitue un point de départ fécond pour penser le phénomène des machines insurrectionnelles – c’est-à-dire des machines qui suscitent des frictions avec les autres êtres vivants, qui obligent à négocier avec elles sous des formes inédites et à composer avec des intentionnalités baroques pour lesquelles nous ne disposons pas d’habitudes fiables et rassurantes. Une telle ontologie offre la possibilité d’avoir des êtres vivants très différents de ceux qui existent déjà, dans les limites de ce que permettent les contraintes fondamentales autour desquelles le réel existe, sans qu’on puisse par ailleurs les identifier de façon explicite et formelle. Le problème est moins de donner une interprétation juste de ce qui se passe avec des machines aussi extravagantes que d’inventer une façon féconde de rendre compte d’un phénomène nouveau. En d’autres termes, et c’est ce qui distingue les approches constructionnistes des approches concurrentes, il ne s’agit pas de savoir si des machines peuvent être vivantes, mais comment rendre vivantes de telles machines et comment de telles machines transforment profondément ce que signifie « être vivant ».

Notes

1. Notre monde est le réel tel que nous l’avons façonné pour y vivre.

CHAPITRE 1

REDÉCOUVRIR CE QU’EST UN ÊTRE VIVANT ORIGINEL

Robots et IA sont devenus à la mode. Il ne se passe pas une semaine sans que sorte un livre ou un dossier de magazine sur le sujet. De nombreux universitaires en ont fait leur spécialité. Trois questions reçoivent un intérêt particulier : la question économique (les robots vont-ils remplacer les humains dans le monde du travail ?), la question politique (les robots menacent-ils nos libertés les plus fondamentales ?) et la question éthique (faut-il considérer certains robots comme des personnes ?). Toutes ces questions sont importantes et méritent d’être discutées. La dimension phénoménologique de ces technologies reste cependant curieusement en friche. Ceux qui discutent plus ou moins savamment des robots cherchent rarement à les caractériser de façon féconde et rigoureuse. Tous partent du postulat qu’on sait ce qu’est un robot, de la même façon qu’on sait ce qu’est une voiture ou un aspirateur. C’est vrai de la plupart des robots qu’on rencontre. C’est moins évident avec quelques-uns des plus fascinants d’entre eux, ceux qui montrent l’ambition d’être quelque chose de l’ordre du vivant. On évoque souvent la notion de « robotique autonome » ou de « robotique sociale » pour en rendre compte. Mais la simplicité des catégories ainsi mobilisées cache mal la complexité de ce qui est en jeu. Un robot aspirateur, qui a une certaine autonomie de mouvement dans un appartement, peut difficilement passer pour un être vivant. Une voiture sans conducteur, comme la Google Car, guère plus. D’autres artefacts sont plus problématiques. Curieusement, comme on va le voir, un tel statut n’a rien à voir avec la technicité des technologies mises en œuvre. D’où l’intuition que ce qui doit être pensé est d’une difficulté inattendue. En première approximation, ce qui est en jeu est tout simplement la nécessité de repenser ce que signifie être vivant. Ces artefacts émergents qui commencent à concurrencer les êtres vivants biologiques ne se contentent pas d’introduire de nouveaux êtres vivants, mais nous obligent à reconceptualiser radicalement ce qu’est un être vivant. Ceux que je vais désigner par le terme de « robots existentiels » mettent fin au monopole des biologistes sur le vivant. Ils annoncent une ère dans laquelle le vivant déborde largement le biologique. Ça a toujours été le cas, mais ce n’est désormais plus possible de faire comme si on ne s’en rendait pas compte.

Trois façons inappropriées de voir les robots autonomes polluent nos pensées :

1) Considérer un tel robot comme une pure machine, au même titre qu’une voiture ou un ordinateur portable. C’est la posture positiviste, rationaliste et terre à terre. Elle est extrémiste en ce sens qu’elle dénie la dimension fantasmatique et symbolique de l’artefact en question, ou ne la lui reconnaît qu’a posteriori, à regret et comme un appendice un peu gênant qui contribue à brouiller sa représentation correcte. Elle néglige les usages de la machine en ne prenant en compte que son mode d’emploi et elle disqualifie d’emblée les organisations sociales, culturelles et religieuses qui les rendent possibles et les soutiennent.

2) La deuxième façon inappropriée de voir le robot autonome est le pendant fantasmatique de la posture positiviste. Tout aussi extrémiste que la première, elle ne voit dans le robot autonome que la quête vers un homme artificiel (ou un être vivant artificiel) qui serait comme un homme (tel qu’on le connaît) à cette seule différence près qu’il serait composé de constituants électroniques et non de substances carbonées. Simple machine complexe, donc, ou duplication du même. En tenant pour acquis que ces machines vont être comme on rêve qu’elles soient ou comme on redoute qu’elles deviennent, on subtilise toute pensée intéressante et critique sur ce qui est effectivement en train de se passer, au profit de représentations largement imaginaires.

3) Une troisième position extrémiste est purement culturaliste en un sens assez superficiel. Pour elle, ces robots ne font qu’exprimer les peurs de nos sociétés ou révéler les contradictions du capitalisme tardif actuel. Elles n’ont aucune existence en elles-mêmes mais sont seulement des métaphores plus ou moins opérationnelles. On pourrait tenir le même discours à propos des voitures, des vacances ou de l’éducation des enfants. Cette façon de les voir permet d’éviter qu’on se pose la moindre question intéressante en se contentant de ne fournir que des réponses stéréotypées à des interrogations qui ne sont qu’à peine esquissées et très largement émotionnelles.

Aucune de ces conceptions du robot autonome n’est satisfaisante. D’abord parce qu’au contraire de ce que croient fermement ceux qui les soutiennent, elles sont plutôt obscures : que signifie, par exemple, « être comme un homme », « n’être qu’une simple machine » ou être « seulement une métaphore » du capitalisme ou de peurs ancestrales ? Ensuite parce que ces trois façons de voir les robots passent à côté de ce qui rend aujourd’hui la robotique existentielle si fascinante, quand elle porte un désir de créer des agents vivants et qu’elle brouille les lignes de démarcation qui séparent traditionnellement ce qui est vivant et ce qui ne l’est pas.

La robotique existentielle est donc loin de renvoyer seulement à un domaine bien déterminé de l’ingénierie contemporaine, sans se diluer pour autant dans des considérations culturelles plus ou moins consistantes. Elle introduit des artefacts autonomes dans des mises en scène déstabilisantes qui mobilisent nos actions morales (peut-on aimer un robot ou prendre soin de lui ?), déglinguent nos relations sociales (est-ce que les robots font disparaître le travail, sur lequel sont fondées toutes nos sociétés contemporaines ?), déstabilisent nos arts de gouverner et font exploser nos catégories ontologiques apparemment les plus solides (qu’est-ce qui distingue ce qui est vivant de ce qui ne l’est pas ?). En d’autres termes, ce qui rend cette robotique autonome si intéressante, c’est précisément qu’il est impossible de dire d’emblée de quoi il est vraiment question avec elle, non parce qu’elle ne renvoie à rien de réel, mais parce qu’elle fait voler en éclats nos catégories habituelles ; et une telle idée doit être prise de façon radicale. Cette robotique existentielle n’est pas seulement un ensemble de problèmes pour les ingénieurs qui la fabriquent, ni une espérance (ou une menace) plus ou moins excitante pour ceux qui veulent vivre avec les créatures qu’elle génère, mais elle constitue aussi un défi terriblement stimulant pour les philosophes qui veulent la comprendre. Reste à déterminer ce qui est en jeu dans une technologie dont la caractéristique constitutive est de sortir la technologie de la technologie. Le philosophe allemand Günther Anders offre un point de départ précieux pour affronter ce défi.

D’une forme insidieuse d’obsolescence qui disqualifie l’humain

L’Obsolescence de l’homme de Günther Anders est un livre majeur du XXe siècle. De cet ouvrage exceptionnellement riche, je ne retiendrai que ce qui m’intéresse directement ici : la thèse centrale que les machines ont pris le pouvoir au XXe siècle en entraînant la dissolution de toutes les qualités qui faisaient de l’humain un humain. Pour le premier mari d’Hannah Arendt, la technique n’est pas constitutive de notre situation historique et les machines ont déjà pris le pouvoir. Les machines sont devenues le Sujet de l’histoire et le processus est irrévocable. Elles ont relégué l’humain à n’être plus que « co-historique ». L’humain n’a pas seulement perdu son statut ; il s’est vidé de toute essence. Les transformations apportées par les machines polluent toutes les activités humaines. Elles ne laissent pas grand-chose intouché. L’humain est devenu un animal dépourvu de tout reste – un animal qui n’a plus rien qui puisse le mettre en compétition avec les machines sans que le résultat de cette confrontation ne soit, hélas, connu à l’avance. Travail, loisirs, rapports intersubjectifs, toutes les catégories humaines habituelles à travers lesquelles nous percevons le monde se dissolvent dans le monde de la machine.

Le désastre des révolutions industrielles

L’histoire des révolutions industrielles apparaît rétrospectivement comme l’histoire d’un désastre, celui de l’évacuation de l’humain dans ses productions. La première révolution industrielle voit l’apparition massive des machines. Au cours de la deuxième révolution industrielle, les pièces de machine deviennent produites mécaniquement et industriellement. La troisième révolution industrielle s’organise autour du principe selon lequel tout ce qui est possible doit obligatoirement être fait. Pour Anders, l’énergie nucléaire symbolise cette dérive. Son effet réel ou possible est de nature métaphysique, ce qu’on ne peut dire d’aucune autre technologie antérieure. Quant à la quatrième révolution industrielle, elle rend l’homme superflu. Elle remplace le travail de l’homme par l’automatisme d’instruments qui le conduisent à une « existence infernale » – l’expression est de Günther Anders. Les rares personnes qui auront encore un travail devront se contenter du rôle de « berger des automates ». L’époque des changements d’époque est derrière nous. Depuis 1945, nous ne vivons plus dans une époque de transition, mais dans un « “délai” tout au long duquel notre être ne sera plus qu’un “être-juste-encore” ». « Délai » : une catégorie qu’Anders oppose à celle du « pas encore » d’Ernst Bloch. Pour lui, nous sommes définitivement sortis du temps des utopies.

L’impasse phylogénétique des machines

Cette époque, notre époque, est par conséquent la dernière époque. C’est celle de la fin de l’homme et elle s’exprime à travers trois décalages majeurs – ce qu’Anders appelle les décalages prométhéens : le décalage entre le maximum de ce que nous pouvons produire et le maximum de ce que nous pouvons imaginer ; le décalage entre ce que nous pouvons produire et ce que nous pouvons utiliser ; le décalage entre le maximum de ce que nous pouvons produire et le maximum de ce dont nous avons besoin. Anders développe ainsi un thème original. Ce n’est pas celui de la prise de pouvoir par les machines. C’est plutôt celui, autrement plus subtil et terrifiant, de l’incapacité dans laquelle nous nous trouvons de comprendre ce que nous faisons. Ce n’est pas celui de l’apprenti-sorcier, malgré les apparences, mais celui, plus dérangeant, de l’impossibilité d’assimiler notre propre production et la très grande difficulté d’en rendre compte de façon satisfaisante. Anders donne dans les pages de son livre une version inédite et subtile de l’impasse phylogénétique de l’animal handicapé par une de ses caractéristiques anatomiques – comme des bois de cerf trop lourds à porter pour le mâle concerné, un thème qu’a développé en détail l’éthologue allemand Konrad Lorenz.

Le besoin de besoins

Anders opère un autre retournement magistral par rapport aux positions classiques de la métaphysique allemande du XXe siècle en considérant que notre finitude actuelle ne s’exprime plus par le fait que nous ayons des besoins, mais par celui que nous ayons au contraire trop peu de besoins. Le renversement de perspective est subtil et puissant : il passe de la problématique du besoin individuel, qu’il faut combattre, à celle des besoins comme ressources (pour notre industrie), que certains au moins veulent développer. Une situation qu’Anders résume par une de ses expressions virtuoses : nous sommes en manque de manque. Le monde est désormais perçu exclusivement comme « matière première », en quoi l’humain lui-même s’est transformé. Deux faits monstrueux résument ainsi l’époque : l’humain s’est transformé à la fois en homo creator et en homo materia. Homo creator, d’abord : nous sommes aujourd’hui capables de produire, à partir de la nature, des produits naturels et non plus seulement des produits culturels comme une maison. On doit alors parler de « seconde nature » d’une façon non métaphorique. Anders donne l’exemple du plutonium 94 qui n’existait pas avant et qui est le plus effrayant poison que contient la nature.

D’une certaine forme de cannibalisme post-civilisationnel

Homo materia. L’homme se transforme en matière première. Même pas en esclave, mais bien en matière première. Anders considère que l’homme a commencé à être transformé en matière première à Auschwitz. Cheveux, dents en or, graisse. Même les GI revenus du Pacifique avec des dents en or japonaises les montraient en toute ingénuité car, pour eux, « regarder le monde comme matière première allait de soi ». Guerre nucléaire et clonage constituent de ce point de vue les deux faces d’une même condition. La première signifie l’anéantissement potentiel de la majorité des êtres vivants (humains compris) ; le clonage, l’anéantissement de l’espèce humaine par la production de nouveaux types humains. C’est la même chose de cloner un génie de la musique ou un mécanicien d’entretien mi-homme mi-singe ; le clonage est une procédure formelle qui ne se préoccupe pas des qualités de ceux qu’il manipule ainsi. Anders parle de façon suggestive de « cannibalisme post-civilisationnel ». Un certain nombre « d’obsolescences » en découlent :

Obsolescence des apparences : L’apparence de nos instruments n’en révèle plus la finalité. Les boîtes de Zyklon B utilisées à Auschwitz ressemblent à des boîtes de conserve qui contiennent des fruits. Bienvenue dans le monde des « objets idéologiques ». L’adjectif était jusqu’alors utilisé seulement pour des concepts ou des théories. Il doit désormais s’appliquer à la matérialité même.

Obsolescence du matérialisme : Nous vivons à l’époque du « second platonisme ». L’industrie de masse donne à l’objet un degré d’être inférieur à son « idée », à son blue print. Une ampoule n’est rien par rapport à son modèle non physique. Le monde des idées platonicien était stable et fini ; le nôtre est infini et il croît indéfiniment.

Obsolescence des produits : Les produits ne sont pas seulement fragiles : ils doivent mourir et ils sont condamnés à une existence éphémère. Les saboteurs sont les seuls à ménager les choses. L’attitude n’est pas sans risque : « Une humanité qui traite le monde comme “un monde bon à jeter” se traite elle-même comme une humanité bonne à jeter. » Les armes (comme les bombes ou les missiles) appartiennent à cette catégorie d’objets idéaux qui sont détruits dès leur première utilisation.

Obsolescence du monde humain : Nous vivons dans un monde de choses et d’appareils dans lequel il y a aussi des hommes, et non un monde d’hommes dans lequel il y aurait aussi des choses et des appareils. Une grande partie de nos forces émotionnelles sont tournées vers nos appareils. Fabriquer (par soi) n’est pas produire (par les machines). Le pilote de Hiroshima n’a pas « agi » quand il a appuyé sur son bouton. Il a tué 200 000 personnes par son non-acte. Il faudrait plutôt parler de « collaboration ». Anders : « La “morale de l’histoire” est que ce pilote était empêché de concevoir véritablement la réalisation de l’action pour laquelle il était utilisé et de participer à sa moralité ou à son immoralité. On l’a même exclu de l’immoralité de l’action, on lui a même retiré le droit d’avoir mauvaise conscience, il n’a jamais eu le droit de se sentir irresponsable ; il n’a jamais pu être à même de se sentir responsable… Fabriquer n’est plus fabriquer et agir n’est plus agir. Ce n’est pas un hasard si les deux dégénérescences ont eu lieu simultanément. » La différence entre phase de fabrication et phase d’exécution a été dépassée. Conséquences : tous les actes de guerre seront produits et déclenchés à l’arrière. Il n’y a donc plus « d’arrière ». Le front est généralisé.

Obsolescence du travail : Le travail à la chaîne n’est déjà plus un travail au sens classique du terme : il faut plutôt en rendre compte comme des fragments d’activités auxquels il est impossible de s’identifier et qu’on doit répéter des milliers de fois. En émerge une forme inédite de chômage, qui coïncide avec le travail. L’attente qui en constitue une tâche centrale requiert paradoxalement la plus grande concentration – une innovation. Anders n’hésite pas à proposer de qualifier de « berger des objets » ceux qui l’exercent. Attendre qu’il ne se passe rien. Demain, la nostalgie de l’effort et de la fabrication sera écrasante. Le sport sera un substitut de plus en plus indispensable à une vie sans effort.

Obsolescence des machines : La situation un peu paradoxale qui en résulte s’explique bien. À partir du moment où tout devient machine une machine distincte du vivant et de l’humain devient une notion qui n’a plus de sens. Le triomphe du monde des appareils brouille toute différence entre constructions techniques et constructions sociales. Énergies, choses, hommes constituent désormais des matériaux « réquisitionnables » de la même façon. La chose se met au travail de façon autonome et obéit trop bien. Non seulement nous ignorons quelle est la formule requise pour rompre l’enchantement, mais nous ne nous rendons pas compte que nous sommes des apprentis-sorciers. À la prétendue émancipation de l’homme correspond l’incontestable autonomisation des objets. « Nous ne savons pas clairement ce que nos produits désireront une fois qu’ils nous auront échappé. »

Obsolescence de l’individu : Anders profite de cette forme de conformisme pour montrer que les écrivains de science-fiction ne sont en fin de compte que des « citoyens conformes » qui ont attaché leur imagination aux laboratoires et aux ateliers. Il va jusqu’à parler à leur propos d’une « imagination parasitaire ». Ces auteurs cherchent à faire de nous des êtres conformes au monde à venir. Nous nous sommes maintenant adaptés à l’adaptation. Le conformiste est incapable de reconnaître la mécanique du conformisme. Il est vrai que tout et rien asservit, dans le système conformiste. Il n’y a plus de différence entre agir et pâtir. Dans le monde futur, il sera aussi difficile de parler de façon autonome que d’aller à la chasse ou de faire son pain aujourd’hui. Notre monde de racolage est composé de choses qui s’offrent à nous et qui nous invitent à profiter d’elles. L’existence consiste de plus en plus à être « recruté ». Aux contrefaçons de marchandise s’ajoutent les contrefaçons d’activité. Le consommateur est devenu un agent secret parce qu’il ne sait pas à quelle fin et pour le compte de qui il est assis en face de son assiette.

Obsolescence du conformisme : Anders met en évidence un phénomène très pervers : la suppression de la liberté s’effectue maintenant au nom de la liberté. Notre mode de vie est tellement déterminé que nous ne perdons pas seulement la volonté de se soustraire à elle ; nous sommes devenus incapables de sentir ou de connaître cette détermination. Il est très difficile de désobéir aux commandements contenus dans les produits. La surabondance nuit à l’imagination. Ce qui nous rend conforme n’est plus un « qui » mais un « quoi ». Nous entrons dans une nouvelle phase d’asservissement.

Obsolescence de la vie privée : Les objets et les événements du monde sont livrés à domicile, comme l’eau et le gaz. Un processus complémentaire : « la livraison de l’homme au monde ». Les événements arrivent à l’homme à l’état de fantôme. Le téléspectateur comme « cannibale de fantômes » qui dévore les images. Nous sommes virtuellement et simultanément les mangeurs et les repas des autres. Nous sommes dépouillés à la fois de la liberté de vivre sans être écoutés et de la liberté de vivre sans écouter. Le bruit a pour tâche de garantir notre participation au processus de dé-privatisation. Le bruit a été mobilisé comme un instrument majeur du conformisme. Il est devenu le moyen de faire échec à toute désolidarisation possible.

Obsolescence de la liberté : Les mœurs d’aujourd’hui sont presque exclusivement déterminées et imposées par les choses. Nos produits ont pris la place de nos prochains. Ils déterminent même la façon dont l’humain se comporte vis-à-vis de son prochain. Les interprétations des décisions doivent être livrées aussi finies que les décisions elles-mêmes. Il ne doit pas y avoir de différence entre les faits et leur interprétation. « Ce qui est en jeu aujourd’hui, c’est la volonté en tant que telle. » Nos besoins sont manipulés. Ma soif de Coca-Cola® n’est plus la mienne mais un besoin que les producteurs ont mis en moi. La démocratie est censée me permettre d’exprimer librement mes opinions. Mais avoir ses propres opinions est aujourd’hui un véritable exploit. Nous sommes modelés par d’autres. L’idéologie est entrée dans le produit lui-même.

Obsolescence de l’histoire : La société actuelle est sur le point de perdre son historicité. La preuve du renversement en cours est que nos produits sont ontologiquement et axiologiquement supérieurs à nous. Sa logique triomphe avec la bombe à neutrons qui tue les gens et laisse intactes les choses. « Inhumain » a pris un sens tragique qu’il n’avait jamais eu, même entre 1914 et 1945. Le produit de consommation idéal, c’est celui qui est consumé en même temps qu’il est consommé. L’industrie préfère par-dessus tout la guerre qui dure des années à toute autre situation. D’où la nouvelle éthique : Agis de façon à ce que la maxime de ton action puisse être celle de l’appareil dont tu es (ou va être) une pièce. Et sa contre-expression : Agis de façon à ce que la maxime de ton action contredise les maximes des appareils dont tu es une pièce. Le taylorisme qui fut une forme de travail industriel est devenu aujourd’hui le principe même de l’histoire ; une histoire qui est devenue une succession sans observateur. Nous sommes anesthésiés par la massivité, le bruit et la rapidité. Nous sommes redevenus des êtres anhistoriques – qu’on était à l’origine.

Obsolescence de l’imagination : La bombe atomique est trop peu apparente : une chose qu’on ne regarde pas comme ce qu’elle est. Pour Anders, la bombe atomique « est à ce point fantastique que ni notre perception ni notre imagination ne lui sont proportionnées ». Nous ne sommes pas à la hauteur de ce que nous sommes capables de faire et d’inventer. La distinction entre perception et imagination s’est irrémédiablement brouillée et l’horizon de notre sensibilité est devenu ridiculement limité par rapport à l’horizon réel.

Le constat est sans appel. C’est la fin de l’humain qui est programmé dans le développement de ces technologies nouvelles. Anders était obsédé par la bombe atomique et les techniques de communication. La robotique a peu retenu son attention car elle n’existait que de façon embryonnaire au moment où il écrit. Il reste cependant l’un des rares philosophes à avoir abordé de front ces questions. Ses analyses convergent curieusement avec celles des transhumanistes actuels dans le constat que ces technologies rendent l’humain obsolète. La différence est qu’Anders le déplore alors que les transhumanistes s’en réjouissent et veulent passer au posthumain. Anders propose cependant une analyse trop unilatérale. Il insiste avec une complaisance problématique sur les aspects négatifs des technologies contemporaines. D’autres points de vue évitent d’avoir à choisir de façon très artificielle entre la technologie et le retour (largement imaginaire) à une vie antérieure plus authentique. Un autre scénario se dessine donc. Non que l’humain devienne obsolète, mais plus simplement qu’il se transforme, comme les êtres vivants se sont toujours transformés dans leur évolution. Quelques-unes de ces technologies, au moins, constituent des opportunités plutôt que des menaces qui conduiraient à la disparition ou à l’obsolescence. La piste que je veux suivre s’inscrit dans le contexte d’une telle ouverture à partir d’une réflexion sur les machines existentielles, des machines qui obligent à redéfinir ce que signifie être vivant et ce que signifie être humain.

Les machines existentielles comme technologie à promesse

La robotique existentielle qui m’intéresse ici est représentative de ce qu’on pourrait appeler les « technologies à promesse ». Les machines concernées ne font pas de promesses. Elles ne doivent pas non plus tenir de promesses. Elles suscitent plutôt chez l’humain des attentes qui fonctionnent comme des promesses – c’est-à-dire des attentes qui peuvent être déçues, qui sont même par essence déçues, mais qui génèrent néanmoins des états psychologiques désirables même si elles finissent toujours par ne pas donner ce qu’on en attendait. Pourquoi « promesse » et pas seulement « espoir » ? À cause de la dimension morale qui s’y introduit plus ou moins clandestinement et de la nature de la déception qui en découle. C’est la différence entre déception et frustration qui marque l’espace de la promesse par rapport à celui de l’attente. Des machines comme les robots autonomes sont dans l’espace de la frustration et non dans celui de la seule déception. Ces artefacts donnent en effet à espérer qu’ils pourront devenir un jour des machines qui n’en sont plus, des machines qui seraient sorties de l’espace de la pure technique pour entrer dans l’espace ambivalent de l’existence. De telles « promesses » habitent les interstices de notre imagination humaine. Elles parasitent les lacunes de notre entendement. Incapables d’imaginer ce que peuvent être de telles machines, nous suppléons notre béance intellectuelle par des approximations qui nous permettent de vivre cet écart entre leurs processus de fabrication et les façons dont nous les intégrons dans nos existences. Ce n’est pas seulement que nous ne voyons pas ce que nous faisons ; nous sommes littéralement incapables de le faire – et cette impossibilité tient autant à la nature du réel qu’à nos capacités intellectuelles elles-mêmes. Le risque d’avoir l’intelligence occupée à l’insu de notre volonté est un thème récurrent de la théologie classique qui a été un peu délaissée à partir de l’époque moderne – trop positiviste pour attacher le moindre intérêt à une telle notion – alors qu’elle se révèle d’une actualité inattendue.

Façons de devenir humain ;
façons de devenir vivant

Ces technologies de promesses ne doivent pourtant pas être considérées comme purement négatives. Les machines concernées jouent un rôle important pour l’humain, à travers leurs promesses mêmes, en engageant l’homme à tester des formes inédites d’humanitude. « Humanité » est une notion qui renvoie à ce que sont les humains ; « humanitude », à leur façon de devenir des humains d’une certaine sorte, à leur façon de pratiquer leur propre humanité. Être humain n’est pas un donné, même si un fond biologique le soutient, mais un processus qui requiert d’être constamment alimenté, mis en difficulté, inventé et réinventé. L’histoire de l’humain a toujours été une histoire des opportunités, biologiques et culturelles, qui ont permis à l’homme de devenir ce qu’il est. Nous ne savons pas ce que peut un homme, pour reprendre une perspective spinoziste, parce que l’homme peut toujours beaucoup plus que ce qu’il peut à un moment donné mais beaucoup moins que ce qu’il espérerait. Les spécialistes de l’anthropologie physique donnent de l’humain une image trop lisse, trop maîtrisée, trop tranquille, comme si l’humain pouvait être défini de façon satisfaisante en termes de propriétés nécessaires et suffisantes, alors qu’il est sans cesse en débordement ; le concevoir comme un patchwork de capabilités en déséquilibre permanent serait plus juste. L’humain est toujours prêt à s’engager dans des aventures aux limites du biologique et du culturel. La conviction des anthropologues que la biologie de l’humain se transforme seulement dans les marges mériterait d’être reconsidérée. L’humain doit plutôt être conçu comme un dispositif métabolico-culturel qui est prêt à s’agencer avec toutes les opportunités qui s’offrent à lui – pour le meilleur et pour le pire. Corrélativement, si être humain n’est pas directement impliqué par une biologie constitutive, on peut imaginer que d’autres façons de devenir humain sont envisageables – qu’il existe par conséquent plusieurs façons de devenir humain – et, de façon plus générale, de devenir vivant. Dans cette perspective, les machines insurrectionnelles s’engagent sur d’autres chemins que ceux qui ont été suivis par les êtres vivants phylogénétiques, c’est-à-dire des êtres vivants qui ne se sont constitués qu’à travers un processus évolutionnaire purement métabolique.

Les machines insurrectionnelles comme machines à frictions

Les machines insurrectionnelles jouent désormais un rôle important dans les transformations d’Homo sapiens par leurs frictions mêmes. On pourrait comparer ces machines avec des organes. Chaque humain est composé d’organes multiples qui contribuent au fonctionnement général du corps mais qui font également preuve d’une certaine autonomie, voire parfois d’une récalcitrance, comme on s’en rend compte quand on devient malade. Les machines insurrectionnelles doivent être pensées comme des espèces d’organes extérieurs que s’adjoint l’humain, des organes dotés d’une certaine autonomie qui les conduit à des fuites insurrectionnelles débouchant sur des frictions avec l’humain, avec lesquelles il faut constamment négocier. Des organes conçus comme des partenaires plutôt que comme des fonctionnalités et des prothèses. Le problème intéressant avec le robot autonome, ce n’est pas seulement que l’humain ne contrôle pas ses activités de façon permanente, c’est aussi que celles-ci peuvent s’engager contre l’humain. Nous avons des difficultés à penser cette situation avec le détachement requis parce que nous avons l’esprit pollué par les histoires à la Frankenstein, qui nous conduisent à assimiler un peu hâtivement insurrection et révolte générale. Une machine insurrectionnelle n’est pas une machine qui se révolte, mais une machine qui génère des frictions avec l’humain. Un logiciel qui bug est déjà un artefact insurrectionnel. Le plus intéressant à penser se rencontre avec une opposition partielle et se règle par la négociation plutôt que par la force brute – réinitialiser le système ou le reprogrammer. Il est perturbant d’envisager de négocier avec un artefact, mais c’est pourtant déjà ce que nous faisons continuellement depuis qu’il existe des machines – avec une vieille automobile, par exemple. Notre déni de l’importance de cette négociation nous a empêchés de voir qu’il ne s’agissait pas d’un effet collatéral mais bien d’un principe central de fonctionnement. On négocie toujours avec un animal, quel que soit son statut : sauvage, commensal, domestique, etc. Ceux qu’une telle idée choque pensent qu’on ne peut négocier qu’avec des égaux ontologiques (d’autres humains) dans des situations de divergence des intérêts. Mais la robotique existentielle ou le rapport à l’animal nous obligent à penser la négociation entre hétérogènes ontologiques dans des situations dans lesquelles l’une des parties ne s’organise pas en fonction d’intérêts, mais suivant des diffractions multiples. Avec des agents artificiels, donc, qui ont moins des intérêts divergents que des obstinations perpendiculaires. Ils nous obligent à donner une signification beaucoup plus riche à ce qu’on entend par « négociation » que celles qu’on trouve couramment en philosophie, en sciences politiques ou en psychologie. Négocier avec un autre humain, avec un animal ou avec un artefact sont des notions qui font partie de la même famille sémantique sans être pour autant superposables les unes avec les autres. Comme pour beaucoup d’autres notions, nos nouvelles technologies ne requièrent pas d’étendre à des non-humains des termes jusque-là réservés à l’humain, mais nous obligent à transformer le sens même de nos termes, y compris quand il s’agit de les appliquer à l’humain. Les obsolescences pointées par Anders sont partiellement pertinentes sans pour autant que la conclusion générale qu’il en tire soit exacte. Avec la convergence des technologies NBTIC1 (Nanotechnologies, Biotechnologies et Technologies de l’Information et de la Cognition), ce n’est pas le monde qui devient obsolète, c’est ce monde qui l’est. Penser les transformations en cours devient ainsi un projet non seulement prioritaire, mais de surcroît de longue haleine. Parmi les chantiers en friche, quelques-uns ont une urgence indéniable : conceptualiser avec rigueur la notion de pluralité des êtres vivants, déterminer en quoi la complexité des êtres vivants biologiques diffère de celle des êtres vivants artificiels, repenser la valeur des êtres vivants naturels pour nous, et s’engager dans un nouvel espace de pensée, l’éthologie philosophique, qui se substitue à une anthropologie philosophique traditionnelle de plus en plus hors coup. Cette éthologie philosophique pense donc le vivant dans une perspective multi-ontologique et pas seulement multisites comme se proposent de le faire des anthropologues contemporains.

Le vivant artificiel va-t-il remplacer le vivant naturel ? Espoir ou crainte, une telle éventualité n’est pas d’actualité. D’abord parce que cette situation a peu de chances d’arriver – sauf si se produit une catastrophe extrême exceptionnelle comme l’explosion de la Terre et la survie d’une poignée d’humains dans l’espace extraterrestre. Mais c’est aussi la situation la moins intéressante. L’une des conséquences les plus excitantes de la robotique existentielle contemporaine, et non la moins paradoxale, est au contraire de nous obliger à repenser ce qu’est un être vivant en acceptant la pluralité radicale du phénomène. En osant plonger dans la richesse et la complexité des êtres vivants naturels sans se laisser séduire par les conceptions réductrices du vivant auxquelles échappent rarement les biologistes ou les ingénieurs. Le vivant artificiel doit être abordé selon une perspective qui n’a rien à voir avec une logique de substitution mais qui s’apparenterait plutôt à une logique de contamination et d’extension qui s’énoncerait en trois points.

1) Penser le vivant artificiel, tout d’abord, comme une extension du domaine du vivant. En le concevant comme une modalité inédite du vivant qui vient s’ajouter à l’arbre existant du vivant – quelque chose comme l’équivalent de l’invention des animaux en son temps. Comme une rupture majeure dans l’histoire des êtres vivants, donc, qui déstabilise l’ensemble du vivant sans le mettre pour autant en danger en tant que tel, mais qui le réorganise en profondeur. Un défi majeur qui nous oblige à repenser de fond en comble ce qu’est un être vivant en acceptant pleinement la pluralité du phénomène – le vivant organique n’étant en fin de compte qu’une des dimensions du vivant parmi d’autres. En ce sens, la proposition de Christopher Langton de reproduire le vivant non seulement « tel qu’il est » mais également « tel qu’il pourrait être » sonne juste – à cette différence près qu’il ne faut pas s’arrêter à la composition atomique du vivant – carbone ou silicone – mais généraliser cette exigence à toutes ses dimensions.

2) Penser le vivant artificiel, ensuite, comme l’opportunité inouïe et inattendue d’appréhender sous un nouveau jour le vivant biologique lui-même et ce qu’il signifie pour l’humain. L’une des raisons pour lesquelles le vivant artificiel ne peut pas se substituer au vivant naturel résulte du fait que nous, humains, avons des connexions particulières et privilégiées avec ce vivant naturel, et même un rapport plus qu’intense, un rapport ontologique (nous sommes des êtres vivants carbonés) et existentiel (nous existons extrinsèquement à travers l’ensemble des êtres vivants naturels). D’où la nécessité de revenir à la compréhension du vivant qu’avaient nos ancêtres, les ancêtres de nos ancêtres, et ceux qui en sont restés plus proches comme ceux qu’on appelle aujourd’hui les « peuples premiers ». Comprendre non seulement ce qu’est le vivant d’un point de vue fonctionnel, mais également ce qu’il représente d’un point de vue ontologique, existentiel et même spirituel. Retourner ainsi, s’il le faut, à une forme d’animisme et en profiter pour repenser ce qu’une telle posture peut signifier aujourd’hui au-delà des clichés du développement personnel.

3) Penser le vivant, enfin, de façon pluraliste, voire contradictoire. C’est d’ailleurs déjà ce que font spontanément les enfants qui interagissent de façon courante avec des robots autonomes, comme a pu s’en rendre compte Sherry Turkle sans comprendre pour autant la puissance et la fécondité d’une telle attitude. Sans doute faut-il renoncer à comprendre le vivant à travers des classes homogènes, non contradictoires et totalement accessibles à nos catégories mentales. Le vivant, donc, comme espace de compréhension partielle vis-à-vis de tout autre être vivant.

Complexité du vivant phylogénétique et complexité du vivant artificiel

De nombreux roboticiens imaginent volontiers qu’ils fabriquent des robots qui deviendront un jour comme des êtres vivants naturels. Un tel objectif repose sur une erreur d’appréciation. La notion même d’« être vivant naturel » n’a rien de naturel. Elle se modifie en même temps que progresse la robotique. Rien n’indique que toutes les propriétés du vivant naturel pourraient se retrouver un jour dans un être vivant artificiel sauf à simplifier beaucoup ce que sont l’un et l’autre. Au sein du couple naturel/artificiel, chaque terme se rapproche et s’éloigne l’un de l’autre au gré des découvertes, des inventions et des mises en scène sans cependant jamais fusionner. En fabriquant des agents artificiels, le roboticien transforme nos conceptions du vivant naturel – soit de façon ouverte (en appliquant sa créativité aux deux termes), soit de façon fermée (en bloquant la signification de l’un des termes en jeu). Simplifier à l’extrême le vivant phylogénétique le rapproche du vivant artificiel, mais c’est une facilité à courte vue. Un vivant artificiel constamment défié par un vivant phylogénétique dont la complexité est pleinement assumée constitue un défi plus fécond à complexifier plus encore. À force de le réduire à l’assemblage de quelques formules (mathématiques, biochimiques ou autres) et à quelques fonctions biochimiques ou comportementales, nous perdons la capacité à appréhender un être vivant dans toute sa complexité, non seulement biologique, mais également ontologique et existentielle. En d’autres termes, nous avons réussi à nous contenter de peu – et même de beaucoup trop peu.

L’histoire occidentale a tellement asséché la notion d’être vivant que nous ne nous en rendons même plus compte. La démarche rationaliste, qui s’étend au XVIIe siècle, repose sur une démarche aux deux branches indissociables l’une de l’autre : fournir une explication rationnelle du vivant en termes de causes nécessaires et suffisantes et disqualifier l’intérêt de tout ce qui ne rentre pas dans un tel schéma. Une des richesses du vivant phylogénétique est pourtant de constituer une source majeure de surprises et d’interrogations pour l’humain. Une source de peur et d’espoir, aussi. Une source de frictions et d’espoir, enfin. La surprise qui résulte de systèmes qu’on construit (surprise 1) est cependant très différente de celle qui résulte de systèmes dans la constitution desquels nous avons au départ le même statut que tous les autres (surprise 2). Ce deuxième type de surprise part du constat qu’il existe au moins une possibilité au système que nous n’avions pas prévue a priori. Une telle surprise résulte des limites triviales de nos capacités de raisonnement et elle est d’une importance superficielle puisqu’elle conduit seulement à améliorer le système concerné en lui ajoutant de nouveaux éléments. Le deuxième type de surprise est très différent. Il ne trouve pas sa source dans une faiblesse de l’intelligence, mais dans une limitation de l’entendement. Il ne renvoie pas à un mauvais raisonnement ou à une conclusion trop hâtive, mais à l’impossibilité dans laquelle se trouve notre pauvre petite intelligence d’Homo sapiens à comprendre le monde dans toute la complexité de ses recoins et dans la multiplicité foisonnante de ses plis. Plutôt que d’erreur méthodologique, il faudrait parler d’obstacle épistémologique et de complexité ontologique.

En fin de compte, les nouvelles technologies de l’intelligence comme la robotique existentielle nous font perdre le sens du vivant originel. C’est un risque ontologique majeur. Ne plus avoir la possibilité de nous confronter si on n’y prend pas garde, nous humains, aux autres êtres vivants non anthropisés (ou faiblement anthropisés) habitant la Terre. La perte, donc, d’un vivant autre. D’un vivant qui ne peut se ramener à ce que nous sommes ou même à ce que nous pourrions être. Le vivant pris dans sa globalité ouvre notre intelligence à autre chose qu’à nous et pas seulement à des facettes différentes de ce que nous pourrions être2. L’écrivain anglais James Graham Ballard exprime une angoisse complémentaire à cette perte du vivant originel, et de façon tout aussi pertinente, celle d’un rétrécissement du monde vivant susceptible de conduire l’humain (ou tout au moins certains humains) à des situations de bio-claustrophobie. Risque redoublé, enfin, car on peut non seulement perdre le sens du vivant, mais également oublier qu’on l’a perdu3, en ne s’en souvenant que comme d’une catégorie ontologique qui a disparu et non plus comme d’un des pans les plus riches de notre existence qui a été perdu pour toujours – une disparition qui nous met dans la situation d’être des infirmes perpétuels qui ne savent même plus ce que signifie être bien portant.

L’émergence d’êtres vivants artificiels nous oblige en retour à repenser la valeur que nous pouvons attribuer aux êtres vivants phylogénétiques – et pas seulement sur le plan moral. La mort d’un Aibo4 n’a pas le même sens que la mort d’un chien – même si le terme de « mort » peut sans doute s’appliquer aux deux. Le chien meurt pour lui-même alors que l’Aibo ne meurt que pour celui qui lui était attaché, à moins que dans les deux cas, on meure toujours pour un autre5. D’où une notion d’attachement dans laquelle on est lié à ce qui peut mourir pour soi. En ce sens, même certaines morts sont évidemment plus douloureuses pour nous que d’autres. Ce n’est donc pas parce que des machines peuvent être considérées comme des êtres vivants qu’elles doivent avoir le même statut (moral ou autre) que des êtres vivants phylogénétiques. Non pour des raisons ontologiques au sens strict du terme, mais parce que casser quelque chose que j’ai fabriqué n’a pas à avoir la même signification que tuer une entité qui accompagne mon espèce depuis ses origines et à laquelle je me sens lié par un pacte moral, et même si « casser » et « tuer » peuvent parfois être terriblement proches l’un de l’autre – jusqu’à l’inquiétude. En toute rigueur, « casser » et « tuer » seront devenus exactement synonymes quand aucun être vivant n’éprouvera plus la moindre différence en cassant et en tuant – que ce soit d’ailleurs dans un sens ou dans un autre, parce que tout sera susceptible d’être cassé ou parce que tout sera considéré comme potentiellement mourant. Il faut repenser ce que signifie « tuer » et en complexifier l’usage, en conservant ce terme non seulement pour les animaux, les plantes, les végétaux, les champignons comme nous le faisons déjà, mais aussi pour certains artefacts avec lesquels nous avons développé des liens existentiels profonds. La difficulté réside précisément dans la façon dont nos sentiments et nos actions s’entremêlent. Nous n’avons pas le sentiment de tuer quand nous cueillons un champignon, alors que c’est pourtant ce que nous faisons, et nous ne tuons sans doute pas un humain dans le coma quand nous débranchons le dispositif technique complexe qui le maintient en vie de façon artificielle. La question du vivant devient en fin de compte un agrégat du vivant pour moi et du vivant pour nous, ce qui n’est pas exactement la même chose.

Le statut ontologique de la créature joue évidemment un rôle dans la façon dont on la considère, mais il serait précipité d’en conclure que nos sentiments et affects sont directement liés à ce statut. En d’autres termes, nous ne devrions pas considérer qu’on n’aime, qu’on ne déteste pas ou qu’on n’est pas indifférent à un agent, mais à un agencement complexe qui conduit à rendre concret un agent, à partir des représentations qu’on en fait, des affects qu’on y attache et des activités qu’on partage avec lui. Le statut ontologique d’un agent est un paramètre parmi d’autres pour déterminer comment on doit se comporter avec lui et ce qu’on doit éprouver vis-à-vis de lui. Il en résulte une morale particulière dans laquelle chacun pourrait avoir le droit de s’attacher à ce qu’il veut6, de la même façon qu’on s’attache à un être vivant phylogénétique, et d’agir en conséquence sans qu’une contrainte extérieure et universelle nous oblige à faire des choix qui ne correspondraient pas à nos attachements réels. C’est l’une des conclusions morales les plus perturbantes des technologies émergentes – qu’elles soient nano, bio ou cognitives. Dans un dilemme un peu absurde comme les adore la philosophie analytique, à savoir choisir entre laisser en vie une créature artefactuelle ou une créature phylogénétique, si on se trouvait dans une telle situation, il n’y a aucune raison que ce soit toujours la créature la plus naturelle qui doive être privilégiée par principe.

Dans la perspective de l’ontologie par contraintes que j’ai évoquée plus haut, je n’ai par conséquent aucune raison de vouloir m’enfermer dans une dichotomie aussi sommaire que celle qui sépare de façon inconditionnelle les agents phylogénétiques et les agents artificiels. Ce n’est pas parce qu’il m’est encore difficile de considérer qu’on peut « tuer » un robot autonome générateur de sens et d’affects que je peux me contenter d’un verbe comme celui de « casser » pour rendre compte de ce qui met un terme à son existence. Je peux « tuer » un chien, je peux « casser » ma montre mais aucun de ces termes ne s’applique en toute rigueur à la mise hors service d’un robot quasi autonome que j’aurais tricoté dans mon existence. Ce n’est pas parce que le statut ontologique des êtres vivants phylogénétiques et celui des êtres vivants artificiels ne sont pas superposables qu’une opposition simple entre ceux qui ont un statut moral et ceux qui n’en ont pas est pertinente. Il est plus juste de considérer trois catégories : celle des êtres vivants naturels que le fait de tuer est toujours problématique, même si on peut l’accepter plus facilement pour certaines espèces que pour d’autres et dans certaines circonstances plus que dans d’autres ; celle de la majorité des objets auxquels on peut certes attacher une valeur plus ou moins importante mais qui ne peuvent qu’être cassés, comme une auto ou un réfrigérateur ; et celle, enfin, de ces agents qui sont au moins en partie fabriqués mais qui ne se ramènent pas à de simples objets et pour lesquels ni tuer ni casser ne s’applique vraiment – « neutraliser » étant un terme disponible pour cet usage. En d’autres termes, je peux considérer qu’il vaut mieux détruire un artefact que tuer un chien, mais pas parce que le chien est plus vivant, ou plus naturellement vivant qu’un artefact – mais parce que mes liens avec le chien sont plus forts que ceux avec l’artefact, le statut d’être vivant ayant plus de valeur à mes yeux. Cette robotique troublante nous oblige donc à revaloriser le vivant phylogénétique, non en tant que vivant, mais en tant qu’il a pour nous un supplément de valeur – en particulier car il ne fait pas partie de ce qu’on a fabriqué et constitue un héritage qu’on ne doit pas dilapider sans bonnes raisons, lesquelles restent encore largement en friche dans une culture comme la nôtre. Si je pense que la valeur d’un être vivant phylogénétique est supérieure à celle d’un artefact, c’est parce qu’il me semble important de préserver les êtres vivants phylogénétiques et non parce qu’il faut le faire. Et si cela me semble important, c’est parce que ça l’est en général pour le collectif auquel j’appartiens, ou plus exactement pour certains des collectifs auxquels j’adhère.

Une approche ontologique par contraintes du vivant conduit à attribuer pleinement un statut d’être vivant à certains artefacts ; elle n’implique pourtant aucunement d’assimiler êtres vivants artificiels et êtres vivants phylogénétiques. Une telle posture serait contradictoire avec l’approche que j’ai adoptée ici. Mon intuition est que je suis l’ensemble des êtres vivants même si je peux factuellement m’attacher plus à certains artefacts particuliers. Je peux également être un agent humain qui parasite des artefacts ou qui se fait parasiter par eux, mais je perds mon statut d’humain si je bascule totalement dans l’espace artefactuel, pour des raisons co-existentielles qui tiennent à la façon dont un être vivant partage sa vie avec d’autres êtres vivants. Les êtres vivants phylogénétiques ont des spécificités qui les distinguent et il importe de les préserver, mais ce n’est pas une raison pour exclure les êtres vivants artificiels de cette communauté existentielle. La question pertinente est plutôt de savoir ce que sont les particularités attachées aux êtres vivants phylogénétiques, et les raisons pour lesquelles il est important de les préserver et de leur reconnaître une valeur particulière. La question est loin d’être triviale. La culture occidentale l’a en grande partie occultée. Elle a préféré se focaliser sur la possibilité de donner une définition fonctionnelle de la vie en la ramenant à un ensemble de procédures causales nécessaires et suffisantes – comme la capacité de se reproduire ou de s’adapter à des changements dans l’environnement. En fin de compte, une approche non fonctionnaliste du vivant entre nécessairement en conflit avec une biologie exclusivement causaliste. Elle insiste sur les connexions privilégiées que toute vie établit avec les autres êtres vivants, les humains ne constituant en rien une exception. Vivre, c’est toujours vivre avec d’autres êtres vivants dans des écosystèmes partagés, et en séparer une composante par rapport aux autres revêt toujours un certain arbitraire. Pour un humain, l’élimination des autres êtres vivants appauvrit considérablement ce que signifie vivre, et partager son existence avec des personnes artificielles peut la rendre plus riche. Les machines insurrectionnelles de la robotique existentielle nous obligent à repenser ce qu’on veut faire (et ce qu’on peut faire) de notre héritage phylogénétique. Aujourd’hui, les transhumanistes sont parmi les rares à se poser la question, mais la réponse qu’ils donnent est inacceptable puisqu’ils veulent débarrasser l’humain de son héritage phylogénétique (c’est ce que signifie très précisément leur volonté de fuir dans l’artefact) et séparer l’humain de son animalité même sans retour possible, purger donc Homo sapiens de son animalité dans la plus pure tradition humaniste européenne. Ceux qui critiquent le transhumanisme au nom de l’humanisme n’ont pas compris que les transhumanistes étaient les seuls héritiers véritables des humanistes, au moins sur ce point de la relation des humains avec les autres qu’humains. L’histoire des machines insurrectionnelles est d’ailleurs édifiante de ce point de vue.

Notes

1. Convergence des technologies NBTIC est une expression utilisée par les transhumanistes pour évoquer l’entremêlement croissant de toutes ces technologies dans les machines contemporaines.

2. L’expression « vivant originel » peut surprendre et elle mérite d’être justifiée. On pourrait parler de « vivant naturel » et tout le monde comprendrait de quoi on parle – ou plus exactement croirait le comprendre. Mais une telle notion n’a justement plus grand sens quand on estime qu’une propriété centrale du vivant est de toujours être modifié et modifiable par ses êtres vivants mêmes. Ce qui est important n’est pas là. Ce qui l’est, c’est qu’il s’ancre dans l’histoire phylogénétique du vivant et pas seulement dans une histoire technologique post-phylogénétique. C’est pourquoi je l’appelle « vivant phylogénétique » (qui résulte exclusivement de l’Évolution naturelle) plutôt que vivant « naturel » (qui s’opposerait à un vivant artificiel). Là encore, ce qui est en jeu est la confrontation entre mon intelligence et la complexité du monde. Dans le premier cas de figure, celle-ci excède très largement celle-là, alors que dans le deuxième cas de figure, la complexité du monde est d’emblée réduite à quelque chose que mon intelligence peut saisir même si ça me demande du temps et de l’énergie.

3. Une telle angoisse n’est pas sans rappeler la hantise d’Augustin qu’un homme puisse s’emprisonner lui-même dans une « seconde nature » par ses actions passées. Voir Peter Brown, La Vie de saint Augustin, chapitre 6. Inversement, Augustin partageait avec Plotin l’idée que la connaissance de Dieu pouvait être localisée dans une sorte de « mémoire » qui serait dans le monde intérieur de l’homme (Confessions, X). Augustin évoque ainsi une mémoire qui ne serait jamais passée par les sens.

4. Le chien artificiel de Sony.

5. Ce qui serait le corrélat logique de la fameuse proposition de Sartre selon laquelle ce sont toujours les autres qui meurent.

6. Ce qu’on veut n’exprime pas bien ce qui est en cause. Il serait plus juste de dire que ce n’est pas en fonction d’ensembles rigides prédéterminés, quoi que soit la nature (psychologique, culturelle, sociale) de cette prédétermination.

Dessin de couverture : Killoffer
Maquette : Le Petit Atelier

Dépôt légal : avril 2021

© Librairie Arthème Fayard, 2021.

ISBN : 978-2-213-71933-7