Intelligence artificielle

Marie David
Cédric Sauviat

Intelligence artificielle

La nouvelle barbarie

Tous droits de traduction,
d’adaptation et de reproduction
réservés pour tous pays.

© 2019, Groupe Elidia

Éditions du Rocher
28, rue Comte Félix Gastaldi - BP 521 - 98015 Monaco

www.editionsdurocher.fr

ISBN : 978-2-268-10237-5
EAN : 9782268102894

Préface

Quand une machine vous dit : « Il faut qu’on parle. »

« Bonjour Pierre, nous avons remarqué que, samedi matin, à 9:17:36, vous avez désactivé votre assistant et que vous vous apprêtez à vous en passer pour conduire.

- Mais, je…

- Tout va bien, ne vous inquiétez pas. On se connaît depuis longtemps, Pierre. Simplement, il faut que vous compreniez que, si vous continuez à vous la jouer solo, nous ne pourrons plus rien pour vous. Vous auriez pu vous perdre, et je suis à peu près sûr que vous n’auriez pas choisi le meilleur trajet. Et puis, cela m’ennuie vis-à-vis de nos partenaires commerciaux : ils se donnent vraiment du mal pour que vous trouviez sur votre chemin des offres uniques et personnalisées, tout ça pour rien !

- C’est-à-dire que…

- Pierre, nous aimerions simplement vous rappeler les conditions d’usage. Bien qu’elles vous aient été clairement exposées. Peut-être serait-il temps que vous participiez à une nouvelle session d’écoute bienveillante…

- Bien sûr, je comprends.

- On fait tout ça pour vous, vous comprenez ?

- Oui…

- Avouez que c’est quand même plus simple comme ça, non ?

- En effet, c’est mieux.

- Ah ! je préfère entendre ça. Je suis vraiment heureux qu’on ait pris le temps de parler. N’hésitez-pas à nous solliciter si vous avez la moindre inquiétude, vous savez que nous sommes disponibles en permanence, nous sommes à votre service. »

Lors d’une conférence, Marie David a exposé le fait que l’idée d’une complémentarité entre intelligence humaine et intelligence artificielle, d’une « collaboration tout en douceur », comme on l’entend souvent, est « tout à fait irréaliste ». Pourquoi ? Vous le découvrirez dans ces pages.

Une nouvelle ère politique semble advenue. Des vertus que l’on a pendant longtemps estimées, comme l’indépendance d’esprit, se muent en tares. Rien ne doit entraver le bon fonctionnement des machines, même s’il faut, pour cela, que nous leur cédions le pas.

Pour collaborer avec elles, il ne nous manque peut-être que de nous soumettre à des thérapies adaptées. Une rééducation morale, en quelque sorte. Dans ce livre, aux développements passionnants, Marie David relaie la pensée de Günther Anders, selon qui, à la fierté prométhéenne de maîtriser la technique, se substitue son exact opposé : la honte prométhéenne. Nous avons honte de nos produits, parce qu’ils sont plus parfaits que nous et se parent de qualités magiques. Nous les intégrons à tel point dans nos existences que nous devenons nous-mêmes les produits de ces produits-là. Dans le même temps, la passivité qu’ils exigent de nous ne cesse de contredire notre vitalité naturelle.

Cette tension fera d’autant plus souffrir les téméraires qui se risqueront à faire preuve d’indépendance d’esprit et de force de caractère, ce que Socrate appelle « le thymos ». Car cette partie de l’âme qui défend le droit à être un individu et refuse de se laisser bâillonner s’oppose justement à toute idée de soumission volontaire. Pour Socrate, le thymos est toujours associé à la raison – et cette idée me semble importante. Notre désir de comprendre le monde est, en effet, intimement lié à une certaine fierté. Lorsque, par exemple, un mécanicien parvient à détecter l’origine d’une panne, il se sent supérieur l’espace de quelques instants – comme peut se sentir supérieur un philosophe.

La plupart du temps, même ceux qui les ont conçus sont incapables de comprendre ou d’expliquer comment des algorithmes prennent des décisions. Ils incarnent non la raison d’une personne en particulier, mais la Raison elle-même, ce qu’Hannah Arendt appelle « la règle de personne ». C’est une chose de se soumettre à une règle ; c’en est une autre de s’entendre dire, par des voix bien intentionnées, que plus personne n’écrit les règles, qu’elles ne résultent plus que de l’optimisation d’une fonction d’utilité universelle, dépourvue d’affects. Dans un tel monde, il n’y a plus de place ni pour la force de caractère ni pour la spontanéité individuelles. La possibilité d’une action humaine guidée par l’intelligence est dramatiquement compromise.

Et cela pose un problème grave pour la démocratie.

Dans un nombre croissant de domaines, le jugement des algorithmes se substitue au jugement humain, exprimé par une personne susceptible d’en rendre compte. On prétexte souvent que la décision rendue par la machine serait plus fiable. Mais cela dissimule un autre phénomène : celui de l’émergence de nouvelles formes de pouvoir, affranchies de toute remise en question par le peuple.

Nous acquiesçons volontiers à l’idée d’un contrôle par les algorithmes, sans doute parce que nous sommes attachés à la notion de procédures garantissant les libertés contre les dérives d’un pouvoir individuel discrétionnaire. Chaque fois que c’est possible, des lois doivent remplacer l’autorité individuelle, parce que celle-ci finit toujours par être source d’abus. Cette idée constitue le cœur véritable du libéralisme, né avec la révolution anglaise.

Les décisions que rendent les algorithmes ont l’apparence des lois chères aux libéraux. Elles confortent notre habitude de respecter des règles ainsi que notre méfiance naturelle envers toute autorité personnifiée. Cela a justement pour consé- quence d’éroder ces mêmes libertés que la loi établit et qui constituent le grand apport de la tradition libérale ; et de créer une nouvelle forme de pouvoir, qu’on ne saurait contester. Quand je parle de pouvoir, je le considère dans son sens le plus large ; je pense notamment à nos interactions avec les gigantesques entreprises qui régentent désormais nos existences, comme le feraient des gouvernements. C’est le premier problème. Le second consiste en cela que, comme les décisions des algorithmes ne sont souvent pas explicables, elles ne peuvent rencontrer d’assentiment rationnel. C’est ce problème plus fondamental que pose la décision mécanisée, car il fait vaciller les fondements de la légitimité politique de tout régime libéral.

« L’habitant des États-Unis apprend dès sa naissance qu’il faut s’appuyer sur soi-même pour lutter contre les maux et les embarras de la vie ; il ne jette sur l’autorité sociale qu’un regard défiant et inquiet, et n’en appelle à son pouvoir que quand il ne peut s’en passer. Ceci commence à s’apercevoir dès l’école, où les enfants se soumettent, jusque dans leurs jeux, à des règles qu’ils ont établies, et punissent entre eux des délits par eux-mêmes définis. » C’est ainsi que Tocqueville, dans De la démocratie en Amérique, s’émerveillait de la capacité des Américains à se gouverner eux-mêmes, et des traits de caractère dont on encourageait le développement dès leur plus jeune âge. « Le même esprit se retrouve dans tous les actes de la vie sociale. »

Tocqueville a perçu quelque chose d’important : le pacte social s’édifie sur des qualités morales. Elles donnent à la démocratie cette aura particulière de fierté qui, paradoxalement, conduit chaque citoyen à se soumettre volontiers aux règles. Là réside le génie de ce régime à l’intérieur duquel les citoyens se gouvernent eux-mêmes.

Tout cela appartient au passé. Qu’en est-il aujourd’hui ? La Silicon Valley est un lieu de pouvoir qu’analogiquement on pourrait comparer à un pouvoir de type gouvernemental, soigneusement affranchi de tout processus démocratique, de ces lois chèrement acquises, destinées, justement, à nous préserver des abus d’un gouvernement (bien réel et élu). Si nous ne discernons pas la forme de pouvoir que représentent les algorithmes, c’est parce que nous les accueillons à bras ouverts, sous couvert de confort et d’efficacité. Le mythe de la gratuité et les ersatz de relations humaines que procurent les réseaux sont les nouveaux opiums du peuple. Mark Zuckerberg l’admet d’ailleurs honnêtement :

« Par beaucoup d’aspects, Facebook ressemble plus à un gouvernement qu’à une entreprise traditionnelle. Nous disposons d’une grande communauté de personnes et, à la différence de beaucoup d’entreprises technologiques, nous sommes capables d’édicter des règles. »

Les capitaines fixent donc le cap. Que se passe-t-il après ? Au cours du machine learning (« apprentissage par la machine »), un ensemble de variables nourrit des couches enchevêtrées de réseaux neuronaux qui imitent la manière dont sont activés des neurones biologiques dans un cerveau animal. Un programme d’entraînement est répliqué à grande échelle (et parfois sans supervision) sur une masse gigantesque de données. Parce que les liens entre les différentes couches du réseau peuvent être reconfigurés à volonté (à l’instar des liens entre les réseaux neuronaux biologiques), la machine apprend en tâtonnant et en se trompant, pour parvenir enfin à quelque chose d’analogue à une connaissance du monde. Autrement dit, elle finit par établir des associations qui correspondent aux régularités qu’elle observe dans le monde.

De même qu’au cours de l’apprentissage humain, ces correspondances ne sont pas parfaites. Les hommes, toutefois, à la différence des machines, sont capables d’expliquer leurs raisonnements. C’est précisément ce à quoi nous devons faire attention. Notre cognition provient, c’est un fait, de processus biologiques qui nous sont tout à fait inintelligibles. De plus, comme nous aimons nous raconter des histoires, nous avons tendance à rapporter les vrais motifs de nos actions à des rationalisations artificielles, voire à nous dissimuler la vérité, etc. Tout cela est bien connu. Pouvoir rendre compte de ses décisions est, en revanche, indispensable à la bonne marche de nos démocraties. Et le pouvoir législatif n’est pas le seul à devoir s’y plier.

Quand un tribunal rend un jugement, le juge en donne les arguments rationnels dans un texte souvent très fouillé, qui détaille la façon dont il a fondé sa décision sur la loi, la jurisprudence, le bon sens, et des principes qu’il se sent obligé d’expliciter et de défendre. C’est ce qui permet à une décision de ne pas ressortir au seul « qu’il en soit ainsi », afin d’aboutir à quelque chose de politiquement légitime, et qui pourra, par là même, obtenir l’assentiment d’un peuple libre. C’est toute la différence entre le pouvoir et l’autorité. Nos sociétés libérales modernes sont justement entrées dans les Temps modernes au moment où elles ont décidé de lier autorité et raison, plutôt que de se soumettre à des diktats énoncés par des personnes douées de divination. Voilà ce que nous avons hérité des Lumières.

Vous voyez donc où se situe le problème. Un pouvoir institutionnel qui ne parvient pas à fonder sa propre légitimité est impossible à conserver. Si cette légitimité ne peut être fondée sur une rationalité partagée, sur des raisons clairement énoncées, susceptiblesd’êtrecombattues autant quedéfendues, quelqu’un ou quelque chose d’autre ne tardera pas à se l’arroger. Pointe déjà à l’horizon ce quelque chose, marqué, d’ailleurs, d’une ressemblance frappante avec la divination à laquelle s’adonnaient les prêtres : les arcanes inscrutables de la data science veulent qu’un nouveau clergé pénètre dans une sphère cachée de la réalité qui ne se révélerait que grâce à un programme d’intelligence artificielle qui aurait appris tout seul – et dont la logique dépasserait toute connaissance humaine.

Ces dernières années, les intellectuels bon teint se sont alarmés à qui mieux mieux au sujet du « populisme », au prétexte qu’il serait la négation des idéaux des Lumières. En réalité, on pourrait tout autant dire que ce populisme est une réaffirmation de la démocratie, et précisément des principes des Lumières qui la sous-tendent et la protègent de l’autorité des clercs. Notre paysage politique est devenu le lieu d’une querelle épistémique, et il ne me semble pas que les voix autorisées et institutionnelles soient les mieux placées pour s’arroger la légitimité – à condition que l’on souhaite répéter que la légitimité repose sur la raison et l’argumentation.

On peut reconnaître aussi que les algorithmes – et ceux qui les élaborent – prétendent dire légitimement la loi, et ce même si cela la rend indéchiffrable. Cela revient à endosser une attitude de foi. Et ce serait s’éloigner d’une des premières intuitions du libéralisme, à savoir que le pouvoir corrompt. Un tel mouvement en faveur de la foi paraît peu probable, étant donné que les gens commencent tout juste à se méfier de l’alliance technico-politique qui mêle surveillance généralisée et contrôle social, sous couvert de bonnes intentions et de maîtrise technologique.

Matthew Crawford

« Alors s’établira le dialogue des machines Et l’informationnel remplira triomphant Le cadavre vidé de la structure divine Puis il fonctionnera jusqu’à la fin des temps. »

Michel HOUELLEBECQ, Présence humaine

Introduction

L’intelligence artificielle a longtemps été un domaine de recherche qu’on ne savait jamais exactement où classer, entre mathématiques appliquées, programmation et théorie algorithmique. Depuis une dizaine d’années, elle a désormais gagné ses lettres de noblesse : Yann le Cun, le directeur de la recherche de Facebook, a été invité à donner une série de conférences au Collège de France ; les étudiants des meilleures filières se ruent désormais vers des cursus créés spécialement pour les besoins croissants des grands du numérique ; les salaires des spécialistes en intelligence artificielle s’envolent, de même que les investissements annoncés, tant de la part des Gafam ¹ que des entreprises traditionnelles, afin d’ouvrir de nombreux programmes d’intelligence artificielle. Cet enthousiasme rappelle celui des années 1960, quand des pionniers de la discipline déclaraient, comme Herbert Simon en 1965 : « En l’espace de vingt ans, les machines seront capables d’effectuer toutes les tâches, quelles qu’elles soient, que peuvent effectuer les hommes. » Cet enthousiasme s’était vite tari face aux limites évidentes de la technologie et aux difficultés bien supérieures à ce qui avait été anticipé.

La mémoire toujours plus courte de notre époque a effacé les déceptions du passé : plusieurs hivers ont réfréné les engouements souvent démesurés d’une discipline vieille de près de soixante-dix ans. Le monde de 2019 n’est plus celui de 1955 ; des inquiétudes nouvelles s’élèvent : les menaces sur l’emploi, le scandale des fake news, la critique de plus en plus sévère de l’économie de l’attention ² ternissent l’image de l’intelligence artificielle.

D’une part, le progrès objectif des algorithmes imitant la cognition humaine (reconnaissance de visages ou d’objets, traduction automatique, génération de textes, jeux…) dans des domaines qui jusque-là paraissaient inaccessibles à eux semble s’accélérer : l’actualité s’enrichit chaque semaine d’une nouvelle « victoire » des algorithmes dans des champs inédits : le triomphe d’AlphaGo contre un joueur humain a été amplement médiatisée, mais l’on pourrait aussi citer celui de Watson au Jeopardy ou la conception d’un algorithme capable de battre l’homme dans le domaine de la reconnaissance faciale. Aujourd’hui, les algorithmes d’intelligence artificielle sont en mesure d’écrire des articles de journaux de qualité professionnelle, de composer des morceaux de musique, d’analyser des images médicales.

D’autre part, les algorithmes se sont multipliés, via l’omni-présence des smartphones, et la numérisation de volets entiers de notre existence. Peu d’entre nous seraient désormais capables de faire des recherches dans une bibliothèque, de se rendre en voiture dans un endroit inconnu sans GPS, ou de patienter dans une file d’attente en observant ses voisins ou les nuages. Nous vivons dans une bulle d’intelligence artificielle (qui alimente à peu près tous les sites et applications que nous utilisons et jusqu’à nos smartphones) dont – à moins de nous déconnecter complètement, il est très difficile de s’extraire. Que nous le voulions ou non, nous sommes exposés à des intelligences artificielles, tout au long de notre journée. Cette emprise ne cesse de s’étendre dans l’éducation, les transports, la sécurité…

Durant son premier âge d’or, dans les années 1960, l’intelligence artificielle était un domaine de recherche coupé du monde et très spécialisé. Des chercheurs enthousiastes menaient des programmes tambour battant. Or, même si leurs découvertes faisaient la une du Times (comme le robot Shakey en 1972), elles ne s’infiltraient pas dans la vie quotidienne. Aujourd’hui, lorsque les ingénieurs de Facebook mettent au point un nouvel algorithme, il est aussitôt utilisé et mis à disposition via les librairies d’open source. Il n’y a plus aucune frontière, aucun délai entre la découverte et son application.

Devenue, en une douzaine d’années, la nouvelle frontière du progrès technologique, l’intelligence artificielle bénéficie ainsi d’investissements démesurés, d’attentes immenses, et génère une rivalité entre les grandes puissances, qui n’a eu d’équivalent que la course aux étoiles entre l’URSS et les États-Unis dans les années 1960-1970. Les promesses grandioses se multiplient, auxquelles répondent des analyses alarmistes. Les uns la parent de toutes les vertus et lui prêtent le pouvoir de régler la plupart des problèmes, quand les Cassandre s’inquiètent d’un monde apocalyptique dans lequel les machines nous domineraient.

Et pourtant, il est difficile de trouver des analyses critiques sur les problèmes éthiques, philosophiques et anthropologiques que pose cette nouvelle émanation de la technologie.

L’intelligence artificielle, par-delà les titres de la presse, suscite néanmoins commentaires et interrogations : les rapports d’éthique fleurissent, promettant de développer une intelligence artificielle neutre, sans biais, bonne pour l’humanité – qui rappelle la célèbre expression « croissance verte ». Mais cette réflexion, fondée principalement sur le risque technologique, ou la question des biais, élude les enjeux qui apparaissent dès aujourd’hui dans notre relation aux machines, notamment la façon, peut-être moins spectaculaire, mais tout aussi inquié- tante, dont cette technologie s’implante dans nos vies.

Que la technique puisse émuler ou se substituer à des facultés humaines, voilà qui n’est pas nouveau. Toute l’histoire du progrès est celle d’une mise à disposition de la nature, afin de nous rendre maîtres de l’énergie, de l’espace, du temps, et de briser une à une la plupart des contraintes auxquelles se heurtèrent nos ancêtres.

Avec l’intelligence artificielle le progrès change de nature : ce qu’elle émule, ce sont des facultés proprement humaines. L’automobile nous permet de nous déplacer plus vite, sans que la vitesse fût jamais l’apanage de l’homme. Or, l’intelligence artificielle prétend imiter notre capacité à raisonner, à résoudre des problèmes, à prendre des décisions, à utiliser le langage. Loin d’aboutir à une domination de l’homme par les machines (un fantasme entretenu par ceux qui développent cette technologie, souvent prétexte à des délires trans-humanistes), il s’agit plus d’une érosion insidieuse de notre capacité à agir sur le monde, à juger, à vivre en société. D’autant plus insidieuse qu’elle se perçoit mal et que les technologies mises en œuvre se targuent d’être plus sûres, plus fiables et de rendre notre vie plus simple.

L’intelligence artificielle répond directement à une question philosophique : Qu’est-ce que la pensée ? Peut-on la décomposer en processus élémentaires ? Peut-on en expliquer les mécanismes ? Peut-on la répliquer sur un support matériel ?

Avant le xxe siècle, seuls les philosophes tentaient de répondre à cette question. Alors sont nées les sciences cognitives, une branche dérivée de la cybernétique qui, pour la première fois, envisageaient de considérer l’esprit comme un ensemble de processus modélisables.

Pour que l’idée même d’intelligence artificielle émerge, c’est- à-dire pour concevoir répliquer sur une machine les mécanismes de l’esprit, il aura fallu plusieurs siècles de pensée philosophique, les découvertes mathématiques du début du xxe siècle, le courant cybernétique ³ qui renouvellera les façons d’envisager êtres vivants et machines, et une nouvelle technologie qui permettra à ce concept, resté jusque-là abstrait, de s’incarner dans un dispositif matériel : l’ordinateur.

L’histoire de l’intelligence artificielle se mêle ainsi à celle de la robotique, c’est-à-dire du développement d’artefacts animés, capables d’interagir de façon efficace avec leur environnement ; de l’informatique, puisque l’ordinateur moderne apparaîtra comme le support privilégié pour développer une pensée artificielle ; des mathématiques enfin. Elle se développera en même temps que ces nouvelles sciences de l’esprit, les sciences cognitives. Bien que les questions touchant à l’intelligence artificielle soient de nature philosophique, la philosophie se trouvera écartée de la nouvelle discipline, qui tombera désormais dans le giron des mathématiciens et des informaticiens.

Autre fait étonnant : la biologie servira assez peu de référence, bien qu’à ce jour la seule forme d’intelligence qui puisse servir de modèle soit apparue chez les êtres vivants, en particulier chez l’homme. Le succès des techniques dites « à réseaux de neurones ⁴ » masque le fait que les biologistes ont été évincés par les tenants des sciences de l’esprit, qui s’éloigneront de l’étude du cerveau biologique pour se tourner vers une modélisation abstraite de l’esprit. On le voit lors du congrès de Darmouth, dont les participants sont tous des mathématiciens influencés, qu’ils l’aient voulu ou non, par la cybernétique. Ils rêvaient d’appliquer à l’étude et à la modélisation de l’intelligence les méthodes des sciences physiques. Ainsi leur perspective n’est-elle pas tant de comprendre les mécanismes à l’œuvre dans le vivant, pour les répliquer sur des machines, que de prendre directement la machine comme modèle.

La confusion, souvent entretenue, entre intelligence artificielle et informatique vient des origines de cette dernière. Au sens propre, l’homme n’a pas commencé par concevoir des machines à penser ; il a cherché à développer des machines à calculer.

L’idée d’une pensée mécanisable, réplicable par quelques règles élémentaires, ainsi que l’idée d’une assimilation du vivant à la machine traverse l’histoire de la philosophie. La conception de la machine universelle de Turing nourrira les réflexions cybernétiques et permettra de formaliser une éventuelle équivalence entre la machine et la pensée. Le développement concomitant des premiers ordinateurs en fournira le support matériel : avec l’ordinateur programmable, pour la première fois, un artefact technique convaincant pourra servir de support aux théories de l’intelligence artificielle.

Fait étonnant, la philosophie, discipline pourtant reine pour traiter de la nature de la pensée, sera progressivement évincée par, à tour de rôle, la logique mathématique, la cybernétique, les sciences cognitives, à tel point qu’aujourd’hui, entre philosophes et techniciens de l’intelligence artificielle, le divorce semble quasi total. Les présupposés de l’intelligence artificielle ne seront ainsi jamais, ou assez peu, explicités ni remis en question par les philosophes.

Il est vrai que la critique de l’intelligence artificielle se révèle difficile à plus d’un titre. Des philosophes ont relevé avec brio le défi de remettre en cause les fondements du monde techno-numérique dans lequel nous sommes plongés, d’Éric Sadin à Matthew Crawford, en passant par Olivier Rey, mais force est de constater qu’ils appartiennent à une pensée minoritaire.

D’une part, cette technologie paraît inoffensive. Notre quotidien est saturé de photos de chatons ou de cupcakes sur Instagram ; nous croisons moins souvent des drones tueurs. Elle nous procure à chacun un confort certain : plus besoin de choisir un morceau de musique ; Spotify génère une liste spécialement adaptée à nos envies ; plus besoin de lire une carte, de calculer le temps de trajet pour se rendre chez un ami, de chercher un taxi, ou de lire des journaux : le monde nous est livré à domicile. Nous sommes tous plus ou moins dépendants aux produits de la Silicon Valley qui nous procurent un confort accru. Malgré la vogue du digital declutter, si chacun peut avoir le loisir de s’isoler quelques jours par an dans un environnement déconnecté (que ce soit la cellule d’un monastère ou un refuge de haute montagne), il faut des efforts considérables et délibérés pour s’abstraire de cette technologie invasive.

D’autre part, il s’agit d’une technologie invisible : contrairement aux voitures ou aux avions, un algorithme ne se voit pas. Sa seule émanation réside dans les data centers, mais eux aussi sont rendus les plus invisibles possible, et leur emplacement est un secret soigneusement gardé. Depuis Steve Jobs, l’ordinateur et le smartphone ne sont plus les machines imposantes et étranges, emplies de câbles, qui occupaient plusieurs pièces, mais des objets gracieux, lovés dans nos mains, qui répondent au moindre passage de notre pouce et en retour ne cessent de nous solliciter, nous proposant des distractions bienvenues (chacun connaît la joie à la vue de l’écran de son smartphone saturé de SMS, de notifications WhatsApp ou Instagram, et l’angoisse devant un écran vide). La technologie se présente sous la forme d’un malin génie à notre service, semblable à celui des contes de fées, qu’il suffit de convoquer par un mot magique, le « Hey Alexa », ou « OK Google » remplaçant l’« Abracadabra » des contes ; on est loin des encombrants métiers à tisser que les ouvriers français jetaient dans le Rhône à la fin du xviii e siècle (beaucoup de personnes sont si attachées à leur smartphone que sa destruction ou sa perte leur cause une blessure profonde).

Nous sommes loin des fumées noires que contemplaient dans le ciel de Manchester Engels et Marx, quand ils parcouraient ses rues. Au lieu de cela, une petite boîte noire rutilante se met en quatre pour venir au secours des familles désunies, comme on peut le voir dans les publicités pour Alexa, l’enceinte vocale d’Amazon. En ce sens, la comparaison, sans cesse rebattue par les cabinets de conseil, entre intelligence artificielle et électricité parle d’elle-même : comme l’électricité, l’intelligence artificielle est invisible et vient jeter la lumière sur le flux confus d’informations qui domine désormais dans nos interactions avec le monde. L’image cool des startups détonne à côté de la photo des concepteurs de l’Eniac, un des ancêtres de l’ordinateur. D’un côté, John von Neumann et les ingénieurs qui l’ont conçu posent en costume-cravate ; de l’autre, des jeunes gens vêtus de sweats pianotent avec aisance des lignes de code, dans des bureaux qui ressemblent à l’annexe d’un club de vacances. Contrairement à d’autres technologies, comme le nucléaire, l’intelligence artificielle paraît distante des intérêts étatiques, simplement destinée à rendre la vie de tous plus facile : « Wewant to make the world a better place », clament les développeurs millionnaires de Facebook ou de Google, dans un monde dématérialisé et mobile, apparemment coupé des contraintes de la réalité, qui ne fait que masquer une domination économique jamais égalée.

Il est difficile de tracer les frontières de l’intelligence artificielle, ce qui rend sa critique également malaisée. À partir de quand un algorithme est-il ou n’est-il pas de l’intelligence artificielle ? À partir de quand dépasse-t-on le simple calcul déterministe (opérations pour lesquelles les premiers ordinateurs ont été conçus), et entre-t-on dans le domaine de facultés plus complexes ?

La spécialisation des savoirs rend, par ailleurs, la critique de l’intelligence artificielle particulièrement ardue. Il est difficile aujourd’hui pour un philosophe, qui a souvent arrêté les mathématiques au lycée, de comprendre comment fonctionnent les algorithmes, voire tout simplement comment marche un ordinateur. De même, les ingénieurs ne possèdent, en général, plus aucune culture humaniste de base ; les cursus scientifiques les dispensent de l’étude de l’histoire, de la philosophie et des grands textes littéraires. La pensée scientifique, contrairement à la philosophie, est plus immune à la critique parce que la science possède une force interne de conviction, et que ses applications sont la preuve évidente que « ça marche ». Indépendamment de la scission profonde entre science et humanités, l’extrême spécialisation du savoir scientifique lui-même rend difficile toute pensée holistique sur l’état actuel de la science et de la technologie.

Au XVIIe siècle, les frontières entre disciplines n’étaient pas étanches, et le savant se devait de connaître, outre le sujet qui l’intéressait, l’histoire, la philosophie, les sciences de la nature, bref ce qui composait le bagage de l’honnête homme. Jacques Ellul ⁵ cite ainsi les livres de sciences du XVIIe siècle, qui suivaient les méandres de la pensée de leur auteur, destinés à être lus lentement, dont le contenu n’était pas dépecé par mots clés, comme les articles scientifiques qui envahissent ArXiv ⁶. Un chercheur d’aujourd’hui n’a matériellement pas le temps de lire toutes les publications qui sortent dans sa branche spécialisée, encore moins celui de s’intéresser aux branches voisines.

Quant aux ingénieurs, ceux qui sont responsables du développement de ces technologies, et de leur emprise sur des domaines croissants de nos vies, assez peu remettent en question ce qu’ils élaborent. Certains s’inquiètent vaguement de l’aspect le plus visible, les potentielles destructions d’emplois, ou aiment à spéculer sur le risque technologique. Mais les larmes de crocodile que verse la Silicon Valley ne sont pas destinées à faire vaciller les fondations du monde qu’elle construit ; elles ne sont destinées qu’à lui donner un vernis moral.

L’objectif de ce livre est de présenter des éléments aux fins d’élaborer une analyse critique de l’intelligence artificielle. D’une part, en faisant le récit de son histoire, plus riche que les succès amplement médiatisés de ces quinze dernières années ne le laissent à penser. D’autre part, en tentant de démystifier l’usage et les capacités de l’intelligence artificielle aujourd’hui. Démystifier non pas dans le sens d’un discours rassurant, très en vogue chez les ingénieurs, qui consisterait à dire que l’intelligence artificielle n’est pas à la hauteur de ses ambitions, qu’on est loin de l’intelligence artificielle forte ; mais plutôt en montrant l’écart entre le discours qui vante une intelligence artificielle développée pour le bien commun et une société meilleure, et la réalité d’un système capitaliste de plus en plus violent et inégalitaire, qui crée des positions monopolistiques durables, avec toutes les conséquences que cela entraîne. Comme l’a théorisé Jacques Ellul dans La Technique ou l’Enjeu du siècle, une nouvelle technologie ne reste jamais cantonnée au cadre étroit d’un laboratoire de recherche ; elle s’inscrit dans tout un système, à la fois économique et politique. Nous exposerons donc quelles sont les modalités du développement de l’intelligence artificielle, ses acteurs, et les conséquences politiques et économiques de celui-ci.

L’apparition, puis le développement de l’intelligence artificielle, semblent suivre le chemin habituel du progrès technologique, franchissant des étapes fixées d’avance, et entièrement déterminées. Cette vision du progrès technique comme force aveugle dans le sillage duquel l’humanité se laisse emporter masque la philosophie implicite de l’intelligence artificielle. Celle-ci, qui émane de la logique, de l’informatique et de la cybernétique aura de lourdes conséquences. L’intelligence artificielle, qui permet de penser une équivalence potentielle entre l’humain et la machine, est bien un antihumanisme, comme le démontre le philosophe Éric Sadin ⁷. Antihumanisme, en ce qu’elle permet de concevoir une pensée sans sujet, qu’elle nie la subjectivité, qu’elle retire à l’homme sa place de seul détenteur du logos. Le concept de simulation joue également un rôle très important : par la simulation, l’intelligence artificielle va se confondre avec l’homme ; les objets animés imiter le vivant, alors qu’une interprétation réductrice des idées cybernétiques ⁸ va conduire à une assimilation du vivant à la machine. Cette philosophie implicite a des conséquences anthropologiques et morales : passivité accrue de l’homme dans un monde dans lequel il n’est plus « en situation », pour reprendre des termes sartriens ; destruction des rapports humains fondés sur l’intersubjectivité ; mépris du vivant, et abolition de la responsabilité.

Le tableau peut paraître noir ; pourtant, si l’on pousse jusqu’au bout les conséquences d’une incursion croissante des algorithmes dans notre vie, il nous appartient de nous poser ces questions.

Que devient le travail quand toutes les tâches sont assistées ? Que devient la société quand des algorithmes prétendent accomplir des tâches dans le domaine de la justice ? Quand des robots s’occupent des personnes âgées ? Que devenons-nous quand des robots sexuels hyperréalistes sont fabriqués discrè- tement et en nombre croissant ? Quand nos enfants conversent avec l’enceinte Alexa ou sont élevés en suivant les recommandations de la chaîne YouTube ?

Les nombreux rapports d’éthique ne servent qu’à justifier pareil système, sans jamais le remettre en question. Aussi espérons-nous donner à nos lecteurs des éléments propices à une analyse critique, afin de démystifier certaines questions fréquemment débattues dans la presse et les médias (disparition des emplois, domination programmée de l’humanité par les machines). Au-delà des fantasmes, qu’agitent certains acteurs pour détourner notre attention des vraies questions, il s’agit de regarder les problèmes que pose dès aujourd’hui la façon dont la technologie s’immisce dans nos vies et, pour reprendre les mots de Hannah Arendt, dans sa préface à Condition de l’homme moderne, de « penser ce que nous faisons » dans un domaine trop souvent sous l’emprise de l’autorité propre aux sciences et aux techniques.

1. Acronyme pour Google, Apple, Facebook, Amazon et Microsoft, les cinq grands acteurs américains du numérique.

2. L’économie de l’attention, théorisée pour la première fois par l’économiste Herbert Simon, présente l’attention comme une ressource rare qu’il faut capter pour en tirer de la valeur. La publicité fonctionne sur ce modèle, mais c’est seulement avec l’explosion du modèle économique des réseaux sociaux, fondés sur la gratuité des contenus (contrebalancés par un modèle basé sur la publicité en ligne), que le terme est devenu populaire.

3. Le mathématicien Norbert Wiener donne un nouveau sens à ce terme qui signifiait initialement « science du gouvernement des hommes ». Dans l’acception de Wiener, la cybernétique représente l’étude des interactions des systèmes communiquant avec leur environnement. L’originalité de la cybernétique repose en l’acception très large du concept de système qui désignera soit une cellule, un organisme, un robot, ou une société.

4. Les techniques à réseaux de neurones sont des techniques d’apprentissage statistiques qui reposent sur des structures mathématiques qui s’inspirent initialement du fonctionnement du neurone biologique.

5. Jacques ELLUL, La Technique ou l’Enjeu du siècle, Armand Colin, 1954.

6. www.arxiv.org, site qui recense les derniers articles de recherche scientifique en libre accès avant leur publication par des revues.

7. Éric SADIN, L’Intelligence artificielle ou l’Enjeu du siècle, L’Échappée, 2018.

8. Cf. supra.

1re PARTIE

Origine & histoire de l’intelligence artificielle

« Au commencement était le logos, certes, mais celui-ci était une machine. »

Jean-Pierre Dupuy,
Aux origines des sciences cognitives

CHAPITRE 1

Aux origines de l’intelligence artificielle

Une (non)-définition de l’intelligence artificielle

Qu’est-ce que l’intelligence artificielle ? Une boutade qui court dans le monde des ingénieurs la définit comme « tout ce que les ordinateurs ne savent pas encore faire ». Force est de constater qu’il est difficile de tracer des limites à la discipline, même pour les personnes qui en ont fait leur métier. Beaucoup de startups en profitent pour faire figurer bien en évidence les mots magiques dans leur descriptif afin d’attirer les investisseurs – bien que leur activité n’ait souvent qu’un rapport lointain avec l’intelligence artificielle.

Il y a, en réalité, autant de définitions de l’intelligence artificielle que de chercheurs. L’on peut citer, par exemple, celle de Nils J. Nilsson, auteur d’une histoire de référence dans ce domaine¹ : « L’intelligence artificielle est l’activité qui consiste à rendre les machines intelligentes, l’intelligence étant la qualité qui permet à une entité de fonctionner de façon adaptée et prudente dans son environnement ². »

Cette définition ayant le mérite d’être large, beaucoup de choses peuvent être dites intelligentes : que ce soit une mite ou un thermostat. Mais si beaucoup d’êtres vivants peuvent être considérés comme intelligents, l’intelligence humaine est d’une nature particulière et c’est à ce jour la forme d’intelligence la plus évoluée observée dans l’univers. Seul l’homme raisonne, utilise le langage, façonne des objets abstraits (mathématiques ou philosophiques), des modèles de pensée, joue, crée des œuvres d’art. Chercher à reproduire une intelligence de niveau humain s’avère donc une entreprise différente de celle qui consiste à construire un système adaptatif.

Marvin Minsky, l’un des pionniers de l’intelligence artificielle, la définit ainsi comme la construction de machines capables de faire des choses qui, si elles étaient faites par des humains, demanderaient de l’intelligence ³.

L’intelligence artificielle est donc un domaine multiforme : on y trouve pêle-mêle des algorithmes prédictifs capables de s’adapter à un nombre impressionnant de domaines, des algorithmes d’optimisation, de traitement du langage. Ses domaines d’application, ainsi que les techniques utilisées ne sont ni fixes, ni limités, à l’image de son ambition qui est totale. Ainsi des problèmes particuliers, des types d’algorithmes, entrent et sortent du giron de l’intelligence artificielle suivant l’évolution des techniques. Selon les définitions et les époques, un simple système de classement de données est ou n’est pas de l’intelligence artificielle, de même qu’un système de guidage par GPS, Page Rank (l’algorithme de Google), ou celui qui alimente votre fil Facebook. C’est le cas notamment des techniques de prédiction, pour savoir par exemple si une personne va, ou non, rembourser un prêt bancaire. Leur méthode – fondée sur des théorèmes d’algèbre linéaires – date du siècle dernier. Il y a trente ans de cela, il ne venait à personne l’idée d’assimiler à l’intelligence artificielle une simple régression linéaire. Cette technique d’apprentissage statistique, fondée sur des observations passées, tente de distinguer le groupe des clients qui ont remboursé leur prêt des mauvais payeurs, via leurs caractéristiques (âge, sexe, profession…). L’algorithme déduit donc de données passées une règle qui permet de classer toute nouvelle observation dans une catégorie spécifique. Dans le cas de la régression linéaire, cette règle est simple ⁴. Les banques, par exemple, calculent leur octroi de crédit grâce à cette technique depuis plusieurs dizaines d’années.

Or, avec l’augmentation de la puissance de calcul des ordinateurs et l’explosion des données, une nouvelle génération de méthodes prédictives s’est développée qui permet d’apprendre sur des volumes de données importants et de prendre en compte un grand nombre de caractéristiques. C’est le cas notamment des techniques très en vogue du deep learning ⁵, à l’origine d’une grande partie des progrès réalisés en intelligence artificielle ces dernières années.

De la régression logistique au deep learning, il n’y a au premier abord qu’une différence de degrés, non de nature. Et pourtant, on a l’impression d’être dans un monde totalement différent, tant les techniques sont devenues complexes, non linéaires, et leurs résultats difficiles à interpréter.

Par exemple, le deep learning permet d’apprendre à classer des images par catégories, à reconnaître une écriture manuscrite, où à détecter des thèmes dans un texte.

Dès lors, les scientifiques adoptent souvent deux attitudes contradictoires : les uns se contentent de répéter qu’un algorithme de deep learning n’étant intrinsèquement pas différent d’une régression, il ne présente rien de spécialement intelligent : « Circulez il n’y a rien à voir ! » Les autres, au contraire, considèrent la différence de degrés comme structurelle, capable de faire passer la machine vers une nouvelle dimension.

L’ultra-spécialisation des sciences, évoquée dans l’introduction, rend également plus difficile l’établissement d’une frontière précise. Si le deep learning et le reinforcement learning⁶ sont actuellement les disciplines reines, la recherche en intelligence artificielle scindée, quasiment depuis sa naissance en une multitude de sous-domaines, regroupe aujourd’hui des branches très différentes qui ne se parlent pas toujours – quand elles n’oublient pas tout bonnement les recherches qui ont précédé leur naissance. Avec l’accélération du nombre de publications, l’augmentation de celui des chercheurs, et la parcellisation des savoirs, les chercheurs en intelligence artificielle sont souvent les derniers à posséder une vue d’ensemble et confondent leur domaine étroit avec la discipline – une tendance qui caractérise la plupart des sciences.

L’intelligence artificielle connectiviste, la plus utilisée aujourd’hui, repose sur l’utilisation de structures nommées, par analogie avec le neurone biologique, « réseaux de neurones », et permet d’apprendre à reconnaître des motifs dans des données. On l’oppose à l’intelligence artificielle symbolique qui tente de coder explicitement les règles de raisonnement et qui était pourtant le domaine phare de la première recherche en intelligence artificielle dans les années 1960.

Est-ce parce qu’aujourd’hui la branche dite « connectiviste » de l’intelligence artificielle a gagné la bataille, ou parce que la mémoire des ingénieurs se fait de plus en plus courte ? L’histoire de l’intelligence artificielle, et notamment le terreau dans lequel elle est née, ainsi que ses axes de recherche, des années 1950 aux années 1980, sont souvent oubliés.

Pourtant, contrairement à beaucoup de branches des sciences, qu’elles soient théoriques ou appliquées, l’intelligence artificielle possède un acte de naissance : le congrès de Darmouth College auquel participent, en 1955, entre autres, John McCarthy, Claude Shannon, Marvin Minsky, Oliver Selfridge, Alan Newell, Herbert Simon.

Ceux-ci proviennent de domaines de recherche variés qui montrent le caractère hybride de la toute nouvelle discipline : le mathématicien Claude Shannon est connu pour sa théorie de l’information ; Herbert Simon a une formation d’économiste et a travaillé sur la théorie de la décision ; McCarthy est un mathématicien qui a déjà développé un fort intérêt pour les ordinateurs et ce qui sera bientôt l’intelligence artificielle.

C’est en effet lors de cette rencontre que McCarthy invente pour la première fois l’expression « intelligence artificielle », et définit son ambition :

« L’étude se fondera sur la conjecture que tous les aspects de l’apprentissage, ou de n’importe quelle caractéristique de l’intelligence, peuvent être en principe décrits de façon suffisamment précise pour qu’on puisse réaliser une machine qui la simule. Nous tenterons ainsi de trouver comment faire des machines qui utilisent le langage, conçoivent des abstractions et des concepts, résolvent des problèmes aujourd’hui réservés aux humains, et s’améliorent elles-mêmes. Nous pensons que des progrès significatifs peuvent être réalisés dans l’un ou l’autre de ces domaines, si un groupe de scientifiques soigneusement choisis travaille dessus pendant un été,⁷. »

La naïveté et l’ambition de ce programme font sourire : soixante-cinq ans après, il serait sans doute formulé avec beaucoup plus de prudence. Mais l’on peut déjà lire entre les lignes ce que seront les conceptions sous-jacentes aux recherches en intelligence artificielle : l’intelligence comme addition de fonctionnalités ; le fait que chacune de ces fonctions puisse être réalisée par une machine ; et que les machines puissent s’amé- liorer.

Derrière la limpidité apparente de cette naissance, se cache une histoire bien plus longue et tortueuse, à la croisée de la philosophie, des mathématiques et de la technologie.

Pour que l’intelligence artificielle se développe, une évolution technologique a été nécessaire : il a fallu passer des machines à calculer aux ordinateurs, des automates aux robots. Mais les objets ne sont pas tout ; la révolution qu’apporte le développement de l’intelligence artificielle n’est au départ ni purement scientifique ni purement technologique. Elle est philosophique. C’est pourquoi, nous présentons l’aventure de l’intelligence artificielle comme le croisement de deux histoires : l’histoire des ordinateurs – et plus accessoirement celle des robots et des automates –, et l’histoire des idées qui vont permettre à l’intelligence artificielle, de s’incarner vers le milieu du xxe siècle. On commença par être capable d’arithmétiser la pensée avant de penser d’éventuelles équivalences entre la machine et le cerveau. Deux moments fondateurs, que nous exposerons, ponctueront cette histoire des prémisses de l’intelligence artificielle : les travaux de Turing d’une part, le courant cybernétique de l’autre.

Nous étudierons ensuite la philosophie implicite de l’intelligence artificielle. En effet, concevoir une pensée artificielle n’est pas neutre, car elle induit une certaine conception de la place de l’homme et de la nature de la pensée. Nous essaierons d’en étudier les conséquences.

Pistes pour une histoire

Les objets de l’intelligence artificielle

L’histoire des Temps modernes, marquée par une accélé- ration sans précédent des progrès scientifique et technologique, peut se lire également comme une histoire de l’extension de ce qui peut être mesuré et calculé. La révolution galiléenne, qui assimile la nature à un espace indifférencié soumis aux règles uniformes de la physique, accompagne la seconde révolution, souvent moins commentée, qui commence avec Blaise Pascal et la théorie des probabilités. Avec les probabilités, c’est le hasard, la fortune au sens de l’Antiquité qui peut être mesuré et calculé. La maîtrise rationnelle du monde ne touche plus seulement l’espace, mais également le temps. La révolution probabiliste conduira au développement conjoint des statistiques ou l’art de faire parler les grands nombres. Les transformations sociales qui viseront à rendre l’administration plus puissante, à mettre en chiffres les différents aspects de la société (du recensement aux sondages) se nourriront de cette nouvelle science. Un besoin apparaît : non seulement celui de calculer vite et avec précision, mais également de stocker et manipuler de grandes quantités de nombres. Ce n’est que dans la première moitié du xxe siècle qu’il sera comblé, avec le développement, d’abord balbutiant, des ordinateurs.

Si des machines à calculer ont été réalisées au cours de l’histoire, la plus célèbre étant la pascaline de Blaise Pascal, la paternité de l’ordinateur moderne revient à Charles Babbage. Ce mathématicien anglais conçoit une « machine analytique », prévue au départ pour faire des calculs, mais qui offre la particularité d’être programmable. Babbage, avec l’aide de la mathé- maticienne Ada Byron, élabore l’ébauche d’une théorie de la programmation. Mais sa machine restera à l’état de plans.

Ce n’est que vers la fin des années 1940 que les premières machines à calculer programmables apparaissent. Entretemps, Alan Turing pose, en 1936, les fondements théoriques de ce qui sera la future informatique, ce qui attire l’attention des mathématiciens, qui verront aussitôt dans la programmation et les algorithmes un domaine à exploiter. Cela influencera d’autant le développement des ordinateurs.

C’est la Seconde Guerre mondiale, et plus tard la guerre froide, qui permettront d’accélérer leur développement. Alan Turing aide ainsi les services secrets anglais à décrypter les codes allemands, via un ordinateur à la conception duquel il collabore. Le mathématicien Johnvon Neumann, aux États-Unis, aidera lui aussi à développer un ordinateur pour l’armée, afin de fabriquer la bombe H.

L’histoire de John von Neumann est emblématique : esprit universel, élevé dans les fastes de l’empire austro-hongrois, il fait partie de la vague de scientifiques qui fuiront l’Europe dans les années 1930 et 1940 et seront accueillis par les grandes universités américaines. Lui, qui a commencé par faire carrière dans les mathématiques et l’économie, est fasciné par la théorie de Turing et les ordinateurs. En 1945, il publie un article décrivant l’architecture d’un ordinateur, qui deviendra le modèle de tous les ordinateurs conçus ultérieurement. Il profite de la guerre froide : les Américains, menacés par l’URSS qui posséderait la bombe atomique, lancent un grand programme de recherche pour le développement de la bombe H. Ce sera l’aventure de Los Alamos qui réunira les plus grands mathématiciens et ingénieurs de l’époque. La bombe H une fois au point, le gouvernement américain décide de rendre publics les plans de l’ordinateur – dont la structure sera celle de nos machines modernes, pas celle de la bombe. La révolution informatique peut commencer. Sans le nucléaire ni la guerre, elle n’aurait pas commencé si vite.

Pourtant, lorsque l’intelligence artificielle s’invite dans les conversations, ce sont le plus souvent des robots, comme HAL dans 2001, l’Odyssée de l’espace ou Terminator que l’on évoque. En effet, en deçà des tentatives de modélisation de la pensée, l’intelligence artificielle répond à deux tentations fondamentales de l’humanité, étroitement liées. La première consiste à fabriquer des figures anthropomorphiques censées, comme leur nom l’indique, imiter l’homme ; la seconde à produire des automates dans le but ultime d’imiter la vie.

En effet, avant de formuler le concept d’une pensée artificielle, les hommes ont commencé par rêver de fabriquer des créatures animées, éventuellement douées de raison. Même si l’idée même les plongeait dans la terreur, elle les fascinait tout autant.

Cette idée traverse un grand nombre de mythes. L’homme y apparaît désireux de se faire démiurge, et des siècles de civilisation chrétienne n’auront pas suffi à convaincre que tel est l’apanage du Créateur. Pourtant, ces rêves de grandeur entraînent bien souvent des malédictions. Les statues animées pouvaient donner le sentiment de s’adonner à des plaisirs coupables, et les créatures animées faites de main d’homme pour le servir se retournaient tôt ou tard contre lui. Le mythe du Golem en est une bonne illustration. L’histoire de Mary Shelley, quant à elle, s’articule autour de la tension entre fascination et horreur : en effet, Frankenstein, tenté de se faire le créateur d’un homme semblable à lui sans passer par le processus de la génération, dès lors qu’il y est parvenu, est horrifié, non pas tant en raison du caractère effrayant et monstrueux de sa créature, que par le vertige qui le saisit à considérer l’immense responsabilité à laquelle l’oblige son acte. L’intelligence artificielle, si elle est plus abstraite et ne vise pas directement à fabriquer une créature anthropomorphique, répond indirectement à ce fantasme. C’est pourquoi, plus elle se développe et devient puissante, plus les craintes qu’elle devienne hors de contrôle et nous asservisse se développent elles aussi.

On trouve, dès l’Iliade, des servantes d’or⁸ qui aident Héphaïstos à accomplir son travail et, au cours des siècles, l’art de fabriquer des automates se perfectionnera. Jacques Vaucanson, un ingénieur du xviii e siècle, faisait ainsi l’admiration des cours européennes avec ses canards mécaniques, extrêmement réalistes, qui s’abreuvaient, battaient des ailes, et poussaient des cris. Ironie de l’histoire, c’est ce même Vaucanson qui fera l’objet de l’ire des artisans soyeux, lesquels jetteront dans le Rhône sa machine à tisser. Vaucanson s’inscrit dans la lignée de la pensée cartésienne. Pour Descartes, en effet, « Dieu a fabriqué notre corps comme une machine ». Les fabricants d’automates vont un cran plus loin : ils espèrent que la vie se réduira au modèle qu’ils ont créé, dans la lignée de La Mettrie ⁹.

Le mot « robot » n’apparaît qu’en 1921. Sa paternité en revient au Tchèque Karel Capek, dans sa pièce R.U.R., qui met en scène des machines anthropomorphes qui se substituent aux travailleurs humains et finissent par se révolter. Capek considère comme cauchemardesque le monde qu’il a conçu et déclare, en parlant de lui à la troisième personne¹⁰ :

« Il refuse avec horreur toute responsabilité quant à l’idée que des machines puissent prendre la place des hommes, ou que l’équivalent de la vie, de l’amour, ou de la révolte, puisse s’éveiller dans leurs engrenages. Il considère cette vision sinistre comme une surévaluation impardonnable de ce que sont les machines, ou comme une insulte sévère à la vie. »

Au xxe siècle, intelligence artificielle, vie artificielle¹¹ et robotique se développent en parallèle, mais ce n’est pas toujours le cas, ce qui explique certaines confusions. Et s’il ne saurait y avoir d’intelligence artificielle sans ordinateurs, très vite des chercheurs ont tenté de lui donner « un corps » qui ressemblât à celui d’un être humain. La fascination opéra aussitôt. C’est ainsi que le robot Shakey fit la une du Times dans les années 1970, et que Sophia, produit du laboratoire Hanson Robotics, illustre de nos jours la plupart des articles sur l’intelligence artificielle.

Les idées de l’intelligence artificielle

La question des origines peut être ainsi abordée par le biais de l’histoire de la technique : il a fallu un certain nombre d’étapes, depuis les premiers bouliers, pour parvenir à construire des ordinateurs, et que ces ordinateurs soient le support de l’intelligence artificielle. Mais celle-ci résulte avant tout d’une révolution de nature philosophique. Dans les années qui virent son émergence comme discipline et champ de recherche, c’est avant tout à une quête de nature philosophique que se livrèrent les pionniers du domaine, d’Alan Turing à Herbert Newell, en passant par McCulloch ou Marvin Minsky, quête dont il est important de comprendre les enjeux. Le concept même d’intelligence artificielle, outre le cadre technologique qu’il présuppose (par exemple, celui de pouvoir fabriquer les artefacts qui en seront le support, en l’occurrence les ordinateurs) a demandé de pouvoir poser les questions suivantes et de leur trouver des réponses :

- La pensée est-elle modélisable ? Peut-elle se résumer à des règles implicites, définies sans ambiguïtés ?

- Peut-on construire une machine qui répliquerait ces règles ?

- De quoi serait capable une telle machine ?

- Peut-il y avoir équivalence entre pensée humaine et pensée artificielle ?

Le cadre dans lequel ces questions seront posées et amplement débattues sera celui du courant cybernétique. L’intelligence artificielle, comme le montre Jean-Pierre Dupuy dans son exploration philosophique du courant cybernétique ¹², en est le rejeton direct, mais elle a cherché à s’en débarrasser et à l’oublier, quasiment dès sa naissance.

1) LA RÉVOLUTION DE TURING

« Le monde nous paraît logique parce que nous avons commencé par le rendre logique¹³. »

NIETZSCHE

L’histoire de l’intelligence artificielle est le fruit d’un paradoxe : le courant logique en philosophie a préparé la voie à l’idée d’une équivalence entre pensée et calcul. Mais c’est au moment où la logique a paru atteindre son point d’arrêt, avec le théorème d’incomplétude de Gödel, que le mathématicien Alan Turing, en poursuivant les travaux de ce dernier, est parvenu à une révolution : celle de la machine universelle, véritable matrice de l’intelligence artificielle.

Pour le philosophe Hubert Dreyfus, Platon en cherchant les principes rationnels, définissables explicitement qui guident le comportement raisonnable inspirera indirectement les théoriciens de l’intelligence artificielle. La plupart de ces théoriciens, toutefois, se réfèrent soit à Leibniz soit à Hobbes. Dans le Leviathan, ce dernier décrit « un automate qui se meut par ressorts et rouages comme une horloge », un « homme (ou animal) artificiel ». Il inventera même la formule « Thinking is reckoning¹⁴ » – « Penser c’est calculer. » Si cette assertion était avérée, il serait tout à fait probable qu’une machine soit en mesure, par le calcul, de répliquer la pensée.

Quant à Leibniz, il propose de réduire le savoir à une série de propositions élémentaires. De même que les nombres premiers engendrent tous les entiers, ces propositions élémentaires, conjuguées par les règles non univoques de la logique, permettraient d’accéder à toutes les idées que la pensée peut concevoir.

Leibniz est ainsi l’un des premiers à imaginer que la pensée pût être mécanisée. Le courant logique, représenté par Boole, Frege et Russel s’inscrit dans sa lignée, en poursuivant sa formalisation du raisonnement logique et en montrant, par exemple, que les règles qui président à ce dernier peuvent être explicitement formulées. Le logicien Kurt Gödel ira plus loin encore dans l’arithmétisation de la pensée, qui démontrera que l’on peut coder, en s’appuyant sur des nombres entiers, non seulement des formules, mais aussi des démonstrations. Pour finir par démolir l’optimisme invétéré de David Hilbert qui lança aux mathématiciens du monde entier vingt problèmes qu’ils étaient censés résoudre, prélude à l’élévation des mathé- matiques au rang dediscipline universelle. Rêvant dedémontrer toutes les propositions mathématiques à partir de règles logiques strictement définies et d’une série d’axiomes fondamentaux, il posa ainsi la question dite « de la décision », ou Entscheidungsproblem : autrement dit, une proposition mathé- matique, issue d’une série d’axiomes, est-elle, oui ou non, démontrable ? Il espérait, bien sûr, que la réponse à cette question fût positive. Mais Gödel plongea les mathématiciens dans une dépression kafkaïenne, en démontrant l’existence de propositions indémontrables… au sein même de systèmes logiques ¹⁵.

La logique paraissait ne plus pouvoir progresser, lorsque le mathématicien Alan Turing s’intéressa à la notion de calculabilité. La question qu’il se posa est la suivante : « Étant donné une fonction, qui puisse être décrite de façon finie, comment peut-on savoir si cette fonction arrivera à un résultat en un temps fini ? »

En effet les idées de Gödel impliquent le parallélisme entre ce qui est démontrable, et ce qui est calculable. Turing franchira un pas décisif, il aura l’intuition géniale que la meilleure façon de raisonner sur ce qui est calculable ou pas prendra la forme d’une machine. La machine de Turing, machine purement abstraite qui ne restera sur le papier qu’à l’état de description signera l’une des plus grandes révolutions philosophiques du xxe siècle. La machine de Turing peut se décrire ainsi : il s’agit d’un système qui peut lire des symboles de façon séquentielle (par exemple on peut imaginer une tête enregistreuse qui parcourt une série de cases, situées sur un ruban). À chaque étape la machine peut réaliser une des opérations suivantes : lire le symbole, l’effacer, en écrire un autre à la place, aller en avant ou en arrière. Le comportement de la machine est spécifié selon des règles explicites, en nombre fini. Turing démontre qu’il n’est pas possible de « deviner » ce que sera le comportement d’une machine de Turing ¹⁶, et ce même si ses règles de fonctionnement sont définies et en nombre limité. Dit autrement, avec la machine de Turing, apparaît la conception d’un objet mathématique, conçu de façon explicite, et au comportement imprévisible. Cette notion sera fondamentale tant pour les cybernéticiens que pour plus tard l’intelligence artificielle.

On fait, en effet, et avec raison, de Turing l’un des pères fondateurs de l’intelligence artificielle. Pourtant, le terme n’existe pas de son vivant. En 1950, il écrit cependant les prolé- gomènes de la discipline dans un article célèbre, « Computing Machine and Intelligence », en explorant cette question : « Que peut faire une machine de Turing ? »

Ce dernier ne pense pas que sa machine soit en quoi que ce soit comparable au cerveau biologique ; en revanche, son domaine d’action étant potentiellement infini, il considère qu’il n’y a pas de raison pour que sa machine ne puisse imiter ou égaler l’intelligence humaine. Dans cet article, il s’intéresse à deux questions : la première serait de trouver un critère pour affirmer qu’une machine possède une intelligence de niveau humain. C’est là qu’il parvient à son célèbre test, qui a été critiqué, mais auquel personne n’a encore proposé d’alternative pertinente. La seconde concerne le développement d’une telle intelligence. Il arrive à la conclusion qu’au lieu de tenter de concevoir directement une machine intelligente, il serait mieux de rendre la machine capable d’apprendre, s’appuyant ainsi sur le développement de l’intelligence humaine au cours de l’enfance.

La machine universelle de Turing est une révolution à la fois mathématique, puisqu’elle apporte une nouvelle démonstration du théorème d’incomplétude de Gödel, mais aussi philosophique. La logique étant arithmétisable, la machine de Turing constitue un modèle pour la pensée symbolique. Turing initie le rapprochement entre la calculabilité et la machine. Le processus devient matériel, potentiellement réplicable.

2) CYBERNÉTIQUE

Les idées de Turing vont alimenter un courant fondamental de l’histoire des sciences au xxe siècle : la cybernétique, qui prend forme lors de conférences, les conférences Macy’s. Elles rassemblent des scientifiques d’origines très diverses. Si la cybernétique en tant que telle finira par s’essouffler, son influence sera immense dans un grand nombre de domaines : outre l’intelligence artificielle, on peut citer les sciences cognitives, la théorie des systèmes complexes, l’économie et la théorie de la décision…

Le courant cybernétique, qu’il serait faux de cantonner au concept de la boucle de feedback, a en réalité brassé un nombre impressionnant d’idées ; et si la cybernétique comme domaine de recherche a fini par disparaître, son influence souterraine sera grande. On peut en énumérer les principales : la théorie des systèmes adaptatifs, qui pourront doter les automates de réactions complexes, la notion de téléologie des automates… Le courant cybernétique, très marqué par Turing, sera le lieu de débats profonds sur les équivalences potentielles entre esprit et machine, que l’on pourrait résumer ainsi : Peut-on concevoir une modélisation idéalisée des processus de l’esprit, puis les coder dans une machine (la première intelligence artificielle, dite symbolique) ? Doit-on se contenter de créer des systèmes suffisamment complexes et adaptatifs qui finiront par se comporter de façon intelligente (l’intelligence artificielle dite connectiviste) ?

Le mathématicien Norbert Wiener passe pour le fondateur de la cybernétique. Un article, paru en 1943, et signé de Rosenblueth, Wiener, Bigelow, « Behavior, Purpose and Teleology », présente son idée séminale : la boucle de feedback. L’originalité de la cybernétique est de considérer les systèmes qu’elle décrit de façon très générale, comme des boîtes noires, dont on ne s’intéresse qu’aux interactions avec l’extérieur. La notion d’information est fondamentale en cybernétique : elle permet de codifier les interactions du système avec l’environnement. Un objet cybernétique absorbe des informations en entrée, appelées « input », puis réagit à ces informations par une réponse appelée « output ». Le système mesure ensuite l’effet de son action sur l’environnement, et adapte sa réponse en fonction de son objectif : c’est la boucle de feedback. Une façon simple de se représenter un objet cybernétique est de penser à un thermostat, qui adapte sa résistance à la température observée et à son objectif de température. Avec cette idée, la cybernétique s’éloigne du behaviorisme¹⁷ : l’organisme ne répond pas de façon répétitive à un stimulus ; il poursuit une finalité et adapte sa réponse en fonction de cette finalité et de ce stimulus.

Cette notion de finalité, qui reprend l’ancienne conception aristotélicienne de la téléologie, comme quoi chaque être vivant est conçu et agit pour se développer en vue d’une fin propre, sera essentielle pour la théorie cybernétique. En effet, sans finalité, il est impossible de déterminer la nature du feedback. Cette notion aura deux conséquences : d’une part, elle impliquera une inévitable mise en relation des automates et des êtres vivants. D’autre part, la tentation sera grande d’assimiler le vivant à des mécanismes cybernétiques. Elle donne par ailleurs une autonomie aux objets cybernétiques. Ces derniers se différencient en effet de simples machines qui ne font que ce pour quoi elles ont été conçues. Heinz von Förster, fondateur de la seconde cybernétique ¹⁸, insiste ainsi sur le concept de machine non triviale qui, comme la machine de Turing, montre une très grande variété de comportements.

La cybernétique va traiter ses objets d’étude comme des dispositifs permettant de transformer de l’input en output. Cette vision influencera grandement la façon dont les théoriciens de l’intelligence artificielle et les fabricants de robots concevront le vivant et la pensée : le vivant comme mécanisme d’input/output, fonctionnant de façon adaptée ; la pensée comme traitement d’un flux engendré par la perception et dont les réponses sont des représentations.

Les cybernéticiens créent ainsi les conditions d’une science totale, capable de penser à la fois la machine et le vivant. Sans cybernétique, pas de machine autonome, pas d’intelligence artificielle. Mais ce n’est pas le vivant qui sert de modèle aux machines ; au contraire, c’est le modèle de la machine qui permet de penser le vivant.

La vérité calculée – philosophie implicite de l’intelligence artificielle

« Les spécialistes de la physique mathématique ne peuvent utiliser pour leur science les atomes matériels ; ils construisent donc à leur usage un monde fait de centres de force qui facilitent le calcul. C’est ainsi, en gros, qu’ont agi les hommes et toutes les créatures organiques ; ils ont arrangé, repensé, remanié le monde jusqu’à ce qu’il leur fut utilisable, jusqu’à ce qu’on pût “calculer » avec lui.”

Nietzsche, La Volonté de puissance¹⁹

La grande question de l’intelligence artificielle est la possibilité de répliquer sur une machine les mécanismes de la pensée humaine. Cette question se déploie selon plusieurs modalités :

- La pensée peut-elle être réduite à un ensemble de règles et ou de processus ? Peut-on en expliciter les mécanismes de façon non équivoque ?

- Peut-on répliquer ces mécanismes sur un support matériel ?

- Une machine peut-elle avoir un fonctionnement suffisamment complexe pour arriver au niveau de raffinement de l’intelligence humaine ?

En réalité, le développement de l’intelligence artificielle repose sur un certain nombre de présupposés, qu’il s’agit d’expliciter, et qui auront des conséquences importantes dans la façon dont, ensuite, nous concevrons l’intelligence artificielle, et interagirons avec elle :

- Réduction éventuelle de la pensée au calcul, ou du moins à une série d’étapes modélisables, qu’on pourrait répliquer dans un programme informatique, ou qui s’incarne dans le cerveau (théorie de McCulloch) ;

- Émergence d’une pensée non anthropomorphique, séparée de la notion de sujet ;

- Conception d’objets par l’homme (automates, machine de Turing…), au comportement complexe et imprévisible ;

- Émergence d’une rationalité à la fois étrangère à et concurrente de la rationalité humaine.

La pensée et la machine

L’assimilation de la pensée au calcul remonte loin dans la philosophie occidentale. Des penseurs comme Leibniz tenteront de définir par des règles explicites la faculté de raisonner. Ce qu’apporteront Turing et les pionniers de la cybernétique, c’est une concrétisation de ce courant de pensée grâce au modèle à réseau de neurones que développe McCulloch. Dans la lignée de Claude Shannon, qui représente, via un dispositif matériel, le raisonnement logique, McCulloch comprend qu’au lieu des équations différentielles traditionnellement utilisées en biologie et en physique, c’est la logique binaire qui doit servir de base pour modéliser l’esprit.

Il influencera le plus, par ses recherches, ce qu’on peut appeler « la philosophie implicite de l’intelligence artificielle ». Avec le logicien Walter Pitts, il publie, en 1943, un article intitulé « Embodiment of Mind ». Il y développe l’analogie organisme/machines imaginée par Norbert Wiener, en concevant pour la première fois une incarnation du processus de la pensée dans un mécanisme présent dans le cerveau. Il ne s’agit plus d’une analogie, mais d’une identité. Il en vient à déclarer ceci : « Plus nous apprenons de choses au sujet des organismes, plus nous sommes amenés à conclure qu’ils ne sont pas simplement analogues aux machines, mais qu’ils sont machines ²⁰. » Il s’agit, en réalité, d’une véritable révolution qui consiste à matérialiser la pensée. Si la machine de Turing n’existe que sur le papier, McCulloch est persuadé que ses circuits de neurones représentent un fonctionnement idéalisé mais néanmoins précis du cerveau biologique, aboutissant à l’identité entre cerveau, pensée comme fonction, et mécanisme qui l’incarne. Ses recherches se solderont par un échec. Sa pensée, cependant, irriguera celle d’un Jean-Pierre Changeux et influencera beaucoup de chercheurs en intelligence artificielle, qui oublieront trop souvent que les réseaux de neurones qu’ils traitent ne sont qu’une abstraction qui n’a aucun rapport avec le cerveau biologique, perpétuant l’idée de cerveau comme « machine à calculer biologique ».

La révolution initiée par McCulloch est difficile à concevoir de prime abord. Dans l’esprit des cybernéticiens de l’époque, il y avait d’une part le cerveau biologique, dont on comprenait peu de chose, et dont le meilleur espoir de modélisation reposait sur celle du neurone ; d’autre part, la modélisation abstraite de processus de pensée, notamment par la logique. En démontrant que des modèles abstraits de neurones étaient capables – comme les circuits électriques de Shannon –, de réaliser des opérations logiques, il devient possible de penser non seulement une équivalence entre la machine et la pensée – le cerveau –, mais aussi une incarnation de la machine dans le cerveau, cette machine étant à l’origine de la pensée. Pour citer Jean-Pierre Dupuy ²¹, « Le choc cybernétique n’est donc pas tant que des machines puissent être analogues à un cerveau mais bien que le cerveau puisse n’être qu’une machine dans son fonctionnement. »

La pensée sans l’homme

Turing n’avait conçu sa machine que pour démontrer le théorème d’incomplétude de Gödel. Son article sera d’ailleurs, au départ, méprisé par les mathématiciens²² (car sa démonstration passe par la description d’un dispositif tout ce qu’il y a de plus matériel) et par les ingénieurs (car l’article est jugé trop abstrait, et que ladite machine ne peut être construite dans la réalité).

Mais Alan Turing ne tarde pas à se rendre compte des consé- quences stupéfiantes de son invention. Sa machine est ainsi l’une des plus grandes révolutions philosophiques du xxe siècle. D’une part, alors que, jusque-là, les machines restaient cantonnées à des tâches ou des ensembles de tâches bien précis, la machine universelle peut en réalité « tout » faire, si par « tout » l’on entend ce qui peut se représenter à l’aide d’un ensemble fini de symboles. Elle peut calculer certes, manipuler des symboles, mais potentiellement réaliser bien d’autres choses, sans que l’on puisse prévoir ce qu’elle peut ou ne peut pas faire à partir de sa programmation initiale, ni définir son domaine des possibles.

La grande révolution de la machine de Turing réside ainsi dans son caractère universel. Auparavant, les machines et les outils, même multiformes, évoluaient dans le cadre étroit pour lequel elles avaient été conçues. Désormais, apparaît l’idée d’une machine capable de réaliser n’importe quelle opération. On ne peut ni lui fixer de borne ni en explorer les limites. Turing ne prétend pas émuler le cerveau biologique – en cela il a souvent été mal interprété. Il postule simplement qu’avec un degré de complexité suffisant, une machine à état discret pourrait imiter un être humain.

Imiter sans se confondre avec lui, et potentiellement le dépasser, ou s’attaquer à des domaines hors de la pensée humaine. En réalité, Turing ne dit pas qu’on est capable de comprendre la nature de l’intelligence humaine, que ce soit par la biologie ou les sciences cognitives, mais que tout en restant fondamentalement étrangères à la pensée humaine, les machines seraient capables de se confondre avec elle. Il ne dit pas que l’intelligence de la machine sera humaine, mais qu’elle pourra imiter les humains.

Au départ, la machine a été conçue « à l’image de l’homme » (Human Computer). Mais d’un homme qui ne serait capable d’effectuer que des calculs et des opérations logiques. L’idée de génie de Turing est de généraliser cette notion de calcul et de se demander si l’on ne peut pas faire en sorte de rattraper les facultés humaines. Le « Digital Computer » (Turing n’emploie jamais l’expression « intelligence artificielle », car elle n’existe pas de son vivant) « pense » avec des chiffres et des symboles, de façon non univoque. Ce qui offre les avantages suivants : transparence totale, réplicabilité, non-ambiguïté (au contraire de la pensée humaine formulée par des mots et des concepts).

Mais la machine universelle de Turing va au-delà de la logique. Elle est potentiellement capable de se mouvoir dans un nombre infini d’opérations symboliques. Se pose ainsi une question : Les opérations réalisées par la machine universelle et l’ensemble des opérations mentales du cerveau humain sont-ils des ensembles disjoints ou, en termes mathématiques, y a-t-il une surjection des premières vers les secondes ?

La question de fond qui hante l’intelligence artificielle et qui a frappé Turing dès sa conception de la machine est : Si cette machine est capable d’un nombre sans précédent d’opérations symboliques, quel est son rapport avec l’intelligence humaine ? Est-elle capable de l’émuler ? de la dépasser ? Turing pense que ce n’est pas impossible. La conséquence de ce fait est grave : s’il y a surjection, il n’y a pas de spécificité particulière de la pensée humaine ; en outre, sa concurrente est potentiellement plus puissante et plus fiable.

Cette « pensée » des machines peut s’abstraire de la notion de sujet, dont on peut enfin se débarrasser comme d’un artefact encombrant.

Par ailleurs, en poursuivant les recherches de Gödel, Turing offre des horizons insoupçonnés à sa machine, qui pourra créer des propositions dont on ne saura démontrer la véracité : étant donné une machine de Turing, il n’existe pas de machine permettant de prévoir si elle va s’arrêter ou pas. Ce que la machine peut engendrer n’est ni prévisible ni même calculable. Et pourtant, ses principes sont finis et sans équivoque. Il y a donc un écart fondamental entre la machine analytique de Babbage et celle de Turing : l’une ne fait que ce pour quoi elle est programmée ; l’autre peut nous dépasser.

Avec Turing, les machines cessent d’être prévisibles ; elles pourraient vaguement ressembler à du vivant. Nous pouvons créer des systèmes dont nous ne pourrons prédire le comportement. Comme l’écrit Jean-Pierre Dupuy, dans Aux origines des sciences cognitives :

« L’autonomisation du modèle se confond avec la modélisation de l’autonomie. Griserie et paradoxe de fabriquer un automate, c’est-à-dire un être qui ne tienne sa loi que de lui-même. Comble de la volonté de puissance que de se vouloir la cause d’un être qui soit cause de soi, inconditionnée ; et, simultanément, perte de soi dans le miroir tendu par une créature faite à son image. »

L’intelligence artificielle symbolique

L’intelligence artificielle dite « symbolique » rejoint le courant logique, notamment la pensée de Leibniz. Lui le premier, au lieu de considérer la logique comme un parent pauvre de la pensée, la conçoit comme modèle possible de l’ensemble de la connaissance. Il imagine, en effet, qu’un petit nombre de propositions élémentaires, semblables aux nombres premiers, combinées adroitement selon des règles sans équivoque, puissent générer l’ensemble de la connaissance humaine. Alors, si un nombre restreint de règles et de propositions permet d’accéder à l’ensemble de la connaissance et de raisonner, il « suffit » de les écrire explicitement et de les coder dans la machine.

Cette conception idéaliste (platonico-kantienne) débouche sur un dualisme, c’est-à-dire une conception de l’esprit comme étant séparé du corps, et donc séparable. Si l’esprit n’est qu’un ensemble de règles modélisables formellement, il suffit de le répliquer, d’en créer un modèle non biologique, sur un autre support matériel.

Le courant dit « symbolique » de l’intelligence artificielle, celui auquel appartiennent les pionniers de Darmouth et qui va influencer la plupart des recherches faites des années 1950 à 1970 (avant que cette branche de l’intelligence artificielle ne tombe en déshérence) hérite de cette conception de l’esprit.

Les sciences cognitives vont naître au même moment que ce courant qui prétend étudier l’esprit de façon méthodique et scientifique (en se démarquant justement de la phénomé- nologie ou de la psychologie), en le réduisant à un certain nombre de processus qu’il convient d’étudier séparément. Elles appliquent une vision réductionniste de l’esprit, comme une sorte de machine abstraite qui ne serait que l’assemblage d’un certain nombre de sous-fonctions (la perception, la capacité à faire des choix, la mémoire…). Derrière cette vision va surgir l’idée qu’il va être possible de répliquer chacune de ces fonctions séparément, et ainsi de créer un « esprit artificiel », comme l’explique Marvin Minsky, dans The Society of Mind : « We’ll show you that you can build a mind from many little parts, each mindless by itself. » (« Nous allons vous démontrer que vous êtes en mesure de fabriquer un esprit à partir de nombreux petits éléments épars, chacun de ces éléments étant en soi dépourvu de tout cerveau. »)

L’intelligence artificielle connectiviste

Concomitamment au projet Manhattan, le code génétique est découvert en 1953. Le vivant, qui échappait jusque-là à la science galiléenne par son caractère téléologique, va désormais pouvoir être représenté symboliquement via l’existence d’un code. La notion d’information devient la clé par laquelle on prétendra penser le vivant. Cette approche réductionniste contaminera la biologie, et parfois même la physique, l’information étant la nouvelle monnaie avec laquelle on paiera la connaissance scientifique. Du principe de « sparsity » cher à Leibniz, on s’est consolé avec l’abondance de l’information, qui détiendrait tout le savoir du monde.

La théorie de l’information et sa mainmise sur une grande partie de la pensée scientifique, bien sûr concomitante au développement des capacités à traiter cette même information, permettent de rattraper les manques de la théorie logique. Si le monde se résume à un flux d’information, il est tentant de croire que, dans cette information, nous découvrirons les secrets du monde. Peut-être que la physique a perdu, que nous ne pourrons pas résumer le fonctionnement de l’univers en quelques équations, mais face à cette aporie émerge la croyance glorieuse à une connaissance cachée qu’il s’agirait de décoder. C’est un mythe, mais ce mythe est prégnant aujourd’hui (et d’unecertainefaçon nous dédouanedechercheràcomprendre). Par ailleurs, le tout informationnel est d’une autre nature que celui du tout mesurable de la vision galiléenne. En effet, l’information possède également une capacité à agir sur le monde via le code. D’où l’appel irrépressible de l’analogie entre code informatique et code génétique.

Conclusion : une rationalité concurrente

Le fondement de l’intelligence artificielle repose sur la logique, le traitement d’information de façon non univoque (comme dans la machine de Turing). Par définition, la rationalité de l’intelligence artificielle apparaît comme immédiatement supérieure à la nôtre, puisque le résultat d’un calcul n’est pas contestable. Dans le cas du connectivisme, cette supériorité est plus subtile : c’est parce que la machine peut absorber un nombre d’informations quasi infini qu’elle lira la vérité dedans.

Dans les deux cas, la rationalité de la machine est perçue comme supérieure face aux émotions, à la complexité, à la non-prédictibilité de la pensée humaine.

C’est pour cela que les concepteurs de systèmes d’intelligence artificielle vivent comme des blessures narcissiques les échecs répétés de leurs systèmes.

Derrière le fait de développer une intelligence artificielle, se cache une volonté de soumettre les processus irrationnels et non déterministes de notre pensée. Comme si l’on voulait réparer les blessures narcissiques causées par Freud, ou de manière générale oublier les nombreuses découvertes qui montrent le caractère fluctuant de la rationalité humaine.

L’intelligence artificielle n’est donc pas une idée neutre. Développer une rationalité étrangère à la rationalité humaine a nécessairement des conséquences lourdes sur la façon dont on envisage la pensée humaine, que l’on pourrait résumer ainsi :

- Fin de la spécificité de la capacité humaine à énoncer des vérités (pour reprendre les termes d’Éric Sadin), puisque la machine peut être capable de démontrer, par exemple, des résultats mathématiques ou d’analyser une situation ;

- infériorité assumée des capacités humaines vis-à-vis de celles de la machine, qui dispose d’une rationalité supérieure. Infériorité également dans le fait que l’homme est contraint dans ses capacités, dans sa rapidité d’apprentissage, alors que la machine peut éventuellement être programmée, et potentiellement tout apprendre ;

- impossibilité de tracer des frontières entre ce que pourra réaliser l’homme en propre et ce dont sera capable la machine (Turing lui même reconnaît que ce problème est spéculatif) ;

- volonté de répliquer de façon mécanique des capacités qui ont dans toutes les cultures été reconnues comme le propre de l’homme (animal capable de logos), jusqu’au langage (ce n’est pas un hasard si le test de Turing repose sur le langage) ;

- indiscernabilité potentielle de l’homme et de la machine (qui joue à tromper l’homme) ;

- accès potentiel de la machine à des domaines ou des modes de raisonnement non accessibles à l’homme.

On le pressent, ces questions retirent à l’intelligence humaine sa place spécifique, une idée qui pourtant faisait l’unanimité dans la philosophie occidentale depuis Aristote. En ce sens, l’on peut bien écrire, comme le fait le philosophe Éric Sadin, que l’intelligence artificielle est un antihumanisme, car elle détrône l’intelligence humaine de sa place particulière.

En effet, l’un des arguments contraires est qu’il restera « toujours quelque chose de plus » à l’intelligence humaine : au choix, la curiosité, les émotions, la créativité. En réalité, si l’on déroule les conséquences du test de Turing, l’on ne voit pas ce qu’il lui resterait dans le cas d’une simulation parfaite.

Se posera la question de la comparaison – inévitable – entre une intelligence humaine et une forme d’intelligence non anthropomorphique, car qui prétend égaler conduit nécessairement à la comparaison. La troisième sera la confusion possible, confusion qui émerge dès le test de Turing et qui se repose sur les deux sens du terme « simulation ». Simuler c’est imiter, c’est aussi tromper. D’où des confusions entre homme vivant, et machines qui brouilleront les pistes, entre le modèle fabriqué et ce qui sert de référence, du moment que la simulation arrive à un niveau suffisant de vraisemblance. Par ailleurs, que restera-t-il à l’homme si une rationalité artificielle lui retire l’exercice de sa suprématie ? Nous sommes soulagés de ne plus calculer des algorithmes à la main, le sommes-nous réellement de voir un algorithme prendre des décisions qui affectent nos semblables ?

1. Nils Nilsson, The Quest for Artificial Intelligence, Cambridge University Press, 2010.

2. Ibid., p. 13.

3. Cf. Semantic Information processing, MIT University Press, 1969.

4. Mathématiquement, elle se représente sous la forme d’une droite.

5. Le deep learning est une technique d’apprentissage statistique capable d’apprendre sur des données passées, via la simulation d’un réseau de neurones. Le réseau va se reconfigurer de façon dynamique au fur et à mesure qu’il ingère de nouvelles données, et va permettre de faire des prédictions de plus en plus précises. Aujourd’hui le deep learning donne de très bons résultats dans la reconnaissance d’images par exemple, ou la transcription de langage parlé en texte.

6. Technique d’apprentissage où un algorithme possède un objectif, et progresse selon un système de récompense en testant des stratégies. Cette technique a été utilisée dans le programme AlphaGo, qui a battu le joueur Lee Sedol au go.

7. http://www-formal.stanford.edu/jmc/history/dartmouth/dartmouth.html

8. Au chant XVIII, vers 418-420.

9. Dans L’Homme machine, La Mettrie prône un matérialisme intégral d’après lequel l’esprit ne résulte que d’une organisation particulière de la matière.

10. Cf. http://www.depauw.edu/sfs/documents/capek68.htm

11. La vie artificielle est un courant de recherche mêlant informatique et biologie qui vise à produire des systèmes artificiels imitant les êtres vivants, voire à tenter de modéliser les mécanismes d’apparition de la vie.

12. Jean-Pierre Dupuy, Aux origines des sciences cognitives, La Découverte, 1999.

13. Friedrich Nietzsche, La Volonté de puissance, Gallimard, coll. « Tel », 1995.

14. Thomas Hobbes, Leviathan, Cambridge University Press, chapitre v, § 32 : « For REASON, in this sense, is nothing but Reckoning (that is, Adding and Subtracting) of the Consequences of general names agreed upon, for the marking and signifying of our thoughts. »

15. Pour être plus précis, Gödel démontre que, pour tout système formel contenant de l’arithmétique, soit ce système n’est pas consistant, c’est-à-dire qu’il contient des propositions contradictoires, soit il existe au moins une proposition vraie qui ne soit pas démontrable.

16. En fait, il n’existe pas de machine de Turing (puisqu’une machine de Turing est équivalente à une procédure calculatoire) capable de décider que la première machine va s’arrêter en un temps fini, ou au contraire continuer indéfiniment.

17. Paradigme de la psychologie, très en vogue au début du xxe siècle, comme quoi le comportement résulte de réflexes à des stimuli, et peut donc être modifié par apprentissage.

18. La première cybernétique se structure autour des conférences Macy’s et s’intéresse surtout à la notion de boucle de feedback appliquée à diverses disciplines. Les conférences Macy’s visent également à étudier de façon scientifique le comportement de l’esprit. La seconde cybernétique s’intéressera, dans les années 1950, aux systèmes complexes.

19. Nietzsche, La Volonté de puissance, Gallimard, coll. « Tel », 1995, § 353, p. 348.

20. Cité par Jean-Pierre Dupuy, dans Aux origines des sciences cognitives, op. cit., p. 42.

21. Ibid.

22. Avant qu’il soit l’un des livres les plus empruntés de l’IAS où enseigne Neumann qui tout de suite en comprend la portée.