L’édition originale de cet ouvrage a été publiée en 2014 en Grande-Bretagne par Oxford University Press sous le titre Superintelligence, Paths, Dangers, Strategies
© Nick Bostrom, 2014

Superintelligence was originally published in English in 2014. This translation is published by arrangement with Oxford University Press. Dunod Éditeur is solely responsible for this translation from the original work and Oxford University Press shall have no liability for any errors, omissions or inaccuracies or ambiguities in such translation or for any losses caused by reliance thereon.

Traduction : Françoise Parot

Conception de la couverture et de la maquette intérieure : Grégory Bricout

Illustration de couverture : Claire Scully

Ouvrage publié avec le concours du

© Dunod, 2017, pour la traduction française
11 rue Paul Bert, 92240 Malakoff
www.dunod.com

ISBN : 978-2-10-077252-0

Ce document numérique a été réalisé par PCA

La fable inachevée des moineaux…

Il était une fois, à la saison où les oiseaux font leur nid, des moineaux qui se reposaient tranquillement, en gazouillant au crépuscule, après de longs, très longs jours de travail.

– Nous sommes si petits et si faibles, comme la vie nous serait facile si nous avions une chouette pour nous aider à construire tous ces nids.

– C’est sûr, lui répondit son voisin, elle nous aiderait aussi à prendre soin de nos parents et de nos enfants,

– Elle nous donnerait des conseils, et elle surveillerait le chat du coin ajouta le suivant.

Alors Pastus, le doyen de la troupe, dit ceci : « Envoyons des éclaireurs dans toutes les directions pour tenter de trouver une jeune chouette ou même un œuf. Un petit corbeau ferait aussi l’affaire, ou même une petite belette. Ce serait sans doute la meilleure chose qui nous soit jamais arrivée, au moins depuis l’ouverture de la Boutique des Graines à Volonté là-bas derrière ».

Ils se mirent tous à rire et, partout, des moineaux commencèrent à gazouiller à plein poumons.

Seul Scronkfinkle, un moineau borgne et râleur, n’était pas du tout convaincu par ce projet. « Ce sera sûrement notre perte, dit-il… nous devrons réfléchir à la manière de domestiquer les chouettes et de les dresser, avant d’introduire chez nous une telle créature… »

Pastus répliqua alors : « Dresser une chouette… voilà qui semble bien délicat. Ce sera déjà assez difficile de trouver un œuf. Commençons par là et quand nous serons parvenus à avoir un bébé chouette, nous pourrons réfléchir à la manière de le dresser.

« Il y a quelque chose qui ne va pas dans ce projet », s’exclama Scronkfinkle ; mais ses protestations restèrent sans écho, la troupe s’était déjà mise à l’œuvre pour faire ce qu’avait proposé Pastus.

Seuls deux ou trois moineaux restèrent là. Ils commencèrent à réfléchir à ce qu’il faudrait faire pour dresser et domestiquer une chouette. Ils se rendirent vite compte que Pastus avait raison : c’était un défi trop grand, surtout qu’aucune chouette n’était là pour leur dire comment faire. Pourtant, ils y réfléchir comme ils purent, craignant à tout moment que la troupe revienne avec un œuf de chouette avant qu’ils aient trouvé une solution à leur problème.

On ne sait pas comment ça a fini. Mais l’auteur dédie ce livre à Scronkfinkle et à ceux qui l’ont écouté.

Avant-propos

Dans votre crâne, la chose avec laquelle vous êtes en train de lire. Cette chose, le cerveau humain, a des capacités que les autres espèces n’ont pas. Et ce sont ces capacités-là qui nous permettent d’asseoir notre domination sur la planète. Les autres animaux ont une musculature plus puissante, des griffes plus acérées, mais nos cerveaux sont plus intelligents. Ce petit avantage en intelligence générale nous a permis de développer le langage, la technologie ainsi qu’une organisation sociale complexe. Il s’est accru avec le temps car chaque génération s’est appuyée sur les réussites de celles qui l’ont précédée.

S’il nous arrive un jour de construire une machine dotée d’une intelligence générale qui surpassera celle de l’être humain, cette superintelligence pourrait bien alors devenir très puissante. Et, de la même manière que le sort des gorilles dépend aujourd’hui plus des êtres humains que d’eux-mêmes, le sort réservé à notre espèce dépendra des activités-mêmes de cette machine.

Nous avons, c’est vrai, un avantage : c’est nous qui construisons le truc. En principe, on devrait pouvoir mettre au point une superintelligence qui protègerait les valeurs humaines. Et nous aurions bien entendu de très bonnes raisons de le faire. Mais en pratique, ce « problème du contrôle » (contrôle de ce que cette superintelligence ferait) se révèle bien délicat. Tout se passe comme si nous n’avions qu’une seule chance : une fois construite une machine hostile, elle nous empêcherait de la remplacer ou de modifier ses préférences. Notre destin serait scellé.

Dans ce livre, j’essaie de comprendre les menaces éventuelles que représente une telle machine superintelligente et de voir comment on pourrait y répondre. Il se peut qu’il s’agisse là du défi le plus important et le plus redoutable auquel l’humanité se soit jamais trouvée confrontée. Et, que l’on parvienne ou non à résoudre cette question du contrôle, c’est probablement le dernier défi que nous devrons relever.

Dans ce livre, je ne me centre pas sur l’idée que nous sommes à la veille d’une rupture capitale dans le domaine de l’intelligence artificielle (IA) ou qu’on peut dire avec précision quand elle se produira. Il est assez probable qu’elle surviendra avant la fin du siècle, mais nous ne le savons pas avec certitude. Les deux premiers chapitres discutent des scénarios possibles et avancent quelques idées sur le déroulement du processus. En fait, ce livre concerne d’abord ce qui se produira après cette rupture. Nous verrons la dynamique d’une explosion de l’intelligence, ses formes et ses pouvoirs ; les choix stratégiques qu’elle pourra faire pour obtenir un avantage décisif. Nous en viendrons ensuite à la question du contrôle et nous nous demanderons comment nous pouvons concevoir les conditions initiales du processus de manière à parvenir à une situation vivable et bénéfique. Vers la fin du livre, nous prendrons de la distance et observerons le tableau général qui aura émergé de notre enquête. Certaines propositions seront avancées sur ce qu’il faudrait faire maintenant pour augmenter nos chances d’éviter plus tard une catastrophe généralisée.

Ce livre n’a pas été facile à écrire. J’espère que la voie que j’ai défrichée permettra à d’autres d’atteindre cette nouvelle ligne de front plus rapidement et plus facilement, qu’ils arriveront alors frais et dispos pour parvenir à étendre encore notre compréhension (et si le chemin que j’ai tracé est quelque peu chaotique et sinueux, j’espère que mes critiques, en jugeant le résultat, ne sous-estimeront pas les dangers que présentait ce terrain avant que je le parcours !).

Ce livre n’a pas été facile à écrire. J’ai essayé d’en faire un livre facile à lire, mais je ne pense pas y être vraiment parvenu. En l’écrivant, je visais des lecteurs un peu moins avancés que moi, et j’ai essayé de réaliser un livre que j’aurais bien aimé lire à leur place. Il se peut qu’il s’adresse en fait à un segment étroit de la population… Pourtant, je pense que le contenu du livre devrait être accessible à beaucoup de lecteurs s’ils acceptent de réfléchir en le lisant et s’ils résistent à la tentation de mal comprendre spontanément chacune des idées nouvelles à cause des clichés dont ils sont nourris. Les non-spécialistes ne doivent pas se décourager devant des précisions mathématiques ou devant le vocabulaire spécialisé : on peut toujours trier pour retenir le point principal et négliger les explications qui l’entourent (inversement, pour les lecteurs qui veulent plus de détails, on peut en trouver beaucoup dans les notes de fin).

Bien des choses que j’ai écrites là sont probablement fausses. Il se peut aussi que je n’ai pas pris en compte certains points, d’une importance capitale, et que cela invalide plus ou moins mes conclusions. J’ai tenu à bien signaler les nuances et les degrés d’incertitude tout au long du texte en répétant à l’envi « éventuellement », « pourrait », « peut-être », « serait capable », « il semble », « très probablement », « presque certain ». Ces termes doivent être pris au sérieux, ils ont été choisis sciemment. Pourtant, ces expressions d’une modestie épistémique ne suffisent pas : il faut leur ajouter la reconnaissance systématique de mon incertitude et de mes défaillances. Il ne s’agit pas de fausse modestie : tout en pensant que mon livre est susceptible d’être réellement faux et inutile, je pense qu’un autre point de vue, qui a été énoncé ici ou là, est totalement ou presque erroné : celui d’une opinion par défaut, ou de « l’hypothèse nulle » selon laquelle on peut pour l’instant ignorer tranquillement et raisonnablement la perspective d’une superintelligence.

Remerciements

La fine pellicule qui entoure l’écriture d’un livre a été relativement perméable. Bien des concepts et des idées qui ont généré cet ouvrage ont émané des conversations qui les ont évoquées ; bien sûr, beaucoup de conceptions venues de l’extérieur pendant que j’écrivais ont été intégrées au texte. J’ai tenté d’être vigilant quant à mes citations, mais tous les travaux qui m’ont influencé étaient trop nombreux pour être documentés.

Pour les conversations à perte de vue qui ont clarifié ma pensée, ma reconnaissance va à beaucoup de monde, parmi lesquels Sam Altman, Dario Amodei, Ross Andersen, Stuart Armstrong, Owen Cotton-Barratt, Nick Beckstead, Yoshua Bengio, David Chalmers, Paul Christiano, Milan Ćirković, Andrew Critch, Daniel Dennett, David Deutsch, Daniel Dewey, Thomas Dietterich, Eric Drexler, David Duvenaud, Peter Eckersley, Amnon Eden, Oren Etzioni, Owain Evans, Benja Fallenstein, Alex Flint, Carl Frey, Zoubin Ghahramani, Ian Goldin, Katja Grace, Roger Grosse, Tom Gunter, J. Storrs Hall, Robin Hanson, Demis Hassabis, Geoffrey Hinton, James Hughes, Marcus Hutter, Garry Kasparov, Marcin Kulczycki, Patrick La Victoire, Shane Legg, Moshe Looks, Willam MacAskill, Eric Mandelbaum, Gary Marcus, James Martin, Lillian Martin, Roko Mijic, Vincent Mueller, Elon Musk, Seán Ó Héigeartaigh, Christopher Olah, Toby Ord, Laurent Orseau, Michael Osborne, Larry Page, Dennis Pamlin, Derek Parfit, David Pearce, Huw Price, Guy Ravine, Martin Rees, Bill Roscoe, Francesca Rossi, Stuart Russell, Anna Salamon, Lou Salkind, Anders Sandberg, Julian Savulescu, Jürgen Schmidhuber, Bart Selman, Nicholas Shackel, Murray Shanahan, Noel Sharkey, Carl Shulman, Peter Singer, Nate Soares, Dan Stoiescu, Mustafa Suleyman, Jaan Tallinn, Alexander Tamas, Jessica Taylor, Max Tegmark, Roman Yampolskiy et Eliezer Yudkowsky.

Pour les commentaires plus précis, j’ai une dette envers Milan Ćirković, Daniel Dewey, Owains Evans, Nick Hay, Keith Mansfield, Luke Muehlhauser, Toby Ord, Jess Riedel, Anders Sandberg, Murray Shanahan et Carl Shulman.

Pour la préparation du manuscrit, je remercie Caleb Bell, Malo Bourgon, Robin Brandt, Lance Bush, Cathy Douglass, Alexandre Erler, John King, Kristian Rönn, Susan Rogers, Kyle Scott, Andrew Snyder-Beattie, Cecilia Tilli et Alex Vermeer. Je suis reconnaissant envers mon éditrice Keite Mansfield pour ses encouragements permanents tout au long du projet. Je prie tous ceux dont je ne me suis pas souvenu ici de m’excuser.

Enfin, je remercie affectueusement ceux qui ont financé ce travail, ainsi que mes amis et ma famille : sans votre soutien, ce livre n’aurait pas existé.

1

Ce qui est déjà acquis et ce que nous saurons faire

Commençons par le passé : l’Histoire générale révèle une succession de modes de croissance différents, chacun plus rapide que ceux qui l’ont précédé. Sur la base de ce constat, on peut prévoir un nouveau mode de croissance, donc encore plus rapide. Pourtant, nous n’accorderons pas une grande place à cette conjecture : ce livre ne porte pas sur « l’accélération technologique » ni sur « la croissance exponentielle » ni même sur les diverses conceptions de ce qu’on résume ici ou là par « singularité ». Nous allons donc revenir sur l’histoire de l’intelligence artificielle (IA) puis nous nous interrogerons sur nos capacités actuelles en la matière. Pour finir, nous nous attarderons sur de récentes enquêtes menées auprès d’experts et ferons face à notre ignorance sur le déroulement temporel des progrès à venir.

La croissance dans l’Histoire

Il y a quelques millions d’années seulement, nos ancêtres se balançaient encore dans les branches de la canopée africaine. À l’échelle géologique, ou même évolutive, l’apparition d’Homo sapiens à partir de l’ancêtre que nous avons en commun avec les grands singes a été très rapide. On a développé la station debout, le pouce opposable et, de manière décisive, des changements mineurs dans la taille de notre cerveau et de son organisation ont déclenché un bond capital de nos capacités cognitives : les humains peuvent penser de manière abstraite, communiquer des idées complexes et, bien plus que tout autre espèce de la planète, transmettre des connaissances de génération en génération grâce à la culture.

Ces capacités ont permis aux êtres humains de développer des techniques efficaces de plus en plus nombreuses, et nos ancêtres purent par exemple se déplacer loin de la forêt équatoriale ou de la savane. Après l’invention de l’agriculture en particulier, la densité de population a augmenté en même temps que le nombre total d’humains sur Terre. Plus d’êtres humains, c’est plus d’idées ; une forte densité démographique, c’est une diffusion plus rapide de ces idées et la possibilité, pour certains individus, de se consacrer au développement d’aptitudes spécialisées. L’ensemble de ces facteurs a augmenté le taux de croissance de la productivité économique et de la capacité technique. Ce qui s’est passé plus tard, au moment de la Révolution industrielle, a constitué une deuxième étape dans l’évolution de ce taux de croissance.

Ces modifications du taux de croissance ont eu des conséquences très importantes : il y a quelques centaines de milliers d’années, au début de la préhistoire des hominidés, la croissance (technique) était si lente qu’il a fallu près d’un million d’années pour que la productivité économique croisse suffisamment pour nourrir un million d’individus. Environ 5 000 ans av. J.-C., à la suite de la Révolution agraire, ce taux a augmenté au point que le doublement de la population n’a pris que deux siècles. Et aujourd’hui, à la suite de la Révolution industrielle, la croissance économique mondiale est multipliée par deux toutes les 90 minutes1.

Même si le taux de croissance actuel se maintenait sur la durée, il produirait des résultats impressionnants. Mais si l’économie mondiale continuait de croître au même rythme que durant le dernier demi-siècle, le monde serait 4,8 fois plus riche en 2050 et 34 fois plus riche en 2100 qu’aujourd’hui2.

Mais la perspective d’une croissance exponentielle continue n’est rien à côté de ce qui se produira si le monde connaît encore un autre changement radical du taux de croissance, comparable à ceux qu’ont déclenché la Révolution agraire et la Révolution industrielle. L’économiste Robin Hanson estime, sur la base de l’histoire de l’économie et de données démographiques, que l’économie mondiale a doublé en 224 000 ans lors du Pléistocène, quand nous étions chasseurs-cueilleurs, en 909 ans après l’apparition de l’agriculture, et en 6,3 ans dans la société industrielle (dans le modèle de Hanson, notre époque est un mélange de modes de croissance agricole et industriel et l’économie globale ne double pas encore en 6,3 ans)3. Si nous passons à un autre mode de croissance, et s’il est en puissance comparable aux deux précédents, notre nouveau régime de croissance verra l’économie mondiale doubler en taille toutes les deux semaines environ.

Aujourd’hui, un tel taux de croissance nous semble fantastique. Dans le passé, il est probable que des observateurs auraient jugé très farfelu de prévoir que l’économie mondiale doublerait un jour plusieurs fois au cours d’une vie. Et pourtant c’est bien dans cette situation extraordinaire que nous nous trouvons aujourd’hui.

La conviction que va se produire une singularité technologique est aujourd’hui largement répandue, depuis l’essai fondateur de Vernor Vinge et les travaux qui suivirent, comme ceux de Ray Kurzweil et de quelques autres4. Ce terme, « singularité », a néanmoins été utilisé de manière confuse dans bien des usages et a apporté une contribution regrettable à tout un ensemble d’idées techno-utopistes5. La plupart de ces sens et de ces idées n’ont aucune importance pour notre propos, aussi gagnerons-nous en clarté en nous dispensant du terme de « singularité » et en lui préférant une terminologie plus précise.

La seule chose qui soit liée dans ce livre à cette idée d’une singularité technologique est la possibilité d’une explosion de l’intelligence, et précisément la perspective de l’invention d’une machine superintelligente. Il y en a sûrement qui sont convaincus par la courbe de croissance représentée sur la figure 1 et qui pensent qu’un autre changement drastique du mode de croissance est dans les tuyaux, comparable à ceux de la Révolution agraire et de la Révolution industrielle. Ceux-là doivent donc penser qu’il est difficile de concevoir un scénario dans lequel l’économie mondiale pourrait en venir à doubler en quelques semaines sans qu’aient été créés des esprits plus rapides et plus efficaces que ceux de notre espèce biologique. Cependant, pour prendre au sérieux la perspective d’une révolution de l’intelligence des machines, il n’est pas nécessaire de tenir compte des exercices de projection des courbes ou d’extrapolations à partir des croissances économiques antérieures. Comme nous allons le voir, il y a des raisons bien plus fortes.

Figure 1 Histoire du produit brut mondial (exprimé en milliards de dollars 2012) sur le long terme. Sur la courbe linéaire, l’histoire de l’économie mondiale ressemble à une courbe plate longeant l’axe des abscisses, jusqu’à un pic vertical. Sur la courbe a, même lorsqu’on se concentre sur les dernières 10 000 années, le graphique montre un angle droit de 90°. Sur la courbe b, ce n’est que dans les 100 dernières années environ que la courbe s’élève de manière nette au-dessus du niveau 0. (Les différences entre les lignes correspondent aux sources de données qui diffèrent légèrement6.)

Les grandes espérances

Depuis qu’ont été inventés les ordinateurs dans les années 1940, on a attendu des machines qu’elles égalent les humains en intelligence générale, c’est-à-dire en capacité d’apprendre, de raisonner, de se confronter à tout un ensemble de défis, de traiter des informations complexes dans des domaines matériels comme abstraits. À l’époque, on prévoyait souvent que de telles machines seraient réalisées d’ici une vingtaine d’années7. Depuis, la date de cette réalisation a reculé au rythme d’une année tous les ans : et aujourd’hui, les futuristes qui s’intéressent à la possibilité d’une intelligence artificielle générale croient encore souvent que la machine qui en sera capable sera produite d’ici deux ou trois décennies8.

Deux ou trois décennies, c’est un délai qui convient bien pour ceux qui font le pronostic d’un changement radical : il est suffisamment proche de nous pour attirer notre attention et notre intérêt, mais suffisamment lointain pour que nous fassions l’hypothèse d’une série de percées que nous ne parvenons que vaguement à imaginer et qui pourraient se produire d’ici là. On peut comparer ce délai à d’autres, plus courts : la plupart des technologies qui pourraient avoir un impact important sur le monde d’ici cinq ou dix ans sont aujourd’hui disponibles pour un usage limité, et des technologies qui reformateraient le monde d’ici quinze ans maximum existent déjà comme prototypes dans des laboratoires. Et puis vingt ans, c’est une durée qui se rapproche du temps qui reste le plus souvent aux prévisionnistes pour leur carrière, ce qui protège leur réputation d’une prédiction trop risquée.

Mais si certains ont surestimé dans le passé l’apparition d’une telle intelligence artificielle, il ne faut pas en conclure qu’elle est impossible ou qu’elle ne sera jamais mise au point9. La principale raison de la lenteur des progrès, c’est que les pionniers en la matière avaient sous-estimé les difficultés techniques de la construction de ce genre de machine. Et cela laisse ouverte la question de l’ampleur de ces difficultés et du temps qu’il faudra pour en venir à bout. Il arrive qu’un problème qui paraissait insurmontable trouve une solution d’une simplicité imprévue (même si l’inverse est sans doute plus fréquent).

Dans le chapitre suivant, nous nous intéresserons aux divers scénarios qui pourraient mener à une machine dont l’intelligence serait égale à celle de l’homme. Mais commençons par remarquer que, malgré les nombreuses étapes qui nous séparent encore de ce genre de machine, elle n’est pas le but final : la station suivante sur la ligne, à courte distance, est une machine bien plus intelligente que l’homme. Le train ne marquera pas d’arrêt ou ne ralentira pas à la gare d’Humanville. Il sifflera juste en passant.

Le mathématicien I. J. Good, qui était le statisticien en chef dans l’équipe d’Alan Turing au moment du décryptage pendant la Seconde Guerre mondiale, a peut-être été le premier à énoncer les aspects essentiels de ce scénario :

« Supposons qu’existe une machine surpassant en intelligence tout ce dont est capable un homme, aussi brillant soit-il. La conception de ce genre de machine faisant partie des activités intellectuelles, cette machine pourrait à son tour créer des machines plus puissantes qu’elle-même ; cela aurait sans nul doute pour effet une “explosion d’intelligence”, et l’intelligence humaine resterait loin derrière. La première machine superintelligente sera donc la dernière invention que l’homme aura besoin de faire lui-même, à condition que ladite machine soit assez docile pour nous dire comment la garder sous notre contrôle »10.

Il devrait être évident aujourd’hui qu’une telle explosion d’intelligence ferait courir des risques majeurs à la vie humaine, et cette perspective devrait être étudiée avec le plus grand sérieux même si l’on pouvait penser (ce qui n’est pas le cas) qu’il n’y a qu’une faible probabilité pour que cela se produise. La plupart des pionniers de l’intelligence artificielle, en dépit de leur conviction selon laquelle nous parviendrons à concevoir une machine de niveau humain très rapidement, n’envisagent pas la possibilité d’une machine très supérieure à l’homme. C’est comme si leur muscle de l’imagination s’était épuisé à concevoir la possibilité radicale de machines atteignant le niveau humain ; ils ne parviennent pas à faire le pas suivant, à savoir que les machines deviendront ensuite superintelligentes.

La plupart d’entre eux ne veulent pas admettre la possibilité que leur travail puisse nous faire courir des risques11. Ils ne témoignent d’aucun intérêt (et encore moins d’une réflexion sérieuse) pour tout souci de sécurité et n’éprouvent aucun scrupule éthique quant à la création d’esprits artificiels et à l’éventuelle suprématie d’un ordinateur ; et c’est une lacune qui ne cesse pas d’étonner, même quand on connaît les critères peu exigeants de l’évaluation des technologies12. Il faut espérer qu’au moment où la conception d’une telle machine sera à portée de main, nous aurons acquis les compétences nécessaires pour déclencher une explosion d’intelligence, mais aussi et surtout que nous en aurons la maîtrise suffisante pour survivre à la détonation.

Mais avant de nous tourner vers ce qui nous attend, voyons ce qu’il en a été de l’histoire des artefacts intelligents jusqu’à maintenant.

Un temps pour espérer, un temps pour se décourager

Durant l’été 1956 au Dartmouth College, dix savants qui partageaient leurs intérêts pour les réseaux neuronaux, la théorie des automates et l’étude de l’intelligence se retrouvèrent pour un séminaire de six semaines. On considère souvent que le Dartmouth Summer Project est la naissance même de l’intelligence artificielle comme domaine de recherche. Nombre de ceux qui y participèrent furent plus tard reconnus comme ses pères fondateurs. L’optimisme fondamental des délégués se reflète dans la proposition qui fut soumise à la Fondation Rockefeller, qui finança l’événement :

« Nous nous proposons de soutenir un travail mené par dix hommes pendant deux mois sur l’intelligence artificielle… Il a pour base l’hypothèse que chaque aspect de l’apprentissage ou de quelque autre caractéristique de l’intelligence peut en principe être décrit avec tant de détails qu’une machine pourra être construite pour la simuler. On tentera de découvrir comment fabriquer des machines qui utiliseront le langage, formeront des abstractions et des concepts, résoudront les problèmes aujourd’hui réservés aux êtres humains et sauront s’améliorer elles-mêmes. Nous considérons que des progrès significatifs peuvent être réalisés dans l’un ou l’autre de ces domaines si un groupe de savants soigneusement sélectionnés travaillent ensemble pendant un été. »

Durant les six décennies qui suivirent ces débuts mouvementés, le domaine de l’intelligence artificielle a traversé des périodes de grandes espérances et d’autres, d’échecs et de découragements.

La première des périodes très excitantes, qui avait commencé avec la rencontre de Dartmouth, fut décrite plus tard par John McCarthy (le principal organisateur de cet événement) comme la période du « Regarde, maman, sans les mains ! ». Pendant ces jours-là, les chercheurs construisirent des systèmes pour réfuter les déclarations du type « Aucune machine ne parviendra jamais à faire ça ! », déclarations sceptiques très fréquentes à l’époque. Pour les contrer, les chercheurs en intelligence artificielle créèrent des petits systèmes qui faisaient ça dans un « micromonde » (un domaine bien précis, limité, qui permet une version minimale de la performance à réaliser), apportant donc une réponse convaincante et montrant que ça peut être réalisé en principe par une machine. Un système de cet ordre, le « Logic Theorist », permettait de démontrer la plupart des théorèmes du deuxième chapitre du livre Principia Mathematica de Whitehead et Russell et parvenait même à une démonstration beaucoup plus élégante que l’originale, réfutant par-là que les machines ne pouvaient « penser que numériquement » et apportant la preuve qu’elles étaient aussi capables de déductions et de démonstrations logiques13. Un programme ultérieur, le General Problem Solver, était en principe capable de résoudre un grand nombre de problèmes considérés comme formels14. On mit au point aussi des programmes qui pouvaient résoudre les problèmes de calcul comme ceux qu’on étudie dans les premières années d’université, les problèmes d’analogie visuelle comme ceux qui figurent dans les tests d’intelligence comme le QI et les problèmes d’algèbre simples15. Le robot Shakey (baptisé ainsi à cause de sa tendance à trembloter) montra comment le raisonnement logique pouvait être intégré à la perception et utilisé pour planifier et contrôler l’activité physique16. Le Programme ELIZA montrait comment un ordinateur pouvait simuler un thérapeute rogérien17. Au milieu des années 1970, le programme SHRDLU commandait un bras virtuel dans un monde de blocs géométriques en suivant les instructions d’un opérateur et en répondant à ses questions18. Au cours des décennies suivantes, on créa des systèmes grâce auxquels des machines pouvaient composer de la musique dans le style de divers compositeurs classiques, faire mieux que de jeunes médecins dans certaines tâches de diagnostic clinique, conduire des voitures de manière autonome et faire des inventions méritant un brevet19. Il y eut même un artefact intelligent qui pouvait faire de bonnes blagues20 (son humour était… moyen : « qu’est-ce que tu obtiens quand tu croises un œil avec un objet mental ? Une eye-dea » ; mais les enfants trouvaient ses jeux de mots rigolos).

Les méthodes qui se sont révélées efficaces dans les premières démonstrations ont souvent été difficiles à généraliser à une large variété de problèmes ou à des problèmes plus difficiles. L’une des raisons est due à « l’explosion combinatoire » des possibilités qui doivent être explorées par des méthodes qui reposent sur une sorte de recherche exhaustive. De telles méthodes fonctionnent pour les exemples simples d’un problème, mais échouent quand les choses se compliquent. Par exemple, pour démontrer un théorème en 5 lignes au sein d’un système de déduction qui comprend 1 règle d’inférence et 5 axiomes, on peut se contenter d’énumérer les 3 125 combinaisons possibles et voir si chacune d’elles parvient à la conclusion attendue. Et ça marche aussi avec une démonstration en 6 ou en 7 lignes. Mais au fur et à mesure que la tâche devient plus compliquée, la méthode de la recherche exhaustive rencontre des problèmes. Démontrer un théorème en 50 lignes ne prend pas 10 fois plus longtemps que quand la démonstration en nécessite 5 : en fait, si l’on utilise la recherche exhaustive, cela suppose de combiner 5⁵⁰ ≈ 8,9 × 10³⁴ séquences possibles ; ce qui est computationnellement impossible même avec les plus rapides des super-computers.

Pour éviter cette explosion combinatoire, on a besoin d’algorithmes qui exploitent la structure du domaine cible, qui surpassent la connaissance initiale et recourent à une recherche heuristique, à une planification et à des représentations abstraites, toutes capacités qui n’étaient pas beaucoup développées dans les premiers systèmes d’intelligence artificielle. La performance de ces derniers pâtissait aussi beaucoup des méthodes pauvres de prise en compte de l’incertitude, de la faible fiabilité des représentations symboliques sur lesquelles ils s’appuyaient, de l’insuffisance des données et d’importantes limites de capacité de mémoire et de vitesse de travail des processeurs. Au milieu des années 1970, on commença à faire plus attention à ces problèmes : on réalisa que nombre des projets de l’intelligence artificielle ne pourraient pas tenir leurs promesses initiales et cela a mené au premier hiver de l’intelligence artificielle, c’est-à-dire à une période de recul au cours de laquelle les financements s’amenuisèrent alors que le scepticisme montait ; l’intelligence artificielle cessa d’être à la mode.

Un nouveau printemps survint au début des années 1980, lorsque le Japon lança le projet « Ordinateurs de la 5e génération », une coopération grassement financée par le secteur public et le secteur privé pour dépasser la situation en développant massivement une architecture informatique de travail en parallèle qui pourrait servir de base à l’intelligence artificielle. Ce programme arrivait au moment où l’on parlait du « miracle économique japonais », et les gouvernements occidentaux comme les leaders économiques tentaient de deviner par quelle formule magique ce succès économique avait été déclenché dans l’espoir de répéter cette formule chez eux. Et quand le Japon décida d’investir dans l’intelligence artificielle, les autres pays en firent autant.

Dans les années qui suivirent, on assista donc à une prolifération considérable de systèmes experts. Mis au point pour aider à la prise de décision, ces systèmes étaient à base de règles qui permettaient des inférences simples à partir d’une base de connaissances de faits, déterminée d’après des experts humains d’un domaine et minutieusement encodée à la main dans un langage formel. Des centaines de systèmes experts furent élaborés. Mais les petits systèmes apportaient peu de progrès, et les plus grands nécessitaient beaucoup d’argent pour les développer, les valider, les mettre constamment à jour et leur utilisation était en général pénible. Ce n’était pas pratique d’acquérir un ordinateur autonome juste pour faire tourner un seul programme. À la fin des années 1980, le temps de la croissance prit fin.

Ce projet de la 5e génération ne parvint pas à réaliser ses objectifs, et les États-Unis et l’Europe non plus. Survint alors un second hiver. Un critique aurait eu toutes les raisons de se lamenter : « Jusqu’à maintenant, la recherche en intelligence artificielle n’a jamais récolté que des succès limités dans des domaines particuliers suivis immédiatement d’échecs devant des domaines plus étendus auxquels les succès du début laissaient penser qu’on parviendrait. Les investisseurs privés commencèrent à éviter de prendre des risques dans les entreprises impliquées dans l’intelligence artificielle »21. Et même les chercheurs académiques et les financements des recherches cessèrent d’employer cette expression22.

Le travail technique a continué pourtant sans relâche et, dans les années 1990, le dégel mit fin au second hiver de l’intelligence artificielle. L’optimisme reprit des couleurs grâce à l’introduction de nouvelles techniques qui semblaient offrir d’autres possibilités que le paradigme logiciste traditionnel (qu’on appelle souvent la Bonne Vieille Intelligence Artificielle – en anglais « GOFAI ») qui s’était concentré sur la manipulation de symboles de haut-niveau et avait atteint son apogée dans les systèmes experts des années 1980. Les nouvelles techniques, qui comprenaient les algorithmes génétiques et les réseaux neuronaux, promettaient de surmonter certains des défauts de cette approche GOFAI, en particulier la « fragilité » caractéristique des programmes classiques (qui produisaient des non-sens complets si les programmeurs faisaient ne serait-ce qu’une seule supposition erronée). Les nouvelles techniques se vantaient d’une performance de type plus organique : par exemple, les réseaux neuronaux avaient aussi la propriété de « dégradation contrôlée » en vertu de laquelle une légère atteinte à un réseau neuronal donnait lieu à une dégradation proportionnée de ses performances et non à un crash généralisé. Plus important encore, ces réseaux neuronaux pouvaient apprendre à partir de leur expérience, en trouvant des manières naturelles de faire des généralisations à partir d’exemples et de découvrir les patterns statistiques cachés dans les données23. C’est ce qui rendait ces réseaux efficaces dans la reconnaissance de patterns et dans la classification des problèmes : ainsi, en apprenant à un réseau neuronal un ensemble de signaux sonar, il devenait capable de distinguer mieux que des experts humains les profils acoustiques des sous-marins, des mines et d’organismes marins, et cela sans qu’il ait été auparavant nécessaire d’anticiper exactement comment ces profils allaient être élaborés ni comment des traits différents devaient être pondérés.

Certes les réseaux neuronaux simples étaient connus depuis la fin des années 1950, mais ce domaine connut une renaissance après l’introduction des algorithmes de rétropropagation du gradient, qui permettent un apprentissage dans un réseau neuronal multicouches24. Ce type de réseau, qui peut comporter une ou plusieurs couches intermédiaires (cachées) entre les couches d’input et d’output, peut apprendre un ensemble beaucoup plus grand de fonctions que leurs prédécesseurs25. Associée à des ordinateurs de plus en plus puissants, cette amélioration des algorithmes permit aux ingénieurs de construire des réseaux neuronaux suffisant pour être utilisés dans beaucoup d’applications.

Les ressemblances entre ces réseaux neuronaux et le cerveau dépassèrent tellement la rigidité tatillonne mais très fragile des systèmes GOFAI traditionnels qu’on forma un nouveau mot en « isme », connexionnisme, qui mettait l’accent sur une architecture sub-symbolique massivement parallèle. Plus de 150 000 articles scientifiques ont depuis été publiés sur les réseaux de neurones artificiels et cette approche reste importante dans l’apprentissage automatique.

L’émergence de méthodes évolutives, comme les algorithmes et les programmes génétiques, a également contribué à mettre un terme au second hiver de l’intelligence artificielle. Peut-être cette approche a-t-elle eu un moindre impact dans le milieu académique que les réseaux neuronaux mais elle a été largement médiatisée. Dans les modèles évolutifs, une population de solutions (ce peut être des structures de données ou des programmes) est maintenue, et de nouvelles solutions sont générées aléatoirement en mutant ou recombinant des variantes de cette population initiale. Périodiquement, la population est soumise à un tri sélectif (sur la base de la « fonction fitness », ou fonction d’évaluation de l’adaptation) qui ne retient, dans la génération suivante, que les meilleures. À force de répéter cette procédure des milliers de fois, on accroît étape par étape la qualité moyenne de la population de solutions. Quand cela fonctionne, ce type d’algorithme engendre des solutions efficaces pour un ensemble très large de problèmes ; ces solutions peuvent être radicalement originales et non intuitives, et elles ressemblent souvent plus aux structures naturelles que celles que tout ingénieur pourrait mettre au point. Et en principe, cela n’implique pas plus d’apports que la spécification initiale de la fonction fitness, qui est souvent très simple. Cependant en pratique, recourir à des méthodes évolutives pour avoir de bons résultats nécessite des aptitudes et de l’ingéniosité, en particulier pour déterminer le bon format représentationnel. Sans une procédure efficace d’encodage des solutions candidates (un langage génétique qui fait correspondre la structure latente au domaine cible), la recherche évolutive s’enfonce sans cesse dans les méandres d’un vaste espace ou reste coincée sur un optimum local. Et même si l’on trouve un bon format représentationnel, l’évolution a des exigences computationnelles et elle est mise en échec par l’explosion de ces demandes.

Les réseaux neuronaux et les algorithmes génétiques font partie des méthodes qui ont provoqué beaucoup d’agitation dans les années 1990 parce qu’elles semblaient offrir des alternatives au paradigme des GOFAI, qui stagnaient. Mais il ne s’agit pas ici de chanter leurs louanges ou de les mettre au-dessus des nombreuses autres techniques d’apprentissage automatique. En fait, l’un des développements théoriques majeurs des deux dernières décennies a été de bien comprendre que toutes ces techniques disparates et superficielles n’étaient que des cas particuliers relevant toutes d’un cadre mathématique commun. Ainsi plusieurs types de réseaux de neurones artificiels ne sont rien d’autres que des classifieurs qui effectuent un type particulier de calcul statistique (l’estimation du maximum de vraisemblance)26. Cette perspective permet de comparer les réseaux neuronaux à une classe plus étendue d’algorithmes pour les classifieurs d’apprentissage à partir d’exemples – entre autres, les « arbres de décision », les « modèles de régression logistique », les « machines à vecteurs de support », les « classifieurs bayésiens naïfs » des « régressions selon la méthode des k plus proches voisins »27. Et de la même manière, les algorithmes génétiques peuvent être considérés comme des algorithmes « hill-climbing » (rarement exprimés en français « escalade »), c’est-à-dire comme un sous ensemble de très nombreux algorithmes d’optimisation. Chacun de ces algorithmes de détermination des classifieurs ou de recherche d’un espace de solutions a ses avantages et ses inconvénients, qu’on peut étudier mathématiquement. Les algorithmes diffèrent par leur temps d’exécution et leur espace-mémoire, par les biais inductifs qui leur sont propres, par la facilité d’incorporation de contenus externes et par la transparence de leurs opérations pour l’analyste humain.

Sous l’apparence spectaculaire de l’apprentissage automatique et de la résolution créative de problèmes se cache tout un ensemble de compromis mathématiques bien spécifiés ; l’exemple même en est la thèse d’un agent bayésien parfait qui ferait un usage optimal de l’information disponible. C’est un idéal qui ne peut être atteint parce que, pour l’implémenter dans un processeur physique, il faudrait beaucoup trop de calculs (voir encart 1). Or, on peut considérer que ce que cherche l’intelligence artificielle, ce sont des raccourcis : des moyens de s’approcher de l’idéal de l’agent bayésien tout en sacrifiant un peu d’optimalité ou de généralité mais en ne perdant pas la qualité de la performance dans les domaines concernés.

Encart 1 : Un agent bayésien optimal

Un agent bayésien idéal commence avec une « distribution de probabilités à priori », une fonction qui assigne une probabilité à chacun des « mondes possibles » (c’est-à-dire à chaque manière très spécifique qu’aurait le monde d’apparaître)28. Cette probabilité tient compte du biais inductif pour que les mondes possibles plus simples aient une probabilité supérieure (l’une des manières de formaliser la simplicité d’un monde est effectuée en termes de « complexité de Kolmogorov », à savoir une mesure fondée sur la longueur du programme informatique le plus court nécessaire pour générer la description complète du monde29). La probabilité a priori tient aussi compte des connaissances acquises que les programmeurs veulent conférer à l’agent.

Quand l’agent reçoit de ses capteurs une nouvelle information, il met à jour sa distribution de probabilités en la conditionnant à la nouvelle information selon le théorème de Bayes30 : il s’agit de l’opération mathématique qui remet à 0 la nouvelle probabilité des mondes qui sont incompatibles avec l’information nouvelle reçue et qui renormalise la distribution de probabilités de ceux qui restent possibles. Le résultat est une « distribution de probabilités a posteriori » (que l’agent peut utiliser comme nouvelle distribution de probabilités a priori à l’étape suivante). Au fur et à mesure que l’agent fait des observations, la densité de probabilité se concentre sur un ensemble réduit de mondes possibles qui restent compatibles avec les données ; et parmi ces mondes possibles, les plus simples sont les plus probables.

On pourrait considérer la probabilité comme du sable sur une grande feuille de papier. Celle-ci est divisée en zones de taille variable, chacune correspondant à un monde possible, avec les zones les plus larges pour les mondes les plus simples. Imaginons une couche de sable d’épaisseur égale sur toute la feuille : c’est la distribution de probabilité a priori. Chaque fois qu’une information arrive qui disqualifie certains mondes possibles, on enlève le sable qui était sur leurs zones et on le répartit sur les zones restantes. La quantité initiale de sable reste toujours la même, elle ne fait que se concentrer progressivement sur certaines zones au fur et à mesure que parviennent des informations. C’est une image de ce qu’est l’apprentissage dans sa forme la plus simple (pour calculer la probabilité d’une hypothèse, on mesure la quantité de sable sur chaque zone qui correspond à l’un des mondes possibles dans lesquels cette hypothèse est vraie).

Jusque-là, nous avons défini une règle d’apprentissage. Pour avoir un agent, nous avons en plus besoin d’une règle de décision. Pour cela, nous équipons l’agent d’une « fonction d’utilité » qui assigne un nombre à chacun des mondes possibles. Ce nombre représente la désirabilité du monde selon les préférences de base de l’agent. Maintenant, à chaque étape, l’agent choisit ses actions en maximisant l’utilité attendue31 (pour définir cette action avec utilité maximale attendue, l’agent peut faire la liste de toutes les actions possibles. Il peut alors calculer la distribution de probabilité conditionnelle à chaque action : c’est la distribution de probabilité qu’on obtient en conditionnant la distribution de probabilité actuelle à l’observation qui vient juste d’être faite avant. Il peut alors calculer la valeur attendue de l’action en faisant la somme de la valeur de chacun des mondes possibles multipliée par la probabilité conditionnelle de ce monde étant donnée cette action32).

La règle d’apprentissage et la règle de décision définissent la « notion d’optimalité » pour l’agent (cette notion d’optimalité a été largement utilisée en intelligence artificielle, en épistémologie, en philosophie des sciences, en économie et en statistiques33). En réalité, il est impossible de concevoir un tel agent parce qu’il est impossible, d’un point de vue computationnel, de réaliser les calculs nécessaires. Toute tentative de le faire est écrasée par une explosion combinatoire, exactement semblable à celle que nous avons évoquée pour la GOFAI. Pour comprendre pourquoi, considérons un minuscule ensemble de mondes possibles, ceux permis par un seul écran d’ordinateur flottant dans un vide sans fin. Ce moniteur a 1 000 pixels sur 1000, et chacun est soit allumé, soit éteint. Même cet ensemble de possibles est très grand : les 2(1000×1000) états possibles de l’écran dépassent toutes les computations supposées présentes dans l’univers observable. On ne pourrait donc pas même énumérer tous les mondes possibles dans cet ensemble minuscule, et donc encore moins réaliser des computations plus élaborées sur chacun d’eux individuellement.

Les notions d’optimalité peuvent avoir un intérêt théorique même si elles sont impossibles à réaliser concrètement. Elles nous permettent de juger des approximations heuristiques et quelquefois on peut réfléchir à ce qu’un agent optimal ferait dans tel cas particulier. Nous retrouverons d’autres notions d’optimalité pour les agents artificiels au chapitre 12.

On peut se faire une idée de cette question en s’intéressant à ce qui a été fait au cours de deux dernières décennies sur les modèles graphiques probabilistes, comme les réseaux bayésiens. Ceux-ci permettent de représenter avec concision les relations d’indépendance probabiliste et conditionnelle qu’on trouve dans certains domaines (se servir de ces relations d’indépendance est essentiel pour dépasser l’explosion combinatoire qui constitue un problème tant pour les inférences statistiques que pour les déductions logiques). Ils permettent aussi une meilleure approche du concept de causalité34 .

En rapprochant les problèmes d’apprentissage dans divers domaines spécifiques du problème général de l’inférence bayésienne, on comprend que les nouveaux algorithmes, qui rendent celle-ci plus efficace, peuvent aussi apporter des améliorations immédiates dans divers domaines. Ainsi les progrès accomplis dans les techniques d’approximation avec la méthode de Monte-Carlo sont directement appliqués dans la vision par ordinateur, la robotique et la génétique computationnelle. Par ailleurs cette démarche permet aux spécialistes de différentes disciplines de mettre plus facilement en commun leurs découvertes. Les modèles graphiques et les statistiques bayésiennes sont devenus un centre d’intérêt partagé par les chercheurs de beaucoup de domaines : l’apprentissage automatique, la physique statistique, la bio-informatique, l’optimisation combinatoire et la théorie de la communication35 . Une bonne part des progrès récents dans le domaine de l’apprentissage automatique est venue de l’introduction de résultats formels qui provenaient en fait d’autres champs académiques (les applications ont également tiré un grand profit de l’accélération de la vitesse de travail des ordinateurs et de la mise à disposition d’une quantité énorme de données).

État de l’art

L’intelligence artificielle a déjà réussi à dépasser l’intelligence humaine dans de nombreux domaines et, dans une large gamme de jeux (les échecs et le jeu de go par exemple), les ordinateurs joueurs battent des champions humains36.

Ces réussites pourraient ne pas sembler très impressionnantes… mais c’est parce que ce que nous jugeons comme tel évolue au fur et à mesure des progrès qui se font. Un système expert en jeu d’échecs a été considéré autrefois comme une illustration de la manière dont procède un joueur humain. Du point de vue de nombreux spécialistes dans le dernier demi-siècle : « Si l’on met au point un artéfact qui joue aux échecs, c’est qu’on aura compris les fondements des efforts intellectuels faits par le joueur humain »37. On ne pense plus comme cela. On pense plutôt comme John McCarthy : « Si une machine sait le faire, c’est qu’il ne s’agit plus d’intelligence artificielle »38.

Cependant, il faut bien voir que le joueur d’échecs artificiel constitue un progrès moins important qu’on ne l’imaginait : on avait supposé, et de manière assez raisonnable, que pour qu’un ordinateur joue aux échecs avec le niveau des grands maîtres, il fallait l’équiper d’un haut degré d’intelligence générale39. On pensait par exemple que cet ordinateur devait être capable, comme les grands maîtres, d’apprendre des concepts abstraits, de penser de manière intelligente et stratégique, de mettre au point des stratégies susceptibles de s’adapter, de procéder à un tas de déductions logiques très ingénieuses, et même de se représenter la pensée de l’adversaire. Eh bien non. Il s’avère qu’on pouvait mettre au point une machine jouant parfaitement aux échecs en implantant seulement un algorithme spécialisé dans ce seul domaine40. Quand ce fut possible grâce aux ordinateurs devenus très rapides vers la fin du XXe siècle, on obtint de très bons joueurs. Mais une intelligence artificielle de ce genre est très spécifique. Elle joue aux échecs, et ne sait rien faire d’autre41.

Tableau 1 Les IA joueuses

Jeu de Dames

S

Le programme d’Arthur Samuel, écrit en 1952 et amélioré en 1955 grâce à l’apprentissage automatique, a été le premier à jouer mieux que son créateur42. En 1994, le programme CHINOOK bat le champion du monde en titre, et c’est le premier jeu pour lequel c’est arrivé. En 2002, Jonathan Schaeffer et son équipe ont « résolu » le jeu de dames, c’est-à-dire ont produit un programme qui réalise toujours le meilleur déplacement de pion possible (en combinant une recherche alpha-beta et une base de données de 39 milliards de positions finales). Un jeu parfait de part et d’autre du damier se termine par un match nul43.

Backgammon

S

1979 : Le programme BKG de Hans Berliner bat le champion du monde (le premier à le faire dans un match d’exhibition) même si Berliner a ensuite attribué sa défaite au hasard des lancés de dé44.

1992 : Le programme TD-Gammon de Gerry Tesauro atteint le niveau des champions, en utilisant la différence de rapidité de l’apprentissage (une sorte d’apprentissage par renforcement) et du nombre de parties contre soi-même effectuées pour s’améliorer45.

Depuis, les programmes dépassent largement les meilleurs joueurs humains46.

Traveller TCS

(Trillion Credit Square)

S/H47

En 1981 et en 1982, le programme Eurisko de Douglas Lenat a remporté la victoire au championnat des États-Unis dans ce jeu de bataille naval futuriste, entraînant un changement de règles pour bloquer ses stratégies non-orthodoxes48. Eurisko avait une heuristique pour placer sa flotte, et aussi une heuristique pour modifier la première.

Othello

S

1997 : Le programme Logistello a gagné chacune des parties dans un match de 6 jeux contre le champion du monde Takeshi Murakami49.

Échecs

S

1997 : Deep Blue bat le champion du monde Garry Kasparov, qui affirme avoir entrevu une intelligence et une créativité vraies dans certains des déplacements de la machine50. Depuis, les machines jouant aux échecs n’ont cessé de s’améliorer51.

Mots croisés

E

1999 : Le programme Proverb atteint le niveau d’un cruciverbiste moyen52.

2012 : Le programme Dr. Fill créé par Matt Ginsberg se classe dans le premier quart des adversaires humains dans un tournoi américain (sa performance est inégale : il complète parfaitement les grilles classées comme très difficiles par les humains, mais il est déconcerté par des grilles non-standard qui comportent certains mots avec une orthographe désuette ou des réponses écrites en diagonale)53.

Scrabble

S

Dès 2002, le logiciel surpasse les meilleurs joueurs54.

Bridge

E+

En 2005, le programme joue aussi bien que les meilleurs joueurs55.

Jeopardy !

S

2010 : Watson d’IBM bat des deux meilleurs champions, Ken Jennings et Brad Rutter56. Jeopardy ! est un jeu télévisé où sont posées des questions de culture générale, histoire, littérature, sports, géographie, musique, sciences, etc. Ces questions sont présentées sous forme de définition, et implique souvent des jeux de mots.

Poker

V

Le programme reste légèrement inférieur aux meilleurs joueurs de poker Texas Hold’em à table complète, mais est meilleur que l’homme dans certaines autres variantes57.

Freecell

S

Les heuristiques se sont améliorées en recourant à des algorithmes génétiques ce qui a produit un programme de résolution de ce solitaire (qui dans sa forme générale est NP-complet) capable de battre les meilleurs joueurs humains58.

Go

ALF

Dès 2012, la série Zen de programmes de jeu de go a atteint la 6e place dans le jeu à parties rapides (niveau d’un très bon amateur) en utilisant l’arbre de recherche Monte Carlo et des techniques d’apprentissage automatique59. Les programmes qui jouent au go se sont améliorés au rythme de une dan par an dans les dernières années. À ce rythme, ils pourraient battre le champion du monde dans environ une dizaine d’années.

Où S = Surhumain, S/H = surhumain avec intervention de l’humain, E = niveau expert, E+ = égal aux meilleurs experts, V = varié, ALF = amateurs très compétents.

Dans d’autres domaines, la découverte de solutions s’est révélée plus compliquée qu’on le croyait et les progrès sont lents. L’informaticien Donald Knuth trouvait frappant que « l’intelligence artificielle ait maintenant réussi à réaliser tout ce qui requiert de « penser » mais ne réussisse pas à faire tout ce que les hommes et les animaux font « sans y penser », et qui, quelquefois, est bien plus compliqué ! »60. Analyser des scènes visuelles, reconnaître des objets, contrôler le comportement d’un robot pendant qu’il interagit avec son environnement naturel, autant de tâches qui ont posé des vraies difficultés. Et néanmoins, on a fait beaucoup de progrès et on continue à en faire, grâce aux améliorations constantes du hardware.

Le sens commun et la compréhension des langues naturelles se sont aussi révélés bien compliqués. On pense aujourd’hui que parvenir au niveau humain dans ces champs-là est le problème d’une intelligence artificielle complète, c’est-à-dire que la difficulté à résoudre ces problèmes est essentiellement équivalente à la difficulté de mettre au point une machine qui a le même niveau d’intelligence que l’homme61. En d’autres termes, si quelqu’un parvenait à créer une intelligence artificielle qui comprenne une langue naturelle aussi bien qu’un être humain, c’est qu’il aurait également déjà créé une machine qui pourrait faire toutes les autres tâches que permet de faire l’intelligence humaine ou serait vraiment très près d’y parvenir62.

On est surpris que les capacités qu’il faut pour jouer aux échecs puissent en fait être réalisées par un algorithme simple. On est évidemment tenté de se demander si d’autres capacités (comme le raisonnement général, ou une des aptitudes nécessaires à la programmation) pourraient elles aussi être réalisées par des algorithmes étonnamment simples. Ce n’est pas parce qu’une très bonne performance est atteinte grâce à un mécanisme complexe qu’un mécanisme plus simple ne pourrait pas faire aussi bien ou même mieux ; il est en réalité possible que personne n’ait encore découvert un mécanisme plus simple. Le système de Ptolémée (géocentrique, avec le soleil, la lune et d’autres planètes tournant autour de la terre) constituait l’ensemble des connaissances astronomiques pendant un millénaire et sa valeur prédictive a été améliorée pendant des siècles en compliquant progressivement le modèle : on a ajouté épicycles sur épicycles pour les mouvements célestes postulés. Puis le système tout entier fut renversé par la théorie héliocentrique de Copernic, qui était plus simple et qui permettait de meilleures prédictions (mais seulement après les travaux de Kepler)63.

Les méthodes de l’intelligence artificielle sont maintenant utilisées dans bien des sphères qu’on ne peut aborder ici, mais il nous suffit d’en mentionner quelques-unes pour donner une idée de l’étendue de ces applications. À côté des jeux, dont nous avons parlé, il existe les aides auditives qui filtrent les bruits ambiants ; des systèmes de navigation qui proposent aux conducteurs des cartes et des conseils ; des aides à l’achat de livres ou de musique fondées sur les précédentes recherches ou opinions ; des systèmes d’aide à la décision médicale en matière de diagnostic du cancer du sein, de planification des traitements, d’interprétation des électrocardiogrammes. Il existe des animaux domestiques artificiels, des robots ménagers, des robots qui tondent le gazon, des robots de sauvetage, des robots-chirurgiens et un million de robots industriels64. La population mondiale de robots dépasse les 10 millions65.

La reconnaissance vocale aujourd’hui, qui est fondée sur des techniques statistiques comme les modèles de Markov cachés, est devenue suffisamment performante pour qu’on s’en serve : des fragments de ce livre ont été d’abord écrits grâce à un programme de reconnaissance de la parole. Des assistants numériques personnels comme l’application Siri de Apple répondent aux commandes vocales et à des questions simples et exécutent des ordres. La reconnaissance optique de caractères écrits à la main ou dactylographiés est couramment utilisée dans le tri des mails par exemple ou dans la numérisation des vieux documents66.

La traduction automatique reste imparfaite mais elle est suffisante pour un certain nombre d’applications. Les premiers dispositifs utilisaient l’approche des GOFAI et des grammaires codées à la main, qui devaient être développées à partir de zéro par des linguistes experts pour chaque langue. Les nouveaux systèmes utilisent des techniques d’apprentissage automatique statistique qui génèrent des modèles statistiques à partir des patterns d’usages observés. La machine infère les paramètres pour ces modèles en analysant les corpus bilingues. Cette méthode permet de se passer des linguistes : les programmeurs qui construisent ces systèmes n’ont même plus besoin de parler les langues dont il s’agit67.

La reconnaissance des visages a fait suffisamment de progrès dans les dernières années pour qu’on s’en serve dans des postes de frontières en Europe et en Australie. Le Département d’État américain recourt à cette reconnaissance faciale pour plus de 75 millions de photographies dans le traitement des visas. Les systèmes de surveillance utilisent des technologies de plus en plus sophistiquées d’intelligence artificielle et d’extraction de données pour analyser les voix, les vidéos ou les textes, et pour une grande partie en épluchant les médias de communication électroniques mondiaux et en conservant les résultats dans d’énormes centres de données.

La démonstration de théorèmes et la résolution d’équations sont maintenant si solides qu’elles ne sont plus considérées comme de l’intelligence artificielle. Les systèmes de résolution sont inclus dans des programmes d’ordinateurs scientifiques comme Mathematica. Les méthodes de vérification formelle, y compris les démonstrateurs automatiques de théorèmes, sont régulièrement utilisées par les fabricants de puces électroniques pour vérifier le comportement des projets de circuits avant de les réaliser.

L’Armée américaine et les services de renseignement ont ouvert la voie au déploiement à grande échelle de robots démineurs, de drones de surveillance et d’attaque et de véhicules sans pilote. Tous ces dispositifs sont encore en grande partie commandés à distance par des opérateurs humains, mais des travaux sont entrepris pour accroître leur autonomie de fonctionnement.

La planification intelligente est un domaine majeur de succès. Le système DART qui planifie automatiquement les questions logistiques et a été utilisé dans l’opération Tempête du Désert en 1991 et le DARPA (Defense Advanced Research Projects Agency aux États-Unis – Agence pour les projets de recherche avancée de défense) assure que cette seule application rembourse largement les dépenses en intelligence artificielle engagées depuis trente ans68. La réservation de places en ligne recourt à des systèmes complexes de planification et de chiffrage des prix. Le monde des affaires fait un usage très large des techniques d’intelligence artificielle dans le domaine du contrôle des stocks. Il emploie également des dispositifs de réservation automatique ou d’assistance par téléphone connectés à des programmes de reconnaissance de la parole pour guider leurs usagers malheureux dans le labyrinthe des menus d’options en cascade.

Des technologies qui relèvent de l’intelligence artificielle sont à la base de bien des services sur Internet. Des logiciels régulent le trafic mondial des emails, et malgré l’adaptation perpétuelle des spams pour mettre en échec les mesures prises contre eux, des filtres bayésiens anti-spam permettent d’endiguer leur flot continu. Des logiciels fondés sur l’intelligence artificielle interviennent pour approuver ou refuser automatiquement les transactions par carte de crédit, et surveillent en continu les mouvements bancaires pour repérer tout signe d’usage frauduleux. Des systèmes d’extraction d’information utilisent régulièrement l’apprentissage automatique. L’instrument de recherche mis au point par Google est sans doute actuellement le plus grand système de ce genre.

Mais il faut souligner que la démarcation entre intelligence artificielle et logiciel en général n’est pas nette. Certains des systèmes que nous venons d’évoquer peuvent être considérés comme des applications de logiciels génériques plutôt que de l’intelligence artificielle ; mais cela nous ramène au diktat de McCarthy en vertu duquel dès que quelque chose fonctionne bien, on ne parle plus d’intelligence artificielle. Il nous semble plutôt qu’une autre distinction doit être faite entre des systèmes qui ont une gamme étroite de capacités cognitives (qu’on les inclut ou non dans l’intelligence artificielle) et des systèmes qui ont des capacités plus générales de résolution de problèmes. Tous les systèmes actuellement utilisés sont du premier type, mais un bon nombre d’entre eux comportent des composants qui pourraient également jouer un rôle à l’avenir dans l’intelligence artificielle générale ou bien aider à son développement : les classifieurs, les algorithmes de recherche, les planificateurs, les résolveurs et les cadres représentationnels.

L’un des domaines dans lesquels l’intelligence artificielle joue un rôle aujourd’hui, et qui implique des enjeux considérables et très compétitifs, c’est le marché financier global : les systèmes d’automatisation des transactions sont utilisés par les grands investisseurs. Là où certains de ces systèmes ne sont que des manières simples de réaliser automatiquement l’exécution d’ordres d’achat ou de vente donnés par un gestionnaire de fonds humain, d’autres développent des stratégies commerciales compliquées qui s’adaptent aux fluctuations du marché. Des systèmes analytiques recourent à une variété de techniques d’extraction de données et d’analyse de séries chronologiques pour rechercher des patterns et des tendances du marché des valeurs mobilières ou pour corréler l’historique de fluctuation des cotations avec des variables externes comme des mots-clés sur les nouveaux téléscripteurs. Les nouveaux sites d’informations financières vendent des nouvelles en flux RSS spécialement formatées pour ces programmes d’IA. D’autres systèmes sont spécialisés dans la recherche d’opportunités d’arbitrage dans un marché ou entre marchés, ou pour le trading à haute fréquence qui cherche à profiter des fluctuations infimes des prix à la milliseconde où elles se produisent (une échelle de temps à laquelle la latence de communication des signaux qui sont transmis par fibre optique à la vitesse de la lumière est significative, et c’est pourquoi il est avantageux de placer les ordinateurs près de la Bourse). Les traders algorithmiques à haute fréquence sont chargés de plus de la moitié des valeurs échangées sur les marchés américains. Et ce trading algorithmique a été impliqué dans le krach-éclair (Flash-Crash, voir encart 2) de 201069.

Encart 2 : Le krach-éclair de 2010

Au cours de l’après-midi du 6 mai 2010, le marché boursier au États-Unis était déjà en baisse de 4 % à cause de l’inquiétude suscitée par la crise de la dette en Europe. À 14h22 un vendeur important (un groupement de fonds mutuels) a recours à un algorithme pour vendre un grand nombre de contrats futurs E-Mini S&P 500 (Standard and Poor’s 500) à un taux calculé à la dernière minute sur le marché des changes. Ces contrats sont alors achetés par des traders algorithmiques à haute fréquence programmés pour éliminer rapidement leurs positions longues en vendant leurs contrats à d’autres traders. La demande des investisseurs fondamentaux se ralentissant, les traders algorithmiques commencent par vendre leurs E-Mini à d’autres traders algorithmiques, créant ainsi un effet de « patate chaude » accroissant le volume des échanges, ce qui est interprété par l’algorithme d’investissement comme un très bon indice, l’entraînant à accroître le taux des contrats E-Mini sur le marché, ce qui accélère la spirale. À un certain moment, les échanges à haute fréquence commencent à se retirer du marché, asséchant sa liquidité alors que les prix continuent de tomber. À 14h45, les E-Mini sont retirés du marché par un mécanisme automatique, l’arrêt de la fonctionnalité logique des échanges. Quand le marché redémarre, 5 secondes plus tard seulement, les prix se stabilisent et retrouvent rapidement ce qu’ils ont perdu. Mais pendant un moment, au creux de la crise, un milliard de dollars s’est évaporé du marché, et les réactions en chaîne ont fait qu’un nombre substantiel d’échanges de valeurs mobilières s’est fait à des prix « absurdes », allant de 1 cent à 100 000 dollars. À la fermeture du marché en fin de journée, les représentants des opérateurs et les régulateurs se réunissent et décident d’annuler tous les échanges de titres réalisés à des prix dépassant de 60 % les prix du début de journée (estimant certaines transactions comme « clairement faussées » et exposées par conséquent à l’annulation après-coup par la règlementation des échanges)70.

Nous avons fait cette digression pour dire que les programmes de l’ordinateur impliqués dans ce krach n’étaient pas particulièrement intelligents ni sophistiqués, et la menace qu’ils ont créée est fondamentalement différente des dangers que nous évoquerons plus tard quant au projet d’une superintelligence. Et pourtant on peut tirer de cet épisode plusieurs leçons. D’abord, il faut se souvenir que les interactions entre des éléments individuellement simples (l’algorithme de vente et les programmes d’échanges à haute fréquence) peuvent avoir des effets complexes et inattendus. Le risque systémique peut se réaliser dans un système lorsque de nouveaux éléments sont introduits, et ce risque n’est pas probable avant que survienne un vrai problème (et même alors, il peut ne pas apparaître)71.

Une autre leçon : des professionnels intelligents peuvent entrer une instruction dans un programme en se fondant sur une thèse apparemment sensée et normale (le volume d’échange est un bon indicateur de la liquidité d’un marché), et cela peut entraîner des résultats catastrophiques lorsque le programme continue à respecter cette instruction avec une constance d’airain quand une situation qui n’avait pas été anticipée invalide la thèse initiale. L’algorithme ne fait que ce qu’il fait ; et tant qu’il n’est pas un autre type d’algorithme, il ne voit pas qu’on se prend la tête et qu’on est frappé de stupeur par le caractère absolument inadapté de ce qu’il fait. Nous reviendrons sur ce genre de problème.

Une troisième leçon : alors que l’automate a contribué à l’incident, il a également contribué à sa solution. Le préprogramme a stoppé le processus, suspendu les échanges quand les prix sont devenus délirants, et devait le faire automatiquement parce qu’il avait été correctement programmé en anticipant que des évènements pouvaient se déclencher à une échelle de temps trop courte pour que l’être humain puisse réagir. La nécessité de préinstaller des fonctions automatiques de sécurité (et non de se contenter d’une surveillance humaine) annonce une fois de plus un thème qui sera important dans notre discussion sur la machine superintelligente72.

Que penser des machines intelligentes du futur ?

Les progrès se sont faits sur deux fronts : améliorer les fondements statistiques et théoriques de l’apprentissage automatique et développer diverses applications pour des problèmes ou des domaines spécifiques avec une réussite pratique et commerciale. Et ce sont ces progrès qui ont restauré le prestige de la recherche en intelligence artificielle. Mais il demeure un effet culturel, qui vient des débuts de l’intelligence artificielle et qui fait hésiter des chercheurs à s’engager sans réticence dans ce domaine. Ainsi Nils Nilsson, l’un des pères fondateurs, se plaint de ce qu’il manque à ses collègues aujourd’hui l’audace, le souffle qui animait les pionniers de sa génération :

« L’inquiétude quant à leur “respectabilité” a exercé, je pense, un effet paralysant sur certains chercheurs en intelligence artificielle. Je les entends dire des choses comme “l’intelligence artificielle est critiquée parce qu’elle est bling-bling. Maintenant que nous avons fait des progrès solides, ne risquons pas de perdre notre respectabilité”. L’un des résultats de ce conservatisme est qu’ils se concentrent de plus en plus sur “l’intelligence artificielle faible”, qui consiste à apporter des aides à penser, et se tiennent à l’écart de “l’intelligence artificielle forte”, celle qui veut mécaniser l’intelligence de niveau humain73. »

Nombre de ceux qui ont fondé l’intelligence artificielle partagent le point de vue de Nilsson, comme Marvin Minsky, John McCarthy ou Patrick Winston74.

Dans les dernières années, on a assisté à un regain d’intérêt pour l’lA, qui pourrait encore se traduire par des efforts renouvelés vers la conception d’une intelligence générale artificielle (l’intelligence artificielle forte de Nilsson). Avec des ordinateurs encore plus rapides, un projet pourrait aujourd’hui tirer profit des grandes avancées qui se sont produites dans des domaines spécialisés de l’intelligence artificielle, dans la conception des logiciels en général et dans des champs connexes de l’intelligence artificielle comme les neurosciences computationnelles. Un signe de ce regain d’intérêt : l’université de Stanford a mis en ligne à l’automne 2011 un cours en libre accès sur l’IA, organisé par Sebastian Thrun et Peter Norvig : 160 000 étudiants du monde entier s’y sont inscrits (et 23 000 l’ont suivi jusqu’au bout)75.

L’opinion des experts sur l’avenir de l’intelligence artificielle varie beaucoup. Ils ne sont d’accord ni sur l’échelle temporelle des progrès nécessaires ni sur les formes que l’intelligence artificielle prendra. Les prédictions sur cet avenir sont, comme quelqu’un l’a déclaré, « aussi assurées que diverses »76.

Bien qu’on n’ait pas mesuré de manière précise la distribution des points de vue sur cet avenir, on peut s’en faire une idée globale à partir d’enquêtes et d’observations informelles. Toute une série d’enquêtes récentes auprès de membres de diverses communautés d’experts leur a demandé quand ils s’attendaient à ce qu’une machine intelligente de niveau humain soit mise au point (dite HLMI human-level machine intelligence), « une machine qui puisse exercer la plupart des professions humaines au moins aussi bien qu’un être humain moyen »77. Les résultats (TOP 100) sont présentés dans le tableau 2. L’ensemble des échantillons produit l’estimation suivante : 10 % de probabilité pour que l’HLMI soit atteinte en 2022, 50 % pour 2040, 90 % pour 2075 (on demandait aux participants de donner leur estimation sous l’hypothèse que « l’activité scientifique humaine se poursuive sans événement disruptif négatif »).

On peut dire ce qu’on veut de ces estimations : la taille des échantillons était limitée et ils ne sont pas nécessairement représentatifs de la population de tous les experts. Mais ils sont cohérents avec les résultats d’autres enquêtes78.

Les résultats de notre enquête sont aussi cohérents avec certains entretiens récemment publiés de deux douzaines de chercheurs dans les domaines liés à l’intelligence artificielle. Nils Nilsson a consacré sa longue et très féconde carrière à travailler sur les problèmes de recherche, de planification, de représentation des connaissances et de robotique ; il est l’auteur de nombreux manuels d’intelligence artificielle qui font autorité ; il a aussi écrit l’histoire aujourd’hui la plus documentée des recherches dans ce domaine79. Quand on lui demande quand va arriver l’HLMI, voilà ce qu’il répond80 :

« 10 % de chance qu’elle arrive en 2030, 50 % en 2050 et 90 % en 2100. »

Tableau 2 Quand sera-t-on parvenu à une machine intelligente de niveau humain81 ?

Échantillon

10 %

50 %

90 %

PT-IA

2023

2048

2080

AGI

2022

2040

2065

EETN

2020

2050

2093

TOP 100

2024

2050

2070

Combinés

2022

2040

2075

Si l’on en juge par l’entretien publié, la distribution de probabilités de Nilsson semble tout à fait représentative de ce que pensent de nombreux experts du domaine, même s’il faut souligner qu’il y a une grande variété d’opinion : certains praticiens, qui sont évidemment partisans, croient vraiment que l’HLMI sera atteinte autour de 2020-2040, d’autres croient à l’opposé qu’elle ne le sera jamais ou dans très longtemps82. Qui plus est, certains de ceux qui ont été interrogés considèrent que cette notion de « niveau humain » d’intelligence artificielle est mal définie ou fausse, ou rechignent pour d’autres raisons à s’engager sur des prédictions quantitatives.

À mon avis, les dates moyennes prévues dans ces enquêtes n’ont pas une probabilité suffisante pour ce qui est des dates les plus tardives d’arrivée. Une probabilité de 10 % pour que l’HLMI soit atteinte vers 2075 ou même 2100 (sous réserve que l’activité de recherche se continue sans disruption majeure) est trop faible.

Historiquement, les chercheurs en intelligence artificielle n’ont pas réussi à prédire correctement le rythme des progrès dans leur propre domaine ni la forme qu’ils prendront. D’un côté, certaines tâches, comme le jeu d’échecs, se sont révélées réalisables à l’aide de programmes étonnamment simples ; et ceux qui clamaient que les machines ne seraient « jamais » capables de jouer aux échecs comme les êtres humains ont été régulièrement démentis. D’un autre côté, l’erreur la plus fréquente des spécialistes a été de sous-estimer les difficultés de faire réaliser par les machines les tâches du monde réel et de surestimer les apports de leur projet ou de leur technique favoris.

Deux autres questions ont été posées dans l’enquête, intéressantes pour notre propos : a. combien de temps cela va prendre de passer d’une machine de niveau humain à une machine superintelligente ? Le Tableau 3 donne les réponses ; b. quel sera l’impact pour l’humanité de la mise au point d’une machine de niveau humain ? La Figure 2 montre les résultats.

Là encore, je ne partage pas les opinions exprimées dans cette enquête : je pense que la superintelligence viendra plus vite une fois qu’on aura des machines intelligentes de niveau humain. Et là encore, j’ai centré mon livre sur les conséquences de cette arrivée, parce qu’une issue tout à fait bénéfique ou tout à fait catastrophique est plus probable qu’une issue contrastée.

Tableau 3 Combien de temps faudra-t-il pour passer de l’intelligence artificielle HLMI à la superintelligence ?

Groupes
Dans les 2 ans
Dans les 30 ans

TOP 100

5 %

50 %

Combinés

10 %

75 %

Figure 2 Impact à long terme de l’IA HLMI.83 (Où « très mauvais » signifie l’extinction de l’espèce)

Des échantillons peu nombreux, des biais sélectifs et plus encore le manque de fiabilité inhérente des opinions subjectives impliquent qu’il ne faut pas accorder trop d’importance à ces enquêtes et à ces entretiens d’experts. Ils ne permettent aucune conclusion assurée, mais ils suggèrent au moins que, en l’absence de données ou d’analyses meilleures, on peut quand même croire que la HLMI a une chance non négligeable d’apparaître vers le milieu de ce siècle, même s’il est tout à fait possible qu’elle apparaisse plus tôt ou plus tard. Et qu’elle pourrait assez vite déboucher ensuite sur une superintelligence. Cela pourrait se réaliser de multiples façons, y compris extrêmement positives, ou si négatives que cela mènerait à l’extinction de notre espèce84. Au bout du compte tout cela incite à penser que ces interrogations méritent un coup d’œil plus approfondi.

1. Aujourd’hui, le niveau de subsistance moyen est de 400 dollars (Chen et Ravallion, 2010). Pour la subsistance d’un million de personnes il faut donc 400 000 000 dollars. La croissance mondiale actuelle est d’environ 60 000 000 000 000 dollars et, dans les dernières années, elle s’accroît de 4 % par an (taux de croissance annuelle moyen depuis 1950, selon Madison, 2010). Ces nombres correspondent aux estimations que nous mentionnons, même s’il ne s’agit que d’approximations. Si l’on s’intéresse au nombre d’individus, on constate qu’il suffit d’une semaine et demie pour que la population mondiale s’accroisse d’un million ; mais ces données sous-estiment le taux de croissance économique, puisque le revenu par habitant augmente lui aussi. 5 000 ans av. J.-C, après la Révolution agraire, la population mondiale augmentait d’un million en 200 ans (une accélération considérable par rapport au taux approximatif d’accroissement d’un million en un million d’années pour les premiers humanoïdes de la préhistoire), ce qui témoignait déjà d’une augmentation importante. Il est donc frappant qu’un taux de croissance économique qui prenait 200 ans il y a 7 000 ans, ne prenne juste aujourd’hui que 90 minutes, et que l’augmentation démographique qui prenait 200 ans prenne aujourd’hui une semaine et demie (voir aussi Maddison, 2005).

2. Une accélération aussi spectaculaire évoque la survenue possible d’une « singularité » telle que John von Neumann l’a évoquée dans une conversation avec Stanislaw Ulam : « Notre conversation portait sur l’accélération continue des progrès techniques et des changements dans le mode de vie des humains, qui semblait se rapprocher d’une sorte de singularité essentielle dans l’histoire de l’espèce à partir de laquelle les activités humaines, telles que nous les connaissons, ne pourraient pas continuer » (Ulam, 1958).

3. Hanson (2000).

4. Vinge (1993) ; Kurzweil (2005).

5. Van Zanden (2003) ; Maddison (1999, 2001) ; De Long (1998).

6. Sandberg (2010).

7. Cette déclaration optimiste est rabâchée depuis les années 1960 : « La machine sera capable dans les vingt ans à venir de faire tout ce que l’homme sait faire » (Simon, 1965, 96) ou « Dans une génération… nous aurons résolu le problème de la création d’une intelligence artificielle » (Minsky, 1967, 2). Pour une recension systématique de ces prédictions, Amstrong et Sotala (2012).

8. Voir par exemple, Baum et al. (2001) ou Armstrong et Sotala (2012).

9. On pourrait cependant considérer que les chercheurs en intelligence artificielle en savent moins sur le calendrier de développement qu’ils le croient ; mais de deux manières : ils peuvent surestimer ou sous-estimer l’échéance.

10. Good (1965, 33).

11. L’une des exceptions est Norbert Wiener, qui exprima de sérieux doutes sur ces possibles risques. Il écrivait en 1960 : « Si nous utilisons, pour parvenir à nos fins, un agent mécanique capable d’opérations avec lesquelles nous ne pourrons pas interférer vraiment une fois que nous l’aurons mis en route, parce que ces opérations seront si rapides et irréversibles que nous n’aurons rien pour intervenir avant qu’elles ne soient terminées, alors nous avons intérêt à être tout à fait sûrs que le but incorporé dans cette machine est celui que nous voulons vraiment atteindre et pas seulement une simple imitation pittoresque de ce but ». Ed. Fredkin évoqua ces risques d’une superintelligence dans un entretien rapporté par McCorduck (1979). En 1970, Good lui-même écrit, à propos de ces dangers, et appelle même à la création d’une association pour les prendre en considération (Good, 1970 ; voir aussi son dernier article de 1982, dans lequel il prédit certaines idées de « normativité indirecte » que nous discutons au chapitre 13). En 1984, Marvin Minsky s’exprime lui aussi sur nombre de ces dangers décisifs.

12. Yudkowsky (2008a) ; à propos de l’importance d’aborder les implications éthiques des technologies futures potentiellement dangereuses avant qu’elles ne soient au point, Roache, 2008.

13. McCorduck (1979).

14. Newell et al. (1959).

15. Les programmes SAINTS, ANALOGY et STUDENT. Voir Eagle (1963), Evans (1964, 1968) et Bobrow (1968).

16. Nilsson (1984).

17. Weizenbaum (1972).

18. Winograd (1972).

19. Cope (1996) ; Weizenbaum (1976) ; Moravec (1980), Thrun et al. (2006), Buehler et al. (2009), Koza et al. (2003) ; Le Département des véhicules à moteur du Nevada acquit la première licence pour des voitures sans chauffeur en mai 2012.

20. Le système STANDUP (Ritchie et al., 2007).

21. Schwartz (1987). Schwartz représente le point de vue sceptique incarné par des personnalités comme Hubert Dreyfus.

22. L’un des critiques à ce moment-là fut Hubert Dreyfus. D’autres le furent aussi comme John Lucas, Roger Penrose et John Searle. Mais parmi eux, seul Dreyfus se souciait de réfuter les déclarations sur les progrès pratiques qu’on pouvait attendre des paradigmes alors disponibles en intelligence artificielle (même s’il paraît avoir été ouvert à la possibilité de l’apparition de nouveaux paradigmes). La cible de Searle, c’était les théories fonctionnalistes en philosophie de l’esprit, et non les pouvoirs instrumentaux des systèmes d’intelligence artificielle. Lucas et Penrose niaient que les ordinateurs classiques puissent un jour être programmés pour faire tout ce qu’un mathématicien peut faire, mais non qu’une fonction particulière puisse en principe être automatisée ou que les intelligences artificielles puissent devenir très puissantes. Cicéron remarquait : « Mais j’ignore comment il se fait qu’il n’existe aucune absurdité qui ne soit proférée par quelque philosophe » (De la divination, II, livre VIII). Il est pourtant difficile de penser à tous les auteurs importants qui ont nié la possibilité d’une machine superintelligente au sens que nous utilisons.

23. Pour de nombreuses applications, un apprentissage qui a lieu dans un réseau neuronal est légèrement différent de celui qui a lieu dans une régression linéaire, technique statistique développée par Adrien-Marie Legendre et Carl Friedrich Gauss au début du XIXe siècle.

24. L’algorithme a été décrit en 1969 par Arthur Bryson et Yu-Chi Ho comme méthode d’optimisation dynamique multi-étapes. Son application aux réseaux neuronaux a été proposée par Paul Werbos en 1974, mais c’est seulement après les travaux de David Rumelhart, Geoffrey Hinton et Ronald Williams en 1986 que la méthode a commencé lentement à attirer l’attention d’une communauté plus large.

25. On avait démontré auparavant que les réseaux manquant de couches cachées avaient des fonctionnalités très limitées (Minsky et Papert, 1969).

26. MacKay (2003).

27. Murphy (2012).

28. Nous omettons ici des détails techniques pour ne pas surcharger notre présentation. Nous aurons l’occasion d’y revenir au chapitre 12.

29. Un programme p est une description d’une suite x si p, fonctionnant sur une certaine machine de Turing universelle U, produit x ; on écrit cela U(p) = x (la suite x représente ici un monde possible). La complexité de Kolmogorov de x est donc K(x) := minp{l(p) : U(p) = x}, où l(p) est la longueur de p en bits. La probabilité de Solomonoff de x est donc définie comme M(x) := Σp :U(p) = x2– l(p), où la somme est définie (« minimal », non nécessairement stoppant) dans tous les programmes p pour lesquels U produit une suite commençant par x (Hutter, 2005).

30. Le conditionnement bayésien aux données D donne :

(La probabilité de la proposition [comme D] est la somme de l’utilité maximum attendue de tous les mondes possibles w dans lesquels elle est vraie).

31. Ou bien, à cause de la randomisation, on tire l’une des actions possibles qui ont l’utilité maximum attendue, et il y a alors match nul.

32. Plus précisément, l’utilité attendue d’une action peut s’écrire , où la somme renvoie à l’ensemble des mondes possibles.

33. Howson et Urbach (1993) ; Bernardo et Smith (1994) ; Russell et Norvig (2010).

34. Pearl (2009).

35. Wainwright et Jordan (2008) ; les domaines d’application des réseaux de Bayes ne sont pas très nombreux ; voir Pourret et al. (2008).

36. On pourrait se demander pourquoi je donne tant de détails sur les jeux d’intelligence artificielle, ce qui pourrait sembler à certains un domaine peu important. La réponse, c’est que ces jeux constituent les mesures les plus claires des performances de l’homme face à l’intelligence artificielle.

37. Newell et al. (1958, 320).

38. Attribué à Vardi, 2012.

39. En 1976, I. J. Good écrivait : « Un programme d’ordinateur du niveau des grands maîtres nous mènera à un as (une machine ultra-intelligente) ». En 1979, quand il a gagné le prix Pulitzer avec Gödel, Escher et Bach, Douglas Hofstadter se déclarait d’avis que : « Question : Y aura-t-il des programmes de jeu aux échecs qui battront tout le monde ? Spéculation : il y en aura qui battront tout le monde aux échecs mais ils ne sauront pas faire que cela. Ce seront des programmes d’intelligence générale et ils seront tout aussi capricieux que nous. “Voulez-vous jouer aux échecs ?”, “Non, ça m’ennuie, parlons de poésie” (Hofstadter, 1999, 678).

40. L’algorithme minimax est un élagage alpha-beta utilisé aux échecs dans l’évaluation heuristique des états de l’échiquier. Associé à un répertoire important des ouvertures et des fins de parties, et de divers coups, cela peut mener à une machine avec de bonnes capacités.

41. Avec les progrès récents dans l’apprentissage des heuristiques d’évaluation à partir de parties simulées, la plupart des algorithmes sous-jacents pourraient vraisemblablement bien marcher pour de nombreux autres jeux.

42. Samuel (1959), Schaeffer (1997, ch. 6).

43. Schaeffer et al. (2007).

44. Berliner (1980a et b).

45. Tesauro (1995).

46. Ces programmes incluent GNU (Silber, 2006) et Snowie (voir Gammoned.net, 2012).

47. Lenat lui-même a joué et est intervenu sur le processus de placement de la flotte. Il a écrit : « Le mérite de la victoire finale revient à 60 % pour Lenat et 40 % pour Eurisko, même si ce qui est important c’est qu’aucun des deux n’aurait pu gagner seul » (1983, 80).

48. Lenat (1982, 1983).

49. Cirasela et Kopec (2006).

50. Kasparov (1996, 55).

51. Newborn (2011).

52. Keim et al. (1999).

53. Voir Armstrong (2012).

54. Sheppard (2002).

55. Wikipedia (2012a).

56. Markoff (2011).

57. Rubin et Watson (2011).

58. Elyasaf et al. (2011).s

59. KGS (2012).

60. Nilsson (2009, 318). Knuth exagérait sans doute. Il existe de nombreuses « tâches de pensée » que l’intelligence artificielle ne parvient pas à réussir : inventer un nouveau domaine de mathématiques pures, faire de la philosophie, écrire un grand roman policier, monter un coup d’état ou mettre au point un nouveau produit de consommation.

61. Shapiro (1992).

62. On pourrait imaginer qu’une des raisons pour lesquelles il a été difficile d’égaler les capacités humaines pour la perception, le contrôle moteur, le sens commun et la compréhension du langage c’est que nos cerveaux ont dédié à ces fonctions la matière humide (wetware) à savoir les structures neuronales qui ont été optimisées pendant l’évolution. Au contraire, jouer aux échecs relève de la logique et de capacités qui ne nous sont pas naturelles ; peut-être sommes-nous contraints de nous appuyer sur un ensemble limité de ressources cognitives à vocation générale pour réaliser ces tâches. Il se peut que ce que font nos cerveaux lorsque nous réalisons un raisonnement logique ou un calcul est d’une certaine manière analogue à faire tourner une « machine virtuelle », une simulation mentale lente et lourde d’un ordinateur universel. On pourrait donc affirmer (avec un peu de fantaisie) qu’un programme classique d’intelligence artificielle n’est pas une émulation de la pensée humaine mais qu’au contraire, un humain qui pense de manière logique est une émulation d’un programme d’intelligence artificielle.

63. Cet exemple est controversé : selon une minorité, constituée de 20 % des adultes aux États-Unis et à peu près autant dans les autres pays développés, le Soleil tourne autour de la Terre (Crabtree, 1999 ; Dean, 2005).

64. World Robotics (2011).

65. Estimation à partir des données de Guizzo (2010).

66. Holley (2009).

67. On utilise aussi des approches statistiques à base de règles hybrides, mais elles ne sont que minoritaires.

68. Cross et Walker (1994) ; Hedberg (2002).

69. Fondé sur des statistiques du groupe TABB, une entreprise d’études des marchés financiers de New York et Londres.

70. CFTC et SEC (2010). Pour un autre point de vue sur les événements du 6 mai, voir groupe CME (2010).

71. Rien de tout cela ne doit être utilisé comme argument contre le trading à haute fréquence algorithmique, qui devrait normalement engendrer des bénéfices en accroissant les liquidités et l’efficacité des marchés.

72. Une panique des marchés de moindre ampleur a eu lieu le 1er août 2012, en partie parce que le « coupe-circuit » n’était pas non plus programmé pour arrêter les échanges si le nombre d’actions échangées subissait des changements extrêmes (Popper, 2012). Et c’est ce qui laisse présager un autre problème : la difficulté d’anticiper toutes les possibilités qu’une règle apparemment plausible puisse mal tourner.

73. Nilsson (2009, 19).

74. Minsky (2006) ; McCarthy (2007) ; Beal et Winston (2009).

75. Peter Norvig, communication personnelle. L’ensemble des machines à apprentissage automatique sont aussi très populaires, et cela correspond à la vague médiatique du « big-data » (inspirée par Google et le Prix Netflix).

76. Armstrong et Sotala (2016).

77. Müller et Bostrom (2016).

78. Voir Baum et al. (2011), une autre enquête citée, et Sandberg et Bostrom (2011).

79. Nilsson (2009).

80. Cela dépend évidemment de l’absence d’une catastrophe disruptive de la civilisation. La définition de l’HLMI de Nilsson est « la possibilité pour une intelligence artificielle de réaliser environ 80 % des métiers et des meilleures performances humaines » (Kruel, 2012).

81. Où TP-IA désigne des membres des Conférences sur la Philosophie et la Théorie de l’intelligence artificielle tenue à Thessalonique en 2011 (réponses en 2012 de 43 membres sur 88), AGI la société savante consacrée à l’Intelligence Artificielle Générale (réponses en 2012 de 72 membres sur 111), EETN l’association Grecque pour l’Intelligence artificielle (réponses en 2013 de 26 membres sur 250), TOP100 « les plus grandes figures de l’histoire de l’intelligence artificielle » selon Microsoft Academic search (indice du nombre de citations, réponses en 2013, 29 réponses sur 100). Sur les 549 personnes interrogées par mail au total, 170 ont répondu.

82. Interview de 28 praticiens de l’intelligence artificielle et d’experts indéniables réalisés par mail par Kruel (2011).

83. La figure montre les estimations des médianes renormalisées. Les moyennes sont assez différentes : la moyenne pour « très mauvais » est de 7,6 % pour le Top 100, et 17,2 % (pour l’ensemble des experts combinés).

84. On dispose d’une littérature importante sur la faible fiabilité des experts dans bien des domaines ; et on a toutes les raisons de penser que nombre de ces résultats s’appliquent aussi au domaine de l’IA. Les prévisionnistes ont en particulier tendance à surestimer la valeur de leurs prédictions, parce qu’ils se considèrent comme plus qualifiés qu’ils ne le sont, et attribuent donc une faible probabilité à la possibilité que leurs hypothèses respectives soient fausses (Tetlock, 2005) (on sait qu’il y a ici bien d’autres biais ; voir Gilovitch et al., 2002). Mais nul ne peut échapper à l’incertitude ; la plupart de nos actes reposent inévitablement sur la plausibilité plus ou moins élevée de leurs conséquences à long terme selon nous ; autrement dit, sur des prédictions statistiques. Et ce problème épistémologique ne disparaît pas quand on se refuse à produire une prédiction probabiliste ; il devient seulement invisible (Bostrom, 2007). On devrait au contraire répondre à cette surestimation de la capacité des experts en élargissant nos intervalles de confiance (ou intervalles de crédibilité) c’est-à-dire en brouillant les fonctions de croyance – et on doit de manière générale combattre autant que possible ces biais, considérer différents points de vue, parvenir à l’honnêteté intellectuelle. À long terme, on peut aussi développer des techniques, des méthodes de formation et des institutions que peuvent aider à parvenir à un meilleur étalonnage. Voir Armstrong et Sotala (2012).