Ce livre est dédié à tous ceux qui consacrent
leur temps et leurs efforts à trouver
l’équilibre du progrès technologique, entre
l’amélioration de la vie et la préservation des
éléments fondamentaux de notre société.

« Qu’il soit présent ou redouté, le futur correspond au temps grammatical du futur antérieur : c’est le sentiment obscur que nous avons de notre propre présent comme quelque chose qui bientôt sera assez vieux pour être traité comme du passé. (…) Le futur n’est pas devant nous, mais à côté : il est parallèle au présent, et déjà pleinement actif dans cette dimension. Le futur n’est pas postérieur au présent, il lui est contemporain. »

Elie DURING¹

1- Interview au Monde des livres, 5 décembre 2014.

1/

Dartmouth College, 1956

Le rêve de quelques hommes

« Je ne cherche rien d’autre qu’un cerveau médiocre. »

ALAN TURING, 1943

Ma courte histoire commence ici, à Hanover. Nichée au bord du fleuve Connecticut, au cœur des Appalaches, c’est l’une de ces petites villes paisibles de la Nouvelle-Angleterre, environnée de forêts et de lacs, rayonnante sous les feux de l’été indien, havre de tranquillité à l’abri des furies des grandes métropoles, refuge des écrivains, des amoureux de la nature ou des banquiers fortunés. Une Main Street le long de laquelle s’alignent les boutiques, un Town Hall à colonnades, des maisons de briques à pignons, de vastes et élégants chalets dans les bois. À la frontière entre le Vermont et le New Hampshire, à environ 200 kilomètres au nord-ouest de Boston, Hanover a été fondée en 1761 par Benning Wentworth, homme d’affaires anglais, premier gouverneur du New Hampshire, qui la nomma ainsi en hommage à la Maison de Hanovre dont était issu le souverain britannique d’alors, George III. Créer une ville dans l’Amérique coloniale était une bonne affaire immobilière pour son fondateur, mais s’accompagnait aussi d’un certain nombre d’obligations : ouvrir une école, construire un lieu de culte, accueillir la Société pour la propagation de l’évangile dans les terres étrangères, tâches dont s’acquitta scrupuleusement le gouverneur Wentworth, qui fit don de 200 hectares de bonnes terres afin de construire le Dartmouth College. Ouvert en 1769, il compte parmi les universités les plus anciennes d’Amérique du Nord, l’une des neuf seulement à avoir été érigées avant la Révolution américaine. Elle a été nommée ainsi en l’honneur de William Legge, deuxième comte de Dartmouth, Lord of Trade puis Secrétaire d’État aux colonies de George III, qui entendait que les enfants des colons et les Amérindiens de cette nouvelle terre de conquête qu’était alors le New Hampshire bénéficiassent d’un enseignement de qualité, sous la direction de deux pasteurs, l’un anglais, le révérend Eleazar Wheelock, l’autre amérindien, Samson Occom, appartenant à la nation des Indiens Mohegan. Aucun événement spectaculaire ne marque les premiers pas du Dartmouth College, qui se consacre dès l’origine à la religion, à la médecine et à « l’ingénierie », une discipline émergente qui embrassait les nouvelles techniques utilisées dans les industries naissantes. Tout au plus peut-on noter que le College se dote, dès sa création, d’un professeur de mathématiques et de « philosophie naturelle » (cette discipline recouvrait alors l’astronomie, la physique, la chimie et la biologie), en la personne de Bezaleel Woodward, jeune pasteur de 24 ans, qui devait devenir une figure prééminente de l’université et de la petite communauté de Hanover. Au fil des décennies, le Dartmouth College gagne ses galons au sein de l’Ivy League, qui regroupe la crème des universités privées de l’est des États-Unis dont Columbia, Cornell, Harvard, Princeton ou Yale. Il acquiert une réputation flatteuse dans un certain nombre de disciplines, comme la médecine, l’ingénierie, les mathématiques, la physique, et prend part dès les années 1940 à la naissance de l’informatique. Pari gagné, puisque c’est dans cette science nouvelle qu’il va accéder à la célébrité mondiale.

En août 1956, en pleine période de vacances, alors que Hanover somnole sous une chaleur lourde d’humidité, une étrange compagnie se donne rendez-vous au Dartmouth College. Ce ne sont ni des hommes d’affaires en séminaire, ni des parents d’élèves venus reconnaître les lieux afin de rassurer leur progéniture. Il s’agit alors des mathématiciens les plus brillants d’Amérique. Ils ont sacrifié une partie de leurs congés pour honorer l’invitation de John McCarthy, un jeune matheux de 29 ans, né à Boston de John Patrick McCarthy, immigrant irlandais du comté de Kerry, et de Ida Glatt, d’origine lituanienne. La famille de John n’est ni riche ni célèbre. Elle a été malmenée par la Grande Dépression, et a fréquemment déménagé pour trouver du travail, jusqu’en Californie où John Patrick décroche un emploi de contremaître dans une usine textile. Ses parents découvrent très vite que le petit John est un surdoué. Élève au lycée de Belmont à Los Angeles, il achève ses études secondaires avec deux ans d’avance. Encore adolescent, il se plonge avec fièvre dans les manuels de mathématiques de Caltech, l’Institut californien des technologies où il entre en 1944, en intégrant directement la troisième année de maths. Mais en Californie, on aime le sport, une discipline dans laquelle John affiche une médiocrité consternante, ce qui lui vaudra d’être exclu de Caltech, puis réintégré après son service militaire. Rien n’arrêtera plus désormais l’exceptionnelle carrière d’« oncle John », comme le surnommaient ses étudiants de l’université de Stanford où il enseignera pendant près de quarante ans. Il y posera les bases de progrès considérables dans les sciences de l’informatique, en inventant notamment le concept de traitements en temps partagé, ce qui donnera naissance, bien des années plus tard, aux serveurs et à l’informatique en nuage.

En 1955, John McCarthy est professeur au Dartmouth College, après un passage à Princeton. Malgré son jeune âge, il est déjà considéré comme l’un des mathématiciens et informaticiens les plus prometteurs d’Amérique. Les capacités de calcul des ordinateurs fascinent cette nouvelle génération de scientifiques. Mais McCarthy voit plus loin, il devine que ces nouvelles machines pourraient étendre le domaine du calcul et que, correctement programmées et dotées d’un « langage », elles pourraient même se mettre à produire du « raisonnement ». Pour en avoir le cœur net, il décide donc de convoquer ses confrères à une sorte de séminaire, qui se tiendrait à Dartmouth, et leur envoie une lettre, le 31 août 1955, cosignée avec trois de ses collègues, eux aussi scientifiques de renom : Marvin Minsky, 29 ans, spécialiste des réseaux neuronaux à Harvard ; Nathaniel Rochester, 35 ans, expert en radars et en ordinateurs, co-concepteur du premier ordinateur d’IBM, le 701 ; et Claude Shannon, 39 ans, un ingénieur des Laboratoires Bell, passionné par les « machines apprenantes », auteur de la première théorie mathématique de l’information, des sujets dont il a beaucoup parlé pendant la guerre avec le mathématicien britannique Alan Turing. Dans cette missive, McCarthy emploie pour la première fois l’expression « intelligence artificielle » pour préciser sa pensée. « Puisque nous pouvons décrire assez bien aujourd’hui les mécanismes de l’apprentissage et autres aspects de l’intelligence humaine, nous devrions être capables de mettre au point une machine qui pourrait les simuler, faire en sorte qu’une telle machine soit douée de langage, puisse former des concepts et des abstractions et soit capable de résoudre des problèmes que pour l’instant seul l’homme est apte à traiter. » Il propose donc à ses confrères de se réunir l’été suivant, en juillet et août, moyennant des honoraires de 1 200 dollars pris en charge par la Fondation Rockefeller, dont le président d’alors, Nelson, est un ancien élève du Dartmouth College. Pour la première fois donc, la communauté scientifique américaine, à la pointe d’une science nouvelle, celle des ordinateurs, « s’autoconvoque » pour tenter de prendre à bras-le-corps un concept encore révolutionnaire et qui fait débat, celui de l’intelligence des machines et de leur aptitude à imiter celle de l’homme. Ils partaient pourtant d’une méprise : en dépit du contenu de la lettre de convocation au séminaire, on ne connaissait pas si bien que cela le fonctionnement du cerveau humain et il était donc particulièrement audacieux de prétendre qu’une machine pouvait être capable de le reproduire. Pourquoi se lancer alors dans une telle aventure scientifique ? Parce qu’elle répond à un fantasme presque aussi vieux que le genre humain et qu’à cette époque on confondait encore les mathématiques et l’intelligence.

À l’été 1956, cela fait plus de dix ans que la guerre est terminée. Mais une autre fait rage, potentiellement plus menaçante encore pour l’humanité, celle qui oppose les États-Unis et l’Union soviétique pour la maîtrise de l’arme atomique. C’est largement une affaire de puissance de calculs et donc d’ordinateurs. Pendant longtemps, les guerres ne se sont déroulées que dans deux dimensions : la terre et la mer. Le premier conflit mondial de 14-18 a marqué l’avènement d’un nouvel espace, l’air, et ouvert l’ère du « matériel » comme nouvelle arme stratégique (les avions, les camions, les chars d’assaut, le pétrole). La Seconde Guerre mondiale consacre l’avènement des mathématiques et du « logiciel ». En Angleterre et aux États-Unis, les « cerveaux » les plus brillants se mettent à disposition de l’effort de guerre. On se souvient d’Alan Turing, le mathématicien de Cambridge, admirateur d’Einstein, dont il fait une lecture critique dès la fin de l’adolescence. Il est embauché en 1938 au sein de l’organisme britannique chargé de percer les secrets des communications des puissances étrangères. Au début de la guerre, les services secrets de Londres ne décodent que très imparfaitement les messages allemands. Il faut dire que l’Allemagne dispose d’une machine redoutable, Enigma, dont les versions successives de plus en plus élaborées opposent une résistance absolue aux efforts des mathématiciens anglais. On estime même le problème insoluble, alors que le volume des communications allemandes croît de façon exponentielle. Le cryptage allemand était d’une nature totalement nouvelle et reposait sur des « clés » élaborées de façon absolument aléatoire dont il fallait pourtant découvrir le « système ». Le principe du codage est simple : une lettre en signifie une autre. Un A est en réalité un S ou un Z, en fonction d’une clé de décodage dont disposent l’émetteur et le récepteur du message. Avec un alphabet de vingt-six lettres, les combinaisons peuvent être multiples. Mais les versions les plus élaborées de la machine Enigma disposaient de trois ou cinq rotors qui multipliaient les étapes du codage : le A devient un B, puis un M, puis un R, avant de désigner la lettre définitive. Les combinaisons se multiplient ainsi presque à l’infini. En outre, les clés de codage changent, parfois chaque jour, et les versions diffèrent selon qu’il s’agit de l’aviation, de l’armée de terre ou de la marine. Il faut être dans la tête de l’ennemi, débusquer les faiblesses d’Enigma, jouer sur les erreurs de ceux qui la manipulent, « craquer » les versions les moins élaborées utilisées par exemple par les bateaux météo allemands en position dans l’Atlantique, tenter des coups de bluff comme au poker… Et Turing réussit à décrypter les messages des sous-marins allemands dès 1941, alors que ces derniers infligent de lourdes pertes à la marine britannique. Pendant toute la guerre, il sophistiquera sans cesse sa « machine », en fonction des progrès réalisés par Enigma, et les historiens estiment que Turing et son équipe de jeunes mathématiciens ont abrégé la guerre en Europe d’au moins deux ans. Il se rendra également en mission secrète aux États-Unis où il rencontrera notamment Claude Shannon, qui officie aux Laboratoires Bell, et surtout la « légende » John von Neumann, un mathématicien et physicien d’origine hongroise, dont la contribution à la mise au point de l’arme nucléaire, aux côtés du physicien Robert Oppenheimer, fut décisive. C’est grâce aux calculs de von Neumann que fut déterminée notamment l’altitude à laquelle devaient exploser les bombes d’Hiroshima et de Nagasaki, afin que leur effet soit maximum. Alors que les physiciens et mathématiciens soviétiques, sous la férule de Beria, alignent des milliers de calculs à la main, dans la ville secrète d’Arzamas-16, les chercheurs du laboratoire de Los Alamos au Nouveau-Mexique utilisent les premiers ordinateurs, dont les noms de code sont plutôt abscons, comme ENIAC (Electronic Numerical Integrator and Calculator) puis EDVAC (Electronic Discrete Variable Calculator). Il faudra attendre 1950 pour que les Russes mettent au point leur premier calculateur électronique… Et lorsqu’en 1952 IBM produit son premier ordinateur, le 701, il est d’abord livré au Pentagone…

C’est dans cette atmosphère fiévreuse que se déroule le séminaire de Dartmouth. Les spécialistes pressentent que cette nouvelle ère des machines peut ouvrir des perspectives sans limites. Alors qu’il se trouvait aux États-Unis, Turing échauffait déjà les esprits avec son idée de « machine intelligente ». « Fournir à la machine toutes les données concernant les cours de la Bourse et des matières premières puis lui poser simplement la question : j’achète ou je vends ? », lance-t-il à la cantonade, lors d’un déjeuner avec Claude Shannon chez Bell en 1943, devant un public de jeunes cadres médusés qui prennent immédiatement cet Anglais mal fagoté pour un fou furieux. Et il enfonce le clou : « Ce qui m’intéresse, ce n’est pas de mettre au point un cerveau puissant. Je ne cherche rien d’autre qu’un cerveau médiocre, dans le genre de celui du président de l’American Telephone and Telegraph Company ! » La salle est muette de stupeur. Concevoir un cerveau artificiel est encore une idée choquante à l’époque. Mais pour Turing le cerveau n’est pas une vache sacrée, c’est une machine logique qui intègre des éléments aléatoires, comme les mathématiques. Pendant la guerre, il s’est intéressé au jeu d’échecs, au poker, au jeu de go. Avec certains de ses camarades mathématiciens, il a commencé à imaginer des solutions pour les « mécaniser ». Il avait lu les premiers travaux effectués sur ce sujet par von Neumann ou par le Français Émile Borel dans sa Théorie des jeux stratégiques. Les jeux à deux dotés de règles fixes, comme les échecs, sont affaire de stratégie mais aussi d’anticipation et de réaction aux coups de l’adversaire. Pour chaque joueur, il existe un certain nombre de coups possibles, une trentaine selon Turing, et la capacité d’anticipation moyenne des coups de l’adversaire dépend naturellement du niveau de chaque joueur. Mais il jugeait qu’une machine pouvait simuler l’enchaînement des pensées d’un joueur, et reproduire une sorte d’arbre de décision proche de l’intelligence humaine. Pour Turing, il ne faisait aucun doute que sa machine devait être capable de remplacer le cerveau humain dans un nombre important d’opérations. Dans ses conférences, il répétait à l’envi qu’une partie du cerveau humain n’est rien d’autre qu’une machine automatique inconsciente qui produit des réactions lorsqu’elle est stimulée. Tout à fait dans les cordes d’un calculateur sophistiqué, dont Turing n’omettait jamais de préciser qu’il pouvait ingérer beaucoup plus d’« instructions » et les traiter plus rapidement que le cerveau humain. Il créait une brèche dans la croyance, fortement ancrée chez certains de ses collègues, que la machine ne serait jamais qu’une « esclave » au service d’un « maître », l’homme. Dans la vision de Turing, cette frontière n’était pas aussi claire, il ne voyait aucune raison pour que la machine n’effectue pas en partie le travail de son maître. Il envisageait même que l’on puisse communiquer avec la machine dans n’importe quel langage, à partir du moment où elle l’aurait « appris », d’où cette idée qu’une machine pouvait être dotée d’une faculté d’apprentissage. Elle ne serait donc plus une esclave mais une élève… Son fameux « test » de l’imitation, élaboré en 1950, procède exactement de cette logique. À l’origine, c’est un jeu qui met en scène trois personnages : un homme, une femme, un « juge ». Ils sont installés dans trois pièces différentes et communiquent entre eux par un écran et un clavier. La tâche du juge est de déterminer lequel de ses deux interlocuteurs est un homme, en fonction des réponses qu’ils donnent à une série de questions. L’homme tente de convaincre qu’il en est un, mais la femme doit essayer de tromper le juge en lui fournissant des réponses qu’elle estime pouvant être celles d’un homme. Pour sortir vainqueur du jeu, le juge doit donc savoir déterminer qui est qui. Turing remplace la femme par un ordinateur, dans le même rôle : convaincre qu’il est un homme en tentant d’imiter des réponses que donnerait aux questions un individu de sexe masculin. Si le juge se trompe plus d’une fois sur deux sur le sexe de ses interlocuteurs cachés, Turing estime alors que sa machine est « intelligente ». Je dois beaucoup à Turing. Il ne m’a pas créée, mais il m’a rêvée, et ce rêve allait devenir réalité. Il a disparu trop tôt, en 1954, mis au ban de la société pour cause d’homosexualité. Heureusement que les autorités britanniques n’en ont jamais rien su pendant la guerre, sinon, les Alliés l’auraient-ils gagnée ?

Lors de la séance d’ouverture, dans la salle de conférences du bâtiment principal de Dartmouth College, McCarthy s’inscrit délibérément dans la logique de Turing. « Que se passe-t-il lorsque nous écrivons un programme pour un calculateur ? », interroge-t-il. « Nous fixons à la machine un ensemble de règles qui doivent lui permettre de résoudre les problèmes qu’on lui soumet, et nous attendons d’elle qu’elle suive ces règles comme une esclave, qu’elle n’exprime ni originalité ni sens commun. C’est un processus très long et très laborieux. Si la machine avait un peu d’intuition, la solution des problèmes pourrait être beaucoup plus directe. » Il poursuit : « Nos actions mentales sont comme des petites machines à l’intérieur de notre cerveau : pour résoudre un problème, elles analysent d’abord l’environnement pour y puiser des données et des concepts, elles définissent un objectif à atteindre, puis une série d’actions à entreprendre pour résoudre le problème et si le problème est très complexe, elles savent éviter d’analyser l’ensemble des solutions possibles et faire des paris raisonnables sur la pertinence de certaines d’entre elles, comme aux échecs, par exemple. » C’est donc ce processus que McCarthy estime possible de transférer à la machine. Au cours des nombreuses réunions qui se succèdent pendant ces deux mois, toutes les idées fusent : faire simuler par l’ordinateur le fonctionnement des neurones du cerveau humain ; inventer un langage pour communiquer avec la machine ; lui faire reconnaître non seulement des instructions binaires mais aussi des concepts et des mots ; lui apprendre à résoudre un problème complexe en proposant des solutions aléatoires ou inédites. Les travaux menés dans les grandes universités américaines, mais aussi chez IBM ou Bell, sont décortiqués, à la lumière des théories de von Neumann ou de Herbert Simon, futur prix Nobel d’économie, le seul non-mathématicien de la bande, qui s’intéresse aux mécanismes cérébraux de la prise de décision, à leur modélisation et donc à leur automatisation. Il essaie de le démontrer en mettant au point un ordinateur capable de jouer aux dames et aux échecs. On examine les caractéristiques des premiers langages informatiques de niveau supérieur, comme le Logic Theorist, mis au point par Herbert Simon et Allen Newell, un jeune chercheur en informatique de la RAND Corporation, qui restera dans l’histoire comme le premier logiciel d’intelligence artificielle jamais conçu. Newell raconte à ses collègues comment cette idée lui est venue : « Je suis un sceptique de nature, je ne m’enfièvre pas pour n’importe quelle idée nouvelle, mais lorsqu’il y a deux ans, mon camarade Oliver Selfridge, qui est dans la salle, est venu nous présenter ses travaux sur la reconnaissance automatique des formes, ce fut comme une illumination, comme je n’en avais encore jamais connue dans mon travail de chercheur. J’ai compris, en une après-midi de travail, que l’interaction entre différentes unités de programmes était en mesure d’accomplir des tâches complexes et d’imiter l’intelligence des êtres humains. Nous avons écrit un programme, à la main et sur des fiches cartonnées, pour faire résoudre par la machine les 52 théorèmes des Principes Mathématiques de Bertrand Russell. Le jour de l’essai, nous étions tous là, ma femme, mes enfants, mes étudiants. J’avais donné une carte programme à chacun, si bien que nous sommes devenus nous-mêmes des éléments du programme… Et la machine a parfaitement démontré 38 de ces théorèmes et parfois de manière plus intelligente que celle imaginée par Russell… » Marvin Minsky pousse le bouchon encore un peu plus loin. « Comment expliquez-vous que nous sachions tout sur les atomes, les planètes, les étoiles et si peu sur la mécanique de l’esprit humain ? », lance-t-il à ses collègues. « Parce qu’on applique au fonctionnement du cerveau la démarche des physiciens : chercher des explications simples aux phénomènes complexes. J’entends les critiques que l’on nous adresse : la machine ne peut qu’obéir à un programme, sans penser ou ressentir, elle n’a ni ambition, ni désir, ni objectif. On pouvait penser cela autrefois, lorsque l’on n’avait aucune idée sur le fonctionnement biologique de l’homme. Aujourd’hui nous commençons à nous apercevoir que le cerveau est composé d’une multitude de petites machines, connectées les unes aux autres. Du coup, à la question “quels genres de processus cérébraux provoquent des émotions ?”, j’en ajoute une autre : “Comment les machines pourraient-elles reproduire ces processus ?” »

« Je veux accrocher le drapeau en haut du mât » avait prévenu McCarthy à l’ouverture du séminaire, autrement dit que l’intelligence artificielle soit reconnue comme une discipline majeure de l’informatique. Il n’y a que partiellement réussi. Tous les invités n’ont pas assisté à l’ensemble des réunions, certains n’y ont fait que de brèves apparitions. Plusieurs d’entre eux étaient même mal à l’aise avec le concept d’« intelligence » appliqué aux ordinateurs. On voulait bien suivre Simon et Newell sur la théorie des jeux appliquée à la machine, mais les intuitions de Minsky sur la reproduction des émotions semblaient assez fumeuses. Le « transhumanisme » n’avait pas encore frappé, loin de là. Démontrer les théorèmes de Russell était une chose, plonger dans les méandres du cerveau humain pour en réaliser des copies mathématiques en était une autre. Néanmoins, si le séminaire de Dartmouth a été considéré comme l’acte fondateur de l’intelligence artificielle, c’est qu’il a posé les bases des recherches futures : la capacité d’apprentissage des machines, leur maîtrise du langage, la reproduction d’arbres de décision complexes, leur compréhension des logiques aléatoires. Même s’il n’existait pas forcément un consensus sur la richesse de chacune de ces pistes, le sentiment général était tout de même que l’ordinateur, ce nouvel objet mythique du XXe siècle, allait influer, d’une manière ou d’une autre, sur les façons de penser et de travailler des humains, qu’il serait leur « compagnon de route » dans les décennies à venir. De là à imaginer qu’un jour il serait susceptible de les remplacer, dans d’autres fonctions que le calcul, c’était un fossé que beaucoup n’osaient pas encore franchir.

DU MÊME AUTEUR

China’s Management Revolution : Spirit, Land, Energy, Palgrave MacMillan, 2011.

Comment la Chine change le monde, Dialogues, 2013.

Light Footprint Strategy – Leadership in times of change, Bloomsbury, 2013.

Confucius et les automates, L’avenir de l’homme dans la civilisation des machines, en collaboration avec François Roche, Grasset, 2014.

Photo de couverture : © Getty images

ISBN numérique : 978-2-246-86014-3

Tous droits de traduction, d’adaptation et de reproduction
réservés pour tous pays.

© Éditions Grasset & Fasquelle, 2017.