Table

Dédicace

Avant-propos

Résumé des chapitres

Liste des abréviations

Introduction – Du scientisme ambiant

Souvenirs, souvenirs...

Retour vers le futur

Comme un manque de quelque chose

Alors, Pigalle ou la Sorbonne ?

Pourquoi écrire sur l’IA ?

Comment écrire sur l’IA ?

Hissez la grand-voile !

A. Expliquer l’IA

I. Présentation générale de l’IA

1. Qu’est-ce que l’IA ?

1.1 Définition générique de l’IA

1.2 Les débuts

2. Qu’est-ce que le Machine Learning ?

2.1 Relativement à l’IA

2.2 ML : apprentissage d’un modèle par algorithmes

2.3 Un procédé secret ?

3 Des données et des Hommes

3.1 Big data ou pas ?

3.2 Structurées ou non structurées ?

3.3 A caractère personnel ou non ?

3.4 Et leur valeur ?

4 La datascience

4.1 Des statistiques au ML

4.2 Algorithmes (non) supervisés

4.3 Le point central : deux phases

4.4 Résumé

5 Avant/après

5.1 Avec descripteurs, puis sans : le passage de l’explicite à l’implicite

5.2 Mais aussi : déductif/inductif, et déterministe/probabiliste

5.3 La (vraie) définition de l’IA

6 Les limitations des algorithmes

6.1 Applicabilité à un cas d’usage

6.2 Défaut de qualité de la matière première

6.3 Impossibilités mathématiques fondamentales

7. D’où vient l’IA et où va-t-elle ?

7.1 Addicts à la data

7.2 Dans les nuages, vraiment ?

7.3 Les yeux plus gros que le ventre ?

7.4 Recherche argent désespérément

8. La pensée computationnelle

II. Le jardin d’acclimatation

1. Les benêts de l’IA et leurs contradicteurs

1.1 Le pourquoi d’un succès médiatique

1.2 Le revers de la médaille

1.3 Les applications classiques de l’IA

2. Le bêtisier de l’IA

2.1 Conseil et pépètes

2.2 « Quand l’intelligence artificielle découvre de nouvelles planètes »

2.3 Serrer la pince à une IA

2.4 Mais qu’est-ce qu’ils racontent ?

2.5 « Une IA a caché des données à son créateur »

3. Du côté des ressources humaines

3.1 Une curieuse présentation

3.2 La solution ?

3.3 Où étaient les problèmes ?

3.4 Epilogue

III. Incursion dans l’IA

1. IA, RN et machines qui apprennent toutes seules

1.1 Pourquoi parle-t-on de l’IA ?

1.2 L’IA et son interprétation sublimée

1.3 L’IA, c’est donc (seulement) cela ?

1.4 Généralisation

1.5 Labélisation

1.6 Mesurer la performance

1.7 Un peu plus sur les RN

2. L’auto-ML

2.1 Puisqu’il faut régler des paramètres...

2.2 Plus dure sera la chute

2.3 Faire du ML sans datascientist : bien tenté !

3 Révolution du code : ancien et nouveau testament

3.1 L’apprentissage automatique

3.2 En programmation informatique

3.3 Echecs et maths

3.4 Et pour les images, c’est pareil

3.5 Et pour la médecine...

3.6 De la difficulté à définir l’IA

3.7 Ce qu’est la « boîte noire »

3.8 A la recherche de l’intelligence

4. Quelques petits problèmes posés par le ML

IV. L’apprentissage machine

1. Une modélisation de la modélisation

1.1 Le travail du datascientist

1.2 Application : jouez-vous au go ?

1.3 Une représentation graphique de l’apprentissage

1.4 Application (au jeu de go)

1.5 Une autre manière de voir les choses

1.6 AlphaGo ou OmegaStop ?

1.7 Sur la faculté d’atteindre la liaison fonctionnelle par apprentissage automatique

2 Les autres méthodes en ML

2.1 Une présentation succincte

2.2 Génération de données

3. Le transfer learning, magnified

3.1 L’idée, sa justification, son principe

3.2 Le bon, la brute et le truand

3.3 Entre savoir et comprendre

4. L’apprentissage non supervisé

4.1 Tour d’horizon

4.2 Pourquoi le non-supervisé, par opposition au reste ?

4.3 Le maître-concept et le lecteur « LU »

4.4 Encore un peu de travail, donc

5. L’apprentissage par renforcement

5.1 Comme à l’école ?

5.2 Encore de l’optimisation

5.3 Un exemple enfantin

5.4 Toute ressemblance avec l’autonomie serait fortuite

6. Conclusion : faire du neuf avec du vieux ?

Partie B : Limites techniques des approches

V. Futur et déterminisme

1. Connaissance du futur

1.1 Un lien avec Rabelais

1.2 Régularités

1.3 Anti-régularités

2. Le déterminisme

2.1 Le joug ou la loi

2.2 La loi ne suffit pas

3. Les conséquences d’une notion dangereuse

VI. Les infirmités de l’IA

1. Les biais

1.1 Appuyer là où ça fait mal

1.2 Remèdes

1.3 L’Homme et la mesure

2. Le fonctionnement en boîte noire

2.1 Puissance est synonyme de complexité

2.2 Le retour d’Achille

2.3 Décision n’est pas raison

n plus unième variable

3.1 Tout se passait bien jusqu’à l’arrivée de...

3.2 L’IA auto-apprenante (ou pas !)

4. La puissance de calcul

4.1 Sur les anticipations auto-réalisatrices

4.2 Ralentissement en vue

4.3 L’ordinateur quantique

5. Les erreurs de raisonnement

5.1 L’approximation inductiviste

5.2 L’abduction : démontage d’un raisonnement spécieux

5.3 Causes, conséquences et consorts

VII. Une conversation imaginaire avec Elon Musk

VIII. Les petits théorèmes de limitation

1. Le sur-apprentissage

1.1 La généralisation

1.2 A l’opposé de la généralisation

1.3 Le contrôle du sur-apprentissage

1.4 Comment ne pas généraliser

2. Le fléau de la grande dimension

2.1 Au sujet de l’anonymisation

2.2 Retour à la modélisation

2.3 Comment tromper un RN ?

3. La dépendance au chemin

3.1 L’urne de Pólya

3.2 Le ML et le chemin

4. Les régressions fallacieuses

4.1 Causalité n’est pas corrélation

4.2 Des corrélations en veux-tu ? - en voilà !

4.3 En résumé

4.4 Conséquences sur le big data, le ML et l’IA

5. Conclusion : à l’abordage !

IX. Les grands théorèmes de limitation

1. Autour de la logique

1.1 Logique naturelle, logique formelle

1.2 Introduction à la logique formelle

1.3 Les principales notions, en quelques lignes

2. L’incomplétude : une gravité toute relative

2.1 Cohérence d’une théorie

2.2 Prouver la cohérence

2.3 Théorème de Gödel : premier résultat

2.4 Théorème de Gödel : second résultat

2.5 Discussion

2.6 Les tentatives de réfutations du théorème de Gödel

2.7 Le cœur du réacteur

2.8 Est-ce grave, Docteur ?

3. L’indécidabilité

3.1 Le virage algorithmique

3.2 Indécidable arrêt des programmes informatiques

3.3 Impossibilité de la vérification automatique

4. Application : l’IA et l’ordinateur pensant

Partie C – Autour de l’IA : socio-économie du numérique

X. Le transhumanisme

1. Les intelligences en guerre ? – Une recension

1.1 Les arguments convaincants

1.2 Ecole et QI

1.3 Mais des positions souvent simplistes

1.4 L’intelligence en partage

1.5 L’IA en question

1.6 L’âme de l’IA, le soir de l’Homme

1.7 La génétique au rapport !

1.8 Techno-optimisme myope = transhumanisme

1.9 Un transhumaniste qui s’ignorait ?

1.10 Faire feu de tout bois

= hubris

XI. Destruction des emplois par l’IA

1. La disparition annoncée du travail

1.1 Les impacts de l’IA sur l’emploi

1.2 Emplois ou employés ?

1.3 Philosophie du travail

2. La querelle des classiques et des modernes

2.1 L’irremplaçable

2.2 Destruction créatrice – Création destructrice

3. Deux thèses opposées sur l’influence de l’IA

3.1 La capacité humaine d’apprentissage

3.2 Une manipulation ?

4. Conclusion : pour qui sonne le glas ?

XII. Le monopole des GAFAM

1. Constats et actions possibles

1.1 Pérennité du modèle

1.2 A l’hallali !

1.3 Le reste de la panoplie

2. La réussite de monopole

2.1 Saine concurrence et régulation des monopoles

2.2 Retour sur le cas Amazon

2.3 Les pratiques de monopole

2.4 La désintermédiation

3. Pourquoi il faut casser ces monopoles

3.1 Le chatbot : une arme, pas une mode

3.2 La fausse source du vrai

4. Conclusion : une lueur d’espoir

XIII. L’imposture des réseaux sociaux

1. Un peu de paranoïa

2. A charge ou à hue et à dia ?

2.1 Scientifiquement prouvé !

2.2 Les fausses explications

2.3 Poker menteur

2.4 De l’utilité réelle des réseaux sociaux

3. Un des vrais dangers de l’IA

XIV. L’argent technologique

1. Money, money...

1.1 Il en manque une !

1.2 A moins qu’il ne lui manque quelque chose ?

1.3 Vers une unité monétaire totalisante ?

2. Un détour par le Bitcoin

2.1 Thèse : Delenda est bitcoin !

2.2 Antithèse : la merveille dérégulée

2.3 Synthèse : analyser les propriétés du bitcoin

3. La blockchain, ou le coût de la confiance

3.1 Les propriétés sécurisantes

3.2 Tout a un prix

3.3 L’abus de confiance

4. Que nous veulent les cryptomonnaies ?

4.1 Haro sur la monnaie

4.2 Du monopole à l’hégémonie ?

4.3 Arnaque et innovation

5. Le mot de la faim

Partie D – L’IA et les sens du progrès

XV. Le Traitement Automatique du Langage

1. Motivation

2. Panorama des approches

2.1 L’étendue du problème

2.2 Avant/après

2.3 A base de règles : approches linguistiques

2.4 Par analyse de données : Machine Learning

3. Eléments de linguistique

3.1 Une modélisation fruste

3.2 Les écueils

4. Le TAL en approche linguistique

4.1 Approches dites « sémantiques »

4.2 Exemples de construction de règles

4.3 Limites de l’approche

5. Le TAL en approche machine learning

5.1 Les raisons du changement

5.2 Chaîne de traitement automatique

5.3 Préparation des données : l’annotation

5.4 L’embedding : un mot sur Word2Vec

6. Exemples d’applications du TAL

6.1 La traduction par ordinateur

6.2 Catégorisation d’e-mails entrants

6.3 Création d’un moteur de recherche

6.4 Le chatbot

7. Retour sur syntaxe et sémantique

7.1 Un exemple simple mais complet

7.2 Le gap sémantique

7.3 Le RPA

7.4 L’Art et la sémantique

8. Conclusion : le monde et ses représentations

8.1 Résumé

8.2 Au-delà du TAL : retour sur des considérations de logique

8.3 Poésie !

XVI. Les dangers de l’IA

1. La tentation transhumaniste

1.1 Le cinquième cavalier...

1.2 ... tombé de sa selle

1.3 Toujours la même technique

2. La transparence et son corollaire : l’esclavage

2.1 Machine à lire dans les pensées

2.2 Rien d’humain n’est inéluctable

2.3 Retour sur la conversation imaginaire avec Elon Musk

2.4 L’Etre et la chose

3. Contrôle des populations

3.1 Le big data entre des mains expertes

3.2 La pensée computationnelle

3.3 Reconnaissance faciale pour tous !

4. Bipolarité

4.1 La nouvelle guerre froide

4.2 Société à deux vitesses

5. La direction par la norme

5.1 Le choix des armes

5.2 Sélection des phénomènes d’intérêt

5.3 La normalisation scientiste

6. Conclusion : savoir et pouvoir

XVII. Ethique et transparence

1. Au commencement étaient les données

1.1 Les données du problème

1.2 Tes données sont mes données

1.3 Valoriser les données ?

1.4 Les données d’intérêt public

2. L’éthique

2.1 Le rapport Villani, sur l’éthique

2.2 Parlons (vraiment) d’éthique de l’IA

2.3 Des problèmes éthiques au problème de l’éthique

3. Transparence des algorithmes

3.1 Algorithmes discriminants

3.2 Expliquer les algorithmes

3.3 Les limitations ont encore frappé !

4. Conclusion : une histoire vraie

XVIII. Conscience (artificielle), IA forte

1. IH et IA

1.1 On appelle IA...

1.2 On appelle intelligence...

2. Qu’est-ce que la pensée ?

2.1 Le raisonnement est un au-delà du calcul

2.2 La preuve : le théorème de Church

2.3 Implicite et explicite

3. Qu’est-ce qui empêcherait l’IA forte ?

3.1 Une mauvaise reconstruction

3.2 Impossibilité, argument faible

3.3 Les réponses basées sur les théorèmes d’incomplétude

3.4 D’autres arguments

3.5 Possibilité, argument fort

3.6 Il faut chercher ailleurs

4. Impossibilité d’une IA consciente : preuve

4.1 La force du continu

4.2 Le continu vivant surgit du temps

4.3 L’argument du continu

5. Conclusion : et omnia vanitas ?

Conclusion

Retour sur Terre

L’IA se nourrit de communication

La part du vrai

L’arnaque transhumaniste

La norme déterministe

Contre la science aveugle

Remerciements

Bibliographie

Pour toute information sur notre fonds et les nouveautés dans votre domaine de spécialisation, consultez notre site web : www.deboecksuperieur.com

© De Boeck Supérieur s.a., 2020
Rue du Bosquet 7, B - 1348 Louvain-la-Neuve

Il est interdit, sauf accord préalable et écrit de l’éditeur, de reproduire (notamment par photocopie) partiellement ou totalement le présent ouvrage, de le stocker dans une banque de données ou de le communiquer au public, sous quelque forme et de quelque manière que ce soit.

Dépôt légal : ISBN 978-2-8073-3348-2

Bibliothèque Nationale, Paris : octobre 2020

Bibliothèque royale de Belgique, Bruxelles : 2020/13647/116

Une science sans composante critique, subordonnée aux intérêts du Prince ou de la collectivité, c’est ce qu’aujourd’hui on nomme une idéologie.

(Jean Largeault, (Largeault 1980), p. 142)

Avant-propos

Ce livre a une double portée. Tout d’abord, il vise à donner au lecteur les connaissances suffisantes pour s’orienter seul et faire preuve d’esprit critique face à une matière qu’il est urgent de ne pas ignorer. Il entend aussi faire prendre conscience de la variété des discours et de la dangerosité éventuelle de certaines positions y ayant trait. Il est écrit par un insider qui travaille dans l’IA telle qu’elle est effectivement appliquée, loin de la rhétorique marketing qui n’aime rien tant qu’emprunter au prestige du sujet.

En un mot, j’ai souhaité faire la part du vrai et du fantasme entourant l’intelligence artificielle, tirant de mon expérience les éléments pour me guider dans cette tâche, avec pour but de prémunir le lecteur des sirènes... et des icebergs. Ainsi, j’ai eu à cœur d’en expliquer les aspects techniques pour les mettre à la portée d’un vaste public, en faisant le choix délibéré de ne pas éluder la difficulté, mais de passer au travers de celle-ci, de la manière la plus directe et la plus illustrée possible.

Toutefois, cet essai ne se réduit pas à ses explications scientifiques, mais revêt une portée humaniste, convoquant également économie, philosophie, sociologie, littérature... La raison en est qu’une compréhension réelle de l’IA se doit de reposer sur une vision totale qui, seule, permet d’éviter une approche trop restreinte de la matière.

Le livre s’adresse donc à un public varié : managers, étudiants, personnes qui travaillent, ou sont appelées à travailler, de près ou de loin avec l’IA et, plus généralement, tout être soucieux de comprendre l’environnement que va dessiner – que dessine déjà – cette technologie.

Ainsi, que le lecteur soit ou non aux prises avec la transformation digitale, l’innovation, l’informatique, qu’il soit un décideur ou un étudiant s’intéressant à l’IA, la variété des thèmes abordés et le contexte résolument pédagogique doivent lui permettre d’accéder à la matière en ne passant à côté d’aucune notion qu’il pourrait entendre sur le sujet, et en lui donnant la possibilité de forger ses propres convictions sur la base des exemples et des idées débattus.

S’agissant du lecteur curieux, notre but est de lui permettre la compréhension de ce qu’est – et pourra être – l’IA. Et puisque l’on mentionne la curiosité, le livre comporte, en outre, un certain nombre de références destinées à tous ceux qui souhaiteraient aller plus loin. Les professionnels de l’IA, ceux qui la pratiquent au quotidien, devraient, quant à eux, trouver dans ce livre des pistes de réflexion sur les thématiques connexes à leur domaine, ainsi que des modes de présentation de leur matière.

Cet essai fait aussi la part belle à une critique de l’idéologie actuelle entourant l’IA. C’est pourquoi ses impacts sur l’emploi, objet de tous les augures, mais aussi une étude du courant dit « transhumaniste », sont examinés avec, en toile de fond, la tentative de répondre à cette question existentielle : la pensée peut-elle naître de l’ordinateur ? La réponse apportée, forcément conjecturale, s’appuie néanmoins sur nombre d’arguments rigoureux. Mais si l’IA n’est pas la pensée, est-il correct de présumer qu’il y a une « pensée IA » ?

L’ouvrage prend ainsi le contre-pied de l’image trop souvent véhiculée par les médias, dans lesquels l’IA serait comparable au dérèglement climatique : une matière idéale pour répandre la peur du futur et le « tous aux abris ! ». Ce livre se veut un vaccin contre l’IA folle.

Au final, le style choisi nous permet d’ouvrir sur les enjeux, en traitant de manière didactique ce qui doit l’être, et en maintenant résolument la diversité des thèmes sans laquelle l’IA ne ferait pas tant parler d’elle. Bonne lecture.

Paris, avril 2020.

Résumé des chapitres

Introduction – Du scientisme ambiant Quelques anecdotes personnelles font naître un questionnement : quelle est la part du vrai dans ce qui s’entend sur l’IA et dans ce qui se lit ? Jusqu’où cette technologie peut-elle aller ? Est-ce souhaitable ? Le livre doit répondre à ces interrogations de manière exacte et concrète.

Partie A – Expliquer l’IA Sont regroupés, dans cette partie, les trois grands chapitres de la veine technique positive, dirons-nous, du livre (le dernier, on le laisse pour plus tard). La présentation est graduelle et passe, après un chapitre qui doit nous amuser en même temps que nous questionner, par ce qui fait l’IA – du point de vue scientifique, s’entend.

I – Présentation générale de l’IA Un chapitre initiatique, sorte de graine contenant l’ensemble du livre, ayant vocation à faire rentrer directement le lecteur dans le vif du sujet. Des premières définitions, abordées presque conventionnellement, aux premiers exemples illustrant ce que sont ces fameux algorithmes, il s’agit essentiellement d’aborder ce qui fait l’IA : les données, le cloud, l’apprentissage supervisé... et, comme une menace planant au loin, les premiers problèmes qu’une pensée trop étriquée de la matière pourrait faire naître.

II – Le jardin d’acclimatation Vous le savez, l’IA, ce sont ces pinces de robot à qui l’on serre la main, ces chatbots qui parlent tous seuls dans votre dos sans que personne ne puisse les comprendre, ces ordinateurs qui trouvent des solutions aux problèmes millénaires ou, plus aisément encore, le bon candidat pour votre recrutement. Vraiment ? Ici se trouve illustrée la manière dont il ne faut pas parler d’IA. Mieux vaut le faire au début, on n’aura plus (trop) à s’en préoccuper après !

III – Incursion dans l’IA Avant de parler des conséquences de l’IA, et après avoir vu ce qui ne renseignait guère sur ce dont il s’agit, ce chapitre se donne pour objectif d’expliquer, de manière didactique, une des grandes techniques qui sous-tend l’IA : l’apprentissage machine supervisé. Il faut traiter des modèles et de la manière dont on les crée. Alors, complexe ? A mettre en œuvre, assurément, mais pas à expliquer ! D’abord, on ne tombe pas dans les pièges du vocabulaire. Une analogie culinaire, et l’on sait ce que sait que l’apprentissage machine. Comment classer automatiquement des photos de chat ? Un exemple séminal sur lequel sont décrites les étapes nécessaires à l’éducation d’une IA. Des réflexions sur le caractère automatique précèdent la caractérisation de l’IA par une notion assez souvent mal comprise – déterministe ou probabiliste ? – que l’on va remplacer par une autre, bien plus juste. Pas de formule compliquée, mais des exemples : régler la température de votre logis, créer un joueur d’échec, ou révolutionner la médecine (?).

IV – L’apprentissage machine Une seconde couche ; et comme maintenant nous avons plusieurs couleurs à notre palette, soyons audacieux : on revient sur l’apprentissage machine supervisé en donnant une représentation graphique pour mieux visualiser en quoi consiste l’opération, au-delà de l’analogie brossée au chapitre III. Ainsi, cela permet de comprendre ce qu’est en réalité AlphaGo, dorénavant le meilleur joueur de go du monde. Sont abordées les autres méthodes d’apprentissage machine, l’originalité étant que l’on a préféré, plutôt qu’une exposition technique forcément délicate, prendre du recul en questionnant les implications (de la justice prédictive ?!) jusqu’à remettre en cause la nouveauté des approches. C’est aussi l’occasion d’introduire un premier hiatus dans le fonctionnement de l’IA, toujours sur notre exemple des photos de chat.

Partie B – Limites techniques des approches Prévoir et comprendre à partir des données... Le programme paraît miraculeux. Il est évidemment – bien qu’on omette souvent de préciser en quoi – limité par plusieurs barrières plus ou moins perméables. Toujours dans la veine plus technique du livre, quoiqu’entrecoupée de respirations sur sa thématique, cette partie traite, cette fois, en crescendo, du pôle négatif. Elle laisse, cela dit, le point culminant pour la suite...

V – Futur et déterminisme Les algorithmes servent à modéliser, et modéliser à prédire ou à vous ranger dans des cases. Mais s’ils sont efficaces, c’est que vous étiez prédictible, que tous les phénomènes le sont, et donc qu’ils sont déterminés. Est-ce vrai ? Nous reste-t-il une part de liberté dans un tel monde ?

VI – Les infirmités de l’IA Premiers des trois chapitres qui portent sur le thème, cher à notre ouvrage, des limitations de l’IA. On y parle de biais – mieux, on explique ce que c’est ! –, de boîte noire, du rêve de la machine « auto-apprenante ». Et vous reprendrez bien un peu d’ordinateur quantique, aussi ? Le chapitre conclut sur un rappel : les algorithmes appliquent une approche inductive et non déductive. Et quand on fait du non-déductif, on aboutit à des erreurs. S’ensuit un exemple de raisonnement erroné qui permet de démontrer l’existence de Superman (qui a accepté un rôle de guest star). Rien que ça !

VII – Une conversation imaginaire avec Elon Musk Où l’on retrace un dialogue – en esprit – avec l’entrepreneur fantasque. On introduit, au passage, les raisons pour lesquelles nous nous sommes penchés sur les théorèmes de limitation de l’IA : la puce dans le cerveau y a-t-elle maille à partir ?

VIII – Les petits théorèmes de limitation Cela aurait pu être un chapitre ardu, mais les notions de généralisation et de sur-apprentissage ont déjà été évoquées, par petites touches, et nous les approfondissons – car elles sont le cœur des limitations de l’IA – avec quelques exemples, notre objectif étant ici de donner l’intuition de ce dont il s’agit. L’exemple, pas tout à fait innocent dans un livre traitant d’IA, de l’anonymisation nous sert de viatique dans l’illustration des limitations, et la voiture autonome dans celle de ses conséquences. On revient à des choses moins subtiles avec des explications sur les notions de corrélations : il y a plus de policiers dans les districts où le taux de criminalité est grand ; c’est prouvé. La police est-elle la source du crime ? A la fin, le lecteur sait ce qu’est une corrélation et surtout ce qu’elle n’est pas !

IX – Les grands théorèmes de limitation Avec les résultats exposés ici, on se situe au croisement de la logique et de la philosophie. Savez-vous qu’il existe des choses vraies mais non démontrables ? Or qu’est-ce qu’une démonstration sinon un programme informatique, ou un algorithme ? Et donc s’il y a des propositions vraies qui ne peuvent être déduites sous la forme d’un code informatique, où se situe l’intelligence ? Serait-elle « artificielle » ? C’est un chapitre plus exigeant qu’il n’est complexe grâce aux nombreux exemples qui expliquent, sous plusieurs angles, la même chose : la différence entre la réalité et ses représentations. Pourquoi est-ce si important ? Rappelons-nous qu’un modèle n’est qu’une représentation.

Partie C – Autour de l’IA : socio-économie du numérique Tel un chevalier muni de son épée (la partie A) et de son bouclier (la partie B), nous voici prêts à affronter les thématiques corrélatives à l’IA. Autant de vues sur les conséquences de l’intelligence artificielle, et du numérique en général, qu’elles soient de craintes, d’espoirs ou de cavaleries.

X – Le transhumanisme D’où le courant transhumaniste tire-t-il sa force ? C’est ce que ce chapitre se propose d’étudier en faisant référence à un autre livre sur l’IA, La Guerre des intelligences, de Laurent Alexandre. Mais vous allez voir, il est inutile de le connaître ni même de l’avoir lu.

XI – Destruction des emplois par l’IA On resitue la problématique : Terminator n’est pas intéressé à prendre votre travail, en revanche, l’IA accompagne la vague de l’automatisation. Sont exposées deux thèses sur la véritable difficulté soulevée par l’IA : une positive, quoiqu’indiquant une direction peu porteuse d’espoir et, pour y faire contrepoids, une négative, qui interroge la communication faite autour de ce sujet. Finalement, de l’espoir, il y en aurait !

XII – Le monopole des GAFAM Voici un sujet pas du tout polémique : la viabilité des géants du numérique ! Un peu d’économie nous fera décrire la position monopolistique, surtout pour nous interroger sur celle dorénavant possédée par les GAFAM. Et avec tout ce qu’on vient de voir, il y a des raisons de montrer quelque inquiétude.

XIII – L’imposture des réseaux sociaux Un court chapitre, en forme de diatribe, pour dénoncer les explications pseudo-scientifiques bidons. Puis une ombre projetée, comme une menace à peine déguisée, sur les sociétés : le big data et les réseaux sociaux sont-il vraiment libérateurs des faits et de la parole ? Ne seraient-ce pas plutôt des instruments de cantonnement ?

XIV – L’argent technologique En termes d’audimat, il faut reconnaître que l’IA a eu de la concurrence. Une technologie présentée comme majeure, comme une innovation à nulle autre pareille, s’est faite jour : la blockchain. Qu’est-ce que la monnaie ? Quel est le coût de la confiance ? Pourquoi Libra, la cryptodevise de Facebook, veut-elle émerger ? Résume-t-on vraiment tout avec un prix ? Autant de questions pas si éloignées du sujet qu’il n’y paraîtrait de prime abord.

Partie D – L’IA et les sens du progrès L’essence du progrès l’alimente-t-elle forcément pour prendre une direction choisie dans le meilleur des mondes ? Révisons un peu l’ensemble de ce que nous avons vu en démarrant avec un chapitre qui oscille entre théorie et applications, mathématiques et littérature, avant de traiter de la dangerosité de notre matière, des espoirs que nous avons de la maîtriser puis, enfin, de la possibilité de parler à son ordinateur – non, plutôt de celle qu’il vous réponde !

XV – Le Traitement Automatique du Langage Un chapitre composé de mélanges. A ce point du livre, le lecteur est familier avec les ingrédients permettant de concevoir un système informatique traitant le langage. En effet, qu’attendrait-on de plus « naturel », de la part d’un ordinateur intelligent, qu’une conversation réelle ou, à tout le moins, une sorte de compréhension de notre parler ? On explique ainsi comment faire un moteur de recherche, un chatbot clientèle, et d’autres encore. A nous syntaxe et sémantique, Aragon et Mallarmé ! Finalement, on retrouve l’écart, déjà vu, entre vrai et démontrable, auquel s’identifie celui entre la forme et le sens. Quelle chance reste-t-il à l’IA forte, celle qui devait nous concurrencer ?

XVI – Les dangers de l’IA Puisqu’il faut l’appeler par son nom... Une étude des dangers qui nous guettent, d’assez près, d’ailleurs, en passant du plus grotesque (le transhumanisme), au plus grave (l’esclavage) par, sans doute, le plus probable : le contrôle des populations. Et devinez qui se cache derrière ? Corrélations, algorithmes... Est-ce l’IA ? Pas seulement. Alors de quoi s’agit-il, au juste ?

XVII – Ethique et transparence Voudrait-on se rassurer, après un chapitre anxiogène, avec la douceur délicatement sucrée d’une crème chantilly à l’éthique et à la fève tonka ? Pas vraiment, car nous nous montrerons assez critique sur la notion (car très exigeant). La transparence, alors ? C’est une valeur sur laquelle on communique beaucoup, mais est-elle atteignable ? On retombera, bien sûr, sur les réponses obtenues précédemment : encore une limite. Alors Google et la vérité, la voiture autonome et sa réalisabilité : tout le monde sera renvoyé dos à dos.

XVIII – Conscience (artificielle), IA forte C’est le sommet de la montagne. On l’avait promis dès l’introduction, et nous y voici. Mais au fait, qu’est-ce que l’intelligence, la vraie ? Quelle est la nature de l’écart entre un Homme et une machine ? Une machine vraiment intelligente pourrait-elle exister ? Quels sont les arguments en faveur ou à décharge ?

Conclusion – Raillée parfois, admirée souvent, l’IA reste avant tout une belle incomprise...

Liste des abréviations

Quoique normalement définies lorsqu’elles sont introduites, les abréviations présentes dans ce livre sont regroupées ci-dessous dans un but de praticité. Certaines d’entre elles seront d’usage commun, d’autres nettement plus rares.

ACP | Analyse en Composantes Principales
ARMA | Auto-Regressive Moving Average
AUC | Area Under the ROC Curve
CNIL | Commission Nationale de l’Informatique et des Libertés
CRM | Customer Relationship Management
DCP | Données à Caractère Personnel
DPIA | Data Protection Impact Assessment
ERP | Enterprise Resource Planning
GAFAM | Google, Apple, Facebook, Amazon, Microsoft
GAN | Generative Adversarial Networks
GDPR | General Data Protection Regulation
IA | Intelligence Artificielle
IH | Intelligence Humaine
IHM | Interface Homme-Machine
IT | Information Technology
LU | Labélisateur Universel
ML | Machine Learning
NLG | Natural Language Generation
NLP | Natural Language Processing
NLU | Natural Language Understanding
OCR | Optical Character Recognition
PI | Propriété Intellectuelle
R&D | Recherche et Développement
RVB | Rouge, Vert, Bleu
RH | Ressources Humaines
RN | Réseau de Neurones
ROC | Receiver Operating Characteristic
RPA | Robotic Process Automation
SAV | Service Après Vente
TAL | Traitement Automatique du Langage
VRM | Vendor Relationship Management

-

Introduction
Du scientisme ambiant

« Le mesurable a conquis presque toute la science et en a discrédité toutes les parties où il n’a pas pu s’introduire. »

(« Le retour de Hollande », Variété II, Paul Valéry)

« Il y a des instants où tout paraît clair [...]. Dans ces instants, il n’y a plus de science – ou, si vous voulez, la science est accomplie. Mais à d’autres heures, rien n’est évident, il n’y a que des lacunes, actes de foi, incertitudes. »

(Monsieur Teste, Paul Valéry)

Pas un jour sans que l’on ne vous explique que l’intelligence artificielle est sur le point de révolutionner le monde. D’ailleurs, elle est déjà partout ! Un moteur de recherche ? De l’IA. Vous avez dit « reconnaissance vocale » ? IA ! Lecture automatique de document ? De plus en plus d’IA. Prise de décision sur les marchés, diagnostic médical amélioré, détection de la fraude... une seule réponse : IA. Votre téléphone portable serait lui-même un concentré d’IA, et l’arrivée annoncée de la voiture autonome ne se passera pas sans IA.

Ce que cela fait ; ce que c’est ; la manière dont on communique dessus ; pourrait être le triptyque de présentation de l’IA. Admettons que nous sommes quittes du premier point et que nous nous chargerons du deuxième tout au long de ce livre, mais dans l’optique d’éclairer le troisième. Ainsi, nous ne proposons pas un livre de mathématiques, mais une réponse à un certain discours auquel nous allons nous confronter tout de suite. Avant de remonter bien vite vers les lieux éclairés, je vous propose la visite des soubassements de l’IA : de la caverne de Platon au scientisme de cave.

Souvenirs, souvenirs...

Je me rappelle distinctement, chez le coiffeur, à Paris, où, enfants, nous trouvions vraiment le temps long, avoir lu un article – était-ce dans Le Point ? Car nous allions chez un coiffeur intellectuel – dans lequel il était question de robotique. Enfin, pas tout à fait de robotique, car c’est plutôt d’intelligence artificielle (IA) dont il était question, bien qu’à l’époque ce vocable n’ait sans doute pas été usité. Ce que cet article racontait ? Quelque chose qui me parut, même du haut de mon jeune âge, extrêmement dérangeant.

La photo de la double page montrait un chercheur (ou quelqu’un qui se plaisait à se croire tel) prenant la pose à côté d’une grande table contenant beaucoup d’appareils électriques d’où émergeait, parmi les boulons et les câbles, une sorte de robot, avec sa pince et ce qui pouvait prétendre à une tête, avec ses yeux, le tout en design années 80.

Dans l’article, celui-ci1 racontait qu’il essayait de donner une conscience à son robot, mais que cela était très difficile (je ne sais plus pourquoi). Alors, il concentrait ses recherches sur le fait de donner, d’abord, des émotions à son robot. Il indiquait y être presque parvenu pour celle de tristesse, que le robot devait manifester lorsqu’il s’approchait de lui pour l’éteindre...

Trente ans plus tard, maintenant que l’informatique, science jeune, mais à la progression vertigineuse, autorise des traitements à une rapidité que personne n’aurait pu envisager à l’époque, qu’en est-il de cette vieille fantasmagorie ?

Retour vers le futur

Articles de journaux, de revues sur internet, livres, blogs, émissions de télévision..., peu de médias échappent à la déferlante de l’IA. Le premier risque est celui d’overdose et concerne plutôt les exégètes patentés. Pour les autres, il s’agira d’éviter au mieux l’indigestion, plus liée à la mauvaise qualité des éléments – des aliments ? – présentés qu’à la dangerosité de leurs substances actives.

Le problème se présente sans embarras, dirais-je : trop d’articles traitent des prodiges que nous (comprendre : l’Humanité) serions sur le point de pouvoir accomplir. Notez qu’il s’agit rarement de faits avérés, sauf pour les prouesses liées au génie génétique, peut-être. Où est le mal ? Pas d’hésitation : dans la croyance, véhiculée par les auteurs de ces articles, en une science qui peut tout faire, qui possède le curatif à tous nos maux et qui serait susceptible de répondre même à ceux que nous n’avons pas. Tout Homme est un malade qui s’ignore ? Sans doute, mais c’est un autre débat.

Ecoutez plutôt les éructations transhumanistes qui vous expliquent que l’avenir de l’humanité passe par la « cyborguisation » obligatoire pour améliorer notre longévité et nos capacités. Et pas question de « seulement » s’implanter des puces dans le cerveau : la possibilité de transférer notre esprit dans une machine – un ordinateur quantique, tant qu’à faire – ne serait pas loin non plus. Enfin immortel ! N’en avons-nous pas toujours rêvé ? Mais même si ma copie exacte est implantée dans une machine, en quoi ai-je, moi qui vais mourir un jour, un sentiment d’immortalité ? Et pas une lumière pour avoir relevé cela2 ?!!, ce vieux problème de la conscience : un double, même parfait, de moi n’est irréductiblement pas moi...

Comme un manque de quelque chose

Ces écrits ont tous un point commun : ils ne parlent jamais de philosophie, alors qu’il y aurait fort à dire sur ce type de sujets : quid de la société qui résulterait des innovations en question ? Quelles seraient les conséquences de ce nouvel hubris ? Non, au lieu de cela, ils préfèrent tous ressasser des promesses qui tiennent du merveilleux et aux côtés desquels les miracles de Lourdes passeraient pour des faits ordinaires, sinon crédibles.

Je ne sais pas pour vous, mais je me sens comme saturé de ces âneries. Cependant voici qu’une espèce de vertige métaphysique me prend : en sont-ce vraiment ? Et si tout était vrai ? Et si l’IA forte naissait dans 20 ans, ou 50, si vous préférez ? Et si les manipulations génétiques étaient devenues si aisées que l’on pourrait se faire pousser des ailes3. Et si le Big Data conduisait inévitablement à une surveillance généralisée à peu près consentie par tous ? Mieux vaudrait être au courant dès à présent, même si les auteurs des articles n’ont pas les hauteurs (que l’on me pardonne ce jeu de mots) philosophiques souhaitées.

La question à laquelle nous devons donc répondre est : nageons-nous en pleine désinformation scientiste fomentée par des amateurs cherchant tribune pour satisfaire leur plaisir personnel, ou bien y a-t-il suffisamment de vrai dans ce qui nous est donné à lire ?

Alors, Pigalle ou la Sorbonne ?

Cela m’évoque une histoire, sorte de conte moral que me racontait ma grand-mère, sur des voyageurs se rendant, l’un après l’autre, à Paris. Le premier, une fois rentré au bercail, répond aux questions pressantes de celui resté sur place : « Alors, c’est comment, là-bas ? » Il lui répond : « C’est épouvantable ! Je n’ai trouvé que lieux de dépravation ou de perdition, prostitution et criminalité le disputent à la drogue et tous ont trouvé un terreau fertile en cette ville décadente qu’est Paris ! »

Pas même rebuté par ce récit apocalyptique, notre second comparse part lui aussi. Quand il rentre, le premier l’attend et lui demande, inquiet : « Alors ? » L’autre lui répond : « Paris est une ville extraordinaire sur laquelle souffle l’Esprit. Les gens y sont d’une sympathie et d’une intelligence époustouflantes et partout on ne voit qu’épanouissement et beauté ! » La résolution de l’antinomie est simple : le premier est allé à Pigalle et y est manifestement resté longtemps tandis que le second a beaucoup discuté avec des gens de la Sorbonne qui lui ont fait voir la plupart des musées... Moralité : on ne décrit, du monde, que ce qui nous y intéresse vraiment.

Le rapport entre mon histoire et celle de ma grand-mère est une interrogation de nature locative : quand on peut supposer qu’au fond d’eux-mêmes, les protagonistes étrangers savaient très bien où ils se trouvaient, il se pourrait arriver que l’on ressente une sincère hésitation, à la lecture des articles sur l’IA et des prophètes de la Silicon Valley, entre Pigalle et la Sorbonne ! Dit autrement : saurions-nous toujours évaluer si nous sommes exposés à des inepties écrites sciemment, leur concentration n’étant que le fruit d’une mode passagère, ou bien si les gens croient sincèrement à ce qu’ils écrivent et ne possèdent pas le recul suffisant pour en tirer les leçons ? Aurions-nous une difficulté à trier le sincère du malhonnête ?

Pas d’emballement. Pour filer la métaphore, je lance cette intuition : il me semble finalement reconnaître les lumières ... de Pigalle. Pourquoi ? Tout d’abord parce que trop d’approximations, trop de pseudo-vérités assénées sans démonstration, pas assez d’étude des conséquences des faits énoncés. Ensuite, parce que se poser la question de l’honnêteté, c’est déjà y répondre. De plus, ces textes jouent en fait trop sur les peurs4 des lecteurs, sans jamais les nommer (si ce n’est par de très vagues références à l’éthique), et ce jeu n’a jamais porté quelconque valeur humaniste. Enfin, le fait de ne jamais tirer les implications philosophiques ou sociales des innovations évoquées milite pour un scientisme de bas niveau, utopie bête et méchante et donc fausse, en grande partie.

Trier le bon grain de l’ivraie, dans les écrits, devrait donc pouvoir se faire en recherchant les valeurs humanistes évoquées ci-dessus. Ce critère devrait aider à faire la part des choses : les articles faisant état d’un questionnement et d’une recherche des conséquences, à droite, et ceux pour lesquels l’analyse fait cruellement défaut, à ranger tranquillement dans la catégorie « fables » où se situent, entre autres, les romans de Stephen King, bien qu’ils soient plus léchés.

Pourquoi écrire sur l’IA ?

Je ne peux terminer ce constat sans citer une vue malheureusement beaucoup plus prosaïque : parmi les articles trouvables, que ce soit sur le net ou dans des journaux sérieux, j’ai le sentiment que les journalistes portent aussi une grande part dans l’inanité ressentie, car un relevé minutieux de leur prose montre qu’ils sont coupables de ne rien comprendre aux âneries qu’ils colportent. Evidemment, par manque de connaissances, de discernement et d’analyse, il n’est guère étonnant que le résultat ne soit pas à la hauteur...

Bien sûr, je ne fais pas mine de découvrir qu’il se trouve toujours des personnes pour raconter n’importe quoi. On écrivait des sottises avant et l’on continuera d’en écrire après. En outre, l’enthousiasme pour les sujets porteurs du moment conduira toujours ceux qui pensent pouvoir en tirer profit à enjoliver la réalité, à maquiller le vrai, à vendre l’incertain. Cette constante humaine garantit que les quelques citations5 illustrant, selon moi, des erreurs de pensée, malgré l’obsolescence qu’elles finiront par accuser – car tout vieillit – garderont en elles trace de ces stigmates. Il importe plus de savoir les repérer que de réagir épisodiquement sur un instantané, nécessairement contingent, afin de mieux les combattre. Au final, ce ne sont pas tant les exemples qui importent que la méthode révélant leur part d’ombre.

Qu’est-ce qui justifie tant d’enthousiasme autour de l’IA, à ce point que l’on en parle au journal de vingt heures, alors même que semblent exister nombre de signaux concourant à son obscurcissement ? Au-delà des sur-promesses bien souvent hasardées, il n’est pas rare de lire également des appels à la prudence et à l’attentisme, par exemple dans le domaine de la finance. Ces aspects, apparemment contradictoires, se démêlent devant la question préalable à toute investigation : à qui profite le crime ? Remettre au lendemain les développements nécessaires à l’IA ne favoriserait-t-il pas, pendant quelques années encore, ceux qui l’utilisent massivement depuis longtemps6 ? Or ces technologies de traitement de l’information, si elles sont correctement maîtrisées et utilisées – deux présupposés importants dont il faudra s’assurer de la tangibilité –, ne peuvent qu’améliorer la connaissance, du moins tant qu’on est seul à les utiliser ! En finance, si tout le monde connaît, du monde, la même chose, l’asymétrie d’information disparaît et, avec elle, les profits. Tous les conseils ne sont pas bons à suivre...

Ainsi, et quel que soit le domaine considéré, il importe de savoir ce que l’IA peut faire, et quelles seront les conséquences de son application ou de son évitement.

Comment écrire sur l’IA ?

Question peut-être plus difficile encore que la précédente. Les chercheurs dans ce domaine ont le loisir de rédiger des articles, des livres plus ou moins techniques, parfois emprunts de ce que l’on appelait les « humanités », pour ceux qui sont versés dedans, par intérêt pour la matière, ou par nécessité morale. Il n’est pas question, pour moi, de les concurrencer sur les aspects techniques. D’ailleurs, comme l’écrit le logicien Jean-Yves Girard, dans son essai La Machine de Turing ((Girard 1995), pp. 107-108) : « L’impression dominante qui se dégage de l’IA est celle d’un monde de la compétence décalée, où la chose la plus importante est toujours celle que l’on ne domine pas. »

Se trouve ainsi exprimée la difficulté inhérente à investir un champ irréductiblement technique et, qui plus est, protéiforme. Certes, cette citation me sert de captatio benevolentiæ, mais est-ce, pour autant, une raison pour passer son chemin ? Un domaine, si complexe soit-il, résiste-t-il indéfiniment aux coups de butoir qui lui sont portés ? Après tout, une matière scientifique a l’avantage de se laisser appréhender par une démarche scientifique.

Bien sûr, l’IA ne se laisse pas apprivoiser comme cela et les ingrédients nécessaires à la réussite de cette entreprise sont nombreux : assurément il faudra des mathématiques et de la logique, pour savoir ce que l’on fait ; de l’informatique, car il s’agit de mettre en œuvre des algorithmes, pas de rester dans le monde des idées ; des connaissances dans le champ d’application de la solution d’IA à créer (ex. : linguistique, imagerie) ; un peu de droit, cela peut servir ; de l’économie, de la psychologie, du marketing... Et beaucoup, beaucoup de sang froid.

Pour ne pas tomber dans le piège du survol ou de l’imprécision inévitable, nous proposons à notre lecteur d’alterner, au cours de cette présentation personnelle de l’IA, des considérations issues de notre expérience, que nous avons faites valider, lorsqu’il s’agit de questions techniques, par des personnes suffisamment aux faits de la matière, avec des prises de position sur des questions entourant l’IA. Et ces dernières ne manquent pas. D’ailleurs, nous ne nous priverons pas de déborder parfois du sujet, car l’IA n’est qu’une technologie mouvante parmi d’autres, appliquée dans un environnement lui-même changeant, et il serait dommage de nous mettre des œillères sous prétexte d’unicité de lieu. C’est précisément contre cela que nous voulons prémunir le lecteur.

Hissez la grand-voile !

Ainsi ce livre s’adapte lui-même à la matière qu’il traite et propose une approche récursive, itérative, qui précise les notions au fur et à mesure, un peu à la manière d’un grossissement de microscope. Il est subdivisé en quatre parties, construites autour d’un parti pris : on ne peut parler d’une chose, et en tirer des conséquences, que si on la connaît suffisamment. Inutile, donc, d’aborder d’emblée les impacts de l’IA dans tel ou tel secteur avant que d’en maîtriser les sous-jacents, faute de quoi les discours se révèlent péroraisons stériles. En outre, afin de faciliter le repérage, quatre thèmes ont été dégagés et se signalent au lecteur par la présence d’un sigle à droite du titre de chapitre :

pour Technique : où sont décrits quelques arcanes de l’IA sur les plans mathématique7 et informatique ;

pour Dangers : car l’IA en comporte bon nombre, qui ne se présentent pas forcément en prévenant, mais qu’il vaut mieux connaître ;

pour Limitations : inhérentes à toute approche, l’IA possède aussi ses limites. Certaines sont contournables, d’autres seront sûrement levées ultérieurement, quant au reste, il faudra bien se faire une raison... ;

pour Collatéraux : il n’y a pas que l’IA dans la vie, il y a aussi la blockchain, l’économie, et surtout des mises en perspective.

Après avoir abordé des considérations générales, pour nous mettre d’accord sur une base commune concernant l’IA, nous visiterons des aspects plus sociologiques, dirons-nous, et chercherons à éclairer ce qui cloche dans certains discours, pour revenir plus avant dans les fondamentaux. Nous explorerons des exemples concrets d’utilisation, en essayant de donner au lecteur le bagage scientifique minimal pour comprendre ce qui se cache vraiment derrière ces fameux algorithmes.

Toujours avec la volonté d’embrasser le substrat technique de l’IA, sans lequel il est illusoire de tenir des positions valides, nous étudierons les limitations de ces approches. Et c’est par un peu de philosophie que l’on entrera dans le vif du sujet. Nous en profiterons aussi pour répondre à une invitation imaginaire chez un people qui introduira, en quelques sortes, les grands résultats restreignant le périmètre d’action de l’IA.

Alors autorisés à considérer les aspects de l’intelligence artificielle sous un angle sociétal, suivront des réflexions et des remarques sur les sujets qui gravitent autour. Des discours qui l’entourent aux entreprises qui s’en réclament, en passant par leur positionnement, nous considérerons aussi l’unité numérique dont elle dépend, mais se distingue.

Retour aux sources, enfin, avec une vision holistique qui condense technique, limites et artefacts sur un exemple d’application. Nous accosterons les vraies questions, dorénavant accessibles : quels dangers ? Quels remèdes espérer ? Nous aurons parcouru du chemin, depuis le départ et, enhardis par l’exercice, nous gravirons la question centrale, celle à laquelle tout le monde cherche à répondre : l’IA forte, celle qui devrait nous concurrencer, existera-t-elle ? Ou peut-être, plus modestement : la verrons-nous ? Et puisque nous serons alors au sommet, nous en profiterons pour admirer la vue, avant d’entamer le nécessaire retour vers des plaines plus rustiques.

Le chercheur, pas le robot.↩︎

En fait, si. Parcourant les plateaux de télévision et les émissions de radio pour vendre leur dernier nanar (L’IA va-t-elle aussi tuer la démocratie ?), Laurent Alexandre et Jean-François Copé se retrouvaient au micro matinal de Guillaume Durand, le 19 février 2019. Ce dernier pose la question de savoir si l’IA pourrait le répliquer quand sa fin sera proche. Réponse du Docteur Alexandre : « Oui ! » Mais, en homme prévenant, il précise quand même que cette copie ne serait pas vraiment lui-même, n’aura ni sa conscience ni sa testostérone... A quoi bon ?↩︎

« ... et le malheur veut que qui veut faire l’ange fait la bête. » (Pascal).↩︎

Ainsi des titres du genre « Les machines vont-elles gagner ? » dont il serait naïf de réduire le sens à la seule question énoncée. Derrière celle-ci se cache mal un réflexe psychologique de masturbation (intellectuelle) : jouons à nous faire peur que les machines seront plus fortes que nous. Mais au fait, qui a créé les machines ? De cette sorte de mini-paradoxe vient le plaisir...↩︎

Toujours mises pour l’exemple, au service de mon propos, et jamais pour me moquer de leurs auteurs, faut-il le préciser ?↩︎

Dans le domaine financier, les fonds avec des mathématiciens au board, par exemple.↩︎

Dès lors qu’il est fait usage du formalisme mathématique, nous avons choisi d’exposer les détails en note de bas de page, à l’exception des rares concepts centraux que nous avons préféré expliquer en recourant le plus possible à des comparaisons et en privilégiant l’intuition.↩︎

Partie A

Expliquer l’IA

I

Présentation générale de l’IA[T]

« Tout ceci en plein vingtième siècle
Avec des satellites autour de la terre et des machines à penser »

(« Un moment vient... », Elsa, Louis Aragon)

Une présentation presque conventionnelle pour poser quelques définitions utiles pour la suite. Les chapitres ultérieurs viendront reprendre, puis enrichir d’exemples et de développements, les notions abordées.

Pour le moment, le but du jeu est de donner une caractérisation suffisamment univoque pour éviter les effets de mode voulant que tout ce qui relève de l’informatique soit de l’IA. C’est le travers publicitaire actuel qui fait d’un fichier Excel ou d’un jeu vidéo une IA de sorte que l’on finit, comme monsieur Jourdain, à utiliser l’IA de tous temps, sans en avoir jamais eu conscience. Tous les chapitres d’ordre technique qui suivent se veulent un antidote à ces balivernes.

1 Qu’est-ce que l’IA ?

Si la réponse tenait en une ligne, il n’y aurait pas de quoi en faire un bouquin ! Le terme est, indéniablement, à la mode et, si les modes passent, ce terme devrait rester vivant encore pour un certain temps, tant sont profondes et multiples les conséquences que l’IA pourra avoir sur nos sociétés. Avant d’aller plus loin, il nous faut disposer d’une définition de départ, discourir sur une notion floue étant une approche scientifiquement dangereuse.

Bien souvent, l’IA est présentée comme étant la méthode pour résoudre informatiquement tous les problèmes. « La technique nous assiste, à quoi bon la décrire ? Ce qui compte c’est le résultat » est le discours implicite de ceux qui cherchent à (la) vendre. Et si vous arrivez à faire croire aux acheteurs potentiels que l’IA c’est magique, cela est extrêmement pratique, car alors il n’y a plus besoin d’expliquer.

1.1 Définition générique de l’IA

Comme bien souvent, il est loisible de donner d’un concept soit une définition abstraite, soit une liste d’exemples l’incarnant. Pourquoi choisir ? Démarrons espièglement, pour mieux nous en écarter, avec une définition ensembliste de l’IA :

Définition abstraite (par intension – sous la forme d’une propriété) : l’IA, c’est faire faire à la machine des tâches qui demandent de l’intelligence à l’Homme.

Définition concrète (par extension – sous la forme de ses instances) : l’IA, c’est le machine learning, la reconnaissance visuelle, le traitement automatique du langage, la voiture autonome, la recommandation personnalisée, etc...

Pour leur donner plus de corps, complétons avec ceci : faire de l’IA c’est donner des capacités cognitives à la machine, résoudre des problèmes complexes avec ; l’IA doit conférer à la machine des facultés de perception, d’apprentissage, de raisonnement, de décision et de dialogue.

Autre manière, plus folklorique, de voir les choses : positionnons l’IA dans un emboîtement de poupées russes. Précisons que c’est à dessein qu’aucun des sigles et concepts suivants n’a encore été défini, puisqu’il s’agit, en quelques sortes, d’une des vocations de ce livre que d’y pourvoir. Séparées par le symbole de parenthèse « ( », la plus petite babouchka étant à gauche, chacune d’entre elles contient la précédente et est incluse dans la suivante :

Deep Learning ( RN ( ML ( IA ( Science Informatique

Evidemment, cette froide présentation nous éloigne de l’essence de ce qui fait le buzz actuel autour de ce terme. Qu’a-t-on perdu en chemin ? Quelle est la part du rêve qui n’apparaît pas dans cette définition ? Rien de tel qu’une petite plongée dans l’Histoire pour tenter d’en cerner la réponse.

1.2 Les débuts

La légende fait remonter la création du nom d’« Intelligence Artificielle » (Artificial Intelligence, ou AI, en anglais) à Marvin Minsky et John Mc Carthy lors de la conférence de Dartmouth en 1956, dont elle serait le berceau fondateur.

L’intelligence artificielle visait alors à doter les machines de fonctions cognitives humaines pour leur donner la possibilité de prendre des décisions rationnelles. L’IA cherche donc à élaborer des programmes informatiques capables d’effectuer des tâches normalement dévolues aux femmes et aux hommes car réclamant, pour leur exécution, des facultés de perception, d’apprentissage, de mémoire et de raisonnement.

Cela explique sans doute pourquoi les pionniers s’étaient en particulier intéressés à la formalisation du raisonnement logique. L’IA des années 70 se présentait sous la forme d’« agents » simulant la prise de décisions par encodage de règles logiques, censées reproduire la façon humaine de penser. On verra plus tard en quoi cette approche comporte un vice de forme, sorte de gène létal consubstantiel à cette hypothèse très – trop – forte voulant réduire l’intelligence humaine à l’allégeance à quelques règles logiques.

De nos jours, la recherche dans le domaine donne plutôt la définition suivante, extraite du livre de la chercheuse Laurence Devillers (Devillers 2017) :

« L’intelligence artificielle est une discipline scientifique recherchant des méthodes de résolution de problèmes à forte complexité logique ou algorithmique. Par extension, elle désigne, dans le langage courant, les dispositifs imitant ou remplaçant l’humain dans certaines mises en œuvre de ses fonctions cognitives. »

Tout au long de ces pages, nous aurons l’occasion de rencontrer de nombreuses facettes de cette discipline protéiforme qu’est l’IA, source d’inspiration tant pour les scientifiques que pour les commerciaux ou les artistes.

Nous pouvons d’ores et déjà remarquer que l’IA se présente, avec ses pionniers comme Alan Turing, d’emblée comme un canular. Dans son article « Computing Machinery and Intelligence »1, dont le désormais célèbre premier paragraphe s’intitule « Imitation game », Turing pose les termes du problème d’une machine pensante sous la forme d’une supercherie, avec le test qui porte son nom : en gros, si la machine est capable de tromper son interlocuteur humain, qui se révélerait incapable de faire la distinction avec un vrai humain sur la foi d’une conversation écrite, alors... Alors quoi ? Pourquoi se poser encore la question de l’intelligence de la machine si elle est capable de faire aussi bien que l’Homme ? Le problème se trouve finalement – et temporairement – évacué par la personne même qui l’avait posé, mais d’une manière quelque peu trompeuse ; nous y reviendrons. Ajoutons simplement qu’il est facile de duper son prochain. De nombreuses personnes en ont d’ailleurs fait leur métier : professions du spectacle, hommes politiques, escrocs (liste non limitative).

2 Qu’est-ce que le Machine Learning ?

Nous abrégerons souvent l’expression Machine Learning par le sigle « ML ».

2.1 Relativement à l’IA

Le ML, qu’est-ce donc ? Une blague circulait sur internet à ce propos :

Question : Comment peut-on savoir si un artefact est de l’IA ou du ML ?

Réponse : Si c’est un code en Python2, c’est probablement du ML. Si c’est une présentation Power Point, c’est sûrement de l’IA !

Le ML, c’est le bras armé de l’IA et sa traduction française est « apprentissage automatique »3. Le dernier terme traduit la notion de machine et rend bien le fait que celle-ci va se débrouiller toute seule, sans intervention humaine. Le terme d’apprentissage, lui, est plus ambiguë, car il relève d’une faculté purement humaine (ou, plus généralement, animale). C’est lui qu’il faut creuser car cette notion recouvre précisément ce qui fait dire qu’un traitement est de l’IA ou pas.

2.2 ML : apprentissage d’un modèle par algorithmes

A ce stade, préalablement à une discussion approfondie aux chapitres [IA1] et [IA2], disons que le ML utilise des algorithmes pour modéliser un phénomène ou un problème. Nous avons introduit deux nouveaux termes importants qu’il nous faut expliquer :

Modéliser, en sciences, revient à décrire un cadre explicatif, souvent sous forme mathématique, en fixant l’espace des phases (i.e. des variables et grandeurs supposées intervenir dans le phénomène) et en déterminant la liaison entre elles, de manière à l’expliquer. Dit plus simplement, et sans perdre trop en généralité, produire un modèle c’est trouver une relation, c’est-à-dire une fonction f, qui rende compte, à partir d’observations x vues comme les « entrées » du phénomène étudié, de la quantité y à estimer (la « sortie » du phénomène). Les liaisons entre les variables x et y se trouvent ainsi transcodées dans la fonction f, et deviennent calculables par l’équation y = f(x).

Prenons un exemple : la loi de la gravitation newtonienne est un modèle expliquant la mécanique des corps et déterminant la force gravitationnelle exercée par deux corps grâce à une équation dépendant de grandeurs physiques comme leurs masses, la distance qui les sépare... Les calculs permettent d’en dériver, par exemple, la trajectoire du centre de gravité d’une planète autour de son soleil. La loi de Newton est un modèle de la gravitation. Il en existe d’autres, comme la théorie de la relativité générale d’Einstein.

Algorithmes. Terme ô combien employé de nos jours... Des publicités vous expliquant que leur moteur utilise « de puissants algorithmes » pour trouver votre emploi, jusqu’aux enfants de CP que l’on note sur leur capacité à créer un algorithme4, l’IA vient accompagnée de ce mot comme Saint Nicolas du Père Fouettard. Heureusement, il se définit plutôt facilement, et nous reprenons le glossaire de (Devillers 2017) :

« Algorithme : un algorithme est un procédé (une sorte de recette) qui permet de résoudre un problème par la mise en œuvre de suites d’opérations élémentaires selon un processus défini aboutissant à une solution. »

Interviewé sur Radio Classique, le 20 novembre 2017, le mathématicien Cédric Villani employait judicieusement cette même comparaison. A la question « Qu’est-ce qu’un algorithme ? », il répondait, en substance, qu’un algorithme est l’équivalent, dans le quotidien, d’une recette de cuisine. On a connaissance de l’existence d’un plat qui s’appelle « pot au feu » mais on ne sait pas le faire. Eh bien la recette de ce plat fournit l’algorithme qui permet d’aboutir à sa réalisation.

Pour une même tâche, certains algorithmes seront meilleurs que d’autres (plus rapides). Considérons un exemple que nous connaissons tous bien : la réalisation (sans calculette !) d’une multiplication n × m. Il existe plusieurs algorithmes pour ce calcul et ils ne sont pas tous équivalents en termes de complexité et de rapidité. Le moins efficace est probablement celui consistant à compter sur ses doigts. Un autre serait de faire m additions du nombre n. Le meilleur reste encore celui que nous avons appris à l’école primaire. Toutes ces méthodes conduisent au bon résultat, mais certaines sont meilleures que d’autres.

Nous avons dorénavant tout ce qu’il faut pour préciser ce qu’est le ML, et je laisse encore une fois à la scientifique Laurence Devillers ce privilège (extrait du glossaire de (Devillers 2017)) : [defML] « Apprentissage machine ou apprentissage automatique (machine learning): l’apprentissage automatique des machines, branches de l’intelligence artificielle, permet aux machines d’effectuer des tâches pour lesquelles elles ne sont pas explicitement programmées par des règles préétablies, en apprenant à partir d’un grand ensemble d’exemples. »

Le ML est ainsi constitué de méthodes informatiques mettant en jeu des outils mathématiques que sont ces fameux algorithmes, aux fins de produire des modèles. Rapport à l’activité de modélisation, cette technique ajoute une corde à notre arc. En effet, par opposition à l’exemple donné plus haut comme illustration de la modélisation – le modèle physique de la gravitation –, tout l’intérêt du ML est d’apprendre des modèles « non physiques », c’est-à-dire de dégager, malgré tout, de la connaissance sur des phénomènes difficiles à mettre en équations, pour lesquels on n’a pas d’idée a priori de loi, mais beaucoup de données les décrivant.

2.3 Un procédé secret ?

Des quelques notions introduites précédemment pourrait être dérivée une fausse croyance qu’il nous revient de contrer immédiatement. On pourrait, en effet, croire que l’idée à protéger, lorsque l’on fait du ML, c’est la mathématique sous-jacente. Reproduire un comportement cognitif humain devrait mettre en œuvre des formules d’une grande complexité, dont la combinaison est elle-même extrêmement astucieuse. Toute cette intelligence rentrée dans l’ordinateur, dont la quintessence se trouverait dans ces formules, constitue sans doute le véritable trésor à protéger.

Il n’est rien de plus faux et le paradoxe du ML, c’est que ce ne sont plus les maths qui comptent mais les données qui ont servi à l’ajustement du modèle. Tout d’abord, remarquons qu’une formule mathématique n’est pas brevetable5. Ensuite, la communauté des datascientists est très prêteuse et ces derniers n’hésitent pas à déposer leurs idées et programmes informatiques6 sur des plates-formes de partage telle GitHub. Enfin, la production et le raffinement de (nouvelles) méthodes alimente les « papiers » de recherche, et la publication scientifique dans ce domaine est intense depuis quelques années.

L’intérêt d’un modèle, qu’il soit issu du ML ou non, est de bien représenter le phénomène à capter, l’activité de modélisation ayant souvent pour but d’utiliser le modèle créé pour prédire. Or le caractère prédictif résulte certes des méthodes mathématiques convoquées – connues, anciennes pour la plupart – mais surtout des données spécifiques auxquelles elles ont été appliquées. Les données font le modèle, pas les algorithmes utilisés.

Je parle de paradoxe au sens où cela semble très contre-intuitif. Et pourtant, il est indéniable que si une société particulièrement rusée met au point une méthode incroyable pour traiter mathématiquement une classe de problèmes et la garde pour elle, cela lui confère un avantage compétitif sur ses concurrents (ex. : rapidité d’exécution, évitement d’un biais, performances nettement supérieures, ...). C’est exact, mais cette société dépendra tout de même des données lui permettant de régler son modèle et de l’appliquer concrètement.

Ainsi, la communauté des datascientists se rallie volontiers derrière le mot d’ordre « open-source ». Les codes sont partagés, commentés, mutualisés. De nombreuses personnes qui ne se connaissent pas travaillent dessus (lorsque le programme déposé est jugé suffisamment intéressant) et contribuent à son amélioration. Partager son travail gratuitement, voici qui a de quoi surprendre ! Que d’autres acceptent de travailler dessus gracieusement, voilà qui est encore plus étonnant. Et pourtant cela s’explique très bien : la mutualisation des efforts facilite la recherche, sans compter que travailler seul dans une voie de recherche pendant des années, c’est prendre le risque de se fourvoyer, chose dont on ne se rend compte qu’au terme (si on l’atteint !). A contrario, faire contribuer de nombreuses personnes sur un sujet permet de tester rapidement la pertinence de l’idée, sans mettre en péril la reconnaissance de la communauté sur la paternité de celle-ci et sa maîtrise, si elle s’avère solide.

Cela, c’était du côté création. Côté utilisation, les entreprises se sont données le mot sur l’open-source et l’on aurait pu imaginer que l’esprit de la chose leur échapperait complètement tant qu’elles profitent d’une ressource gratuite à piller, en ne contribuant pas ou peu. Open-source n’aurait eu alors qu’une signification : le contraire de « payer un logiciel », et les sociétés vivraient cet allégement des charges comme une émancipation... Avec cette succession de verbes au mode conditionnel, le lecteur aura compris que les choses sont plus subtiles que cela. Nous avons réuni, cependant, tous les ingrédients. L’open-source, ce sont certes des développements informatiques mis à disposition gracieusement ; mais pour fabriquer, à partir de ce matériau, un produit fini, une entreprise doit disposer de ressources internes : d’une équipe de datascientists, qui devient le centre de coût7. A l’opposé, il existe des produits finis déjà prêts à l’emploi, vendus par des éditeurs de logiciels au travers d’un système de licences. Dès lors, pour une entreprise, il y a un compromis à faire – car c’est une stratégie à entériner – entre, d’une part, entretenir des ressources internes qui feront des développements à base d’open-source pour créer un produit fini, et être captive d’un éditeur logiciel qui vous le fournit clef-en-main d’autre part.

Traduction française disponible dans (Girard 1995).↩︎

Langage de programmation à la mode devenu le standard pour les développements informatiques d’algorithmes de ML.↩︎

On trouve aussi, bien sûr, « apprentissage machine » comme autre traduction possible.↩︎

Ce n’est pas une plaisanterie ; une personne au-dessus de tout soupçon me l’a certifié !↩︎

Seul un procédé industriel l’est ; du moins en France.↩︎

On dit aussi leurs « codes ».↩︎

Il n’y a pas de miracle : rien ne se perd, rien ne se crée, tout se transforme !↩︎