BIG BROTHER
IS DRIVING YOU

Hugues Bersini

Big Brother is driving you

Brèves réflexions d’un informaticien obtus sur la société à venir

Académie royale de Belgique

rue Ducale, 1 - 1000 Bruxelles, Belgique

www.academieroyale.be

Informations concernant la version numérique

ISBN : 978-2-8031-0662-2

© 2018, Académie royale de Belgique.
2e edition.

Collection L’Académie en poche

Sous la responsabilité académique de Didier Viviers

Volume 88

Diffusion

Académie royale de Belgique

www.academie-editions.be

Crédits

Conception et réalisation : Laurent Hansen, Académie royale de Belgique

Couverture : Loredana Buscemi, Académie royale de Belgique

Publié en collaboration avec/avec le soutien de

Chapitre 1

Login : La supériorité du complexe

Le monde est devenu bien trop complexe pour en confier la seule gestion à des gouvernants en chair et en os. Les lourds nuages noirs chargés d’orage qui nous menacent, comme l’économie mondialisée et les crises qui s’ensuivent régulièrement, l’explosion des inégalités, le réchauffement climatique et la dégradation de l’environnement, la détérioration de l’habitat, la transition énergétique inéluctable, l’agriculture qui s’intensifie en tout sauf en bienfaits pour la santé, les fractures communautaires et la flambée du terrorisme, exigent une meilleure compréhension et interprétation des phénomènes, suivies de délibérations approfondies pour en trouver les parades et les issues.

De son côté, l’informatique — meilleur joueur d’échecs, meilleur joueur de go, champion de poker, du jeu télévisé « Questions pour un champion »1, conducteur irréprochable, médecin infaillible, meilleur prévisionniste des soubresauts économiques et des variations climatiques, traducteur le plus sollicité2, meilleur décideur — est capable, par sa boulimie de données multiples à très haute fréquence d’acquisition et son pouvoir de simulation pour en faire sens, d’appréhender ce monde, son évolution et les meilleures façons de le remettre sur les rails. Cette même informatique que l’on magnifie ces jours-ci de super-intelligente3 et qui, de surcroît, s’immisce dans tous les recoins de nos existences est capable d’explorer, à partir de ces simulations, ces états des lieux d’une précision encore jamais atteinte, les manières les plus efficaces d’affronter l’ensemble de ces difficultés et d’en découvrir les remèdes les plus appropriés. Et si elle parvient à cela, c’est en exécutant à la vitesse de la lumière de multiples algorithmes dont les fonctions sont nombreuses et variées : planifier et tester des futurs alternatifs, recueillir des myriades de données, les stocker intelligemment pour mieux les exploiter, s’en servir en effet pour la conception de modèles au pouvoir prédictif, exploiter ces modèles jusqu’à plus soif pour tester à partir de ceux-ci les options possibles, ajuster, optimiser ces dernières, et aller jusqu’à la prise de contrôle de nos vies et le tracé de nos existences vers davantage d’harmonisation sociale dans un monde préservé et pacifié.

Nous parlerons, dans cet essai, essentiellement d’algorithmique, c’est-à-dire du langage de prédilection des ordinateurs qui sont, comme chacun le sait, des penseurs froids et foncièrement rationnels, mais d’une rationalité hypertrophiée et sans faille. Un algorithme est une recette suivie sans détour par l’ordinateur : une succession d’opérations arithmétiques et logiques, parfois sujettes à des alternatives selon le résultat courant de ces opérations et, plus encore, ce qui en fait toute sa puissance, sujettes à des répétitions. Toutes les facettes de l’intelligence artificielle — voir et se mouvoir, parler, raisonner, comprendre, traduire, jouer, au go comme au football, faire œuvre artistique — se limitent à cela : de multiples algorithmes. Choisir son prochain coup à n’importe quel jeu de société est le résultat, dans nos cerveaux comme dans les programmes informatiques, d’une démarche algorithmique. Toute arithmétique, toute démarche de planification, tout raisonnement, toute conduite automatisée de procédés, est le résultat d’un algorithme. La cognition informatique se ramène à cette séquence rigide d’opérations que, soit l’informaticien inscrit de toutes pièces dans les circuits du processeur, soit l’ordinateur découvre de lui-même, par essais et erreurs, selon une logique d’apprentissage qui, là encore, lui est au départ édictée par son programmeur.

Un algorithme pense et calcule, prend des décisions selon le résultat de ces cogitations programmées et le résultat de ces calculs. Il peut même progresser par lui-même, apprendre par essais et erreurs à mieux se comporter selon l’évaluation reçue à la suite de ces opérations, selon les indications que lui fournit son programmeur. Le joueur informatisé de go ou d’échecs tire, en effet, profit de ses erreurs, tout comme le programme informatique au volant d’une voiture, ou le logiciel de diagnostic médical. Cette rationalité algorithmique prend naissance, et dans la logique booléenne, uniquement basée sur le vrai et le faux et les différentes manières de les associer, et dans l’exploitation des nombres et de leur ordonnancement intrinsèque. Ces extraordinaires facultés cognitives proviennent de la quantité incommensurable d’instructions que l’ordinateur (seul ou regroupé avec des millions d’autres) peut exécuter à la seconde et de la quantité tout autant incroyable d’informations qu’il peut stocker, gérer et manipuler lors de l’exécution de ces instructions.

Il n’y a plus guère un seul objet de notre quotidien qui ne recèle quelque intelligence algorithmique, qui ne soit capable de percevoir son environnement et de décider de manière autonome de la meilleure action à entreprendre. Il décide en effet tout seul ou de façon coordonnée, dialoguant avec ses partenaires distribués à travers le globe. Nous vivons à la fois l’ère de la super-intelligence informatique, des objets connectés et de l’informatique ubiquitaire.

Dès lors, il ne vous surprendra guère que si l’ordinateur prend en charge une partie de nos existences, il ne pourra le faire que de manière foncièrement rationnelle, selon une algorithmique rigide, incarnée dans ses circuits et imprégnée de nombres et de vérités binaires. Quels pourraient être les fondements de cette gouvernance algorithmique que nous décrirons et plébisciterons largement dans cet essai ? Sommes-nous en train de vivre, comme l’écrit de manière saisissante l’essayiste Yuval Noah Harari, un hacking de l’humanité par les machines4 ? En quelques mots, les systèmes informatiques devraient restreindre nos espaces de liberté et nos alternatives décisionnelles de telle manière que les seules options qui soient laissées rationnellement à chacun, c’est-à-dire en vue d’optimiser sa satisfaction personnelle, optimisent également, et comme par magie, l’intérêt du plus grand nombre. En effet, pourquoi ne pas se résigner à abandonner à ces algorithmes, quasiment infaillibles, la conduite de nos transports en commun, la gestion de notre consommation énergétique (en la personne de thermostats aussi intelligents qu’écolos), le prélèvement de nos impôts, la prise en charge d’une part de notre santé, la sécurité de nos cités et bien d’autres choses encore ?

Comme le dirait un économiste, il faut que l’ordinateur qui nous supervise et nous télécommande s’emploie, par les restrictions et les encouragements qu’il promeut, à aligner l’intérêt (ou l’utilité) individuel avec l’intérêt (ou l’utilité) collectif. Il faut que son génie calculatoire anticipe la manière dont la conséquence de nos actes s’ajuste sur l’intérêt du plus grand nombre, puis téléguide ces mêmes actes en vue de se conformer aux résultats obtenus lors de l’étape précédente. L’algorithme doit baliser et canaliser nos existences de manière à les soumettre à une fonction d’intérêt établie, calculée sur la collectivité. Ce même économiste suppose que chaque individu agit selon une logique rationnelle d’optimisation de sa satisfaction personnelle, ce qu’il appelle en effet son utilité. Si Mr X préfère le saucisson aux chips, pour un même prix, il fera sans aucun doute le choix du saucisson dans les rayons du supermarché. S’il préfère les romans policiers aux histoires d’amour, cela conditionnera et le prochain film qu’il choisira de voir et le prochain livre qu’il préférera feuilleter. Toute la science économique repose sur ce postulat de recherche de la satisfaction maximale et de la rationalité de nos choix. Quoi qu’en disent les nombreux pourfendeurs de cette science, ce postulat n’a vraiment rien d’insolite. Si le temps et les conditions psychologiques le lui autorisent, c’est la manière dont un cerveau bien irrigué prend ses décisions. Si Mr X vit une satisfaction S(t) au moment t et que plusieurs décisions s’offrent à lui, il n’est pas irraisonnable de s’accorder sur le fait qu’il privilégiera la décision et effectuera l’action qui maximise S(t+dt) - S(t), c’est-à-dire son accroissement de bien-être comme résultat de cette décision. On ne s’occupera pas pour l’instant de l’existence ou non de ce thermomètre hédonique capable, en effet, de mesurer ce S(t), mais clairement nos cerveaux en sont dotés. Les neurones responsables de la prise de décision sont en connexion directe avec ceux capables d’évaluer la production hormonale de nos plaisirs et déplaisirs. Ces derniers agissent de manière à arroser d’hormones positives ou négatives les zones les plus sensibles de nos cortex.

S’il n’est pas trop difficile de se mettre d’accord sur l’existence d’une utilité personnelle que l’individu cherche à maximiser par le choix de ses actes, il est beaucoup plus délicat de s’accorder sur la nature de l’intérêt public ou collectif, pourtant celui qu’il importera cette fois aux ordinateurs de maximiser. Des siècles de philosophie morale ont démontré combien les positions à ce sujet pouvaient être divergentes. Dès que plusieurs individus entrent en scène, chacun prompt à maximiser sa seule utilité personnelle, et que cette quête hédonique n’est pas sans effet sur celle d’autrui, tout devient nettement plus compliqué. Le bonheur des uns fait le malheur des autres. Comment définir et plus encore programmer un intérêt collectif à la jonction de tous ? La première possibilité qui vient à l’esprit, la plus évidente, est la proposition dite « utilitariste » consistant à rechercher le maximum de l’agrégation des satisfactions de chacun. Pour l’informatique, cette version quantitative devient évidemment du pain bénit, car cela se résume à une simple somme sur toutes les utilités et la poursuite du maximum de celles-ci. Les ordinateurs excellent en cela. Ils somment et maximisent divinement bien. Cette vision sous-tend d’ailleurs toute l’économie et elle explique pourquoi vous échangeriez votre saucisson avec les chips de votre voisin, si chacun s’y retrouve davantage avec la gâterie de l’autre. Cet échange vous permet d’accroître tous deux votre utilité et bien évidemment la somme de celles-ci. Mais est-ce là la seule possibilité ?

Imaginez la situation suivante. Vous êtes invités à un dîner chez des amis et, au moment du dessert, la maîtresse de maison s’apprête à partager un pot de sorbet au citron de la manière la plus équitable qui soit, c’est-à-dire le même nombre de boules pour chacun. Or, certains adorent cette glace, d’autres la détestent et les troisièmes n’en ont cure, c’est un dessert comme un autre. Si la maîtresse des lieux cherche à exaucer au mieux l’injonction utilitariste, elle devrait partager le sorbet en conséquence et adapter le nombre de boules en fonction des goûts de chacun, aucune pour ceux qui détestent ce dessert et un maximum pour ceux que cette même douceur ravit. S’affrontent ici deux manières de calculer l’intérêt collectif et leur différence est loin d’être négligeable : la version utilitariste et la version égalitariste. En présence des utilités de chacun, la version utilitariste semble naturellement s’imposer et c’est clairement celle que favorise l’économie théorique (et le petit ordinateur qui trône sur le bureau de l’économiste) : partager un bien en fonction de la satisfaction que chacun est censé en retirer ou, plus généralement, agir sur chacun en fonction de la quantité de plaisir qu’une telle action est censée lui procurer au départ de ses goûts propres.

Ce n’est cependant pas la version égalitariste qui répartit sa générosité de manière parfaitement équitable quel que soit le résultat de cette générosité sur chacun. Un simple exemple : la voiture autonome qui demain conduira un ministre, devra-t-elle le mener à son rendez-vous à la même vitesse que celle qui conduira l’auteur de cet essai ? L’utilitariste défendra que le temps du ministre est plus compté que le mien, mais ce n’est pas l’avis de l’égalitariste. Ce qui rassure de nombreux économistes, est que les deux versions finissent par se rejoindre si les consommateurs se lassent au fur et à mesure de leur consommation. Ainsi, si l’on s’intéresse au bonheur cumulé et que la satisfaction va décroissante au fur et à mesure des biens consommés, on comprend aisément qu’il devient graduellement préférable de favoriser les individus inassouvis. Dans le cas contraire, le débat entre utilitarisme et égalitarisme continue de faire rage, de nombreux philosophes s’opposant à ce que l’on puisse sacrifier certains individus au profit du plus grand nombre, ou simplement préférant une société constituée de deux individus dont les bonheurs mesurés seraient 4 et 5 à celle où les bonheurs mesurés seraient 2 et 10. Chez les utilitaristes, les plus heureux tirent toute la couverture du bonheur à eux. John Rawls, l’un des philosophes ayant le plus marqué le XXe siècle par sa conception de la justice, ne tolère une différence entre ces deux bonheurs que dans la mesure où quelque accroissement qui soit favorise toujours le moins avantagé des deux. En substance, si John Rawls devait servir le sorbet, il agirait de manière à satisfaire davantage ceux que le repas a jusqu’ici laissés sur leur faim. Ils pourront davantage se consoler avec le sorbet.

Ces différentes manières de considérer les objectifs agrégés et de comparer leurs avantages respectifs n’ont de sens que pour des satisfactions mesurables, dénombrables, ordonnables. Ce n’est pas pour rien que le comportement en matière de consommation se trouve aux premières loges dans ce type d’analyse. On peut assez facilement comparer la satisfaction que nous procurent deux aliments, deux films ou deux chemises, mais c’est une toute autre affaire d’analyser et d’évaluer des activités aux impacts psychologiques autrement plus subtils, tels les torts ou les bienfaits envers autrui par de simples paroles ou attentions. Bien sûr, on pourra toujours affirmer qu’il est moins agréable de recevoir deux gifles qu’une seule, mais qu’est-ce une gifle comparée à une parole extrêmement blessante, ou à un mal de dent, et lequel de ces deux courriers insultants vous meurtrit le plus ? Cela se complexifie d’autant que le bonheur avoué n’est pas toujours celui ressenti et que tout n’est pas forcément quantifiable, même s’il est toujours possible de proposer au sujet interrogé de placer ses choix sur un axe selon leur préférence croissante.

Depuis des lustres, la philosophie accepte trois manières d’appréhender la valeur éthique d’un comportement. La première est celle envisagée jusqu’ici, l’utilitarisme, consistant à favoriser des comportements aux conséquences les plus plaisantes pour le plus grand nombre. Il en existe une deuxième, qui ne recourt plus cette fois à l’arithmétique hédoniste des conséquences ; on la doit au philosophe Emmanuel Kant : favoriser des comportements dont la simple universalisation, l’imitation par tous, débouche sur une société viable. Ainsi, selon lui, il faut toujours dire la vérité, ne commettre aucune violence quel qu’en puisse être le bien-fondé, et s’interdire toute attitude dommageable envers autrui, en fait, tout acte de quelque nature qu’il soit dont l’imitation par tous conduirait à un chaos généralisé. La troisième est généralement désignée d’éthique des vertus et apparaît, pour beaucoup, comme la plus réaliste, mais aussi la plus relativiste, la moins dogmatique. Elle rejette les absolutisme et universalisme de l’impératif catégorique de Kant, et tolère un certain relativisme moral, tenant compte du fait que ce qui plaît à l’un peut profondément déplaire à l’autre, que les cultures imprègnent les jugements moraux, et que ce qui est admis aujourd’hui pourrait ne plus l’être demain. Elle s’avère plus descriptive que prescriptive et accepte que dans l’urgence et en proie aux émotions, les hommes peuvent s’avérer incapables et de l’universalisation kantienne et de l’arithmétique utilitariste.

Traitant dans cet essai de gouvernance algorithmique, il me paraît incontournable, et ce parce que cette algorithmique calculatoire l’exige, de privilégier plus souvent qu’à son tour la version utilitariste, dès lors qu’un logiciel se doit de choisir entre plusieurs options dont les effets sont quantifiables. Ce dernier est incapable tant d’irrationalité, que d’acte de foi, d’émois bien sûr, mais aussi de pétition de principe ou de relativisme, et c’est bien pour cela qu’on le sollicite. Du calcul, rien que du calcul ! Et maximisons le bonheur national brut5 ! Notez que l’existence d’une quantification coût/bénéfice, si elle écarte d’office Kant ou l’éthique des vertus, ne permet pas un positionnement ferme et définitif entre utilitarisme, égalitarisme ou la satisfaction toute rawlsienne des moins bien lotis jusqu’ici. Lorsque le choix entre ces différentes options philosophiques reste tendancieux, incertain, sujet à dispute et à acte de foi, il demeure tout à fait possible de laisser quelques hommes, les seuls restant nécessaires et que le suffrage aura élus, décider de l’une ou l’autre option, laissant par la suite aux algorithmes le soin de réaliser cette mission de la meilleure des manières. L’algorithme ne décide pas de la fonction coût, il s’assure simplement de sa maximisation.

Projetons-nous donc dans cette société en devenir où toute échappatoire au bien commun deviendra impossible tant les systèmes algorithmiques mis en place ne rendront disponibles que les comportements vertueux. Cette informatique, objets connectés et autres réseaux sociaux, stimulent l’imagination répressive. De nombreux penseurs aujourd’hui voient dans cette invasion algorithmique, dans ce téléguidage logiciel de nos modes d’existence et de régulation sociale la possibilité du pire comme du meilleur, des opportunités comme il n’y...