CNRS Éditions

Algorithmes et décisions publiques

Gilles Rouet (dir.)

DOI : 10.4000/books.editionscnrs.46122

Éditeur : CNRS Éditions

Lieu d’édition : Paris

Année d’édition : 2019

Date de mise en ligne : 27 janvier 2022

Collection : Les essentiels d'Hermès

EAN électronique : 9782271141668

https://books.openedition.org

Édition imprimée

EAN (Édition imprimée) : 9782271124661

Nombre de pages : 264

Référence électronique

ROUET, Gilles (dir.). Algorithmes et décisions publiques. Nouvelle édition [en ligne]. Paris : CNRS Éditions, 2019 (généré le 29 janvier 2022). Disponible sur Internet : <http://books.openedition.org/editionscnrs/46122>. ISBN : 9782271141668. DOI : https://doi.org/10.4000/books.editionscnrs.46122.

Ce document a été généré automatiquement le 29 janvier 2022.

© CNRS Éditions, 2019

Conditions d’utilisation :
http://www.openedition.org/6540

Résumés

Les algorithmes, nourris par des masses de données de plus en plus importantes, sont désormais au cœur de nombreux dispositifs susceptibles d’orienter, voire de prendre des décisions publiques. Le recours aux algorithmes permet d’envisager de réels progrès dans la qualité et l’adaptation des services publics aux besoins des citoyens/usagers, par ailleurs eux-mêmes producteurs de données nécessaires à leur fonctionnement. Tous les secteurs, ou presque, sont déjà concernés : santé, justice, police, sécurité, éducation, etc. Mais à quel prix et avec quels risques ?

Ce volume propose un panorama critique du recours aux algorithmes dans le secteur public, avec des focalisations sur des applications concrètes et une réflexion sur l’évolution de l’État, des administrations et de la communication entre les citoyens et les décideurs publics.

La loi pour une République numérique a instauré en 2016 un droit d’information spécifique pour les citoyens concernés par une décision individuelle fondée sur un algorithme. Il convient aujourd’hui non seulement d’envisager les modalités de mise en application de ce droit, mais aussi d’en considérer les aspects collectifs. Comment, dans ce contexte, maintenir et développer les conditions de liberté de choix et d’action des citoyens ?

Gilles Rouet (dir.)

Professeur en sciences de gestion à l’université de Versailles-Saint-Quentin-en-Yvelines et en relations internationales à l’université Matej Bel de Banska Bystrica (Slovaquie), directeur de l’Institut supérieur de management et titulaire d’une chaire Jean Monnet ad personam en études interdisciplinaires sur l’Union européenne.

Sommaire

Présentation générale. Citoyens et décideurs publics à l’heure de l’algorithmique

Gilles Rouet

Décisions et aides à la décision

Décisions et algorithmes

Quelle action publique pour quelle citoyenneté ?

Démocratiser les usages numériques

Jean Deydier

Notre société numérique crée de nouvelles formes d’exclusion

Citoyens numériques : de grandes inégalités

Accélérer l’inclusion numérique de tous les Français

Vie connectée : quelles conséquences pour les plus fragiles ?

Il faut se défier de la « pensée magique »

Cinq questions à David Monniaux, directeur de recherche au CNRS (Laboratoire VERIMAG, Grenoble)

Intelligence artificielle et aide à la décision en santé

Emmanuel Chazard

Intelligence artificielle pour l’aide à la décision médicale

Exemples d’applications de l’intelligence artificielle en santé

Critique de l’intelligence artificielle en santé

La place de l’intelligence artificielle aux côtés du praticien

Algorithmes et décisions de justice

Boris Barraud

La modernisation technologique du service public de la justice

La possibilité d’une justice fonctionnant à base d’algorithmes

Avantages et inconvénients de la justice algorithmique

L’absence de neutralité des algorithmes

Le besoin de prendre le temps de la réflexion et de l’évaluation

La régulation juridique de la police prédictive : règles, principes et calculs

Bilel Benbouzid

Le soupçon raisonnable : épistémique ou fréquentiste ?

Principe, règle et calcul

Que peut le droit ?

Automatisation de la conduite : les enjeux de la mobilité algorithmique

Laurent Carnis

La mobilité algorithmique : un marketing bien orchestré

La face cachée de la mobilité algorithmique

Désirs algorithmiques de l’action publique : une lecture sémiopolitique

Maryse Carmès

De la critique algorithmique

Désirs de data et narratique en acte

Économies politiques et sémiopolitique des data

Ingénierie publique, prédiction et controverses

Gouverner l’État avec le numérique

Clément Mabi

Vers un État ressource ?

Les défis et ambiguïtés de l’action publique numérique

Dessiner les contours d’un État capable de gouverner par le numérique

Ne regardons pas l’outil mais la main qui le tient

Cinq questions à Pierre Pezziardi, entrepreneur en résidence (beta.gouv.fr), services du Premier ministre

Les algorithmes au service de l’implication citoyenne : outil de gestion performant ou illusion démocratique ?

Thierry Côme et Stéphane Magne

Une nouvelle conception de la relation de service public : la « smart logique »

Intégration du citoyen dans la décision publique : le rôle des algorithmes issus des civic techs

Les risques du « solutionnisme algorithmique individualisé »

Citoyens compétents, citoyens incompétents et choix guidé par l’intelligence artificielle

Réintroduire de l’analogique dans nos vies numériques

Cinq questions à Isabelle Falque-Pierrotin, présidente de la CNIL

Bibliographie sélective

Glossaire

Les auteurs

Présentation générale. Citoyens et décideurs publics à l’heure de l’algorithmique

Gilles Rouet

Les big data*1 seraient l’or de ce siècle, et les algorithmes*, qui leur donnent un sens, porteraient l’espoir d’une amélioration inédite de nos quotidiens. Nous semblons obtenir plus facilement ce dont nous avons envie. Notre vie de consommateur, et peut-être de citoyen, serait plus cohérente avec un profilage très fin, compilé à partir des multiples données collectées par le biais d’objets connectés, sans surprise ni coercition.

L’algorithme, en soi, n’est pas un outil nouveau, en particulier comme instrument d’aide à la décision dans un environnement informationnel compliqué. La recherche opérationnelle, les systèmes d’aide à la décision se sont développés depuis les années 1950, avec la mise en place de modèles, d’analyses mathématiques, de simulations informatiques, dans de nombreux domaines. Il s’agissait alors d’aider le décideur, le responsable, à faire des choix, à prendre des risques mieux mesurés, dans des situations où les indicateurs étaient à construire et l’information à chercher. Au-delà de ces dispositifs, la faculté de jugement, l’intuition, la créativité, mais aussi les règles, les usages empiriques et les attitudes restent pourtant des déterminants traditionnels des décisions, mais ce n’est plus, souvent, considéré comme satisfaisant.

L’assimilation de la diffusion des outils fondés sur l’algorithmique des big data au progrès social, la diffusion d’un scientisme particulier qui revendique la neutralité des outils, plus fiables que l’humain, et qui justifie l’innovation par l’innovation, les attitudes technophobes ou technocentrées sont autant d’éléments de contextes qui doivent être pris en compte dans toute réflexion sur les conséquences de la généralisation des outils algorithmiques dans les processus de décision.

Le fond du problème ne porte bien entendu pas sur les technologies, en particulier de communication, mais bien sur la portée de leurs niveaux d’appropriation et des pratiques qui leur sont associées par chacun d’entre nous. Il est désormais plus facile de mettre en relation offres et demandes, dans toutes sortes de domaines, au-delà, parfois, des logiques politiques et sociales, et si servitude volontaire il y a (et non un asservissement qui supposerait un Big Brother, un projet politique particulier), c’est bien parce que la vie quotidienne s’en trouve améliorée, ou du moins que nous en avons le sentiment, ce qui est bien le plus important.

Comment évolue la responsabilité, la responsabilisation des acteurs, des décideurs publics, comme des citoyens, avec l’extension des outils algorithmiques ? Cette question est le fil conducteur de cet « Essentiel ».

La recherche de performance peut aboutir à la généralisation d’un contrôle social d’un nouveau type, au nom d’un bonheur collectif, avec une déresponsabilisation des acteurs eux-mêmes : des citoyens enchaînés à leurs propres quotidiens et des décideurs publics ne pouvant qu’obéir à des choix définis par des algorithmes, dans le cadre d’une « action publique algorithmique » (Grosdhomme Lulin, 2015) qui détermine l’évolution vers une nouvelle « culture décisionnelle ».

L’action publique pourrait ainsi être commandée par quatre principes majeurs : « personnalisée, prédictive, préventive et participative » (ibid., p. 19), afin, en particulier de nous redonner « du pouvoir sur nos propres vies » (p. 10). L’exemple du dispositif APB (Admission Post-Bac), désormais remplacé par Parcoursup depuis 2018, destiné à réguler l’orientation des lycéens vers l’enseignement supérieur à l’issue des études secondaires, illustre bien l’ambiguïté de ce projet et la difficile réception de la démarche par les usagers/citoyens.

La communication est bien au centre des rapports entre les administrés et les agents publics et chacun doit alors assumer : l’administré dispose de voies de recours, peut mettre en cause un ou plusieurs agents, peut défendre ses conceptions et ses valeurs. Encore faut-il qu’il en soit capable (cf. dans ce volume l’analyse de Jean Deydier sur la démocratisation des usages numériques). Dans le cas de décisions algorithmiques, la compréhension est différente et la négociation éventuelle peut ne pas s’appuyer sur des relations interpersonnelles, plus ou moins codifiées, et ce d’autant plus que les agents chargés de mettre en œuvre les décisions issues des algorithmes ne sont pas forcément en mesure de comprendre eux-mêmes les fonctionnements de ces nouvelles boîtes noires.

Décisions et aides à la décision

La question de la décision au sein des organisations est ancienne et la littérature sur ce sujet est abondante et variée (Kast, 2002). Il est évidemment légitime, pour un décideur, de ne pas prendre de décision sans réflexion et analyse, sans avoir fait l’effort d’apprécier et de comprendre, en contexte, la situation traitée. Que la décision s’inscrive dans le cadre de l’exercice d’un pouvoir, d’un choix lié à une compétence particulière, d’une délibération collective ou encore d’une recherche de solution à un problème, il s’agit bien de transformer des informations en action, en passant par une analyse et des choix, pas toujours de la même façon, y compris pour un même individu. La limite de l’algorithmique apparaît ainsi évidente, même en invoquant la puissance des outils capables « d’apprentissage ».

Plusieurs visions théoriques de la décision ont été popularisées depuis quelques décennies, notamment selon l’objectif visé par la décision (Reix et al., 2011). S’il s’agit d’optimiser les ressources, par exemple, la rationalité du calcul est mise en avant et il faut alors définir des variables, enregistrer des informations puis modéliser. Cette théorie « standard » a été étendue, car s’il est admissible, théoriquement, que les décideurs cherchent à décider de manière rationnelle, cette rationalité est limitée (Simon, 1957) par les contextes comme par eux-mêmes, dans le cadre de négociations et de communications. La décision n’est pas uniquement basée sur des calculs et il est important pour les acteurs de pouvoir disposer de procédures et de structures organisationnelles qui leur permettent de les mettre en œuvre. Il est alors nécessaire de tenir compte des contraintes de temps et de coût et de s’appuyer sur des dispositifs de traitement de l’information : des décisions deviennent alors programmables. Pour autant, il est généralement admis que la décision dépend aussi des habitudes comme des perceptions ou encore de la compréhension et de la légitimation des objectifs (le « sens » de l’État ou encore de la justice), et une troisième approche s’intéresse à la construction du sens de l’action (Bartoli et Trosa, 2016).

Pour Weick (1995), l’action (et l’interaction) précède la modélisation, les membres d’un collectif cherchent à donner un sens aux événements, en particulier quand ils sont en décalage avec les attentes (dissonance). Les acteurs s’engagent ainsi dans un processus de construction de sens (sens making), c’est-à-dire tentent de trouver une nouvelle interprétation pour une manifestation, un élément qui a déjà eu lieu au sein de l’organisation, mais sans avoir été reconnu comme processus, objet, ou encore événement autonome isolé. Il s’agit de développer une vision commune des moyens à mettre en œuvre, car la constitution du groupe ne repose pas sur des besoins, des valeurs ou des objectifs partagés, mais sur l’appréciation par chacun de l’intérêt de s’associer avec les autres.

Les théories critiques de la décision interrogent ainsi le collectif et sa possible rationalité, les acteurs dans ces contextes, les conventions, les routines. Pour Alain Berthoz, la relation entre information (perception) et décision peut être envisagée autrement :

Puisque l’avancée de l’esprit humain est toujours un changement de point de vue, au lieu de partir de la décision comme un processus rationnel, fondé sur des outils logiques, il tire les conséquences du fait que la décision est sans doute la propriété fondamentale du système nerveux […] au début était l’acte […] toujours poursuite d’un but […] organisateur de la perception, organisateur du monde perçu
Berthoz, 2002, p. 10.

Ainsi, « la perception est décision », car mettant en œuvre des procédures de choix, de tri, de combinaison, de sélection d’informations, « décider, c’est lier le présent au passé et au futur, c’est ordonner » (ibid., p. 11). Cette approche ne remet pas en cause le caractère processuel de la décision, restant compatible avec celle de Simon : « la décision n’est pas un acte simple et un moment, mais un produit d’un processus complexe et continué dans le temps » (Sfez, 1980, p. 186). La décision devenue perception permet bien de dépasser certaines limites, mais dans un cadre phénoménologique, voire holistique, dont les limites ont été, depuis plusieurs décennies, abordées par Sfez :

La rationalité limitée ou procédurale, simulée ou non, est toujours… bien rationnelle. Mon hypothèse est bien différente. L’irrationnel, c’est-à-dire d’autres formes de rationalités que celles d’une intelligence calculatrice (même celle du calcul approximatif des choix satisfaisants) me paraît à l’œuvre : qu’il s’agisse de la rationalité de l’inconscient ou de celles des affects ou émotions conscientes […] Il n’y a pas un human thinking, mais plusieurs et à l’intérieur même de chaque individu
Sfez, 1988, p. 374.

La rationalité, même limitée, a pourtant un caractère « rassurant », car il serait alors possible de modéliser, de s’appuyer sur des méthodes, de ne pas avoir à (trop) se remettre en cause, et alors même que la décision est liée, bien évidemment, à l’intuition et à l’émotion (Simon, 1987), il s’agit de tenter d’en comprendre les ressorts et, surtout, d’en assumer les conséquences.

Pour beaucoup, la situation actuelle semble bien paradoxale. Alors que la rationalité est encore un modèle, les décisions doivent être rapides en considérant des flux d’informations de plus en plus importants et il peut sembler de plus en plus difficile de décider, quelle que soit l’approche retenue. Voici une première explication (sommaire) de la mise en cause des méthodologies issues des théories de la décision, méthodologies qui apparaissent souvent peu opérantes. Alain Berthoz résume ainsi ce paradoxe : « Nous sortons d’un siècle où […] domina l’illusion que l’homme est rationnel […], alors qu’en fait les obscurantismes, la violence, mais aussi des effets divers notamment de panique sociale, n’ont fait que démontrer les forces de l’irrationnel et, en particulier, de l’émotion » (Berthoz, 2010). Une émotion qu’il faudrait éradiquer ? Mais pourquoi ?

Décisions et algorithmes

Quels que soient l’approche envisagée ou le niveau de rationalité revendiqué, l’information est nécessaire à la décision et il faut alors mettre en place des systèmes d’information efficaces qui n’aggravent pas le caractère bureaucratique des organisations concernées et, surtout, qui ne génèrent pas de coûts supplémentaires pour l’administration (Viscusi, Batini et Mecella, 2010). L’inflation de l’utilisation de l’expression big data illustre bien la prise en compte, dans tous les secteurs, de l’accroissement de la quantité de données collectées, stockées et traitées dans l’environnement des décisions publiques comme privées. Une démarche volontariste s’est généralisée, reposant sur un principe particulier : dans un environnement complexe, il est nécessaire de collecter, stocker et traiter des volumes croissants de données, pour tenter d’envisager cette complexité. Les acteurs publics doivent donc investir des sommes énormes dans des technologies liées à l’aide à la décision afin d’augmenter la performance de leur organisation. Ainsi, l’aide à la décision informatisée a beaucoup évolué, bien avant le big data, et les systèmes sont devenus de plus en plus accessibles et relativement faciles à mettre en œuvre (Supiot, 2015).

Avec l’application des principes du New Public Management* qui permettent de clarifier les objectifs et mettent l’accent sur l’importance de la performance, donc des indicateurs et de leurs réalisations, les politiques publiques ont tenté d’intégrer une démarche d’optimisation. Pour autant, il a fallu, pendant longtemps, déterminer quelles informations étaient pertinentes, et savoir comment les combiner, les interpréter, en fonction de quels modèles. Il s’agissait bien alors de construire un ensemble informatif. De plus, la relation entre la décision et l’information peut s’avérer instable au niveau de décisions publiques, étant donné la démarche de décision, justement, qui ne s’appuie pas forcément sur un besoin d’information particulier, notamment en dehors de processus légitimés.

Le décideur public peut accepter de disposer d’une rationalité limitée, voire de travailler en composant avec son irrationalité, et il peut aussi considérer que sa prise de décision peut ne pas reposer sur une collecte d’informations, soit qu’il ne sait pas vraiment de quelles informations il a besoin, soit qu’il lui est impossible ou trop coûteux de tenter d’obtenir ces informations. Les valeurs du service public peuvent aussi, en donnant du sens à l’action, justifier une prise de décision intuitive. Pour autant, la « supériorité...