Les sciences de l’artificiel pénètrent toutes les sphères de la décision (médecine, économie, gestion). On pensait que le droit échapperait à ce rêve de mathesis universalis qui parcourt la pensée juridique occidentale depuis Ramus et Leibniz. Intime conviction, concepts flous, standards mais aussi protection de la vie privée pouvaient constituer autant de barrières pour éviter les « rumeurs d’engrenage » de la machine à juger. Les images — troublées — de la rationalité juridique et les impératifs du management ont trouvé dans les systèmes experts une nouvelle légitimité : la loi software est devenue l’idéal des bureaucraties.

Mais quelles sont les fonctions du langage dans l’administration de la loi et la décision du juge ? Va-t-on remplacer les interprètes par des interfaces ? Vidéo-surveillés et modélisés, les sujets de droit sont-ils prêts à être traités par/comme une machine au nom des logiques sécuritaires ou gestionnaires ? En analysant les pouvoirs technologiques de nos futures organisations, aux écritures de plus en plus opaques et virtuelles, on s’aperçoit que ce sont les statuts mêmes de la loi et de la décision, qui, en tant que textes, doivent être réexaminés.

La décision artificielle

LE DROIT LA MACHINE ET L’HUMAIN

Danièle Bourcier

Presses Universitaires de France

Sommaire

Couverture
Présentation
Page de titre
ABRÉVIATIONS
Préface
Remerciements
Présentation
CHAPITRE PREMIER - La décision juridique entre la machine et l’humain

Sciences de l’artificiel, sciences du droit
Le champ observé : quelle décision ?
Quels artefacts ?
Intelligence artificielle et droit : le double objectif
Les insuffisances de l’approche logiciste
L’aide à la prévision et le droit
L’aide au « sentencing »
Les décisions juridiques automatisables
Le choix des connaissances non calculables
Qui a peur de l’informatique ?
L’approche proposée : cognitive et institutionnelle

CHAPITRE II - Le rôle des standards dans les processus décisionnels juridiques

I | L’ANALYSE DE LA DÉCISION DE POLICE MUNICIPALE

Un exemple : l’arrêté du maire
La distinction entre partie informationnelle et partie cognitive de la décision
Les particularités matérielles de la police municipale

II | POSER LA DÉFINITION DU STANDARD COMME PROBLÈME DE REPRÉSENTATION DES CONNAISSANCES

Définition minimale
Proposer une approche fonctionnelle du standard

III | L’ENJEU DU STANDARD DANS LA THÉORIE DU DROIT
IV | LE STANDARD COMME INDICATEUR DE RAISONNEMENT

Le standard, marque de la spécificité du raisonnement juridique
Le standard, indice d’une répartition du pouvoir de décision

V | APPROCHE COGNITIVE

La catégorie juridique
Le concept et la notion dans les langages de spécialité
Le type et le prototype en sciences cognitives
L’hypothèse cognitive

CHAPITRE III - Une analyse structurale des standards

I | UNE TYPOLOGIE DES STANDARDS : LE FAIT ET LE DROIT

Standards normatifs : vers une qualification juridique
Standards circonstanciels : une appréciation des faits

II | ÉVOLUTION DE LA POLICE MUNICIPALE ET ANALYSE DÉCISIONNELLE

Hypothèses méthodologiques
Hypothèses sur la structuration d’un processus de décision

III | UNE ANALYSE DE DONNÉES SUR LES STANDARDS DE LA POLICE MUNICIPALE

Représentation des standards : recherche d’un réseau cognitif
Représentation du vocabulaire des arrêts : recherche de standards implicites
Organisation structurale des standards
Fonction cognitive des standards : argumentation et distribution

CHAPITRE IV - Une approche cognitive des processus décisionnels

I | CARACTÉRISTIQUES DES SYSTÈMES-EXPERTS JURIDIQUES
II | LA CONNAISSANCE PROCÉDURALE DANS LE PROCESSUS DE DÉCISION DU MAIRE
III | LA STRUCTURATION DE PROCESSUS COGNITIFS ET DÉCISIONNELS

La schématisation des circonstances
Le traitement dynamique des standards
La détermination de la compétence du décideur

IV | LA CONSTRUCTION D’UNE ARGUMENTATION

Le contrôle de la décision et la génération de motifs
Un exemple d’aide à la motivation

V | MODÉLISER LA DÉCISION MUNICIPALE : INTÉRÊT ET LIMITE

CHAPITRE V - De la règle de droit à la représentation d’une fonction décisionnelle

I | REPRÉSENTER LA FONCTION COMME CONNAISSANCE
II | L’APPROCHE SYNTAXIQUE DE LA RÈGLE DE DROIT : LE PARADIGME OBJECTIVISTE

Description d’une approche syntaxique « textes-règles »
Les solutions de traduction « textes-règles »
Limites de ces méthodes
Les paradoxes de l’objectivisme

III | UNE APPROCHE CONSTRUCTIVISTE : LE MODÈLE DÉCISIONNEL

Qui a le pouvoir de décision ?
Le choix à l’intérieur d’un système de règles
Le degré d’ouverture de la règle : la notion d’implication déontique
Un modèle décisionnel pour représenter la fonction juridique à simuler
Intérêt du modèle décisionnel pour catégoriser les systèmes-experts
Conclusion

CHAPITRE VI - Peut-on simuler une décision sans modèle ?

I | LE PARADIGME CONNEXIONNISTE
II UN MODÈLE CONNEXIONNISTE JURISPRUDENTIEL

Un exemple de problème à résoudre
Description de NEUROLEX
L’extraction de règles artificielles
Les applications connexionnistes en droit

III LES AVANTAGES DU CONNEXIONNISME POUR LES SYSTÈMES DÉCISIONNELS EN DROIT

Apprendre des régularités à partir d’exemples
L’adaptation continue du modèle
Le traitement parallèle des situations conflictuelles
L’auto-organisation du système juridique
Combler la pénombre des systèmes normatifs
Simuler l’intuition juridique

IV | INFÉRER SANS LA LOGIQUE : LES LIMITES POUR LE RAISONNEMENT JURIDIQUE ?

Le statut obscur des règles apprises à partir d’un réseau
L’absence de justification
La nécessité d’abstraire
Emergence et séparation des pouvoirs

CHAPITRE VII - Machines, pouvoirs et vie privée La réponse du droit

I | CONNAISSANCES, MODÈLES, PROFILS : LES SOLUTIONS JURIDIQUES
II | LIMITER LA DÉCISION ARTIFICIELLE : FONDEMENTS
III | L’AIDE A LA DÉCISION OU LA DÉCISION AUTOMATIQUE ?
IV | DÉFINIR LES RÈGLES DU JEU DÉCISIONNEL
V | ADAPTER LA LOI A L’ÉVOLUTION DES TECHNOLOGIES ?

CONCLUSION - Les nouveaux enjeux. Systèmes artificiels, théorie sociale et éthique de la décision

Des décisions de plus en plus automatisées
Des règles virtuelles pour des acteurs virtuels
L’autoréglementation de l’administration
Pouvoir discrétionnaire et aide à la décision
Au-delà du droit : l’éthique de l’informatique
La liberté de décision : entre le déterminisme de la machine et l’indétermination des règles

Bibliographie
À propos de l’auteur
Notes
Copyright d’origine
Achevé de numériser

ABRÉVIATIONS

CREIS | Centre de recherche et d’étude en informatique et société
I.D.L. | Informatique Droit Linguistique
KRL | Knowledge Representation Language
I.A. | Intelligence artificielle
C.E. | Conseil d’Etat
C.MUN. | Code des communes
T.A. | Tribunal administratif
J.C.A. | Jurisclasseur administratif
I.I.A.P. | Institut international d’administration publique
CNIL | Commission nationale informatique et libertés
I.C.A.I.L. | International Conference in Artifïcial Intelligence and Law
RMI | Revenu minimum d’insertion
AQDIJ | Association québécoise pour le développement de l’informatique juridique
ADIJ | Association pour le développement de l’informatique juridique
SIADJ | Système interactif d’aide à la décision juridique

Préface

*

La décision artificielle est, par excellence, un objet de méditation de notre temps. Elle ne pouvait en effet devenir objet d’étude qu’avec l’apparition de ce qu’un chercheur célèbre¹ avait osé appeler des « machines à penser ».

Sans doute le lecteur consciencieux, voire sourcilleux, se demandera-t-il si ces expressions, machines à penser, décision artificielle, sont d’emploi légitime. Il faut bien admettre qu’il y a là quelque couleur d’abus de langage. Mais puisque les mathématiciens, par hypothèse soucieux de rigueur, se permettent de telles audaces, il ne convient pas d’être plus exigeant que ces rois de la pensée abstraite.

Aussi bien, outre que les expressions dont il s’agit font image, l’on peut entreprendre de les justifier sans effort excessif. Compter, c’est, d’un certain point de vue, penser (en latin : puto, penser, mais aussi estimer, compter ; computo, calculer, d’où computer, etc.). Mais Louis Couffignal avait montré, il y a quelques décennies, que les calculateurs électroniques, que l’on n’appelait pas encore ordinateurs, pouvaient raisonner, à condition d’être convenablement programmés.

Il est plus téméraire de réunir au mot décision l’épithète artificielle, car la décision n’est pas seulement computation et raisonnement, surtout si l’on prend ce dernier vocable au sens étroit de démarche logico-déductive (ratio : raison, mais aussi calcul, compte).

Mais, sur cela, Danièle Bourcier s’explique clairement. Il ressort de nombre de ses développements que l’opération de l’esprit, de nature strictement logico-déductive, fût-elle suivie d’un acte exécutoire, n’est pas pour autant une décision. On peut l’appeler pseudo-décision, sans qu’il y ait là de connotation péjorative. Calculer, construire des chaînes de raison dont les maillons se succèdent inexorablement, exercer une compétence liée, n’est pas décider, même si l’acte qui procède de cette compétence a toutes les apparences extérieures d’une décision.

Que faut-il alors pour qu’il y ait décision, notamment dans l’ordre juridique, puisque c’est du droit qu’il s’agit, ainsi qu’il ressort du sous-titre de l’ouvrage ? La réponse est que, dans le processus qui conduit à l’acte exécutoire, il faut que son auteur ait eu à se livrer à des appréciations, à des estimations non réductibles à l’arithmétique, non plus qu’à la mathématique la plus savante, à prendre des risques dans l’incertain et, surtout, à procéder à des arbitrages entre des valeurs éthico-politiques. En d’autres termes, il faut que l’exploration de celui qu’on peut alors appeler le décideur soit, au moins en partie, de nature axiologique (téléologique notamment), fût-ce à un niveau modeste dans la hiérarchie des responsabilités et des valeurs.

La décision ainsi conçue peut-elle être artificielle, c’est-à-dire le produit d’un artefact, ordinateur, voire réseau neuromimétique ?

Si tout est accompli par l’artefact, le produit est bien artificiel, mais ce n’est pas une décision. Ce ne peut être qu’une pseudo-décision. Mais comment serait-ce possible, puisque l’incertain et l’axiologique ne sont pas calculables (au sens logico-déductif) ? Qu’est-ce alors qu’une décision artificielle ?

Pour esquiver cette embarrassante question, l’on pourrait avancer que l’expression décision artificielle a été conçue sur le paradigme d’intelligence artificielle. Il est difficile d’expliquer ce qu’on entend par intelligence artificielle, mais l’expression ne manque pas de séduction, dans tous les sens du mot (y compris le latin, plus pervers).

Mais il paraît certain que Danièle Bourcier a eu, en adoptant l’expression décision artificielle, des intentions précises. Etant donné la richesse et la diversité du contenu de son ouvrage, il est peut-être présomptueux de s’essayer à exposer en quelques lignes ce qui émerge, quant au concept de décision artificielle, de la lecture des différents chapitres et de la méditation studieuse qui s’est ensuivie.

Il est évident qu’il faut éliminer d’emblée les pseudo-décisions, par hypothèse entièrement artificielles lorsqu’elles sont mécanisées (mais elles ne deviennent pas pour autant des décisions si elles sont le produit du labeur d’un burelain en manches de lustrine). Il est plus risqué d’éliminer les décisions dont certaines parties procèdent d’un artefact, dès lors que lesdites parties sont calculables lato sensu. Pourtant, il est certain que si le non-calculable, c’est-à-dire ce qui se rapporte à l’incertain et à l’axiologique, est l’œuvre d’une personne (ou d’un groupe de personnes), la décision, partiellement mécanisée, ne peut-être qualifiée d’artificielle puisque l’essentiel ne l’est pas.

L’on en arrive donc à une conclusion apparemment subversive, à savoir que la décision artificielle est celle qui est intégralement mécanisée, ou tout au moins, celle qui l’est largement, y compris dans la zone de l’incertain et de l’axiologique. C’est d’ailleurs en ce dernier membre de phrase que gît la subversion.

Celle-ci n’est heureusement qu’apparente. Certes les décisions de justice impliquant une appréciation sur un comportement humain ne peuvent avoir pour fondement un traitement automatisé d’informations donnant une définition du profil ou de la personnalité de celui qui est concerné. Quand il s’agit de décisions administratives ou privées, ce qui est prohibé c est que le traitement automatisé relatif au profil ou à la personnalité ne soit que le seul fondement. Mais, dans les deux cas, une intervention humaine est nécessaire. C’est ce qu’exige l’article 2 de la loi française sur l’informatique et les libertés du 6 janvier 1978. On retrouve la même interdiction, pour les décisions administratives et privées, à l’article 16 de la proposition de directive du Conseil des ministres de la Communauté, relative au traitement des données à caractère personnel². Il est probable que des interdits semblables seront édictés ailleurs qu’en Europe par des dispositions législatives ou par la jurisprudence.

Il reste que la décision artificielle est légalement possible, même si elle concerne la personne humaine, en matière administrative et privée, à condition que le décideur juridiquement compétent examine ce qui résulte du traitement opéré par l’ordinateur. S’il fait sien un tel résultat, on peut considérer qu’en pratique la décision prise est bien de nature artificielle. Il en est de même si le décideur procède à quelques amendements secondaires du contenu décisionnel qui lui est proposé.

Mais il faut aller plus loin. Si la décision, tout en requérant la prise en considération d’éléments axiologiques (éthico-politiques notamment) ou la levée d’incertitudes (par hypothèses non réductibles par le calcul), n est relative à l’appréciation d’un comportement d’une personne ou d un groupe de personnes, il n’y a aucun interdit juridique à la mécanisation. Tel peut être le cas de décisions, fussent-elles importantes, de l’autorité publique en matière économique ou sociale. La décision peut même concerner des personnes, si elle ne repose que sur des éléments objectifs d’appréciation (nominations, mutations, etc., sous certaines conditions).

Cependant, les considérations qui précèdent sont encore insuffisantes pour justifier la pertinence du concept de décision artificielle et la praticabilité de celle-ci.

L’on ne saurait, sans doute, entreprendre ici l’étude praxéologique de la décision artificielle. Mais il faut, au moins, poser une question. Si les décisions, les vraies, celles qui requièrent la levée de l’incertain et des choix axiologiques sont licites aux conditions sus-énoncées, est-il possible, intellectuellement et techniquement, d’élaborer des programmes d’ordinateur efficaces, c’est-à-dire capables d’offrir, en divers domaines, des projets de décisions pertinentes ou, au moins, de présenter des solutions très avancées et motivées, de nature à faciliter la tâche du décideur dans une proportion élevée, relativement à ce que serait cette tâche dans le cadre d’un processus traditionnel de préparation de la décision ?

La réponse paraît affirmative, même si les réalisations en ce domaine sont peu nombreuses et que d’importants progrès restent à accomplir.

Les principes de la méthode peuvent, en tout cas, être esquissés.

S’il s’agit de décider dans l’incertain, c’est-à-dire là où même les modèles probabilistes échouent ou sont insuffisants, la théorie des jeux offre des éléments de solution. A défaut, le décideur concerné, ou des groupes de décideurs qualifiés, dûment interviewés, peuvent énoncer ce qu’ils choisiraient dans un certain nombre de situations préalablement recensées et convenablement décrites.

Pour autant que l’axiologique est en cause, l’on peut demander au décideur, ou à un groupe de décideurs, ce que sont, selon eux, les termes de l’échange entre diverses valeurs éthico-politiques, considérées à divers niveaux. La table des valeurs qui en résulte, dûment approuvée par le décideur, peut être insérée dans les programmes de décisions.

L’approbation de la table des valeurs n’est évidemment pas mécanisable. Mais les décisions qui en découlent le deviennent, étant entendu que demeurent préservés les choix du décideur à l’état final du processus.

Là encore, l’automatisation de la décision n’est pas intégrale. Mais elle l’est à un tel degré qu’elle peut être regardée comme une décision artificielle, au sens où l’entend Danièle Bourcier.

Certes en français, comme en anglais, artifice, artificiel peut avoir un sens péjoratif, tout au moins dépréciatif (cf. aussi, en allemand künstlich). Mais le recours aux artefacts est aussi la manifestation du génie humain. Il y a un bon usage des artefacts, notamment des ordinateurs et de l’informatique qu’il faut encourager et non pas redouter.

Pourtant, dans l’ouvrage, la question est posée : « Qui a peur de l’informatique ? »

L’on peut être tenté de répondre : tout le monde ; les citoyens, surtout en tant qu’administrés, mais aussi les politiques, les uns et les autres pouvant craindre un regain de vigueur de l’hydre technocratique ? Il y a eu aussi ceux qui se demandaient s’ils ne risquaient pas d’être liquidés en tant que classe socioprofessionnelle, tels les juges et les avocats. Mais ils sont apparemment revenus de leurs angoisses.

Les dispositifs législatifs de protection contre l’informatique, du type « Informatique et libertés », qui ont fleuri depuis quinze ans (mais la Communauté européenne n’a pas encore ajouté son bouquet) constituent pour les juristes un objet d’étude de choix. Mais à la lecture de ces textes, viennent à l’esprit des questions irrévérencieuses. N’y a-t-il pas, en cette matière riche de diverses facettes sur les libertés, quelques aspects du jeu délicieux qui consiste à se faire peur ? On pense au monstre Interconnexion, au diabolique Détournement de finalité, etc. Certes, des atteintes à la vie privée et aux libertés peuvent être commises et il faut les réprimer. Mais jusqu’où peut aller l’efficacité du contrôle avec la prolifération des micro-ordinateurs, aussi puissants que les « grands » ordinateurs du passé, et la possibilité de transférer par voie télématique des dizaines de millions d’octets à l’autre bout de la planète ?

Ne pourrait-on alors poser la question autrement : l’informatique est-elle dangereuse ? La réponse est évidemment non. C’est l’homme qui, au moins en certaines circonstances est dangereux. Les crimes contre l’humanité ont été perpétrés efficacement sans le recours à l’informatique qui n’était pas alors venue à l’existence.

A la double question dont il s’agit, le professeur Jean Goulet, cité par Danièle Bourcier, livre, peut-être, la meilleure réponse : « Il nous semble qu’on a jusqu’ici tenté de contrôler une machine extérieure au phénomène juridique, l’ordinateur, et qu’on ne s’est pas attaqué à notre machine, celle du système juridique ». C’est bien, là aussi, un des buts que s’est assigné l’auteur.

Lucien Mehl

Remerciements

*

Cet ouvrage fait partie d’une recherche plus vaste qui a été menée sur les standards de la police municipale³. Nous n’en avons retenu que ce qui concernait notre hypothèse, à savoir le rôle fondamental des concepts indéterminés dans les processus décisionnels.

L’exemple des systèmes-experts dans l’administration servira de base à une évaluation méthodologique. L’expérience, issue de la conception de plusieurs systèmes d’aide à la décision du maire (projet MAIRILOG), permettra de développer une approche interne sur les avantages et les dangers de tels outils.

L’ensemble de ces travaux se situe dans le domaine désormais reconnu de l’intelligence artificielle et du droit. Qu’il me soit possible à l’occasion de leur publication de remercier ceux qui m’ont permis en 1976 d’avoir une bourse de recherche à l’Université de Stanford où j’allais entendre pour la première fois Terry Winograd suggérer les potentialités de l’intelligence artificielle et des langages de représentation des connaissances (KRL) pour le droit. Mais c’est dans le cadre du Groupe de Travail interdisciplinaire sur l’Analogie mis en place au début des années 1980 au Conseil d’Etat que le projet allait mûrir.

En 1984, je rencontrais les chercheurs en logique et en intelligence artificielle avec qui ont été écrits nos premiers systèmes-experts juridiques. Enfin, le laboratoire d’Informatique avancée de la SA Lyonnaise des eaux s’est intéressé à ce projet : il choisit de développer dans le cadre d’un contrat de collaboration avec notre équipe du CNRS (I.D.L.) une version réduite mais portable de la base de connaissance sur la décision municipale en matière de nuisances sonores (BRUITLOG).

Le chapitre sur le droit et l’éthique de la décision est une version remaniée d’une communication faite au Colloque du CREIS, Paris (juin 1992). Le chapitre sur la modélisation de la fonction juridique a été exposé au 2e séminaire des Sciences du texte juridique à Montréal (1992).

Je remercie Jean-Claude Montel, Jean-Louis Le Moigne et Bernard Roy qui ont accepté de relire le manuscrit, ainsi que Lucien Mehl qui, après avoir créé en 1959 le concept de « machine à juger », a fait de l’informatique juridique en France une véritable discipline. Enfin, Jean-Claude Gardin m’a communiqué son enthousiasme critique pour la pensée formelle dans les sciences sociales et humaines.

Que Patricia Hassett, Théodore Ivainer, Louis Jouanet, Ejan MacKaay et Jacques Maillard ne m’en veuillent pas de voir immergées dans ce travail quelques-unes des nombreuses discussions que nous avons eues ensemble.

Netherlands Institute for Advanced
study in the Humanities and social
Sciences (NIAS).
Wassenaar, 1994

Présentation

*

Les enjeux de la décision artificielle seront décrits par rapport aux actes et aux activités juridiques impliquant des questions de prise de décision. Une définition de la décision sera esquissée. Puis nous exposerons notre hypothèse sur le rôle des standards c’est-à-dire des connaissances indéterminées et incertaines, dans la construction et la simulation de la décision administrative. Notre analyse de la décision montre qu’il convient de rechercher des modèles pour représenter la connaissance dynamique impliquée par les standards et pour simuler un raisonnement dans un domaine où le pouvoir discrétionnaire est important (chapitres I et II).

Nous appliquerons cette hypothèse sur la décision de police du maire. Deux modélisations montreront comment la décision municipale est fortement organisée autour de standards normatifs et factuels. Indéfinissables en termes de logique, ces standards peuvent être cependant représentés sous formes de réseaux cognitifs (graphes factoriels). Ces réseaux sont en réalité la structure profonde de la décision. Puis, en tant que connaissance dynamique, ils peuvent être utilisés pour construire un processus de décision (systèmes-experts) (chapitres III et IV).

Nous proposons ensuite une série de réflexions critiques sur la question des modèles dans la décision artificielle : Comment représenter la fonction dans les modèles décisionnels ? Peut-on simuler une décision juridique sans modèle ? Un dernier chapitre sera consacré aux enjeux juridiques des décisions artificielles : face à ces nouvelles menaces pour les droits des personnes, quelles peuvent être les réponses du législateur et quels codes éthiques peut-on élaborer ? (chapitres V, VI et VII).

CHAPITRE PREMIER

La décision juridique entre la machine et l’humain

« L’artificiel est ce qui reçoit de l’art humain une forme qu’il n’avait pas naturellement. Recevoir une telle forme ne se peut que par une redistribution de ses éléments constitutifs disposés autrement et saisis dans un réseau de relations ou d’interactions susceptibles de produire des effets nouveaux, et d’engendrer des potentialités au développement imprévisible ».

F. Tinland.

La prise de décision est une activité considérée comme mettant en jeu ce qui est spécifiquement humain : le choix, le libre arbitre, l’appréciation, le jugement. Elle est qualifiée de « véritable », si elle est le résultat d’une délibération et d’un choix entre des valeurs ou entre des risques. Cette conception idéale de la décision reste un cadre conceptuel partagé quel que soit le contexte : littéraire, scientifique, religieux...

Rappelons la définition du libre arbitre de Molina⁴, reprise dans les préfaces successives du Cid dont Corneille s’inspira pour construire son personnage :

Le libre arbitre n’est autre chose que la volonté quand elle use formellement de la liberté, en vertu d’une décision préalable de la raison.

Le droit est par nature un domaine privilégié de l’activité décisionnelle : décisions législatives ou de justice, actes de l’administration. La plupart des principes fondamentaux et des règles de procédure ont pour objet de garantir « l’autonomie décisionnelle » des décideurs, c’est-à-dire leur libre arbitre, leur intime conviction⁵, leur pouvoir discrétionnaire, leur marge d’appréciation. Le rappel de ces principes se fait toujours en des termes similaires. En 1992, les jugements qui ont déclaré illégal le permis de conduire dit « à points » étaient fondés sur de tels arguments : « Le juge se trouve empêché de remplir ce qui constitue déontologiquement la spécificité de son intervention et de sa mission, à savoir la modulation de sa peine et sa libre appréciation de la faute commise. »⁶

Inversement celui qui fait l’objet d’une décision a besoin de savoir que la décision a été prise par un agent qui n’a pas renoncé au pouvoir de qualifier des comportements particuliers. La Commission nationale informatique et libertés est appelée régulièrement à examiner des techniques décisionnelles visant à restreindre cette autonomie⁷.

On aurait pu penser que si la recherche systématisée d’information juridique pouvait faire l’objet d’un traitement par la machine, l’activité purement décisionnelle des juristes y échapperait. Cependant, comme dans tous les autres domaines d’expertise, la décision juridique fait de plus en plus l’objet de simulations : l’intelligence artificielle appliquée au droit est même devenue un champ disciplinaire bien structuré, avec ses revues et ses colloques. Pourtant, la participation de l’ordinateur à l’opération de jugement continue de susciter de graves objections de principe parmi les juristes. Rappelons l’intervention de P. Souleau⁸ en 1969 qui, après avoir rappelé les avantages du syllogisme, s’inquiétait en ces termes des premiers bruits d’engrenage des machines à juger :

D’emblée, l’idée d’une machine à juger nous choque ; le jugement n’est-il pas un des plus nobles privilèges de l’espèce ? Dans cette rumeur d’engrenages qui va se rapprochant, nous percevons instinctivement une offense à notre fierté, une menace à ce qui nous paraît l’essentielle intégrité de l’homme, nous sentons monter un assaut qui, craignons-nous, va emporter les derniers retranchements de l’humain.

On pourrait décider d’interdire a priori tout projet d’automatisation de la décision en droit⁹. C’est ce que demande Weizenbaum, en y joignant les décisions médicales. « L’hypothèse que les juges et les psychiatres ne savent rien qui ne puisse être appris aux ordinateurs est la conséquence d’une hypothèse beaucoup plus générale à laquelle se rallie l’intelligentsia artificielle, à savoir qu’il n’y a rien que les humains ne sachent qui ne puissent être d’une façon ou d’une autre accessible à la machine. »¹⁰ La justification de cette interdiction serait de type humaniste, éthique, symbolique ou même simplement déontologique, objections sur lesquelles je reviendrai dans le chapitre VII. La loi a déjà limité cette prétention au nom de la garantie des droits fondamentaux, ceux du « décidé » mais aussi ceux du « décideur ». On peut aussi l’interdire au nom de la notion de compétence. Aucune machine ne peut prétendre détenir la compétence d’un décideur.

L’ambivalence du terme de compétence mérite qu’on s’y arrête. Etre compétent en droit ne relève pas de l’ordre du savoir mais de celui du pouvoir. La situation devient plus claire : il est interdit de modéliser la décision juridique parce que la machine n’a pas la responsabilité qui correspondrait à son pouvoir, à moins que de nouvelles constructions juridiques arrivent à lui reconnaître la personnalité juridique¹¹.

Mais une autre question demeure : celle de la connaissance. La machine peut-elle (compétence de savoir) analyser des opérations complexes comme celles mettant en jeu des processus d’acquisition ou de raisonnement ?

Sciences de l’artificiel, sciences du droit

Les sciences naturelles avaient pour objet l’appréhension logique de l’organisation des systèmes naturels. Par opposition, les créations issues de l’activité de conception humaine sont dites artificielles et font l’objet de nouvelles sciences, celles de l’artificiel¹². Comprendre un processus de conception comme celui de la prise de décision, pour en démonter les mécanismes et les règles, relève de ce domaine. L’artificiel n’est donc pas assimilable à la seule implémentation dans une machine. Cependant l’ordinateur en tant qu’outil de simulation est un artifice particulier. Par la représentation, puis la modélisation, la perception de la réalité va être simplifiée et le modèle ne gardera que les propriétés fondamentales de l’objet. On peut alors conjuguer deux types de projets : celui de démonter les créations artificielles (informatisées ou non) mais aussi celui consistant à tester nos hypothèses en faisant varier artificiellement les conditions du milieu ou les contraintes du décideur.

Un objet artificiel a, comme un objet naturel, des caractéristiques intrinsèques. Il a un environnement auquel il doit s’adapter. Mais surtout il obéit à un objectif défini par le concepteur. Cette particularité permet d’enrichir nos connaissances sur des comportements cognitifs humains et sur des objectifs non verbalisés ou des connaissances implicites. Une des particularités des systèmes-experts sera justement de pouvoir tester des comportements face à la redistribution de problèmes ou l’indication de nouvelles contraintes.

Ainsi, en parlant de la décision comme d’une création artificielle, on peut s’autoriser à en analyser les fondements, les structures, les contraintes, ainsi que les modes d’adaptation, le rôle des règles et surtout la place du décideur par rapport à la normativité interne ou externe du système. On refuse de considérer qu’elle serait « naturelle » ou simplement issue de la raison. Une troisième possibilité que nous discuterons en conclusion consiste à considérer qu’à côté des objets naturels (physei) et des objets issus de l’action humaine mais sans dessein (nomo), il existe des phénomènes « artificiels », produits d’un dessein humain (thesei)¹³.

Avec cette hypothèse, il n’est plus possible de considérer que les technologies décisionnelles échappent à ces caractéristiques. A l’heure du développement de toutes formes de traitement de la décision, il paraît conséquent de ne pas se priver de tels outils. Les métaphores instrumentales sur le droit comme « machine » ne peuvent que conforter ce projet. Si la loi est une « technologie »¹⁴, la règle un « outil mental »¹⁵ et le droit du « social engineering »¹⁶ pourquoi ne pas parachever cette suite de métaphores en traitant les modèles juridiques dans un ordinateur ?

Nous appellerons « décision artificielle » la conception de tout ou partie d’un processus de décision en vue de sa représentation ou de sa simulation.

Le champ observé : quelle décision ?

La décision juridique dont nous parlerons est proche de la décision vue par la science administrative.

Nous entendons aussi y inclure la décision du juge. Pour notre recherche, orientée vers l’analyse du processus de décision (contrôlé par le juge) la distinction entre décision administrative et décision juridictionnelle n’est pas directement opératoire. Pour la première fois d’ailleurs, un texte législatif les a rassemblées : l’article 2 de la loi de 1978 sur l’informatique et les fichiers. En les rapprochant dans le même champ de règles, le législateur a admis implicitement qu’elles étaient susceptibles de poser les mêmes problèmes. Mais ce sont les décisions déléguées, fondées sur l’interprétation des sources du droit et sur la constitution de faits subsidiaires, qui constituent la grande partie des décisions artificielles¹⁷. Cette évolution rejoindrait la position de certains courants de pensée « réalistes » qui considèrent que le droit n’est pas issu seulement de l’activité du juge (ou du législateur) mais aussi de celle du fonctionnaire : « Je soutiens que le maillon central du droit ce n’est pas seulement le juge mais ce que fait tout agent officiel de l’Etat... »¹⁸.

Les décisions examinées seront les décisions soumises à des règles juridiques et/ou susceptibles d’avoir des effets juridiques. Ces règles concernent le résultat mais aussi l’élaboration de la décision. Elles sont prises par des institutions et des organismes c’est-à-dire par un décideur institutionnel. Nous avons privilégié la décision d’un acteur individuel car la décision collective n’avait pas fait l’objet de modélisation en droit¹⁹.

La décision visée peut aussi être une décision prise par un organisme privé : les caractérisques liées aux effets juridiques n’en sont pas considérablement modifiées. Qu’est-ce qui distingue en effet le score établi par une société de crédit, du barème de tarification des peines imposées à un juge par un règlement de l’administration ?

De façon plus précise, c’est un type de décision administrative particulier qui a orienté cette réflexion : celle prise par le maire dans le cadre de ses pouvoirs de police.

Quels artefacts ?

Une contrainte fondamentale a pesé sur l’analyse : l’objectif n’est pas seulement d’étudier la décision juridique, même si cette analyse devient un préalable à toute modélisation.

Il s’agissait de partir de l’expérience des systèmes d’aide à la décision. Or, malgré le développement de ces nouvelles méthodes depuis une quinzaine d’années, le champ des décisions simulables est encore relativement restreint. La plupart des décisions étudiées ont été au départ des décisions portant sur des domaines facilement « computables ». Cela signifie qu’ont d’abord été privilégiés les domaines où les données étaient calculables et les concepts bien définis avec des modes de raisonnement déterministes : fiscalité, successions, droit de la nationalité, prestations sociales. Dans le secteur privé, il s’agissait du domaine de la gestion des risques, de la prévision et de la sécurité.

Les décisions simulées répondaient à un type proche de ce que l’on a appelé les pseudo-décisions, et les premiers systèmes-experts ressemblaient d’ailleurs plus à des tables de décision ou à des « check-lists » qu’à des machines « intelligentes ». On comprend que — payant en cela leur tribut à la mathesis universalis qui guette les sciences humaines — les premières modélisations aient porté sur de tels domaines, ou plus pratiquement, sur des processus mécaniques déjà existants.

L’extension des domaines analysés et des raisonnements impliqués devient de plus en plus visible. Les projets de simulation s’étendent à des pratiques sociales ou à des modèles institutionnels plus complexes : gestion sociale, prévision ou contrôle. Les rapports entre discours et information, connaissance et décision, rationalité et jugement, stratégies et pouvoir deviennent des points incontournables, et une réponse en terme de déduction paraît insuffisante, que ce soit au moment de leur implantation opérationnelle dans une organisation ou de la validation du résultat.

C’est pour cela que, pensant à l’autonomie de l’objet par rapport au modèle, j’ai considéré qu’il pouvait être plus intéressant et épistémologiquement plus fécond pour comprendre les processus décisionnels d’analyser des domaines moins structurés du droit. Ce ne sont évidemment pas ces domaines qui prévalent du point de vue de l’intelligence artificielle. Mais lorsqu’on entreprend de représenter un domaine de connaissances, on s’aperçoit rapidement que même dans les secteurs les plus construits du droit, des zones d’ombre, c’est-à-dire d’interprétation, subsistent. Ainsi le domaine de la police du maire, fondé sur quelques lignes du code des communes et beaucoup de jurisprudence, m’a paru pertinent pour tester les modèles « systèmes-experts ».

Intelligence artificielle et droit : le double objectif

Les analyses et méthodes qui ont pour objet de modéliser la décision juridique se situent a priori dans le domaine de l’intelligence artificielle et du droit. Mais le nombre de disciplines concernées est beaucoup plus large : linguistique, sémiotique, aide à la décision, théorie des jeux, d’une façon générale, l’archipel des sciences cognitives.

Le champ de l’intelligence artificielle et du droit s’est constitué autour de deux motivations différentes : théorique et pratique. D’un côté, on a cherché à faire des « systèmes d’information juridique intelligents » qui pouvaient assister les juristes dans leur activité de diagnostic ou de prédiction. De l’autre, on a essayé de mieux comprendre, au moyen de l’ordinateur, les processus de raisonnements et d’argumentation des juristes. Il est nécessaire de bien distinguer ces objectifs pour comprendre au moins les critères de succès dans chacune de ces orientations, mais surtout les enjeux des modélisations proposées.

Les systèmes d’information intelligents en droit comprennent essentiellement les systèmes-experts. Un système-expert est un ensemble de logiciels et de connaissances susceptibles de simuler le raisonnement d’un expert dans un domaine d’application particulier. Ces systèmes ont pour but de faire une analyse d’un domaine du droit pour répondre à un cas concret ou pour faire un diagnostic. Ils ont un certain nombre de caractéristiques sur lesquelles nous reviendrons plus en détail : ils utilisent des mécanismes de déduction pour un but spécifique ; ils posent des questions à l’utilisateur sur tous les faits impossibles à acquérir ou à décrire ; les réponses sont obligatoirement des faits exprimés par un interprète à l’aide de la langue naturelle²⁰ ; ils proposent une solution avec une trace du raisonnement et des faits utilisés.

Parmi ces systèmes, notons le système-expert sur le droit anglais des « latent damages » qui a été distribué en même temps qu’un ouvrage de doctrine correspondant²¹. Ce système vise la représentation d’un texte assez complexe qui ne peut être compris sans une connaissance extensive de la jurisprudence dans le contexte du contrat et de la responsabilité des produits défectueux. Ce projet était fondé sur l’idée qu’il n’est pas nécessaire d’avoir des modèles sophistiqués pour simuler un raisonnement qui pourrait être utile au juriste : il suffit que l’expertise — que l’auteur avait constituée avec un expert dans le droit de la construction — soit elle-même très élaborée. De même, on considéra qu’il n’était pas indispensable d’avoir des modèles profonds sur des concepts comme le temps, l’espace, la cause, l’intention, le but, ou d’utiliser des logiques non standards comme la logique déontique, pour élaborer des systèmes appliqués au droit²².

Le deuxième courant en intelligence artificielle et droit se propose de construire des modèles profonds du droit pour améliorer les performances des premiers systèmes. Pour cela, il est nécessaire d’avoir une connaissance plus précise de la façon dont raisonnent les juristes. En conséquence, un système incluant des programmes d’intelligence artificielle doit être capable d’avoir un interface en langue naturelle, de procéder à quelques généralisations et de faire des analyses partielles avant de poser des questions.

Ces dernières recherches ont pour but réel d’utiliser la logique pour construire des modèles informatiques du raisonnement juridique. C’est ainsi qu’ont été développés des langages de représentation de la connaissance juridique qui reflètent la structure de catégories fondamentales du droit. Le Langage for Legal Discourse (LLD)²³ ou le Legally Oriented Language (LEGOL)²⁴ correspondent à cette orientation.

Cette distinction entre outils pratiques et outils théoriques est semble-t-il un peu arbitraire et ne rend pas compte des mouvements de va-et-vient nécessaires entre les deux orientations. Ph. Leith²⁵ a proposé de caractériser d’une autre façon les deux approches de l’informatique, de la logique et du droit : l’une fondée sur le traitement de l’information où la logique serait chargée de clarifier la compréhension du texte juridique ; l’autre serait une approche du raisonnement juridique où la logique est utilisée pour modéliser les modes de pensée juridiques plus que pour traduire le texte dans un format logique.

Signalons que cette approche, qu’elle soit à visée pratique ou théorique, est fondée prioritairement sur la computabilité du modèle proposé. Cette limitation conduit la plupart du temps à ignorer deux éléments constitutifs de la compréhension de la connaissance ou de l’institution juridique : l’objectif et l’environnement décisionnel. Ces dimensions cependant doivent être intégrées dans la conception des artefacts dont nous parlons.

Les insuffisances de l’approche logiciste

Ces approches privilégient deux spécialités sur lesquelles s’est fondée la modélisation du raisonnement juridique : la logique et l’informatique.

Certes, le droit présente des caractéristiques communes avec les processus d’informatisation en I.A. : représentation abstraite de phénomènes, construction analytique et hypothétique de la connaissance, raisonnements déductifs ou inductifs. En outre, les questions posées sont susceptibles d’élargir les questions traditionnelles de la théorie du droit en proposant des modèles validables.

Mais déjà il paraît nécessaire d’introduire d’autres approches et d’autres paradigmes : par exemple, la linguistique pragmatique, susceptible d’expliciter l’opération de gestion de connaissances et les rapports entre connaissance et action²⁶. La théorie de l’argumentation peut prendre en compte la plupart des raisonnements que la logique ne peut modéliser, notamment pour l’analyse de problèmes pouvant avoir deux solutions opposées — ce qui est constant en droit.

De même les travaux interdisciplinaires sur l’approche cognitive du droit sont en train d’introduire de nouvelles orientations nécessaires dans l’analyse du raisonnement juridique. Le modèle computationnel de McCarty²⁷ utilisait déjà les travaux sur la théorie des prototypes d’E. Rosch²⁸ pour représenter la déformation de certains concepts en droit. Dans le modèle utilisé, les transformations induisent un ordre partiel sur une ensemble d’exemples, et cet ordre correspond au gradient de typicalité observé par les psychologues dans l’étude de la catégorisation humaine. Pour McCarty, bien que reconnaissant que les approches cognitives peuvent renouveler la recherche sur le raisonnement juridique, la reformulation de la théorie des prototypes ne peut se définir qu’en terme de traitement informatique (« computational tractability »). Le raisonnement par prototypes en tant que « phénomène complexe », surtout quand il est appliqué à l’évolution de cas de jurisprudence, ne peut, à notre avis, se réduire à la computabilité de ses descriptions.

L’analyse du discours quand elle s’est intéressée à la schématisation du raisonnement et donc à la reconnaissance de marques et de connecteurs dans le discours a constitué aussi une étape dans les recherches de règles pour les systèmes-experts. Les travaux de J.-C. Gardin sont fondés sur l’hypothèse qu’il doit être possible d’exprimer le contenu d’un texte scientifique ou juridique sous la forme d’une argumentation reliant les données d’observation aux théories, hypothèses, règles diverses ou solutions que l’auteur entend fonder sur elles. Dans ces conditions, les bases de connaissances peuvent se fonder sur des schématisations certes réductrices mais susceptibles de résumer des raisonnements d’experts²⁹.

En ce qui concerne l’approche macrostructurale du texte, les recherches sur la narrativité ont eu pour principal intérêt — même si l’automatisation de tels processus ne paraît pas constituer l’enjeu de ces travaux — de dégager des schémas narratifs. Ces schémas sont susceptibles de maintenir la cohérence du texte et surtout de compléter par les phénomènes d’interaction une connaissance tacite. Les historiens et surtout les juristes font appel à l’interdiscursivité comme le montrent les travaux de B. Jackson³⁰ et de Bennett & Feldman³¹. Le modèle syllogistique est critiqué au profit d’un modèle intentionnel de la décision qui construit les faits dans l’affaire jugée plutôt qu’elle n’est déduite comme conclusion de la règle générale. La narrativité est la forme la plus importante de la communication culturelle des connaissances de sens commun. La plupart des jugements de valeur sont stockés et transmis plutôt que conceptualisés et analysés dans le discours. Comment les retrouver et les représenter ? L’hypothèse des topoï intrinsèques, qui est rattachée à la théorie de l’argumentation dans la langue, rend compte du même phénomène : la langue a pour fonction de décrire mais aussi de contraindre le destinataire à accepter une conclusion, en gérant de façon interactive des connaissances de sens commun.

Cependant si l’étude de la décision peut être analysée par des règles narratives, ces règles ne sont pas directement implémentables³². En revanche, elles peuvent être fécondes pour décrire les processus décisionnels.

Enfin, un des thèmes les plus courants en intelligence artificielle est totalement ignoré dans l’élaboration des systèmes à bases de connaissances : celui de l’acquisition de ces mêmes connaissances. On peut suggérer plusieurs raisons. D’abord la connaissance juridique est présupposée accessible puisque nul ne peut l’ignorer ; en outre le positivisme scientifique rejoint le positivisme juridique : la connaissance décisionnelle ne peut être que celle des sources officielles, le droit « posé », commenté (law in books) ; enfin le statut de l’expertise juridique n’est pas clair, notamment en ce qui concerne les règles heuristiques. On sait que les juristes court-circuitent leur raisonnement par des règles pratiques qui ne sont jamais vraies à 100 % : « Le talent des experts inclut le fait de traiter des données et des règles d’inférence incertaines. Une bonne partie de l’art de porter un jugement consiste à soupeser les mérites relatifs de données, de faits, de paris ou d’hypothèses. »³³ Zadeh signalait qu’en général ce qui importait était moins de savoir si les objets existaient que si le jugement porté sur ces objets était juste et adapté (argumenté). Mais quelle est la validité « générale » de ces règles, et comment peuvent-elles justifier juridiquement les étapes de la décision ?

Quoi qu’il en soit du statut incertain des règles heuristiques juridiques, les données positives du droit sont, de toute façon, insuffisantes pour modéliser une quelconque décision. Une partie de la recherche pourra donc consister à se situer, en amont de la base de connaissances, pour acquérir des connaissances utiles, adéquates et efficaces, mais non strictement juridiques. L’utilisation de statistiques par exemple peut être une solution pour faire des inductions ou des analogies. De même, les méthodes d’analyse multidimensionnelle visant à extraire des facteurs résumant l’ensemble de l’information : ces facteurs deviennent des « variables artificielles » construites par ces techniques. On peut utiliser cette méthode, pour analyser le poids des arguments et leurs configurations mutuelles dans les décisions municipales. C’est ce que nous proposerons dans le chapitre III.

Mais examinons deux autres orientations de l’analyse des processus décisionnels en droit, processus susceptibles d’être automatisés.

L’aide à la prévision et le droit

En France, les travaux catégorisés sous le terme d’aide à la prévision comme un type d’aide à la décision³⁴ ont été peu utilisés dans le domaine du droit. La jurimétrie, en tant qu’analyse quantitative des phénomènes et des comportements judiciaires, s’est développée en revanche en Amérique du Nord dès les années 1960, particulièrement pendant la période béhavioriste, dominante dans les sciences humaines. Une importante littérature décrit des projets réalisés dans ce domaine³⁵. Des logiciels de ce type se sont développés récemment : il s’agit par exemple du choix d’un meilleur président dans un jury³⁶. A partir d’une information biographique précise des candidats (le nombre d’années d’expérience, l’expérience arbitrale, le nombre d’affaires dans le domaine, etc.), un poids sera donné à chaque critère et chaque candidat aura un score calculé suivant différents modèles mathématiques. Le choix des critères est plus décisif que le modèle : ainsi un juge plus âgé sera-t-il réellement plus capable d’exercer son autorité ?

D’autres logiciels ont pour objectif de prédire les résultats d’une affaire. Cette aide à la décision est une variante de la conception assistée par ordinateur : ces outils sont utilisés par les juges et les avocats mais aussi les administrateurs et les politiques (choix du salaire minimum garanti). Ils utilisent plusieurs types de modèles :

— les arbres pour représenter des décisions sous condition de risque : comme intenter un procès ou accepter un compromis. Les branches représentent les possibilités qui dépendent de l’occurrence ou de la non-occurrence d’événements probables ;

— les logiciels de programmation linéaire qui allouent des ressources rares (temps) sur la base de la maximisation ou la minimisation d’une fonction ;

— les logiciels statistiques qui prédisent comment un cas futur sera probablement décidé en fonction de la responsabilité, du dommage, de la condamnation, cela, à la lumière de cas précédents, d’opinions d’experts ou même des antécédents des juges.

Certes, ces outils peuvent inciter le juriste à être plus explicite sur les buts ou les alternatives, à rechercher les solutions qui peuvent être examinées de différents points de vue, changer les critères, combler une information manquante, faire des choix dans des situations mutuellement exclusives, aider à la négociation, à la médiation, décider d’un ordre de préférence.

Mais ils relèvent plus de l’informatique de gestion que de l’intelligence artificielle. Même s’ils peuvent constituer des aides pour le décideur, il s’agit en réalité plus de conception ou de planification assistée par ordinateur que de modélisation de tâches cognitives. Cependant, ils doivent être rapprochés des « technologies d’identification », comme le scoring ou le profiling. Ces techniques de traitement de données personnelles seront évaluées au regard de la loi de 1978, mais seront exclus de notre champ d’analyse des modélisations possibles : elles ne concernent pas les processus décisionnels spécifiquement liés à la connaissance juridique.

L’aide au « sentencing »

Le sentencing vise l’opération de détermination de la peine par le juge.

Suivant les systèmes pénaux, l’opération du prononcé de la peine est encadrée par des mesures plus ou moins normatives : échelle de gravité des peines, fourchettes de peines, circonstances aggravantes. Mais le pouvoir discrétionnaire du juge reste important, d’autant plus que l’obligation de motiver est en général absente des législations : la Cour de cassation par exemple a toujours estimé que la motivation devait porter sur la qualification des faits et l’imputabilité des faits à un auteur, mais non sur le choix du type de peine, de ses modalités ou du quantum. C’est ainsi que l’on peut avoir des variations quant à la durée de l’emprisonnement ferme prononcé pour un même type d’infraction, d’un ressort géographique à l’autre : en France, en 1983, pour les vols simples, l’écart-type était important puisque les peines d’emprisonnement s’étalaient de quelques semaines à quinze mois. L’obligation d’individualiser la peine renforce ce qu’on peut appeler une atteinte au principe d’égalité formelle devant la justice.

Les recherches sur le sentencing ont, en général, pour objet de stigmatiser la grande disparité des sanctions prononcées, et de proposer des solutions³⁷. Une des solutions est de guider le choix et la motivation du juge par des barèmes indicatifs : en France, des instructions ont été diffusées auprès des autorités de poursuite pour influencer les décisions des juges en ce qui concerne les vols dans les grands magasins, les chèques sans provision et les infractions routières³⁸. Mais les barèmes conduisent naturellement à l’utilisation de l’informatique. Th. Ivainer, par exemple, a conçu un système d’aide à la décision dans le cas du vol simple dans les magasins à libre service. Ce système devait permettre d’établir, à partir d’un modèle d’agrégation des similarités portant sur un corpus de décisions antérieures, une graduation standardisée des peines pour un délit donné³⁹.

Les paramètres sont enregistrés pour permettre le choix d’une sanction adéquate et certains modèles peuvent être complexifiés Par l’utilisation de pondérations (scoring)⁴⁰. Il ne s’agit pas de simuler le raisonnement du juge mais de guider ses choix de façon plus efficace qu’avec un simple barème.

C’est aussi pour aider les juges à déterminer plus efficacement les peines applicables à un cas particulier — nous reviendrons sur cette notion d’efficacité de la décision — et à exercer leur pouvoir discrétionnaire de façon plus « consistante » que CASE (Computer Assisted Sentencing) a été conçu par le Home Office.

Un des avantages de ce type de guide est de pouvoir rendre explicites les motivations : nous verrons en quoi l’utilisation de l’aide à la décision a remis à l’ordre du jour l’explicitation de la motivation. Il est d’ailleurs possible que les résistances observées envers ces artefacts par les décideurs — en l’occurrence les magistrats — soient liées à la crainte de remettre en cause un pouvoir d’appréciation conçu comme exclusif de toute transmission de « standards de décision rationnels et cohérents », susceptibles de développer l’équité d’un jugement. L’équité dans ce cas exigerait cependant que « des criminels reconnus coupables et semblables quant aux critères de condamnation applicables reçoivent des sanctions similaires et que les criminels substantiellement différents d’un cas-type quant aux critères appropriés reçoivent des sanctions différentes »⁴¹. Mais revenons à l’intelligence artificielle.

Les décisions juridiques automatisables

La plupart des modèles de l’intelligence artificielle appliqués au droit ont pour objectif de représenter des connaissances en vue de l’analyse ou de la simulation d’une opération cognitive : qualification, diagnostic, solution...

Ils sont en général fondés sur une logique déterministe. La connaissance choisie est conceptuelle, c’est-à-dire analytique et discontinue. L’expertise est homogène (règles à modalités déontiques, règles heuristiques ou exemples). L’interface est fondée sur la mise hors cadre de la partie interactionnelle du dialogue. L’explication par le système est distinguée de l’argumentation qui, en général, n’est pas prise en compte. Enfin ces modèles n’intègrent ni la destination du système ni l’utilisation de la connaissance dans un contexte organisationnel.

En outre, les connaissances indéterminées, exprimant des valeurs ou des buts, ne sont habituellement pas considérées comme susceptibles de représentation. En général, c’est la calculabilité ou la détermination de la connaissance qui constituent les préalables à tout projet d’automatisation. Mais quels sont les fondements de la notion de calculabilité ?

Une première typologie est fondée sur les sources du droit. La connaissance législative parce qu’elle est écrite, structurée, quelquefois codifiée et fait appel à des opérations de classification, de définition, de mise en cohérence a eu le privilège des premières formalisations. La jurisprudence, particulièrement dans les pays de common law, a été représentée par les systèmes à base d’exemples (case-based reasoning) : connaissance plus difficile à représenter sous forme de règles, elle ne fait pas l’objet de systèmes opérationnels. En réalité, la source la plus adaptée aux applications « techno-bureaucratiques » concerne la gestion sociale ou sécuritaire, le traitement de dossiers de demande ou d’affectation. La connaissance est apparentée à celle que l’on utilise dans les circulaires ou avec l’aide d’experts ou d’administrateurs : elle permet d interpréter les normes et surtout de donner des précisions factuelles sur la façon dont les normes doivent être comprises⁴².

A cette première approche, fondée sur ce qui pourrait être « automatisable » dans la production du droit, on peut préférer une autre approche qui consiste à prendre en compte ce qui, dans chaque décision, peut être calculable. Elle est fondée sur une analyse préalable de la structure de la décision telle que l’a développée L. Mehl en 1968.

Dans cette structure⁴³, on peut distinguer trois parties : le calculable, l’incertain, l’axiologique. Par définition, le calculable est ce qui est mathématiquement calculable mais aussi ce qui est logicodéductif. C’est aussi ce qu’on peut appeler la zone du déterminé. Une autre partie de la décision est la zone de l’incertain : ce qui n’est pas calculable, c’est la « part maudite » où le décideur prend des risques. Enfin la troisième partie recouvre la zone de l’axiologique. Dans cette zone, L. Mehl inclut ce qui a trait à la fois aux valeurs socio-économiques ou éthico-politiques comme la sécurité, la liberté, l’ordre, c’est-à-dire nos standards.

Cette structure avait l’avantage de définir a priori ce qui pouvait être mis en dehors du projet d’automatisation c’est-à-dire la partie « risque » (le pari du décideur) et la partie « valeur » (celle qui permet de caractériser la vraie décision). Dans ce premier schéma, L. Mehl avait déterminé a priori ce qui pouvait être automatisable par rapport aux outils dont on disposait à ce moment-là. mgt ans après, la conception de la décision a évolué avec les progrès des recherches sur la décision. Sa deuxième conception⁴⁴ est plus souple car le champ de la calculabilité a changé. Le concept de décision complexe implique la possibilité de construire des modèles où tout n’est pas décomposable en terme de connaissances primitives. En outre, des situations peuvent relever de calculs probabilistes : « Dans certaines de ces situations, il se peut que, malgré les aléas, la décision soit entièrement calculable c’est-à-dire que l’issue du calcul apparaisse comme comportant un niveau élevé de certitude : tel est le cas quand s’applique la loi des grands nombres ou encore lorsque l’application de la théorie des jeux conduit à des conclusions voisines de la certitude, ce à quoi peut aussi conduire la logique floue. » Enfin, même la connaissance axiologique peut relever d’un certain modèle rationnel : on peut utiliser par exemple des tables de valeurs ou certains modèles socio-systémiques incluant des valeurs morales ou politiques comme facteurs.

On retrouve dans le deuxième modèle proposé par L. Mehl la critique traditionnelle concernant l’information ambiguë ou imprécise, considérée comme imparfaite parce qu’elle n’est ni mathématique, ni déductive. J.-C. Smith, philosophe du droit, est aussi l’auteur de plusieurs systèmes-experts intégrant un « modèle profond d’argumentation » : il a montré que « plus le degré d’incertitude est grand, à condition d’être consistant avec le résultat de l’opération ou les buts de l’action, et plus l’opération ou l’action seront faciles à accomplir »⁴⁵. Il rejoint en cela les positions de Zadeh⁴⁶ pour qui « les êtres humains tendent à réduire les coûts de transaction de l’information en minimisant le coût de la collecte et en maximisant les bénéfices de l’imprécision ». Nous utiliserions des règles pour diminuer le coût de la recherche d’une optimalisation. Comme on ne peut rechercher toutes les conditions psychophysiologiques, culturelles et sociales qui peuvent intervenir dans la caractérisation de bruit gênant, une règle détermine que si le seuil d’émergence est supérieur à 3 dB, que la gêne a lieu la nuit, dans une zone résidentielle, alors le bruit sera considéré comme gênant. Mais cette règle « arbitraire » retrouve sa marge d’incertitude en permettant au maire de qualifier les circonstances. Cette vision ternaire de la décision, où la structure dépend de la calculabilité de certains de ses éléments, a donc évolué. Nous tenterons de montrer que les systèmes d’aide à la décision peuvent traiter le calculable, le logico-déductif mais aussi toute connaissance symbolique et procédurale que les modèles d’algèbre du droit ne pouvaient utiliser. Ce nouveau modèle malgré ses aménagements n’a pas complètement modifié l’approche initiale.

Un schéma aussi général de la décision comporte plusieurs éléments d’incertitude. D’abord une question peut être posée : dès que la connaissance fait appel à des attributs ou des propriétés et non plus seulement à des paramètres, qui décide de ce qui est purement « déductif » ? L’état d’ivresse, avant d’être quantifié, était laissé à l’appréciation du juge. Les mesures acoustiques — dont l’expertise est rigoureusement réglementée par les textes — n’est qu’un élément de l’appréciation de la gêne sonore. Corollairement on peut se demander par qui a été conçu le modèle interne, et surtout, quelle est la finalité du système. La part d’interprétation que possède celui qui utilise un tel système doit être examinée. Autrement dit, trois éléments doivent être définis dans tout schéma décisionnel : l’auteur du modèle décisionnel, le destinataire qui est aussi un utilisateur du modèle et le système institutionnel de relations dans lequel ils sont placés. L’appel à la notion de « décision subordonnée » marque très justement qu’une hiérarchie est inscrite dans le modèle. Représenter cette inscription est un des objectifs de la recherche sur la décision artificielle. La détermination des conditions de la subordination est essentielle. L’objectif est alors de proposer un modèle décisionnel qui tente d’intégrer ces « places ».

Cette conception ternaire de la décision rejoint la typologie qui a été faite sur le rapport entre l’homme et la machine. Un schéma désormais classique distingue trois étapes dans le rapport de homme à la machine :

1/la machine remplace l’agent : on a alors affaire à de véritables automates (hommes et machines). L. Sfez a repris cette caractéristique en l’appelant le modèle Frankenstein, modèle qui serait, pour lui, dominant en sciences cognitives et en intelligence artificielle⁴⁷. En d’autres temps, H. Lefebvre appelait « cybernanthrope », l’homme qui reçoit une promotion en trouvant son « double réel » dans la symbiose avec la machine. Dans ce modèle en effet on ne fait pas de distinction entre la place de l’émetteur de la norme et celle du récepteur.

2/La machine impose une vision du monde et contraint l’homme à agir suivant sa rationalité ou celle du concepteur. Le système d’aide est devenu un système de consultation obligatoire. Il s’agira en réalité d’imposer une nouvelle norme.

3/Le système communique avec l’agent et, quel que soit son rôle dans l’institution, il peut savoir ce que sait la machine et interagit avec elle pour élaborer une solution. C’est par l’observation de la fonction des standards dans la décision que nous pourrons vérifier cette hypothèse.

Les modèles de la décision ont souvent été réduits à l’interaction entre un sujet-concepteur et son expertise. Or, de plus en plus, la diffusion et bientôt la dissémination des systèmes d’aide à la décision vont en modifier l’enjeu : ces machines décisionnelles auront pour objectif de normaliser des raisonnements et des modèles du monde et de contrôler les décisions subordonnées (catégorie 2). Elles seront conçues pour être détachées de leur concepteur et, par-là même, aussi de leur utilisateur (catégorie 1). C’est ce que montrent les travaux sur la protection de la vie privée et l’autonomie décisionnelle⁴⁸. Cette double tendance oblige à réfléchir sur le statut des énoncés et les présupposés du modèle dans lequel elles sont intégrées.

Le choix des connaissances non calculables

Revenons aux modèles spécifiquement juridiques. On reconnaît de plus en plus que la nature de la réglementation juridique est irrésolue, non seulement parce que la loi est incomplète et qu’elle doit gérer des silences ou des « creux »⁴⁹, mais aussi parce que le législateur entend laisser un choix discrétionnaire dans les modalités d’action de ses prescriptions. Tout système de représentation de la décision doit penser ces phénomènes de complétude du monde liés à la non-objectivité de la connaissance fût-elle normative. La façon de « compléter » ce monde pose des questions traditionnelles en droit. L’insuffisance correspondrait toujours à la « volonté paradoxale » du législateur d’établir un non-droit dans le système et de garantir un principe de « non-intervention autoritaire artificielle »⁵⁰. De même, pour Dworkin, le juge aurait un pouvoir extrêmement limité dans l’interprétation des règles car sa « créativité » se réduirait, par l’utilisation mécanique d’un procédé inductif unidimensionnel, à remonter aux principes. En réalité, ces différentes positions dénient qu’il pourrait exister une construction dynamique des connaissances par une sorte de délibération dialoguée et une régulation d’ensemble dans un équilibre autocontrôlé. Déni que critique J. Goulet : « Le processus de genèse des normes s’autocontrôle par ces transducteurs que sont l’interprétation des tribunaux, la critique de la doctrine et les réactions de la société à la législation qui la gouverne. »⁵¹ Cette construction ferait même partie du processus décisionnel. Le paradigme de l’émergence nous permettra d’observer ce que pourrait être une auto-organisation des systèmes normatifs (modèles connexionnistes).

La décision doit donc être observée par rapport à la notion de système communiquant avec un environnement. Une des caractéristiques de l’artificialité réside dans ses capacités d’adaptation à cet environnement. Les systèmes-experts répondent bien à cette nécessité : ils peuvent restreindre les espaces de recherche par des heuristiques ou modéliser leur comportement de façon dynamique Par un découpage état-processus. Il convient donc de traduire cette exigence en faisant une place importante à l’interface, point d’intersection entre l’environnement externe et la constitution de l’objet. La plupart des systèmes de programmation logique du texte juridique considèrent la texture ouverte du droit comme un handicap⁵², car c est cette dimension d’ouverture qui serait difficile à gérer dans la construction d’un objet. Pourtant les sciences de la modélisation systémique ont montré qu’il n’est pas nécessaire de comprendre parfaitement les environnements internes et externes pour créer des objets artificiels, et que c’est sur l’interface que reposera la méthodologie de conception. Cette notion d’interface n’est pas considérée d’un point de vue technique mais fonctionnel : elle pourrait s’appeler interprétation. Elle seule peut introduire le but et adapter les fonctions à l’environnement.

En ce qui concerne notre approche de la décision, on retiendra donc le paradigme de système artificiel pour modéliser les différents éléments du processus. Le flou, l’incertain, l’incomplétude ne sont plus des handicaps mais des paramètres dont il faudra tenir compte pour simuler le type de pouvoir à représenter. En retour la juridicité d’un ensemble de normes pourra être évaluée. Ce n’est plus le sens déposé par l’émetteur qui compte mais un processus associant à la fois ordre interne, instance d’émission et de réception des normes⁵³.

Dans ces différentes approches c’est le degré d’ouverture du système de normes et la question du jugement qui sont en cause.

Enfin, nous défendrons l’idée qu’il existe deux types d’intelligence artificielle : celle qui traite de connaissances sur les choses, qu’il s’agisse des centrales nucléaires pour la gestion d’alertes ou du corps humain dans le cadre du diagnostic médical, et celle qui traite de connaissances sur les personnes dont le comportement est doué d’intentionnalité.

Etablir des règles dans le premier cas n’influence pas la réaction des « choses ». En revanche, définir des modèles de règles ou prévoir des comportements applicables à l’homme, ce qui est une des fonctions du droit, crée, au-delà de l’interaction, des phénomènes d’« interréactions », ou d’interprétation de la part des destinataires : acteurs ou agis vont alors modifier leur comportement en fonction des résultats attendus et contredire — c’est de « bonne guerre » — le déterminisme des règles et prévisions qui leur était opposé. Ces phénomènes peuvent être rapprochés des questions liées à l’incertitude de la mesure dans la physique quantique⁵⁴ : il est en effet impossible de séparer les lois, des méthodes par lesquelles on les mesure. La seule différence est que nos lois sont des lois juridiques et non physiques : elles ne sont en principe pas déterministes, sauf si une interprétation privilégiée de la loi se fige dans la règle du système expert. C’est bien à la causalité stricte que le libre arbitre oppose une objection irréductible.

Qui a peur de l’informatique ?

Cette question posée par P. Legendre en introduction à une série de questions sur le droit, l’informatique et l’arbitraire avait pour but de montrer que la machine ne devait pas être comprise comme une instrumentalité annexe mais comme « accès à la matière », c’est-à-dire à la pratique même du texte. Accès à tous les montages, qui ne sont pas nés avec l’informatique : « Cela suppose, je le reconnais, quelque effort, impossible à requérir de certains roitelets, à mille lieues d’envisager qu’une machine puisse être autre chose qu’une machine et que le droit, de par sa nature de montage d’interprètes et d’interprétations, puisse avoir la facture d une machine (tanquam machina quaedam, selon une formule antique)⁵⁵. »

La rencontre de l’outil avec la matière et la fonction (l’intention, le but...) est un des enjeux de ces observations.

La question de la computabilité a l’avantage de nous apprendre à expliciter nos représentations mais elle doit être sévèrement analysée dans ses applications. L’interdiction de principe de Weizenbaum peut être repensée en ces termes. On ne recherche pas seulement la complétude de la connaissance : on se demande seulement si les modèles sont adaptés et ouverts pour être utilisables dans d’autres environnements. L’expérience ALVEY en Grande-Bretagne, présentant un ensemble de systèmes d’aide à la décision dans le domaine de la sécurité sociale, a apporté de nouvelles réflexions sur ces travaux. De même, les nouveaux contrôles de qualité introduits dans les systèmes d’information aux Etats-Unis transforment ces outils d’aide à la décision en aide au contrôle pour les décideurs hiérarchiques.

En se demandant si la décision est « computable », on cherche à établir les limites cognitives de ce qui « est spécifiquement humain » (et aucun chercheur ne peut a priori s’interdire cette recherche), mais aussi à fonder la légitimité ou la légalité de cette représentation : jusqu’à quel point peut-on arguer de nos modèles, fussent-ils cognitivement justes, pour les rendre substituables à d’autres modèles de comportement, à d’autres critères d’appréciation ?