QUESTIONS JUDICIAIRES

collection dirigée par Frédéric Debove

avec le concours scientifique
de l’Institut de criminologie et de droit pénal,
de l’Institut d’études judiciaires
et de l’Institut de droit et d’économie
(Université Paris II - Panthéon-Assas)

ISBN papier : 978-2-13-082894-5
ISSN : 1776-4289

ISBN numérique : 9782130828952

Dépôt légal – 1re édition : 2021, février
© Presses Universitaires de France/Humensis, 2021
170 bis, boulevard du Montparnasse, 75014 Paris

À Julie, Valentine et Paul…

Préface

Émilie Boddington, chargée de mission à l’ENM
Olivier Leurent, directeur de l’ENM

Il n’est certainement plus temps d’annoncer que le numérique sera le défi du XXIe siècle. La transformation numérique est engagée, emportant avec elle la promesse d’une nouvelle ère à construire, dont l’essentiel des potentialités reste à découvrir. Vecteur d’une modernisation profonde de la justice, le numérique bouleverse les pratiques professionnelles quotidiennes des magistrats, leurs outils de travail et les relations entre l’institution judiciaire et les justiciables, dans une perspective d’ouverture, d’accessibilité et de lisibilité.

Mais au-delà de son impact sur les cultures et de la nécessaire maîtrise des nouvelles technologies qu’il impose aux magistrats, l’avènement du numérique questionne l’office même du juge en tant que gardien des libertés individuelles et des droits fondamentaux.

Le juge évolue désormais au cœur d’une cybercité, elle-même reliée à un monde entièrement connecté, dans lequel les relations humaines deviennent instantanées, dématérialisées, tracées, et s’imbriquent dans de vastes réseaux de communication et bases de données qui ne connaissent pas de frontières.

Le numérique n’est pas qu’un phénomène judiciaire mais constitue un phénomène sociétal, modifiant pour chaque individu les espaces de la vie publique comme privée et les rapports à l’État.

Dans ce bouleversement des repères, les voix de l’intelligence artificielle (IA) et des algorithmes promettant innovation et modernisation ne doivent pas conduire à en oublier les enjeux et les dangers. Leur appréhension, qui ne peut être efficace que sous réserve d’être commune à tous les pouvoirs publics, suppose de faire un instant une pause dans la course au digital pour prendre le temps de la réflexion sur l’existant et la prospective.

C’est à cette analyse que nous invite l’ouvrage de Xavier Leonetti en proposant de dresser un état des lieux des conséquences du développement des nouvelles technologies en matière de sécurité et de justice, dans une approche transversale mêlant la science, le droit, l’histoire, la sociologie et la philosophie.

La première partie de l’ouvrage est consacrée aux enjeux du numérique en matière de sécurité, dans une société modifiée en profondeur tant au niveau de son organisation globale que dans les rapports refaçonnés entre les individus.

Comment garder le contrôle du cyberespace à l’heure où les outils technologiques participent d’une mutation de la sociologie criminelle et du sentiment d’insécurité ? Comment garantir un équilibre entre le respect de la vie privée et l’ordre public numérique, dans un environnement toujours davantage connecté qui donne à chaque individu le pouvoir de capter et transmettre des données de manière invisible, tout en s’habituant à vivre sous surveillance, dans l’espoir d’une sécurité absolue que permettrait l’IA ? Comment préserver le pacte social et nos valeurs démocratiques à une époque où Internet rend possible la diffusion massive du vrai comme du faux et où les fake news qui circulent sur les réseaux sociaux remplacent les informations objectives et vérifiées, au prix d’une justice instantanée et souvent populiste ?

Autant de problématiques que les États et sociétés, placés dans une dimension désormais mondialisée par le numérique, ne peuvent ignorer afin de parvenir à une nouvelle régulation des rapports de force, de sécurité et de confiance entre les acteurs publics et privés et les particuliers.

La seconde partie de l’ouvrage, dédiée à la mutation numérique de la justice, est source d’autant de questionnements, indispensables afin de permettre aux magistrats de comprendre l’ensemble des enjeux des nouvelles technologies et de se saisir de leurs potentialités.

Quel sera l’office du juge à l’heure de l’OpenData et des algorithmes ? Comment l’IA et les nouvelles technologies modifient-elles l’environnement et les outils de travail judiciaires ? Comment concilier l’utilisation des nouveaux modes numériques de preuve et la protection des droits fondamentaux ? Que penser de ces legaltechs émergentes qui, par la mise en équation de la matière juridique et des décisions judiciaires, promettent aux justiciables d’anticiper leurs chances de succès ou d’échec lors d’un procès ? La machine peut-elle prédire la décision du juge et, à terme, le remplacer ?

Ces problématiques ne sont pas uniquement celles des magistrats, mais celles de l’ensemble des professionnels du droit, et ne pourront être résolues que dans une démarche pluridisciplinaire, par des échanges et des formations avec l’ensemble des acteurs concernés.

Dans la continuité des objectifs de réforme de la justice et de sa numérisation, l’École nationale de la magistrature est engagée dans la mise en œuvre de ces changements et l’accompagnement du plan de transformation numérique du ministère de la Justice. Les évolutions technologiques et la consécration du numérique font désormais partie intégrante de l’offre de formation, tant pour aborder leurs conséquences sur l’activité judiciaire que pour favoriser l’information, la réflexion et le questionnement sur les problématiques qui y sont associées, dans le cadre de formations transversales associant les magistrats à l’ensemble des auxiliaires de justice et à leurs partenaires extérieurs. En formation initiale, la pédagogie a été également repensée afin d’intégrer la transformation numérique dans les apprentissages des savoir-être et savoir-faire proposés aux auditeurs de justice.

L’École nationale de la magistrature entend permettre aux professionnels du droit d’appréhender les différents enjeux du numérique pour en tirer dans l’avenir le meilleur.

L’ouvrage remarquable de Xavier Leonetti, qui s’adresse à tous les acteurs de la justice et de la sécurité publique, poursuit précisément ce même objectif.

Il nous confirme que la révolution numérique ne tiendra sa promesse d’une société modernisée, dans le respect des libertés individuelles et des droits fondamentaux, que sous réserve d’être conduite avec éthique et raison, qualités qui, en l’état des programmes informatiques existants, restent propres à l’homme.

Introduction

L’entrée dans l’ère numérique : une rupture stratégique douce

« Au sommet de la pyramide est placé BigBrother. BigBrother est infaillible et tout-puissant. […] Personne n’a jamais vu BigBrother ; il est un visage sur les journaux, une voix au télécran. Nous pouvons, en toute lucidité, être sûrs qu’il ne mourra jamais1. »

Depuis sa première publication en 1949, le roman 1984 de Gorge Orwell demeure un phare éclairant l’horizon des événements contemporains. Chaque crise fait resurgir ces démons, qu’il s’agisse en 2013 d’un BigBrother tout-puissant prenant les traits de la National Security Agency (NSA, agence de sécurité américaine) à la suite des dénonciations d’Edward Snowden, ou que ce soit en 2016 lors de l’élection de Donald Trump et de son utilisation des « faits alternatifs » lui permettant de réécrire l’actualité.

Désormais, chacun aura loisir de comparer la société orwellienne à celle qui se dessine aujourd’hui sous l’effet de l’avènement des technologies numériques et de l’IA. Ainsi, pour certains, cette nouvelle ère réalise la crainte d’un abandon individuel, par une somme de petites compromissions, à une forme de pouvoir autoritaire. En ce sens, tour à tour, Google, Apple, Facebook, Amazon et Microsoft (Gafam) sont comparés à ce BigBrother qui surveille tout (« BigBrother is watching you »). Dans cette vision, les ressorts de l’aliénation technologique sont identiques à ceux de l’aliénation politique d’Orwell : isolement des individus, ignorance, développement de la haine, création de bouc émissaire, pour aboutir au final à la guerre.

Pour d’autres, les innovations numériques constituent uniquement une nouvelle forme de révolution industrielle. À l’image de l’apparition de la machine à vapeur ou de la chaîne de montage, ces nouvelles technologies modifient les modes de vie et de production. Dans ce cas, plus qu’un risque politique, la révolution numérique bouleverse l’économie, polarisant la société en supprimant une partie des emplois intermédiaires. Selon une étude de l’université d’Oxford parue en 2013, ce sont 42 % des emplois français qui seront potentiellement automatisables à l’horizon 2030.

Dans ce contexte, afin d’engager l’action décisive, les entreprises puis les États se sont lancés dans une course à l’innovation et à la maîtrise des technologies numériques. La première d’entre elles, en volume et en valeur, est la capacité d’exploitation des données personnelles.

En effet, d’ici à 2020, l’univers numérique représentera 44 000 milliards de gigaoctets, soit 10 fois plus qu’en 2013. Pour se représenter ce volume, il est possible de l’imaginer sous la forme d’une masse 57 fois supérieure à celle constituée par tous les grains de sable dans le monde. Dans le même ordre d’idées, un rapport du cabinet de recherche américain IDC explique qu’aujourd’hui les données numériques d’une famille peuvent être contenues dans 65 iPhone (de 32 gigaoctets de mémoire). Demain, il en faudra 318 !

Mais l’augmentation exponentielle des données disponibles ne constitue que l’une des facettes de la révolution numérique. Le second périmètre de cette révolution se traduit par le développement des capacités de collecte et d’analyse des données (Datamining et Datalearning). On observe par exemple qu’en 2013, 22 % des données étaient exploitables. En 2020, ce volume devrait atteindre 35 %. Désormais, la multiplication des données numériques disponibles est donc intimement liée à l’augmentation constante des capacités d’analyse.

Étudiés conjointement, ces deux phénomènes se traduisent par l’apparition de données de masse (BigData) et de logiciels d’analyse algorithmique (Deeplearning) permettant l’évaluation et dans certains cas l’anticipation des phénomènes, qu’il s’agisse par exemple de prévisions météorologiques, de détection de pandémies ou de l’anticipation des comportements humains.

En pratique, ces technologies sont le plus souvent développées en dehors de tout cadre étatique. Ainsi, en matière d’analyse comportementale des consommateurs ou des utilisateurs de réseaux sociaux, les données personnelles collectées par les grandes entreprises leur offrent une suprématie économique et parfois politique. Ces dernières, principalement américaines ou chinoises, n’hésitent alors plus à contester les réglementations gouvernementales, s’autorisant désormais à définir de manière souveraine les contours de leurs activités.

Dès lors, contrairement aux ruptures stratégiques que le XXe siècle a connues lors de l’apparition de l’arme nucléaire par exemple, les innovations numériques constituent une forme de rupture stratégique douce dont les effets apparaissent progressivement avec le temps. Elles reflètent une situation nouvelle, ouvrant des possibilités auparavant interdites mais dont les déséquilibres induisent de nouvelles répartitions de pouvoirs et puissances sur les échiquiers géostratégiques. Aussi, à elle seule, la prise en compte tardive de cette rupture technologique peut constituer un choc violent dès lors qu’il est nécessaire de rattraper le retard accumulé.

Si bien qu’une fois passé le premier effet de sidération des questions liées à la numérisation de la société, il convient de s’interroger sur la nature des outils, leurs usages potentiels et les finalités ainsi que les modes de régulation que nous souhaitons leur adjoindre. En particulier, s’agissant des fonctions de sécurité et de justice, les nouvelles technologies révolutionnent les approches traditionnelles de l’ordre public, de l’enquête ou du jugement. Ainsi, les expérimentations développées en matière de police et de justice prédictives laissent en suspend de nombreux questionnements, tels que : sur quoi portent les calculs ? Quels sont leurs buts ? Et qui les contrôle ?

Pour Mark Zuckerberg, fondateur de Facebook, et pour une partie de la génération des dirigeants des grandes entreprises technologiques, ces progrès et notamment celui de l’IA ne peuvent être que bénéfiques, car ils doivent permettre de réaliser le rêve d’une société apaisée.

Pour d’autres, les progrès technologiques suscitent de nombreuses interrogations et réticences. Ainsi, en novembre 2017, Stephen Hawking s’interrogeait : « Serons-nous aidés par l’intelligence artificielle, mis de côté, ou encore détruits par elle ? » Dans le même sens, Jean-Paul Jean, magistrat et président de chambre à la Cour de cassation, considère que « les questions soulevées par ces débats posent celle de la régulation entre notre système de droit et notre système de valeur2 ». La différence entre les deux ne peut se réduire à l’utilisation d’un simple outil.

En effet, les bouleversements des équilibres sociétaux présentent des causes multifactorielles et ne peuvent se limiter à l’apparition de nouveaux moyens technologiques, aussi innovants soient-ils. En ce sens, comme le rappelle le général Desportes3, les moyens s’intègrent toujours dans une équation plus complexe, laquelle traduit « une interface entre une instance supérieure, dite politique, et une instance technique, dite opérationnelle4 ».

Ainsi, s’agissant des politiques publiques de lutte contre l’insécurité, le Conseil d’État rappelle que la perception du risque s’est fortement « accentuée par la médiatisation » à laquelle s’ajoute le sentiment qu’aujourd’hui, « tout dommage peut et doit être imputé à une personne privée ou publique afin d’ouvrir droit à une indemnisation »5. Les magistrats du Palais-Royal estiment à cet égard que l’inscription du principe de précaution dans la Constitution française a renforcé ce phénomène6. Depuis, la société est en quête d’une forme de « sécurité absolue », confrontée à des menaces multiples, complexes et diffuses. Dès lors, les innovations technologiques sont apparues comme les outils permettant de donner corps à cet idéal précautionniste.

Prises dans leur ensemble, ces deux évolutions constituent les deux facettes d’une société du risque, ou plus exactement d’une société du refus des risques, qui selon Ulrich Beck nous conduit à tenter de prévenir et de prédire les risques sur le modèle assurantiel d’un univers « probabilisable ». Désormais, l’ensemble des informations disponibles (OpenData) sont ainsi collectées, triées et analysées afin de fournir des probabilités visant à nous garantir des risques du jour d’après.

Pour autant, en matière d’ordre public et de surcroît en matière pénale, le recours au principe de précaution associé aux technologies numériques n’est pas sans risques. Tel Janus, le progrès présente alors deux visages : l’un rassurant d’une technologie améliorant la sécurité quotidienne, tandis que l’autre, plus inquiétant, révèle l’image d’une technologie pouvant être dévoyée ou mal maîtrisée. De Michel Foucault à Mireille Delmas-Marty, de nombreux philosophes et juristes ont alerté sur les risques d’une société hyperconnectée devenue hypersurveillée. De même, en Grande-Bretagne, dès 2009, la Chambre des Lords s’inquiétait de l’avènement d’une société de surveillance fondée sur un climat de peur et une perte d’autonomie personnelle.

Aussi, les outils numériques doivent être appréhendés de manière globale afin d’en limiter les aléas, tout exploitant au mieux les nombreux intérêts qu’ils offrent, tant du point de vue de l’amélioration de la qualité du service public que du renforcement du lien individu-nation.

En ce sens, les applications numériques contribuent à rapprocher l’État et les citoyens sur un modèle revisité de « police de proximité ». De surcroît, le recours aux innovations technologiques constitue une nécessité stratégique afin de lutter à « armes égales » avec les réseaux de délinquants, de criminels ou de terroristes qui depuis longtemps ont intégré le numérique dans leurs modes d’actions. À cet égard, dans son rapport « Chocs futurs » le Secrétariat général de la défense et de la sécurité nationale (SGDSN) propose une vision prospective des principales menaces à l’horizon 2030. Les auteurs soulignent ainsi la diversification et l’intensification des menaces, qu’elles soient de nature économique (escroqueries et vols de données notamment), politiques (espionnage, diffusion de fausses informations…) ou militaires (attaques de réseaux par exemple).

Si bien qu’entre fascination et craintes, l’entrée de la justice et de la sécurité dans le numérique pose de nombreux débats sociétaux. C’est donc dans ce contexte que la France s’est engagée dans une approche raisonnée de l’utilisation des outils technologiques. Comme l’a rappelé le président de la République, Emmanuel Macron : « Une justice effective, c’est une justice qui utilise les moyens disponibles pour se simplifier et se rapprocher des justiciables. […] il s’agit de favoriser l’emploi des outils numériques tout en garantissant le respect des droits et des principes fondamentaux7. »

C 1

Smartsécurité : quand l’IA remplace la police de proximité

Dans la pensée de la Grèce antique, la cité, polis, préexiste à l’homme. Pour Aristote, la polis constitue une communauté réunie par le choix d’un vivre-ensemble. Mais pour lui, cet idéal demeure confronté à la difficile mise en pratique de l’organisation de la vie à plusieurs.

Aussi, au fil du temps, les sociétés vont progressivement se constituer autour de différents modèles de contrôle social. Au début du XXe siècle, pour Edward Ross, dans Social Control1, le contrôle social permet d’étudier la capacité d’une société à se réguler elle-même en fonction de ses principes et de ses valeurs. Aujourd’hui, le concept se définit au travers d’un double objectif visant d’une part à garantir la conformité des comportements avec la norme sociétale, et d’autre part à réagir aux actes déviants. Ainsi, oubliant peu à peu le rêve d’une harmonie librement consentie, le contrôle social s’est progressivement concentré sur l’étude des outils et des moyens permettant la régulation d’une société.

Désormais, les innovations technologiques font espérer une gestion plus efficace de la complexité de la vie en commun. Par exemple, au moyen de capteurs disséminés sur la voie publique, les collectivités sont en mesure de recueillir instantanément les données relatives à la gestion des flux de circulation, de l’éclairage public, de la propreté, de la pollution, des places de stationnement, des rassemblements, de la sécurité, etc. Dès lors, la technologie se fait adjoint au maire.

L’ampleur du phénomène est telle que la France a investi plus de 6,6 milliards d’euros dans le développement de technologies dites de Smartcities, de villes intelligentes. Déjà, plus de la moitié des communes sont engagées dans un projet de ce type. En matière de sécurité, elles utilisent par exemple les nouvelles technologies au profit de la prévention des risques du quotidien, qu’il s’agisse de prévenir les incendies et les inondations ou de sauver la vie de victimes d’incidents cardiaques. Dans d’autres cas, les métropoles pionnières de Nice et de Marseille initient des démarches innovantes en matière de sécurité et de tranquillité publique, baptisées « SafeCity » (ville sûre).

Toutes ces politiques publiques ont alors en commun la place grandissante qu’elles accordent aux technologies d’IA. Si bien que de nombreuses questions juridiques et éthiques se font jour. En effet, suite à l’affaire Snowden révélant les pratiques de collectes massives de données par les services de renseignements américains, les citoyens sont en quête de plus grande transparence dans la gestion de leurs données personnelles, et comme le rappelle la Commission nationale informatique et liberté (Cnil), « dans un État de droit, aucune considération ne saurait justifier une surveillance généralisée et indifférenciée de la population, pas plus que la “mécanisation” de cette surveillance par une aspiration automatique des données2 ».

Contrôle social 4.03 : de la sécurité de proximité à la sécurité connectée

Les nouvelles technologies suscitent beaucoup de rêves et d’espoirs. En particulier, dans le domaine de la sécurité du quotidien, les innovations participent du rapprochement entre les services publics et les usagers. Par exemple, sur un modèle revisité de « police de proximité », les réseaux sociaux contribuent à mobiliser et insérer les individus dans des dispositifs de prévention publique de type « partenarial ».

Dès 2010 en Grande-Bretagne, cette logique de partenariat était au cœur du projet de « Big Society ». À l’époque, le Localism Act prévoyait de décentraliser les niveaux de décision au moyen d’une clause générale de compétence attribuée aux collectivités territoriales. L’enjeu était alors de développer une forme de community empowerment, c’est-à-dire de possibilité offerte aux habitants d’une communauté de participer localement à la gestion de certains services publics (telle que la participation aux décisions d’urbanisme ou aux propositions de projet alternatif).

Aujourd’hui, les applications technologiques permettent d’élargir les champs d’application de cette collaboration entre les services publics et les usagers. Du simple de fait de signaler une voirie endommagée jusqu’au signalement de comportements suspects ou de rôdeurs, les innovations technologiques participent d’un état de « vigilance active », laquelle traduit une forme d’infra-sécurité.

Monde dangereux et quête de sécurité

Selon les époques et les territoires, chaque société a fait évoluer les frontières de l’interdit. Au fil du temps, le droit a vu l’apparition de nouveaux délits et la disparition d’anciens. Ainsi, dès l’origine, la hiérarchie légale des infractions (contravention, délit, crime) est apparue comme une construction théorique visant à répondre aux inquiétudes des populations. Dans ce contexte, le sentiment d’insécurité a souvent été directement influencé par la situation économique et sociale du pays. Par exemple, dans les années 1785 à 1789, de brusques difficultés économiques ont fait naître le sentiment que les campagnes étaient envahies par des hordes de brigands. De même, dans les années 1970, le choc de la crise qui succéda aux Trente Glorieuses accrut le sentiment d’insécurité. Plus récemment, lors de la campagne à l’élection présidentielle de 2002, le sentiment d’insécurité et la peur du crime occupèrent très largement le devant de la scène médiatique. Depuis, les crises multiples associées à la menace d’attentats terroristes ont maintenu un haut niveau d’attente sécuritaire chez nos concitoyens.

Les lois pénales peuvent-elles rassurer nos peurs ?

Le sentiment d’insécurité recouvre de nombreux paramètres qui ne sont pas tous directement liés à la délinquance. Il s’agit souvent d’une perception globale de l’époque et de la société. Pour le criminologue Alain Bauer, il est préférable d’employer le terme « climat d’insécurité » à celui de « sentiment d’insécurité ». Selon lui, si l’effet de la peur ressentie peut être exagéré, cette dernière n’est cependant pas toujours infondée.

Il existe donc deux dimensions de l’insécurité. D’une part, la peur de la délinquance qui relève d’une expérience vécue de l’insécurité et, d’autre part, la préoccupation sécuritaire qui exprime une appréciation plus générale concernant les évolutions de la société. Or, depuis le milieu des années 1990, les études statistiques démontrent que les infractions constatées n’ont pas connu d’évolutions majeures, contrairement à la préoccupation sécuritaire qui ne cesse de croître, positionnant au fil des sondages la sécurité au premier rang des préoccupations des Français.

Les sociétés modernes, soumises à un « processus de civilisation des mœurs » décrit jadis par Norbert Élias, manifestent un sentiment de rejet de plus en plus fort vis-à-vis de toute forme de risque ou d’insécurité. Si bien que ce désir sécuritaire entraîne le dépassement de la lutte contre le crime par la recherche du criminel potentiel.

Face à ces attentes, les promoteurs des solutions d’IA promettent de détecter le criminel avant son passage à l’acte et ainsi de détecter la potentialité du crime. Dans ce contexte, la question se pose de savoir si nos sociétés se trouvent à l’aube d’une nouvelle ère qui verra peut-être la fin de la criminalité et du passage à l’acte, que Durkheim considérait pourtant comme un « fait de sociologie normale ». Une telle évolution nous interroge également sur les fondements de notre système judiciaire afin...