Les droits d’auteur générés par la vente de cet ouvrage
sont versés à la Fondation La main à la pâte

ISBN 978-2-13-083807-4

Dépôt légal – 1re édition : 2022, septembre

© Presses Universitaires de France, 2022

170 bis, boulevard du Montparnasse, 75014 Paris

Ce document numérique a été réalisé par Nord Compo.

Les auteurs

Lancée par le président de la République Emmanuel Macron le 29 septembre 2021, la commission « Les Lumières à l’ère numérique » a été présidée par le sociologue Gérald Bronner. Cette commission a regroupé quatorze experts de spécialités différentes, historiens, politologues, juristes, journalistes, enseignants, sociologues, acteurs du monde universitaire ou de la société civile, réunis pour mesurer et comprendre les dangers que le numérique fait peser sur la cohésion nationale et notre démocratie afin de mieux y faire face.

GÉRALD BRONNER, président de la Commission

Spécialiste de sociologie cognitive, il est professeur de sociologie à l’université de Paris, membre de l’Académie nationale de médecine, de l’Académie des technologies, de l’Institut universitaire de France, ainsi que du comité de rédaction de L’Année sociologique. Ses ouvrages, L’empire des croyances (2003), La Démocratie des crédules (2013) ou encore Apocalypse cognitive (2021) portant sur la formation et la disparition des croyances collectives, rumeur, idéologie, religion ou magie, et sur la cognition humaine. Ils ont joué un rôle important dans la prise de conscience sociologique des dangers qui guettent la démocratie à l’heure où Internet fait le lit du relativisme.

ROLAND CAYROL

Politologue dont les travaux portent sur les médias et leur influence politique, les structures et l’évolution de l’opinion publique ainsi que sur les comportements politiques et électoraux comparés, en France et en Europe. Fondateur-directeur de l’institut Harris France (1977-1986), il a contribué à fonder le CSA, qu’il a dirigé de 1986 à 2008. Il collabore régulièrement avec France 5, RTL, RTBF ou France 24 pour commenter l’actualité médiatique. Directeur de recherche associé à la Fondation nationale des sciences politiques, directeur et conseiller de la revue Régions Magazine, Roland Cayrol est également directeur de sa société de conseil aux entreprises, le Centre d’études et d’analyse.

LAURENT CORDONIER

Directeur de la recherche à la Fondation Descartes à Paris, il y conduit des études sur les questions relatives à l’information, à la désinformation et au débat public à l’heure d’Internet et des réseaux sociaux. Titulaire depuis 2016 d’un doctorat en sciences sociales de l’Université de Lausanne, il y demeure rattaché en tant que collaborateur scientifique externe. Ses travaux portent sur les théories du complot, les déterminants de la confiance et les mécanismes sociocognitifs d’affiliation sociale, qu’il a analysés dans La nature du social. L’apport ignorée des sciences cognitives (2018).

FRÉDÉRICK DOUZET

Spécialiste des enjeux géopolitiques du cyberespace et professeure à l’Institut français de Géopolitique. Directrice de son laboratoire de recherche (IFGLab) et du projet GEODE – Géopolitique de la Datasphère –, elle est membre du comité d’éthique de la Défense depuis janvier 2020 et a participé au comité de rédaction de la Revue stratégique de défense et de sécurité nationale en 2017. Elle a fait partie de la Global Commission on the Stability of Cyberspace (2017-2020) et dirigé la Chaire Castex de cyberstratégie de l’Institut des Hautes Études de Défense nationale (IHEDN) de 2013 à 2018. Elle a reçu plusieurs prix nationaux et internationaux pour ses recherches.

ROSE-MARIE FARINELLA

Ex-journaliste de la presse écrite et enseignante, elle anime des ateliers d’éducation aux médias et à l’information. Elle a créé un scénario pédagogique, « Info ou intox, comment faire la différence sur internet dès l’école primaire », qu’elle met en pratique depuis 2014 auprès d’élèves de CM2. Son travail a été primé cinq fois, notamment à l’échelon international par l’Unesco et la Commission européenne. Elle a participé à la rédaction d’un ouvrage collectif, Des têtes bien faites (Puf, 2019) et a co-écrit avec une journaliste d’Okapi Stop à la manipulation, paru chez Bayard jeunesse en 2021.

AUDE FAVRE

Journaliste web spécialiste des fake news, elle tient depuis 2017 une chaîne Youtube, WTFake, spécialisée dans le débusquage de fake news, afin de lutter contre la désinformation et d’ouvrir le monde du journalisme au grand public. Elle y interpelle les plus grands désinformateurs du web, ce qui a permis d’effacer nombre de contenus complotistes. Auteure de documentaires et reporter depuis dix ans, elle travaille au sein de la société Zebra Production, et fonde l’association Fake Off qui vise à lutter contre les fake news en formant les plus jeunes au recul critique vis-à-vis des médias.

JEAN GARRIGUES

Historien spécialiste d’histoire politique de la France contemporaine. Professeur émérite à l’université d’Orléans, président du Comité d’histoire parlementaire et politique, il a publié une trentaine d’ouvrages consacrés notamment aux institutions, aux acteurs, aux valeurs, aux rites et aux mythologies républicaines. Derniers ouvrages publiés : Les scandales de la République. De Panama à l’affaire Benalla, Nouveau Monde, 2019 ; La République incarnée. De Léon Gambetta à Emmanuel Macron, Perrin, 2019 ; Les Perdants magnifiques. De 1958 à nos jours, Tallandier, 2020 ; De Gaulle à la plage. L’homme providentiel dans un transat, Dunod, 2020.

RAHAF HARFOUSH

Anthropologue canadienne de l’innovation et de la culture numérique qui s’intéresse en particulier à l’utilisation harmonieuse des technologies émergentes en entreprise, à l’éthique de l’intelligence artificielle, à la revitalisation numérique de nos zones rurales et au renforcement de la cybersécurité en France. Membre du Conseil national du numérique, elle a fondé une société de conseil numérique nommée Red Thread Institute of Digital Culture, et enseigne à Sciences Po Paris. Auparavant, elle était directrice associée du programme des Technology Pioneers au Forum économique mondial.

RACHEL KHAN

Juriste, actrice, écrivaine, elle a d’abord été athlète de haut niveau durant sa jeunesse, avant d’étudier le droit public et le droit international des droits fondamentaux. Elle a été conseillère à la culture de Jean- Paul Huchon en Île-de-France de 2009 à 2015, directrice de l’association 1000 Visages qui agit en faveur de l’accès des jeunes aux métiers du cinéma, et est actuellement co-directrice de La Place, centre culturel de la ville de Paris consacré au hip-hop. À partir de 2013, elle commence une carrière d’actrice et publie plusieurs livres, notamment un roman d’inspiration autobiographique paru en 2016, et, en 2021, un essai intitulé « Racée » qui prend ses distances avec la pensée décoloniale.

ANNE MUXEL

Sociologue et politologue spécialisée dans la compréhension des formes du lien des individus à la politique et plus largement du système démocratique, au travers de l’analyse de leurs attitudes et de leurs comportements (nouvelles formes d’expression politique, rapport au vote, modes de socialisation et de construction de l’identité politique). Elle a mené de nombreux travaux sur la transmission des valeurs dans la dynamique générationnelle et est une spécialiste reconnue des études sur la jeunesse. Directrice de recherches en sociologie et en science politique au CNRS (CEVIPOF/Sciences Po), elle a aussi la responsabilité du domaine Défense et société de l’Institut de Recherche stratégique de l’École militaire (IRSEM) au ministère de la Défense.

RUDY REICHSTADT

Fondateur et directeur de Conspiracy Watch, service de presse en ligne consacré à l’approche critique des théories du complot, et expert associé à la Fondation Jean-Jaurès où il a coordonné plusieurs enquêtes d’opinion sur le conspirationnisme dans la société française. Co-auteur du documentaire « Complotisme : les alibis de la terreur » et auteur d’un essai sur la question complotiste publié chez Grasset, il coanime le podcast « Complorama » sur France Info. Il est également membre de l’Observatoire de la haine en ligne du CSA.

IANNIS RODER

Historien spécialiste de la Shoah et enseignant dans un collège à Saint-Denis. Il est aussi responsable des formations au Mémorial de la Shoah, directeur de l’Observatoire de l’éducation de la Fondation Jean-Jaurès, et membre du Conseil des sages de la laïcité. Il collabore régulièrement avec le supplément Éducation du Monde, et a écrit plusieurs ouvrages sur l’enseignement dans les espaces de relégation sociale et sur l’enseignement de l’histoire de la Shoah, notamment, chez Odile Jacob, Allons z’enfants… la République vous appelle !, en 2018 et Sortir de l’ère victimaire, Pour une nouvelle approche de la Shoah et des crimes de masse en 2020.

BERTRAND WARUSFEL

Professeur à l’université Paris 8, avocat au barreau de Paris et vice-président de l’Association française de droit de la sécurité et de la défense (AFDSD). Croisant la recherche universitaire avec une expérience de praticien du droit, ses travaux se situent principalement à la charnière entre le droit public et le droit privé et autour des questions de droit de l’information et de l’immatériel. Ayant développé une expertise particulière en droit public de la défense et de la sécurité, il intervient également dans les domaines de la propriété industrielle et du droit des nouvelles technologies et du numérique.

ANNETTE WIEVIORKA

Historienne spécialiste de la Shoah et de l’histoire des Juifs au XXe siècle depuis la publication en 1992 de sa thèse, Déportation et génocide. Entre la mémoire et l’oubli. Agrégée d’histoire, longtemps enseignante en Chine, directrice de recherche émérite au CNRS, elle a été membre de la mission d’étude sur la spoliation des Juifs de France, dite mission Mattéoli. Son essai L’heure d’exactitude : Histoire, mémoire, témoignage, paru en 2011 chez Albin Michel, est une synthèse de la mémoire de la Shoah et de ses évolutions marquantes, qui montre combien « l’ère du témoin » constitue un tournant mémoriel, mais aussi historiographique.

Préambule

Lorsqu’en septembre 2021, le président de la République m’a demandé de présider une Commission qui prendrait le nom de « Les Lumières à l’ère numérique », j’ai un peu hésité mais pas longtemps car il fallait faire vite. Il m’a paru qu’il n’était pas possible de décliner une telle sollicitation. D’une part, parce que depuis La Démocratie des crédules (Puf), paru en 2013 – une réflexion que j’ai poursuivie avec Apocalypse cognitive (Puf) –, j’alerte sur certains des risques que fait courir le monde numérique à la sérénité démocratique : dans ces conditions, je ne me voyais pas répondre par un refus d’obstacle. D’autre part, je suis professeur des Universités et, à ce titre, je considère que lorsque la République me sollicite, mon devoir est de répondre présent.

Pourtant, la tâche était périlleuse. D’abord, le sujet était délicat : réfléchir à la régulation d’un marché de l’information, c’est réfléchir à un possible contrôle des opinions et ce n’est pas sans risques. Le premier et le plus obsédant d’entre eux est d’avancer des recommandations qui puissent devenir des politiques liberticides. Ce qui a fait dire à certains acteurs engagés à l’extrême droite et l’extrême gauche politiques que la Commission ressemblait à un « ministère de la Vérité ». Ce que ces critiques ne paraissaient pas comprendre, c’est que, symétriquement, le laissez-faire sur ce marché ne préserve certainement pas les citoyens et leur liberté de bien juger car ils sont abandonnés à d’obscures logiques algorithmiques et à un marché de l’attention qui les enferme dans leurs obsessions. Nous avons donc travaillé avec cette exigence de trouver un chemin entre le « rien faire » et le « trop faire ».

Ensuite, nous avions peu de temps pour rendre notre Rapport. Contactés au mois de septembre, il fallait remettre notre copie en janvier : avant le début de la campagne présidentielle.

Enfin, le risque était – parce que la campagne pour les élections présidentielles se profilait – d’être instrumentalisés politiquement. Pour cette raison, j’ai dit à plusieurs reprises que le sujet était éminemment politique mais qu’il me paraissait transpartisan. Je me suis donc engagé publiquement à envoyer le Rapport achevé à l’ensemble des candidates et candidats à l’élection présidentielle.

Je n’ai eu que deux exigences. La première était que la Commission ne se réunisse pas à l’Elysée, comme on me l’avait initialement proposé. Je précise que nous avons travaillé en totale liberté et que nous n’avons jamais senti la moindre pression politique pour orienter notre plume. Cependant, je trouvais que, symboliquement, il était préférable de travailler dans des locaux qui ne seraient pas aussi évidemment intriqués au pouvoir.

La seconde était que tout soit filmé et rendu public (à la condition que les auditionnés nous donnent leur accord, ce qu’ils n’ont pas toujours fait). Il me semblait que, en raison du thème sur lequel nous travaillions, la transparence s’imposait comme principe général. Aujourd’hui, le travail de la Commission est entièrement archivé et les contributions tant écrites qu’orales sont disponibles pour les curieux d’aujourd’hui et les historiens de demain.

Certains d’entre nous ont travaillé sans relâche durant ces trois mois – et de façon totalement bénévole, il faut le rappeler : qu’ils en soient encore une fois remerciés ici. Nous avons pu bénéficier d’une aide remarquable en termes de secrétariat et d’aide à la recherche. La tâche était immense, puisque non seulement le président de la République entendait que nous fassions l’état de l’art sur le sujet, mais encore que nous formulions des recommandations à la fois concrètes et qui ne seraient pas trop rapidement obsolètes.

Ce n’est pas à moi de dire si nous avons relevé le défi de façon satisfaisante mais au moins les quatorze membres de la Commission ont-ils été fiers du résultat obtenu. À cette fin, nous avons recueilli les contributions de centaines de personnes : les meilleurs chercheurs du champ, des acteurs de terrain, des institutionnels, des politiques, des spécialistes du renseignement, des donneurs d’alerte, des représentants des GAFAM…

Certains d’entre nous connaissaient déjà une partie de la littérature scientifique mais il a fallu redoubler d’efforts pour ne pas passer à côté de textes essentiels. C’est qu’en sus des centaines d’articles scientifiques explorant la question des infox et des mondes numériques, il existait des rapports sur ces questions émanant de nombreuses institutions. Il s’agissait donc de tenir compte de l’existant sans réinventer le fil à couper le beurre, si je puis dire. Sur ce point, notre Rapport a réussi à rassembler des considérations qui, jusque-là, ne se trouvaient que de façon éparse dans la littérature couvrant à la fois l’économie de l’infox et la question de l’esprit critique, celle du droit numérique et des mécanismes algorithmiques tout aussi bien que la question essentielle des ingérences étrangères et des guerre hybrides, et jusqu’au profil psychosociologique de ceux qui peuvent basculer dans la crédulité numérique.

Le hasard a fait qu’immédiatement après la remise du Rapport, deux articles importants ont paru. Le premier, publié dans la prestigieuse Nature Reviews Psychology, proposait un nouvel état de l’art de la question1 qui allait exactement dans le sens des conclusions de notre texte. Une autre étude2, non moins passionnante, fondée sur l’observation de 52 millions de comptes actifs sur Facebook, montrait que 1 % des utilisateurs produisaient 35 % des interactions numériques observées ! Ceux que l’on nomme les superusers sont effectivement l’une des clés du problème, ce que, là encore, nous avions souligné.

Certains ont dit qu’avec l’apparition d’Internet, nous observerions une démocratisation de la démocratie. Mais c’est là une démocratie bancale, où certains votent mille fois lorsque d’autres ne votent jamais. L’enjeu citoyen n’est donc pas tant de bâillonner ceux qui s’expriment beaucoup, que de nous interroger collectivement sur notre apathie. Pourquoi laissons-nous faire ? Pourquoi ne prenons-nous pas toute notre place dans ce nouvel espace public ?

S’il y a bien un intérêt à diffuser ce Rapport et le rendre le plus largement disponible, c’est de convaincre nos concitoyens que nous avons tous un rôle actif à jouer dans cette nouvelle aventure. Ce monde numérique est encore malléable, sa topographie dépendra aussi de notre engagement. On peut évidemment espérer que les décideurs politiques se saisiront de ce Rapport et donneront corps à ses recommandations. La légende veut que le destin de tels textes soit de terminer au fond d’un tiroir. Je ne sais ce qu’il en sera de celui-ci. J’ai tenu promesse et en ai envoyé un exemplaire aux candidates et candidats à la présidence de la République. Le fait est qu’à l’exception du président Macron, aucun des candidats à la course présidentielle n’a répondu à notre envoi.

La publication de ce texte a néanmoins pour objet de prendre date. Nous ne baisserons pas les bras : les quatorze membres de la Commission sont résolus à faire en sorte que notre travail ne reste pas lettre morte. En définitive, ses meilleures chances de demeurer d’actualité reposent sur celles et ceux qui en feront la lecture et qui décideront de participer à ce qui reste à inventer pour répondre activement à l’une des grandes aventures du temps présent.

Paris, le 15 juin 2022

Avant-propos

La révolution numérique bouleverse nos modes de vie, nos économies et nos pratiques sociales. Elle transforme aussi en profondeur notre rapport à l’information. En effet, nous sommes aujourd’hui confrontés à une masse inédite d’informations disponibles et à une concurrence généralisée des points de vue, qui s’expriment sans filtre et selon une logique peu intelligible pour les utilisateurs du web et des réseaux sociaux. Cette saturation et cette dérégulation du marché de l’information en ligne mettent à rude épreuve nos capacités de vigilance épistémique, ce qui nous rend davantage perméables aux fausses informations.

Désinformation, mésinformation, infox, fake news, théories du complot… Les vocables se multiplient pour désigner ces fausses nouvelles qui circulent en ligne et sont susceptibles d’influencer nos attitudes, nos comportements, mais aussi notre représentation du monde environnant, au risque de faire émerger des réalités parallèles incommensurables et de voir disparaître l’espace épistémique commun nécessaire à la confrontation des opinions, des idées et des valeurs, autrement dit, à la vie démocratique. Certaines de ces désinformations, nous le verrons, relèvent d’ailleurs d’authentiques ingérences numériques étrangères, émanent d’acteurs qui cherchent à manipuler nos opinions, encourager la violence et la haine ou déstabiliser notre société à des fins stratégiques.

Notre commission avait pour mandat, premièrement, d’établir de manière synthétique l’état des connaissances sur les désordres informationnels à l’ère numérique et sur les perturbations de la vie démocratique qu’ils engendrent et, deuxièmement, de proposer des recommandations pour y faire face. Chercher à agir contre la désinformation comporte le risque de porter atteinte à des valeurs essentielles de notre démocratie, telles que les libertés d’expression, d’opinion ou d’information. C’est avec le souci de la préservation de ces libertés que notre commission a travaillé. Nos recommandations ne visent dès lors pas à éradiquer les désordres informationnels – ce qui ne serait bien entendu ni possible, ni souhaitable –, mais à limiter la propagation des contenus qui nuisent à la vie démocratique, dissuader les comportements malveillants, sanctionner les pratiques illicites, améliorer la prévention des risques et renforcer la vigilance des utilisateurs.

La compréhension des mécanismes psychosociaux (chapitre 1) qui nous rendent perméables aux fausses informations nous éclaire sur les leviers permettant d’en limiter les effets. Les fausses informations sont minoritaires parmi les contenus informationnels en circulation sur Internet et les réseaux sociaux, et nous sommes généralement capables de les distinguer des informations fiables. Pourtant, certaines d’entre elles parviennent à se frayer un chemin dans les esprits et sont alors susceptibles d’entraîner des conséquences dommageables tant pour les individus concernés que pour la société. La configuration des réseaux sociaux, où les informations sont noyées dans une masse de contenus de divertissement, ne nous encourage nullement à la vigilance cognitive, rempart pourtant essentiel contre la crédulité. D’où notre recommandation de développer la formation à l’esprit critique (Recommandations 27 et 29). En effet, la recherche académique montre que faire preuve d’un esprit analytique capable de résister à certaines de nos intuitions immédiates est une compétence centrale pour distinguer le vrai du faux, en particulier sur Internet et les réseaux sociaux. Nous recommandons par ailleurs d’investir dans la recherche scientifique (R1) et de pousser les plateformes numériques à ouvrir leurs données aux chercheurs (R20), car les connaissances sur la prévalence de la désinformation en ligne (particulièrement en France), sur ses effets ainsi que sur les mécanismes par lesquels elle affecte les individus, demeurent lacunaires. Finalement, nous attirons l’attention sur le fait que la lutte contre la désinformation dans notre pays ne pourra porter ses fruits que si médias et institutions, en tant qu’autorités épistémiques, travaillent à retisser un lien de confiance avec l’ensemble des citoyens.

Certaines logiques algorithmiques (chapitre 2), sans être responsables de nos croyances ou nos comportements, contribuent toutefois à les façonner. Nous nous sommes penchés sur trois de ces logiques en particulier : l’éditorialisation algorithmique, qui désigne la manière dont les algorithmes organisent à la fois l’ordre et la fréquence d’apparition des informations selon leur capacité à capter l’attention ; le calibrage social, ou la façon dont les réseaux sociaux altèrent la perception de la représentativité et de la popularité de certains points de vue ; enfin, l’influence asymétrique rendant possible la prévalence de certains discours extrêmes et minoritaires. Nous proposons donc une série de mesures visant à améliorer le design des interfaces utilisateurs (R2) et à lutter contre le biais de popularité (R3) pour sortir d’une logique algorithmique fondée sur un modèle strictement commercial ; responsabiliser les influenceurs (R4) dotés d’une grande visibilité numérique ; mettre en avant les compétences (R5) et encourager le dialogue entre plateformes et scientifiques (R6) pour mieux refléter l’état des connaissances ; enfin, se prémunir contre le risque de sur-modération (R7) en analysant plus finement les signalements d’utilisateurs.

L’un des moteurs majeurs de la désinformation est le profit. L’étude de l’économie des infox (chapitre 3) révèle que la publicité programmatique constitue une source de revenus substantielle pour les artisans de la désinformation. Et ce, bien souvent à l’insu des entreprises ayant recours à des agences...