© Éditions Albin Michel, 2018

ISBN numérique : 9782226429193

« Malheur à moi, je suis nuancé. »

F. Nietzsche

Avant-propos

« Si on sait que potentiellement on peut être écouté et qu’on n’a rien à cacher, il n’y a pas de problème à être écouté », déclarait Benoît Hamon en 2014, à propos de la surveillance téléphonique d’un ancien président de la République, par décision de juges d’instruction. Cela fait écho à une formule du P-DG de Google, Eric Schmidt, qui avait déclaré en 2009 : « Si vous faites quelque chose dont vous souhaitez que personne ne le sache, peut-être devez-vous commencer par ne pas le faire. »

Quel inquiétant retournement de situation ! Depuis les Lumières et la Révolution, le progrès de la civilisation contre l’arbitraire, c’était précisément le contraire : il faut un fort soupçon que vous ayez commis un crime ou un délit pour avoir le droit de briser le caractère secret de vos communications ou la dimension sacrée de votre vie privée.

Une conquête deux fois séculaire des Droits de l’homme s’effrite-t-elle sous nos yeux ?

Une nouvelle religion est en passe de voir le jour : le culte de la transparence. Elle a toutes les apparences de la morale. Si vous êtes un honnête homme, vous devez pouvoir vous présenter nu devant Dieu et devant vos semblables.

Est-ce aussi simple ? Pourquoi diable le droit à la vie privée, au jardin secret, à l’intimité, qui se lézarde aujourd’hui, a-t-il été considéré pendant plus de deux siècles comme un élément essentiel de notre civilisation ?

Il est attaqué désormais par la montée en puissance de technologies invasives, conjuguée à une nouvelle morale puritaine de la vertu civique. En mesurons-nous réellement le danger ?

Nous sommes les passagers d’un train dont la vitesse rend le paysage de plus en plus flou. Nos sociétés avancent à toute allure dans et grâce au progrès technique. Et la vitesse de cette transformation est telle que nous ne savons plus très bien quels paysages nous traversons.

Sommes-nous toujours dans la même société, ou bien déjà au-delà ? Grisés par la vitesse, enivrés même à certains égards, nous nous en soucions peu. Nous devrions, cependant.

Que les choses soient claires d’emblée. Nous sommes des partisans ardents du progrès en général et du progrès numérique en particulier, qui crée toujours plus de bien-être qu’il n’en détruit. Du point de vue individuel, il permet de nous affranchir des barrières du temps et de l’espace. Il réalise le vieux rêve d’une culture universelle accessible à tous. Du point de vue collectif, il représente un puissant stimulateur de croissance à l’heure où les économies peinent à trouver de nouveaux leviers.

Nous sommes conscients aussi qu’une protection excessive et aveugle des données personnelles pourrait affaiblir l’innovation, l’activité et l’emploi.

Nous ne sommes donc pas de ces esprits frileux qui rêvent d’un retour à un âge d’or au demeurant parfaitement fantasmé. Adeptes de Schumpeter, nous pensons nous aussi que la « destruction créatrice » est un moteur de progrès.

Mais encore faut-il pour cela que ce progrès soit compris, régulé, maîtrisé. Que nous continuions d’être les sujets de notre propre histoire et non pas ses objets. Or, l’idéologie de la transparence combinée à l’emballement de la révolution numérique et l’inconscience relative de la société à leur endroit ne nous paraissent pas de bon augure.

Pour inverser cette tendance, il est essentiel de bien cerner le subtil équilibre de la démocratie : la transparence combat la tyrannie en interdisant l’arbitraire ; mais le droit au secret combat le totalitarisme en interdisant le contrôle social. Cet édifice civilisationnel est-il menacé par un moderne tyran ? Oui. Mais un tyran bien plus puissant que ces prédécesseurs : nous-mêmes.

Dans la société numérique, chaque jour une vie privée est jetée en pâture à l’opinion, conduisant au suicide d’adolescents harcelés, aux excuses de personnages dont on a révélé la vie intime, à la démission d’autorités dont on a intercepté les correspondances ou écouté les échanges téléphoniques.

Ce nouvel espace public ne connaît pas l’oubli. Le moindre de nos faits et gestes, volontaire ou involontaire, laisse imperceptiblement une trace. Il est difficile, par exemple, de retrouver du travail après avoir été l’objet, à tort ou à raison, d’une accusation publique. Et que dire de notre dignité quand des photos impudiques de nous ont été publiées !

Du lynchage d’un chasseur américain à celui d’un ancien champion du monde de golf filmé pendant une interpellation, l’heure est à un nouveau poujadisme puritain. La foule numérique s’érige en un tribunal du buzz qui réclame de tous et d’abord des puissants qu’ils se présentent nus et purs devant chacun.

La transparence devient totale. Nos déplacements, nos achats, nos goûts, nos maladies, nos échanges, nos conversations, rien n’y échappe. Au bureau ? Des entreprises britanniques expérimentent des dispositifs transmettant les conversations et la localisation des employés. En voiture ? Des capteurs analysent votre conduite et acheminent en temps réel les résultats à votre assureur. Sous votre douche ou dans votre lit ? Un bracelet connecté enregistre le moindre de vos mouvements pour un rendez-vous médical et peut-être demain pour un entretien d’embauche.

Notre ADN sera séquencé, de sorte que nos maladies seront prévisibles. Les médecins s’en félicitent. Les assureurs se frottent les mains. Et des calculateurs ultrapuissants peuvent traiter ces milliards de données pour nous aider à vivre.

Fini le conseil du libraire ou du disquaire : les moteurs de recommandation vous disent désormais quoi acheter.

Fini le hasard et les tâtonnements du début d’une relation amoureuse : une application de rencontre vous dit qui aimer et prédit, grâce à l’intelligence artificielle, les chances que cette union soit durable.

Big Data : le nouveau visage de Big Brother ?

Le secret devient par nature suspect. Presque mécaniquement associé à une volonté de dissimulation, il est l’arme par laquelle « le système » maintiendrait délibérément l’opinion dans l’ignorance.

Secret Défense, secret des affaires, secret de l’instruction, secret professionnel, secret de la confession, secret médical : tous ont vocation à céder devant le droit de savoir, de plus en plus conçu comme un droit absolu.

Peut-on inverser le cours des choses ou sommes-nous condamnés à marcher joyeusement vers l’autodestruction de cette société de droits et de libertés que nous avons mis tant de siècles à constituer ?

Qu’on nous comprenne bien. Le combat pour la transparence reste actuel. Encore aujourd’hui, dans le monde entier, des héros des droits de l’homme meurent pour lui à l’image, par exemple, d’Anna Politkovskaïa. Ce n’est pas le progrès de la transparence, en particulier celle des pouvoirs, qui nous effraie. Ce sont ses excès ! Il est important que la presse dénonce et dévoile, y compris parfois au détriment de la vie privée, dès lors qu’elle s’inscrit avec sérieux dans un débat légitime d’intérêt général.

Ce que nous redoutons, c’est une approche moralisatrice de l’information qui fait de la liberté d’expression un fait justificatif absolu. Une société de traces et de traques. Une dictature de la vertu dans laquelle la transparence prendrait l’apparence d’une exigence démocratique pour réaliser le rêve du totalitarisme1.

Militants au quotidien de la liberté de la presse, nous sommes placés aux premières loges d’évolutions inquiétantes. S’il nous a tenu à cœur d’engager cette réflexion, c’est que ces dérives nous paraissent justifier un sursaut citoyen.

Note

1. Guy Carcassonne, « Le trouble de la transparence », Pouvoirs, no 97, Seuil, 2001.

PREMIÈRE PARTIE

LE SACRE DE LA TRANSPARENCE

La transparence devient l’alpha et l’oméga de notre vie en société. Pas un jour ne passe où elle ne soit invoquée en soutien d’une noble cause.

Ses porte-parole sont nombreux. Les gourous de la Silicon Valley qui conçoivent la vie privée comme une parenthèse de l’humanité. Les grandes sociétés du monde digital et les jeunes start-up qui voient dans les algorithmes et l’intelligence artificielle la poule aux œufs d’or de demain. Certains juges et procureurs pour qui la fin justifie les moyens et le droit se confond avec la morale. La foule anonyme des forums et des réseaux sociaux qui exige de tout savoir sur chacun.

Pendant longtemps, le combat pour l’émancipation des hommes consista à les arracher à l’arbitraire pour leur reconnaître le droit à la liberté en tant qu’individus. Ce fut l’œuvre, notamment, de la Révolution.

La transparence était un objectif car elle était conçue comme l’instrument d’une lutte contre le despotisme opaque du pouvoir.

L’exigence de transparence portée par les Lumières – si bien nommées – était l’antidote au secret derrière lequel s’abritaient « l’arbitraire politique, les caprices des monarques (…), les complots des tyrans et des prêtres1 ».

Les totalitarismes nazi et stalinien, chacun à sa manière, inversèrent le sens de ce mouvement, en imposant, au service de la terreur, le contrôle total des consciences et des actes.

Leur essence était l’abolition de la séparation, entre les pouvoirs eux-mêmes, comme entre les pouvoirs et la société civile. La société sans division était tout entière absorbée dans l’État et l’État dans le Parti Unique, développant une transparence perverse afin d’exercer un contrôle absolu sur ses membres. Le rêve du totalitarisme était celui décrit par Orwell dans 1984 d’une « Police de la Pensée » qui pousse le souci de tout savoir jusqu’à essayer d’entrer dans le cerveau même des habitants d’Océania.

La défaite des barbaries démonétisa un temps la transparence comme projet de société. Puis elle refit progressivement surface sous les auspices post-soixante-huitards de ce que l’on appelle l’élan libéral-libertaire : davantage de droits pour les individus, moins de puissance pour les institutions. Mais, d’instrument, la transparence s’est transformée en idéologie. Aujourd’hui, elle s’apparente à une nouvelle servitude, indolore et volontaire, avec le doux visage du progrès moral.

La révolution démocratique a voulu rendre le pouvoir plus transparent pour les citoyens. Le monde totalitaire a tenté de rendre les citoyens entièrement transparents pour le pouvoir. La société postmoderne serait-elle celle de la transparence complète de chacun pour chacun ? Les prémisses d’un « soft totalitarisme » ?

Note

1. Michel Foucault, Dits et écrits (1980-1988), Gallimard, 2001.

1.

La nouvelle servitude volontaire1

Deep Face et Face Net : le nom de groupes de rock ? Non, celui de sociétés qui développent des outils de « reconnaissance faciale » et appartiennent l’une à Facebook, l’autre à Google. Des algorithmes traitent de manière automatique des centaines de millions d’images de visages dont chacun contient plus de mille traits caractéristiques afin de reconnaître une personne avec moins de 5 % de risque d’erreur : pour vérifier une identité à un passage de douane, sur un compte internet, à l’entrée d’un casino… Merveilleux ! Notre vie est plus simple. Mais aussi notre sécurité mieux assurée – songeons à la reconnaissance des terroristes dans la foule. En même temps, quel effroi ! Fini l’anonymat. Il suffit que vous ayez laissé votre photo sur Facebook ou qu’elle soit accessible sur Google pour qu’on puisse vous suivre ou vous repérer partout et tout le temps.

Serions-nous devenus schizophrènes ? Une étude réalisée sur un panel de 1 587 citoyens français, allemands, anglais, italiens, américains et chinois souligne l’étendue du paradoxe : 75 % des personnes interrogées indiquent être préoccupées par le respect de leur vie privée, 66 % estiment n’avoir qu’un contrôle partiel sur leurs données personnelles et 95 % affirment leur défiance à l’égard des réseaux sociaux2.

Est-ce pour autant un frein au partage de nos photographies de famille, de nos états d’âme ou de nos souvenirs de vacances ? Paradoxalement, non. 350 millions de photos sont partagées sur Facebook chaque jour, 150 millions sur Snapchat, 40 millions sur Instagram… 700 millions d’utilisateurs actifs pour cette dernière application tandis que Facebook poursuit, trimestre après trimestre, sa fulgurante progression pour frôler les 2 milliards d’utilisateurs. En France, la proportion des personnes connectées aux réseaux sociaux a plus que doublé en moins de six ans.

D’où nous vient ce besoin croissant de nous exposer ? Cette démangeaison compulsive de guetter l’écran de notre smartphone ? Cet irrésistible désir d’être connecté ?

Avant tout, de notre « goût du bien-être ». Pour Tocqueville, il serait si grand qu’il conduirait les sociétés démocratiques à sacrifier progressivement leurs libertés individuelles. Au point de réduire « chaque nation à n’être plus qu’un troupeau d’animaux timides et industrieux3 »…

À cette passion se mêlent les ressorts traditionnels de la servitude volontaire, chère à La Boétie. Ce n’est pas le pouvoir qui crée l’obéissance, mais l’obéissance qui crée le pouvoir. Engourdis par nos habitudes, divertis par les spectacles, nous perdons insensiblement le goût de la liberté, devenant les instruments de notre propre oppression. Au point que « le tyran asservit les uns par le moyen des autres4 ».

Big Data is watching you

Quel que soit le lieu où vous vous trouvez, quel que soit le support sur lequel vous êtes connecté, vos faits et gestes numériques sont collectés, traités et analysés. Déjà en 2010, le P-DG de Google, Eric Schmidt estimait que nous produisions en deux jours autant de données que l’humanité en avait produite de son commencement jusqu’à 2003. En 2025, il pourrait y avoir 100 milliards d’objets connectés traités par autant de fabriques à data5.

Mais plus encore que le volume des données produites, c’est la capacité fantastique de leur traitement et leur unification autour d’un seul et unique réseau qui rendent les perspectives de leur exploitation vertigineuses.

En 1938, l’ordinateur allemand Z1 réalise une opération par seconde. En 2017, le TS chinois traite 93 millions de milliards d’opérations à la seconde. En 2020, ce sera 1 milliard de milliards. En 2050, 1 milliard de milliards de milliards6. Ces capacités vont être encore décuplées par les progrès de l’intelligence artificielle7.

Cette puissance de calcul de la société numérique a rééquilibré la relation marchande en faveur des clients devenus plus que jamais rois. Jeune cadre, femme au foyer ou retraité, vous bénéficiez sur la toile d’un accompagnement permettant de comprendre toutes vos attentes.

Historique d’achats, présélection d’articles, réorientation vers des sites de produits connexes, synchronisation des données de facturation et de livraison, le consommateur dispose d’un environnement totalement personnalisé. En contrepartie : la société numérique l’aura rendu transparent.

En scrutant nos comportements, elle élabore un modèle prédictif dont l’objectif est double : anticiper nos désirs pour influencer nos choix.

Comment y parvient-elle ? Première étape : la dissémination d’« écosystèmes de pistage » qui reposent sur des procédés volontaires et indolores. C’est le secret du succès des grands empires du monde numérique que sont Google (qui domine les moteurs de recherche), Amazon (qui domine le commerce électronique), Facebook (qui domine les réseaux sociaux), Apple (qui domine smartphones et tablettes) : les fameux GAFA8.

Google est un modèle du genre. Depuis le 4 décembre 2009, la firme américaine affiche clairement son ambition : la recherche personnalisée pour tout le monde. Initialement conçu sur des critères objectifs de crédibilité (le nombre de liens externes renvoyant à une page internet), l’algorithme du moteur de recherche s’est métamorphosé. Google s’appuie sur un écosystème qui lui permet de nous suivre à la trace. Outre les 3,3 milliards de requêtes effectuées chaque jour sur le moteur de recherche, le géant de Mountain View multiplie les applications afin de tirer profit des données qui en résultent : stockage de données en ligne avec Google Drive, réseau social avec Google+, services de cartographie avec Google Maps, d’information avec Google News, d’agenda avec Google Calendar… S’y ajoutent le rachat de la plateforme de contenus YouTube ou celui du système d’exploitation Android. Baptisé « Alphabet », la société investit désormais toute la chaîne de production de l’économie numérique.

Pour Amazon, l’objectif initial était de se substituer aux conseils des libraires. L’entreprise a débuté en débauchant de très nombreux critiques littéraires dont les goûts et l’expertise les incitaient à recommander tel ouvrage plutôt que tel autre.

Mais l’expérimentation d’algorithmes prédictifs a très vite conduit à un changement de modèle. Par l’analyse et le traitement de vos faits et gestes numériques, Amazon a mis en place un système où chaque internaute dispose désormais de son libraire personnel. Résultat : l’entreprise estime à 30 % la part des ventes réalisées grâce à ses algorithmes de recommandation.

Facebook pousse la logique encore un peu plus loin. Ce sont aujourd’hui plus de 100 000 critères qui façonnent votre « fil d’actualité » et conduisent à mettre en avant un contenu plutôt qu’un autre. Pour ce faire, le département Data Science de l’entreprise multiplie les expérimentations.

Par exemple, le projet baptisé The Formation of Love. Plus besoin d’adapter votre « statut » pour savoir si vous êtes célibataire. Par l’analyse de vos interactions sur le réseau social, Facebook parviendrait à identifier une relation amoureuse et son degré de maturité : de la séduction à la rupture…

Même recette pour Netflix. Initialement conçu pour dématérialiser les traditionnels loueurs de DVD, la firme américaine a vite saisi l’intérêt des techniques de profilage, afin « de présenter le bon titre en face de la bonne personne au bon moment ». Pour ce faire, chaque utilisateur est scanné dans les moindres détails : localisation, fréquence, appareil utilisé, préférences selon les genres et les heures de visionnage, notes attribuées à un film… Résultat : on estime à 75 % la part des contenus visionnés à la suite d’une recommandation.

À cette somme déjà impressionnante de données collectées (moteur de recherche, réseaux sociaux, applications diverses) s’ajoute un instrument incontournable qui les rassemble et en multiplie la portée. Songez-y un instant, le moindre espace de votre vie personnelle ou professionnelle échappe-t-il à votre smartphone ? Se passe-t-il plus d’une demi-journée sans que vous l’ayez à portée de main ? Quelle est votre réaction quand par malheur vous l’oubliez avant une journée de travail ?

Voilà l’outil de collecte le plus redoutable de nos données personnelles. Compagnon du quotidien, il est non seulement un instrument de concentration d’informations : contacts, mails, SMS, applications internet diverses… mais aussi un générateur de données particulièrement sensibles : GPS, Wifi, caméra, capteur d’empreintes ou de rythme cardiaque…

En 2011, le Guardian révélait l’existence d’un « mouchard » destiné à collecter les données de localisation des utilisateurs d’iPhone et d’iPad. Face à la polémique, Apple répliquait en indiquant que la collecte de ces données était anonymisée et qu’elle n’avait d’autre objectif que d’améliorer la connexion Wifi de ses clients.

Plus récemment, le New York Times faisait part de l’existence d’un logiciel espion installé par une société chinoise sur 700 millions d’appareils Android. Ce dernier permettait de collecter l’historique des SMS et des appels, la position de l’appareil ou encore la liste des contacts, l’ensemble de ces données étant transmis toutes les soixante-douze heures à un serveur localisé en Chine, sans la moindre autorisation.

Une fois encore, on invoquait le service rendu, les données collectées permettant de mieux comprendre les attentes des utilisateurs.

Sans virer à la paranoïa, il est donc essentiel de prendre conscience de la puissance de ces « écosystèmes de pistage ». D’autant plus efficaces qu’ils sont largement indolores, ils nécessitent d’être régulés, sans quoi ils pourraient se transformer en « écosystèmes de manipulation9 ».

Big Data is leading you

C’est la seconde étape du processus : influencer nos choix. Nous rendre transparents, au sens où nous n’aurions plus d’aspérités, de capacité d’initiative.

« Je pense en réalité que la plupart des gens ne veulent pas que Google réponde à leurs questions. Ils veulent que Google leur dise ce qu’ils devraient faire maintenant (…). Le but de la personnalisation est de permettre aux utilisateurs de poser des questions telles que : “que devrais-je faire demain ?” et “quel type de job devrais-je prendre ?”10. »

Eric Schmidt a le mérite d’être franc. Prononcés il y a déjà sept ans, ses mots sont d’autant plus inquiétants que ce dernier est vraisemblablement sincère dans sa démarche et convaincu que le monde qu’il décrit serait un progrès pour l’humanité. Il y a là un enjeu de civilisation.

S’appuyant sur des études en neurosciences, Ryan Calo, professeur de droit à l’université de Washington, décrypte l’impact potentiel des instruments de personnalisation sur les comportements collectifs et les décisions individuelles. Sans commune mesure avec les outils marketing traditionnels, les médiations technologiques permettraient à terme une compréhension générale de nos limitations cognitives.

Elles pourraient ainsi découvrir et même déclencher la fragilité des utilisateurs. En produisant massivement des « biais cognitifs », l’individu serait progressivement détourné de la poursuite rationnelle de son intérêt personnel au profit d’un intérêt qui lui échappe11.

Certes, nous n’en sommes pas encore là. Mais les techniques d’analyse émotionnelle et psychologique sont déjà à l’œuvre. Facebook nous encourage par exemple à commenter les publications. Vous avez désormais l’embarras du choix : colère, tristesse, rire, surprise… Et Mark Zuckerberg a le souci de la nuance. Au traditionnel « like » représenté par un pouce levé, vous pouvez préférer « J’adore » représenté par un cœur sur fond rouge.

Du point de vue de la créativité, on assiste déjà à certaines manifestations particulièrement significatives. Des chercheurs de l’Université Stony Brook de New York ont développé un algorithme pour prédire à 84 % le succès d’un livre, proposant des conseils sur le style à adopter ou les types de narration à privilégier. En matière culinaire, une chercheuse a créé un algorithme permettant de prédire à 80 % le nombre d’étoiles d’une recette sur un site communautaire. Dans le secteur de la mode, Calvin Klein travaille avec Google pour identifier les tendances vestimentaires et adapter ses collections.

Hollywood n’est bien sûr pas en reste. Fondée par un ancien professeur de statistiques, la société Worldwide Motion Picture analyse la structure des scripts transmis par des sociétés de production. Pour 20 000 dollars, les studios disposent d’un rapport d’une trentaine de pages qui identifie les avantages comparatifs de tel ou tel scénario.

Que deviennent alors la prise de risque, la diversité des contenus, les créations originales ?

Spectateur halluciné d’un monde façonné pour lui, l’individu serait limité dans son développement car réduit à la passivité12. Anesthésié par sa bulle de bien-être, il serait devenu totalement transparent. C’est là le point de rupture : la disparition du hasard qui conduirait à un monde sans surprise et donc sans saveur. Nous entretenons une relation ambivalente avec le hasard. Quand il nous sourit, il est un ordonnateur bienfaisant que l’on nomme destin. Quand il nous est défavorable, il est un architecte arbitraire à l’origine des pires injustices et on l’appelle fatalité.

La multiplication des algorithmes prédictifs réduit le champ de notre ignorance et donc, mécaniquement, l’espace dévolu au hasard13.

Mais alors, s’il n’y a plus de hasard, si tout est nécessité, où est la liberté ? C’est cela que la quantitative society détruit subrepticement sous nos yeux. Pourquoi ?

Notes

1. Titre d’un essai de Philippe Vion-Dury, Fyp éditions, 2016.

2. Wavestone, étude réalisée entre juillet et août 2016.

3. De la démocratie en Amérique, t. II, quatrième partie, chapitre VII.

4. Étienne de La Boétie, Discours de la servitude volontaire, Mille et une nuits, 1997.

5. « Huawei veut sa part du gâteau des objets connectés », Les Échos, 6 juin 2015.

6. Laurent Alexandre, La Guerre des intelligences, JC Lattès, 2017.

7. Charles-Édouard Bouée, La chute de l’empire humain, Grasset, 2017.

8. GAFA : Google, Apple, Facebook, Amazon. Analyse tirée de Philippe Vion-Dury, La nouvelle servitude volontaire.

9. Philippe Vion-Dury, op. cit.

10. H. W. Jenkins Jr., « Google and the Search of the Future », The Wall Street Journal, 14 août 2010.

11. Ryan Calo, « Digital Market Manipulation », School of Law Research Paper, no 2013-27.

12. Philippe Vion-Dury, op. cit.

13. Éric Sadin, La Vie algorithmique, Critique de la raison numérique, L’Échappée, 2015.