Introduction

DANS LES ANNÉES À VENIR, soit les nouvelles technologies détruiront la démocratie et l’ordre social actuel, soit le politique parviendra à asseoir son autorité sur le numérique. Il est de plus en plus évident que ce sont les technologies qui vont remporter la bataille, écrasant un adversaire diminué et affaibli. Ce livre explique pourquoi tout ceci est en train de se produire et comment nous pouvons encore changer les choses.

En utilisant le mot « technologie », je ne fais pas, bien entendu, référence à toutes les technologies. Ce mot (comme « démocratie ») est issu de la fusion de deux mots grecs – techne, signifiant « compétence » et logos, signifiant « étude » – et englobe ainsi presque tout ce qui est lié au monde moderne. Je ne fais pas référence au tour automatique, au métier à tisser mécanique, à la voiture, au scanner IRM ou à un chasseur F-16, mais aux technologies numériques associées à la Silicon Valley – plateformes de médias sociaux, « big data », technologies mobiles et intelligence artificielle – qui dominent de plus en plus la vie économique, politique et sociale.

Il est vrai que, dans l’ensemble, ces technologies nous ont permis d’être mieux informés, plus riches et, d’une certaine façon, plus heureux. Après tout, la technologie tend à augmenter les capacités humaines, à produire de nouvelles opportunités et à augmenter la productivité. Mais cela ne veut pas forcément dire qu’elle est favorable à la démocratie. Malgré les avantages indéniables que procurent ces progrès technologiques et l’augmentation des libertés individuelles, nous avons accepté une dégradation d’autres composantes essentielles de notre système politique actuel : le contrôle, la souveraineté parlementaire, l’égalité économique, la société civile et l’information des citoyens. Et la révolution technologique vient tout juste de commencer ! Je vais vous démontrer que, dans les années à venir, nous allons assister à d’autres améliorations spectaculaires des technologies numériques. Si l’on continue sur la voie actuelle, dans une ou deux générations, les contradictions entre la technologie et la démocratie vont disparaître par annihilation de cette dernière.

Même si presque tout le monde apprécie l’idée de démocratie, il n’y a pas d’accord concernant sa définition précise. Le philosophe Bernard Crick disait que sa vraie signification est « conservée quelque part au paradis ». De façon générale, il s’agit aussi bien de nous gouverner nous-mêmes que d’être gouvernés par un ensemble d’institutions à qui nous avons délégué notre souveraineté. Son fonctionnement exact varie selon le lieu et l’époque, mais la version la plus pratique et la plus populaire est celle de la démocratie représentative libérale moderne. À partir de maintenant, quand j’utilise le terme « démocratie », je me réfère uniquement à cette version (et uniquement à des démocraties occidentales matures – si je me référais à d’autres systèmes, cela constituerait un autre sujet). Cette forme de démocratie signifie que les représentants du peuple sont élus pour prendre des décisions en son nom, et qu’il existe des institutions interdépendantes qui veillent au bon fonctionnement de l’ensemble.

Cela inclut des élections périodiques, une société civile saine, certains droits individuels, des partis politiques bien organisés, une bureaucratie efficace et des médias libres et vigilants. Mais cela ne suffit pas – les démocraties ont également besoin de citoyens engagés qui croient en des idéaux démocratiques plus larges tels que la séparation des pouvoirs, les droits fondamentaux, le compromis et le débat éclairé. Chaque démocratie stable de notre époque possède presque toutes ces caractéristiques.

Ceci n’est pas un ouvrage de plus se plaignant des capitalistes cupides qui se font passer pour des techniciens sympathiques, ni un conte moral sur les multinationales avides. Il y en a déjà beaucoup ! Même s’il existe une certaine contradiction dans le fait d’alléger la fiscalité tout en prétendant enrichir le peuple, ce n’est pas nécessairement une marque d’insincérité. Et à première vue, les nouvelles technologies sont une aubaine pour la démocratie. Elles améliorent et élargissent certainement le domaine de la liberté humaine et offrent un accès à davantage d’information et à de nouvelles idées. Elles donnent une plateforme à des groupes jusque-là réduits au silence et créent de nouvelles façons de mettre en commun les connaissances et de coordonner les actions. Ce sont également des aspects d’une démocratie saine.

Néanmoins, à un niveau plus profond, ces deux systèmes majeurs – technologie et démocratie – sont enfermés dans un conflit grave. Ils sont les produits de deux domaines tout à fait différents et fonctionnent selon des règles et principes distincts. Le mécanisme de la démocratie a été élaboré pendant une période caractérisée par les États-nations, les hiérarchies, le respect et les économies industrialisées. Les principales caractéristiques de la technologie numérique sont en contradiction avec ce modèle : elle est en effet non géographique, décentralisée, guidée par les données, soumise à l’effet de réseau et à une croissance exponentielle. Pour faire simple : la démocratie n’a pas été préparée à cela. Ce n’est la faute de personne, même pas de Mark Zuckerberg.

Je suis loin d’être la seule personne à penser ainsi. Beaucoup de pionniers du numérique avaient eux aussi compris que ce qu’ils appelaient l’« espace cybernétique » était incompatible avec le monde réel. La « Declaration of the Independance of Cyberspace » (Déclaration d’indépendance du cyberespace), écrite par John Perry Barlow en 1996 et souvent citée, résume parfaitement cette tension : « Les Gouvernements tiennent la légitimité de leurs pouvoirs du consentement des administrés. Vous n’avez ni sollicité, ni reçu le nôtre. Nous ne vous avons pas invités. Vous ne nous connaissez pas, ni notre monde… Vos notions juridiques de propriété, d’expression, d’identité, de mouvement et de contexte ne s’appliquent pas à nous. Elles sont basées sur la matière et il n’y a pas de matière ici. » C’est une déclaration exaltante sur la liberté offerte par Internet, qui continue à maintenir les passionnés du numérique sous son emprise. Mais la démocratie est fondée sur la matière, outre les notions juridiques de propriété, d’expression, d’identité et de mouvement. Si on examine de près les conventions de la Silicon Valley concernant la connectivité, les réseaux et les communautés mondiales, on s’aperçoit qu’une impulsion antidémocratique continue à y exister.

Dans les pages qui vont suivre, je vais vous parler des six piliers clés qui soutiennent la démocratie. Ce n’est pas une idée abstraite, mais un système d’administration autonome réalisable, auquel le peuple croit et qu’il soutient. Voici ces six piliers :

DES CITOYENS ACTIFS : des citoyens vigilants, indépendants d’esprit, capables de faire des jugements moraux importants.

UNE CULTURE PARTAGÉE : une culture démocratique fondée sur une réalité communément admise, une identité partagée et un esprit de compromis.

DES ÉLECTIONS LIBRES : des élections libres, équitables et dignes de confiance.

L’ÉGALITÉ DES PARTIES PRENANTES : des niveaux raisonnables d’égalité, comprenant une importante classe moyenne.

DES LIBERTÉS COMPÉTITIVES ET CIVIQUES : une économie concurrentielle et une société civile indépendante.

LA CONFIANCE VIS-À-VIS DES AUTORITÉS : des autorités souveraines qui ont le pouvoir d’appliquer la volonté du peuple, tout en restant dignes de confiance et responsables.

Dans chaque chapitre, je vais examiner chacun de ces piliers et expliquer pourquoi et comment ils sont menacés. Dans certains cas, ils sont déjà dans une situation précaire. Dans d’autres, je me projetterai dans le futur et soutiendrai qu’ils le seront bientôt. La démocratie est menacée de tous les côtés, que ce soit par l’essor des machines « intelligentes », qui limitent notre capacité de jugement moral, la réapparition de la politique tribale ou la perspective du chômage de masse, à cause de robots hautement efficaces remplaçant les humains qui prennent des pauses. Certaines de ces menaces sont familières. Les comportements sectaires en politique, le chômage ou l’indifférence des citoyens n’ont rien de particulièrement nouveau. En revanche, d’autres menaces sont nouvelles : des machines « intelligentes » pourraient remplacer les décideurs humains, transformant ainsi les choix politiques de façon encore incompréhensible pour nous aujourd’hui.

Des algorithmes invisibles sont en train de créer des sources de pouvoir et d’injustice nouvelles et à peine perceptibles. Plus le monde sera connecté, plus il sera facile, pour un petit nombre d’acteurs sans scrupules, et souvent hors d’atteinte de la loi, de causer des dégâts et des préjudices énormes. Or nous n’avons aucune idée de comment faire face à ces problèmes.

Le chapitre 7 est une étude de cas sur les Gilets Jaunes, qui illustre bien nombre des tendances et des tensions que j’ai décrites précédemment.

Dans la conclusion, je prévois la façon dont les choses se dérouleront si nous continuons sur la trajectoire actuelle. Nous n’assisterons pas à une répétition des années 1930, ce qui constitue actuellement la comparaison favorite de nombreuses personnes. Je pense plutôt que la démocratie va échouer d’une façon nouvelle et inattendue. La dystopie imminente à craindre est une démocratie « coquille vide », dirigée par des machines intelligentes et par une nouvelle élite de technocrates à la fois « progressistes » et autoritaires. Et le pire, dans tout cela, c’est que beaucoup de gens vont préférer ce mode de fonctionnement, car il leur offrira certainement davantage de prospérité et de sécurité.

Mais pour l’instant, nous ne devrions pas nous mettre à démolir les machines. Pour la raison suivante : il existe une course à l’armement de haute technologie entre les sociétés démocratiques et leurs homologues russes et chinois, et il est important que les démocraties la gagnent. La révolution des nouvelles technologies, soumises à un contrôle démocratique, pourrait transformer nos sociétés de façon positive. Néanmoins, aussi bien les nouvelles technologies que la démocratie ont besoin de changer radicalement. À la fin de ce livre, je propose vingt suggestions qui expliquent comment la démocratie – et encore plus important, chacun de nous – doit changer pour survivre dans une ère de machines intelligentes omniprésentes, de « big data » et de domaine public numérique.

Là, vous devez certainement vous dire que je suis un hypocrite, que j’ai probablement écrit ce livre sur un ordinateur portable, utilisé Google pour mes recherches, Twitter pour promouvoir mon livre, que j’espère bien vendre grâce à Amazon. Tout cela est vrai ! Comme beaucoup d’autres, je m’en remets à ces technologies et je les aime tout autant que je les déteste. En fait, je me suis trouvé à la pointe de la technologie et de la politique durant la dernière décennie en travaillant pour Demos, un des principaux think tanks (ou groupes de réflexion) anglais. Depuis mes débuts en 2008, j’ai écrit des tracts expliquant comment la technologie numérique insufflera une nouvelle vie dans notre système politique désespérément fatigué. Au cours des années, mon optimisme s’est mué en réalisme, puis en nervosité. Maintenant, je suis proche de la crise d’angoisse. Je crois toujours que la technologie peut être un atout en politique – et une majorité des grandes entreprises de haute technologie l’espèrent également – mais, pour la première fois, je suis sincèrement préoccupé par les perspectives à long terme du système gouvernemental que Winston Churchill appela « la pire forme de gouvernement, à l’exception de toutes celles qui ont été essayées ».

Bien entendu, les pionniers des nouvelles technologies ne partagent pas cette préoccupation, car ils croient fermement en une utopie technologique ensoleillée et en leur capacité de nous y conduire.

J’ai eu la chance de pouvoir en interviewer certains, et j’ai passé beaucoup de temps dans la Silicon Valley ou avec des personnes qui vivent dans ce milieu. Par expérience, elles sont rarement malveillantes et la plupart croient réellement au pouvoir émancipateur de la technologie numérique. La majorité des technologies que ces personnes construisent sont extraordinaires, mais cela les rend potentiellement encore plus dangereuses. Comme les révolutionnaires français du XVIIIe siècle, qui croyaient pouvoir construire un monde nouveau basé sur des principes abstraits tels que l’égalité, nos utopistes actuels rêvent couramment d’une société dictée par la connectivité, les réseaux, les plateformes et les « data ». Mais la démocratie (et le monde) ne fonctionne pas ainsi – elle est lente, délibérante et fondée sur le monde physique. La démocratie est davantage analogique que numérique, et toute vision de l’avenir qui va à l’encontre de la réalité de la vie humaine et de ses désirs ne peut qu’aboutir à un désastre.

Chapitre 1

La nouvelle société de surveillance
 (ou panoptique)

Comment le pouvoir des « data » influence-t-il notre libre arbitre ?

Nous vivons sous la surveillance omniprésente d’un réseau promotionnel géant, un panoptique*1 connecté qui nous rend accrocs à la technologie ; ce système de collecte de données et de prévision n’est que la répétition la plus récente d’une longue histoire de contrôle ; il est chaque jour plus performant, ce qui a des conséquences sérieuses sur une manipulation potentielle, une distraction sans fin et une lente diminution du libre choix et de l’autonomie.

LES MYTHES FONDATEURS SONT IMPORTANTS pour l’industrie car ils sont à l’origine de son identité. Le mythe fondateur des médias sociaux repose sur le fait qu’ils sont considérés comme les héritiers de la culture « hacker » – le siège social de Facebook se situe au 1, Hacker Way – ce qui les relie à des figures transgressives, comme le pirate téléphonique Kevin Mitnick dans les années 1980, aux opposants de la bureaucratie passionnés d’ordinateurs de la scène du Homebrew Club et, plus loin encore, à des génies des mathématiques tels qu’Alan Turing ou Ada Lovelace. Mais Google, Snapchat, Twitter, Instagram, Facebook et les autres ont cessé depuis longtemps d’être de simples entreprises de technologie. Ce sont également des plateformes pour des agences publicitaires. Environ 90 % des revenus de Facebook et de Google proviennent de la vente de publicité – la base de presque toute activité de média social est la prestation de services gratuits en échange de données, que les entreprises peuvent utiliser pour mieux nous cibler avec des publicités*2.

Cela suggère un héritage très différent de celui que nous venons de décrire, et beaucoup moins prestigieux : un combat sur plusieurs décennies, mené par des publicitaires en costume et des psychologues, pour découvrir les mystères de la prise de décision humaine et localiser le bouton « achète ! » qui se cache quelque part dans notre lobe frontal. Un mythe fondateur plus convaincant se situe dans les débuts de la psychologie américaine, qui émergea en tant que discipline académique sérieuse il y a un siècle, parallèlement aux débuts de la culture de consommation de masse.

La psychologie s’est développée en Europe – et tout particulièrement en Allemagne – durant des années, et fut importée aux États-Unis avant la Première Guerre mondiale.

Mais l’approche américaine divergea de la fascination européenne pour des fantaisies philosophiques comme le « libre arbitre » et l’« esprit ». Des pionniers, tels que James Cattell et Harlow Gale, cherchèrent à transformer la question de la prise de décision humaine en une science exacte, exploitable en termes économiques1.

En 1915, John Watson devint président de l’Association américaine de psychologie. Il soutenait l’idée que tout comportement humain était essentiellement le produit de stimulations externes mesurables et pourrait ainsi être compris et contrôlé par l’étude et l’expérimentation. Cette approche, connue sous le nom de comportementalisme, fut vulgarisée par les travaux de B.F. Skinner. La promesse d’humains malléables attira les entreprises espérant vendre leurs produits, et le comportementalisme se propagea à travers le monde des affaires comme un virus. Durant des années, les entreprises – encouragées par Watson et d’autres – crurent qu’elles avaient des pouvoirs quasi divins sur les désirs, les espoirs, les craintes et, bien entendu, les achats. Le comportementalisme cessa d’être à la mode à partir des années 1920, avec l’arrivée des statistiques et des études de marché (qui, contrairement à lui, nécessitaient de poser des questions aux personnes). Pris ensemble, le comportementalisme et l’étude de marché ont caractérisé une approche plus scientifique et jamais égalée de la publicité.

Si John Watson était encore en vie aujourd’hui, il serait employé en tant que « manipulateur en chef » chez Google, Amazon ou Facebook. Les plateformes de médias sociaux sont l’itération la plus récente de la fantaisie comportementaliste basée sur la gestion de la société grâce à l’observation scientifique de l’esprit, à travers une boucle complète de renseignements : tester des produits sur des personnes, écouter leurs retours et concevoir un nouveau modèle. Un autre mot pour exprimer cette idée est ce que Yuval Noah Harari appelle le « dataïsme » : le fait que les lois mathématiques des données s’appliquent aussi bien aux humains qu’aux machines.

L’idée qu’avec assez de données, les mystères de l’esprit humain pourront être compris est probablement aujourd’hui la philosophie dominante dans la Silicon Valley. Dans un essai de 2008 qui a beaucoup été cité, l’éditeur en chef à l’époque de Wired, Chris Anderson, a salué la « fin de la théorie ». Les théories scientifiques sont inutiles, dira-t-il, maintenant que nous avons les « big data ». « Virez toutes les théories sur le comportement humain… Qui sait pourquoi les gens font ce qu’ils font ? Le fait est qu’ils le font, et nous pouvons le pister et le mesurer avec une précision sans précédent. » Les ingénieurs de Google ne spéculent pas et n’échafaudent pas de théories concernant la raison de la visite d’un site plutôt que d’un autre – ils ne font qu’essayer des choses et voient ce qui fonctionne.

Dans les entrailles de chaque entreprise technologique de marque, quelques-uns des plus éminents cerveaux du monde sont payés une petite fortune pour découvrir pourquoi on clique sur certaines choses et comment nous faire cliquer sur plus de choses.

Bien que le secret du succès de Facebook soit, en fin de compte, lié à la nature humaine (les êtres humains sont des créatures qui aiment copier et s’observer et Facebook est le plus grand système permettant de voir et d’être vu), cette tendance est complétée par toutes les tactiques possibles pour vous rendre accro. Rien n’est laissé au hasard, étant donné que la plus minime des améliorations peut valoir une fortune. Les entreprises technologiques effectuent des tests avec des millions d’utilisateurs – peaufinant arrière-plans, couleurs, images, tonalités, polices et audio – le tout pour optimiser l’expérience et les clics de l’utilisateur2. La page d’accueil de Facebook est conçue avec soin, remplie de nombres visibles – nombres de « likes », d’amis, de « posts », d’échanges et de nouveaux messages (et toujours en rouge ! Urgent !). La lecture automatique, le défilement permanent et la chronologie inversée ont tous été créés pour maintenir votre niveau d’attention3.

Et ça marche ! Nombreux sont ceux qui ont rejoint les rangs d’une armée de zombies qui marchent tout en regardant leurs téléphones et discutent avec des avatars à distance, plutôt qu’avec la personne assise à côté d’eux. Comme beaucoup de gens, je me considère davantage comme un témoin de ces changements que comme un acteur. C’est ainsi que, l’année dernière, j’ai téléchargé une application nommée RealizD, qui comptabilise le nombre de fois où je consulte mon téléphone et durant combien de temps.

Lundi 27 novembre : 103 consultations, 5 heures et 40 minutes

Mardi 28 novembre : 90 consultations, 4 heures et 29 minutes

Mercredi 29 novembre : 63 consultations, 6 heures et 1 minute

Jeudi 30 novembre : 58 consultations, 3 heures et 42 minutes

Vendredi 1er décembre : 71 consultations, 4 heures et 12 minutes

D’après ces résultats, en moyenne, je consulte mon téléphone soixante-dix-sept fois par jour.

Je le déverrouille pratiquement toutes les douze minutes. Et je ne suis pas le seul4 et5 ! Selon Adam Alter, les dépendances à l’alcool et au tabac cèdent la place aux dépendances numériques, une épidémie de vérifications, de consultations, de balayages et de clics. Un nombre significatif de personnes admettent qu’elles sont dépendantes d’Internet et qu’elles ne peuvent pas se passer de leur téléphone. Quelques universitaires pensent même que le recul de la prise de drogue et d’alcool par les jeunes pourrait être causé par la bouffée de dopamine procurée par les cliquetis et les bips*3.

« En 2004, Facebook, c’était du plaisir », écrit Alter. « En 2017, c’est de la dépendance6 ! » Ce n’est pas par hasard. Bienvenue dans l’économie de l’attention !

La raison pour laquelle je consulte mon téléphone environ toutes les douze minutes est le défilement à la fois permanent et incohérent d’informations qu’il me propose. Des études ont montré que l’anticipation de l’information est reliée au système de récompense en dopamine du cerveau, et que la dépendance est optimisée quand le taux de récompense est très variable7.

Cela est également intégré à travers l’utilisation des notifications « push », c’est-à-dire les petits bips et messages qui nous informent que quelque chose est arrivé dans notre messagerie. Il en est de même avec l’introduction de la touche « like » en 2010, issue de ce que l’on appelle depuis longtemps, dans le domaine du marketing, les études de « liking » – oui, cela existe –, qui ont démontré que la « likability », ou capacité à susciter la sympathie, est la caractéristique la plus puissante d’une annonce publicitaire8. (Apparemment, Facebook avait prévu à l’origine une touche « awesome » (génial)9.) Sean Parker, le premier président de Facebook, a récemment décrit la touche « like » comme une « boucle de rétroaction de reconnaissance sociale… C’est exactement ce qu’un hacker comme moi aurait proposé, car on exploite la vulnérabilité de la psychologie humaine ». Il explique que lui, Mark Zuckerberg et d’autres comprenaient ce genre de choses. « Et nous l’avons fait quand même10. »

Data

Le graal, pour les géants des médias sociaux comme pour les publicitaires, est de connaître les gens mieux qu’ils se connaissent eux-mêmes, afin de pouvoir prédire ce qu’ils vont faire, dire et même penser. Facebook ne collecte pas des données sur vous pour le plaisir ; il le fait pour entrer dans votre tête. Ce que l’entreprise sait sur vous, uniquement basé sur les nombreuses heures que vous avez passées chez elle, est suffisant pour remplir plusieurs classeurs – domaines d’intérêt, âge, amis, emploi, activité et autres. Et ce n’est pas tout. Facebook a établi des partenariats avec de puissants « courtiers de données » comme Acxiom, qui possède des données concernant environ cinq cents millions de consommateurs à l’échelle mondiale, avec environ mille cinq cents points de données par personne : des informations telles que l’âge, la race, le sexe, le poids, la taille, le statut marital, le niveau d’éducation, la politique, les habitudes d’achat, les problèmes de santé et les vacances, souvent récoltées auprès d’autres magasins ou registres11. Armées de toutes ces informations, croisées et analysées, les entreprises peuvent vous cibler avec des publicités plus fines.

Étonnamment, cette frénésie de collecte de données ne fait que commencer. D’ici 2020, il y aura environ cinquante milliards de dispositifs compatibles avec Internet – soit quatre fois plus qu’aujourd’hui – et tous récolteront des données : voitures, réfrigérateurs, vêtements, panneaux de signalisation et livres. Votre fille adorée joue avec sa poupée : un point de données ! Votre conjoint ajoute du sucre dans son thé : un point de données ! Rien n’échappera à ces géants, à ces monstres à l’insatiable appétit de données. Google a commencé à envoyer des photographes de Street View dans les magasins, bureaux et musées afin de pouvoir créer des modèles détaillés en trois dimensions du cadre de n’importe quel endroit où vous voulez aller. Les maisons intelligentes souhaitent connaître votre température préférée, l’heure à laquelle vous vous lavez, ce que vous cuisinez, la durée de votre sommeil. Tout va être recueilli, analysé et comparé avec tout le reste, dans une quête sans fin de données.

Aujourd’hui, la récolte de données est devenue hors de portée de l’analyse humaine, c’est pourquoi les algorithmes occupent une place centrale dans l’économie moderne. Un algorithme est une technique mathématique simple, une série d’instructions suivies par un ordinateur pour exécuter une commande. C’est une description technique, mais en vérité les algorithmes sont les clés magiques qui permettent d’accéder au royaume, qui filtrent, prévoient, mettent en corrélation, ciblent et apprennent. Votre vie est déjà dirigée par des algorithmes qui déterminent tout, depuis les recommandations d’Amazon ou votre fil d’actualité sur Facebook jusqu’aux éléments qui apparaissent dans votre recherche Google. La personne qui vous correspond. L’itinéraire vers votre travail. Votre musique favorite. Des agrégateurs de nouvelles. Vos vêtements préférés.

Ce qui est effrayant dans ces algorithmes de « big data », c’est qu’ils arrivent à trouver des choses nous concernant que nous ignorons en partie. Les humains sont souvent assez prévisibles, et avec suffisamment de données – même les plus banales et sans grande importance comme, par exemple, la chanson que vous écoutez en ce moment –, les algorithmes peuvent apprendre des choses importantes sur votre personnalité.

En 2011, le docteur Michal Kosinski, alors psychologue à l’université de Cambridge, a mis au point un sondage en ligne pour évaluer la personnalité des participants. Depuis des décennies, des psychologues développent des techniques pour déterminer la personnalité à travers des questionnaires*4. Kosinski, lui, cherchait à savoir si les données en ligne pouvaient déterminer quelque chose d’important concernant la personnalité, sans avoir besoin de sondage : il était peut-être possible de créer un profil psychologique à partir de ce que les personnes avaient aimé sur Facebook. Ainsi, Kosinski et son équipe ont mis au point plusieurs tests de psychologie, les ont publiés sur Facebook et ont invité des personnes à y répondre.

Ces tests ont créé le buzz – après tout, nous sommes à l’âge d’or du narcissisme – et des millions de personnes y ont répondu. En recoupant ces réponses et les « likes » sur Facebook, Kosinski a été capable d’établir une corrélation entre les deux. À partir de ce constat, il a créé un algorithme qui, à partir de simples « likes », pouvait déterminer les détails intimes de millions d’autres utilisateurs qui n’avaient, eux, pas participé aux sondages. En 2013, il a publié ces résultats, démontrant que des dossiers numériques de comportement, facilement accessibles, pouvaient être utilisés pour prédire rapidement et précisément l’orientation sexuelle, l’origine ethnique, la religion, l’opinion politique, les traits de personnalité, l’intelligence, le bonheur, l’usage de stupéfiants, le divorce, l’âge et le sexe12,*5.

En 2017, j’ai rendu visite à Michal Kosinski à l’université de Stanford, où il est toujours basé actuellement. Beaucoup de personnes considèrent Stanford comme l’université par excellence de la Silicon Valley – elle en est proche géographiquement et les fondateurs de CISCO, Google, Hewlett-Packard et Yahoo ! y ont tous obtenu leurs diplômes. Michal, qui semble trop jeune pour être professeur d’université, m’a accompagné dans son bureau dans la « Graduate School of Business » (bien entendu) et a accepté de me montrer comment son système fonctionne. J’ai soumis à son algorithme mes à peu près deux cents « likes » sur Facebook : The Sopranos, Kate Bush, Terminator 2, le magazine The Spectator, etc. L’algorithme est parti à la recherche d’autres personnes avec des combinaisons similaires, ou avec des variantes de ces combinaisons. Une petite roue tourna à l’écran durant quelques secondes, pendant que la magie de l’algorithme opérait, et les résultats apparurent : ouvert d’esprit, libéral, artiste et extrêmement intelligent. Plus étonnant encore, il détermina également que je n’étais pas croyant, mais que, si je l’étais, je serais catholique. Je n’aurais pas pu l’exprimer mieux – j’ai fréquenté l’enseignement catholique de cinq à dix-huit ans, et même si j’ai un point faible pour la religion, je ne suis pas pratiquant.

En même temps, il prédisait que mon travail se situerait dans le domaine du journalisme et que j’avais un grand intérêt pour l’histoire : j’ai étudié l’histoire à l’université et je possède un master en méthodologie de la recherche historique.

Tout ça grâce à mes « likes » sur Facebook, qui n’ont rien à voir avec mon parcours personnel ou mon éducation. « Ces prédictions, c’est une des choses que les gens n’arrivent pas à comprendre », me dit Michal. « De toute évidence, si tu “likes” Lady Gaga sur Facebook, je peux dire que tu aimes Lady Gaga… Ce qui change vraiment avec ces algorithmes, c’est qu’ils prennent tes préférences musicales ou littéraires et extraient de ces informations d’apparence innocente des prédictions très précises concernant ta religiosité, ton potentiel de leadership, tes opinions politiques, ta personnalité, etc. » Je vous montrerai dans le chapitre 3 comment des partis politiques pourraient utiliser ce genre d’informations en période électorale. J’ai quitté le bureau de Michal avec la sensation que ce genre d’aperçu était très excitant, mais aussi une nouvelle source de pouvoir que nous comprenons à peine, et que nous contrôlons encore moins.

Le but final logique du « dataïsme » est de réduire chacun de nous à un point de données unique, prédictible et pouvant être ciblé. Quiconque a essayé de parler avec un agent conversationnel ou a vu une annonce pour quelque chose qu’il venait d’acheter sait que ces technologies sont loin d’être parfaites. Mais le sens de la marche est clair, et il est facile d’imaginer de quelle façon chaque choix effectué pourrait un jour faire l’objet d’une série d’incitations informées par des algorithmes, soigneusement et parfaitement adaptées à vous. Imaginez ! Vous vous levez tôt de façon agréable, grâce aux données de votre réveil automatique qui connaît votre agenda et le temps moyen nécessaire pour vous préparer (en tenant compte aussi du trafic routier habituel). Un petit-déjeuner, lui aussi guidé par les données, vous sera proposé après une analyse rapide de vos statistiques de santé et de celles de milliers d’autres personnes comme vous, pour garantir un équilibre parfait des éléments nutritifs dont vous avez besoin. (Avantage : une petite réduction de votre cotisation d’assurance maladie si vous écoutez ces conseils.) Vous sautez dans votre voiture sans chauffeur, qui vient de rentrer d’un service de nuit et qui gagne de l’argent pour vous en tant que taxi indépendant. Et pendant que vous vous détendez durant le trajet, votre assistant personnel virtuel vous conseille sur votre intervention lors d’une réunion de vente importante, en se basant sur les performances passées et sur les personnes qui seront présentes. Avant d’être ramené à votre domicile…

Les possibilités de publicité seront extraordinaires dans ce contexte. Si vous vous éloignez du régime alimentaire conseillé, ou si les statistiques estiment que vous vous en éloignez en se basant sur votre cycle de sommeil, ce que vous mangez, votre utilisation des mots sur Facebook ou votre intonation, vous recevrez une publicité pour la salle de sport locale. Un assistant virtuel vous dira ce dont vous avez besoin, quand vous en aurez besoin, et vous ne saurez même pas pourquoi.

Il est facile de perdre de vue les aspects positifs de ce qui ressemble à un épisode de la série Black Mirror de Charlie Brooker. Chez Demos, je dirigeais un centre spécialisé dans l’analyse des « big data », et nous avons trouvé de nouvelles façons de comprendre les tendances sociales, la maladie, le terrorisme et davantage encore. Les données peuvent et vont aider le peuple à demander des comptes aux gouvernements en rendant disponibles plus d’informations concernant le travail des ministères. Il est inévitable qu’un jour, nous disposerons d’un assistant personnel virtuel qui négociera pour nous avec des sociétés virtuelles (cartes de crédit, location de voitures, retraites et investissements)13. Ce sont de bonnes nouvelles du point de vue de l’utilisateur.

Ouvrage original :
The People Vs Tech : How the internet is killing democracy (and how we save it) by Jamie Bartlett
© Jamie Bartlett 2018

Pour toute information sur notre fonds
et nos nouveautés, consultez notre site web :

www.deboecksuperieur.com

Mise en page : CW Design

Couverture : cerise.be

© De Boeck Supérieur s.a., 2019

Rue du Bosquet, 7 – 1348 Louvain-la-Neuve
Pour la traduction et l’adaptation françaises

Dépôt légal :

Bibliothèque nationale, Paris  : mai 2019

Bibliothèque royale de Belgique, Bruxelles  : 2019/13647/078

EAN 978-2-8073-2658-3

Cette version numérique de l’ouvrage a été réalisée par Nord Compo pour De Boeck Supérieur. Nous vous remercions de respecter la propriété littéraire et artistique. Cette œuvre est protégée par le droit d’auteur et strictement réservée à l’usage privé du client. Toute reproduction ou diffusion au profit de tiers, à titre gratuit ou onéreux, de tout ou partie de cette œuvre, est strictement interdite et constitue une contrefaçon prévue par les articles L.335-2 et suivants du Code de la Propriété Intellectuelle. L’éditeur se réserve le droit de poursuivre toute atteinte à ses droits de propriété intellectuelle devant les juridictions civiles ou pénales.

Notes

*1.  Le panoptique est un type d’architecture carcérale imaginée par le philosophe utilitariste Jeremy Bentham à la fin du XVIIIe siècle. Depuis une tour centrale, le gardien pouvait surveiller tous les prisonniers enfermés dans des cellules individuelles autour de la tour, sans que ceux-ci puissent savoir s’ils étaient observés.

*2. En 2017, 95 milliards de dollars sur 111 milliards de dollars de revenu global de Google provenaient de la publicité, et la proportion est similaire pour Facebook, Twitter et Snapchat. En quelque sorte, nous avons donné notre aval à travers l’échange : nos données contre un service gratuit. Nous laissons des personnes nous espionner, et en échange nous obtenons un service gratuit exceptionnel. Mais cet échange est un peu unilatéral. Presque personne ne lit le paragraphe sur les conditions générales d’utilisation que pratiquement tout le monde coche, parce qu’il est long et uniquement compréhensible par un juriste spécialisé dans les contrats, avec des connaissances en génie logiciel et qui peut y consacrer un jour par semaine. Il y a quelques années, une entreprise anglaise y avait inclus une clause qui demandait la permission de « récupérer, maintenant et pour toujours, votre âme immortelle » et personne ne l’avait remarquée.

1 Will Davies, The Happiness Industry (Verso, 2015) donne une très bonne vue d’ensemble de ces débuts.

2 John Lanchester, « You are the product », London Review of Books, 17 août 2017.

3 Elizabeth Stinson, « Stop the Endless Scroll. Delete Social Media From Your Phone », www.wired.com, 1er octobre 2017.

4 Adam Alter, Irresistible (Penguin Press, 2017).

5 Matt Richtel, « Are Teenagers Replacing Drugs With Smartphones ? », New York Times, 13 mars 2017.

*3.  L’explication populaire est que le bip ou le cliquetis d’un téléphone procure au cerveau une bouffée de dopamine – de plaisir chimique. La vérité est plus inquiétante. Le circuit de la dopamine semble prédire à quel point nous allons apprécier quelque chose – et quand il y a un manque, nous ressentons une chute de dopamine. Ainsi, nous continuons, en espérant remettre les choses en place. L’ivresse que nous ressentons à l’idée que quelqu’un va poster des informations sur notre flux est l’anticipation de ce qui sera. Comme vous le savez par expérience, la réalité est loin de nos désirs. Nous sommes coincés dans une boucle sans fin de recherches.

6 Adam Alter, Irresistible, ibid.

7 Tristan Harris, « How Technology is Hijacking Your Mind – from a Magician and Google Design Ethicist », www.thriveglobal.com, 18 mai 2016.

8 Robert Gehl, « A History of Like », https ://thenweinquiry.com, 27 mars 2013.

9 Kathy Chan, « I like this », www.facebook.com, 10 février 2009.

10 Tom Huddleston Jnr, « Sean Parker Wonders What Facebook Is “Doing to Our Children’s Brains” », www.fortune.com, 9 novembre 2017.

11 Natasha Singer, « Mapping and Sharing, the Consumer Gnome », New York Times, 16 juin 2012.

*4.  Le plus courant, connu sous le nom de « Big Five », classe les personnes selon cinq dimensions de personnalité (ouverture, conscience, extraversion, amabilité et névrotisme ou OCEAN en abrégé) ; il est basé sur des réponses à des questions standard, par exemple sur votre (dés)organisation.

12 Michal Kosinski, David Stillwell et Thore Graepel (2013), « Private traits and attributes are predictable from digital records of human behaviour », PNAS, 110 (15), p. 5802-5805.

*5. Il n’y a aucune preuve que Facebook utilise ces techniques. (Bien que, selon un article paru dans le Guardian en mai 2017, l’équipe australienne de Facebook ait déclaré aux annonceurs qu'ils pouvaient détecter un adolescent stressé, insécurisé ou anxieux. Facebook a répondu que la société ne « proposait pas d’outils permettant de cibler des personnes en fonction de leur état émotionnel ».)18

13 Sam Levin, « Facebook told advertisers it can identify teens feeling “insecure” and “worthless” », Guardian, 1er mai 2017.