Raison no 1

Les réseaux sociaux vous font perdre votre libre arbitre

Bienvenue dans la cage qui vous suit partout

Il se passe quelque chose de complètement nouveau dans le monde. Au cours des cinq à dix dernières années seulement, presque tout le monde a commencé à transporter sur soi en permanence un petit appareil appelé « smartphone » pouvant être instrumentalisé pour modifier algorithmiquement les comportements. Bon nombre d’entre nous utilisent aussi d’autres appareils similaires de type haut-parleur intelligent, que nous plaçons sur le comptoir de notre cuisine ou sur le tableau de bord de notre voiture. Nous sommes suivis et évalués en permanence, et nous recevons sans interruption des feed-back générés selon des règles savamment élaborées. Petit à petit, des ingénieurs invisibles nous hypnotisent à des fins que nous ignorons, et nous voilà maintenant tous transformés en cobayes.

Chaque seconde, des algorithmes se gavent de nos données personnelles. Sur quels types de liens cliquons-nous ? Quelles vidéos regardons-nous jusqu’à la fin ? À quelle vitesse passons-nous d’une chose à l’autre ? Où nous trouvons-nous au moment où nous faisons ces choses ? Avec qui rentrons-nous en contact, en ligne et dans la vie réelle ? Quelles expressions faciales arborons-nous ? Comment le teint de notre peau change-t-il dans différentes situations ? Qu’étions-nous en train de faire avant de décider d’acheter ou de ne pas acheter quelque chose ? De voter ou de ne pas voter ?

Toutes ces données et bien d’autres sont comparées à des relevés similaires concernant la vie d’une multitude d’autres utilisateurs obtenus grâce à cet espionnage de masse. Des algorithmes établissent ensuite des corrélations entre notre comportement et celui des autres.

Les algorithmes ne nous comprennent pas vraiment, mais les données confèrent un certain pouvoir, surtout lorsqu’elles sont disponibles en grandes quantités. Le fait est que si un grand nombre de personnes qui aiment la même nourriture que nous sont par ailleurs rebutées par la photo d’un candidat avec une bordure rose plutôt que bleue, alors il est probable que nous le soyons également, et personne n’a besoin de connaitre la raison derrière cela. Les statistiques sont fiables, mais restent de vulgaires automates.

Nous sentons-nous tristes, seuls, effrayés ? Joyeux, confiants ? Avons-nous nos règles ? Traversons-nous une période d’anxiété intense ?

Forts de ces informations, de soi-disant annonceurs peuvent déterminer le moment où nous sommes parfaitement prédisposés et tenter de nous influencer avec des messages qui ont fonctionné chez des personnes qui nous ressemblent ou qui se trouvent dans une situation similaire à la nôtre.

J’utilise l’expression « soi-disant », car on ne peut assimiler ces pratiques de manipulation directe des individus à de la publicité. Avant, les annonceurs disposaient d’un créneau limité pour faire la promotion de leur produit, et si leur argumentaire de vente était parfois fallacieux ou agaçant, il avait l’avantage d’être bref. De plus, les publicités dans la presse et à la télévision, destinées à un public très large, n’étaient pas adaptées à chaque individu. La plus grande différence était que nous n’étions pas surveillés et évalués en permanence dans le but de nous exposer de manière optimale et dynamique à des stimuli (sous la forme de « contenus » ou de publicités) visant à capter notre attention et à nous influencer.

Dorénavant, toute personne active sur les réseaux sociaux reçoit des stimuli personnalisés et dynamiquement adaptés, sans interruption, tant qu’elle utilise son smartphone. Ce qui auparavant aurait pu s’appeler de la publicité doit désormais être compris comme un phénomène de modification continue du comportement à très grande échelle.

S’il vous plait, ne vous offensez pas. Oui, je suis bien en train d’insinuer que vous vous transformez peut-être, rien qu’un tout petit peu, en un chien bien dressé, voire en quelque chose de moins plaisant, comme un rat de laboratoire ou un robot. Ou encore qu’il est possible que des clients de grandes entreprises vous contrôlent à distance, rien qu’un tout petit peu. Mais, si je suis dans le vrai, cette prise de conscience pourrait vous libérer, alors mieux vaut me laisser une chance de m’expliquer, vous ne croyez pas ?

Un mouvement scientifique appelé le behaviorisme a vu le jour bien avant l’invention des ordinateurs. Les behavioristes étudiaient de nouvelles manières, plus empiriques, plus isolées et plus geek de dresser des animaux et des êtres humains.

Parmi les penseurs emblématiques du mouvement figure B . F . Skinner, inventeur de la méthode dite de la « boite de Skinner », qui consiste à récompenser des animaux en cage avec de la nourriture lorsqu’ils effectuent des actions bien spécifiques. Personne ne prenait la peine de caresser les animaux ou de chuchoter à leur oreille ; une action mécanique et complètement isolée suffisait. Un nouveau dressage des temps modernes. Plusieurs behavioristes, à l’aura souvent peu rassurante, ont appliqué cette méthode à des êtres humains. Au désarroi général, les stratagèmes des behavioristes étaient souvent efficaces, et ils ont fini par servir d’inspiration à de nombreux scénarios de films d’horreur ou de science-fiction mettant en scène d’épouvantables techniques de « contrôle mental ».

Hélas, le fait est qu’il est possible de conditionner quelqu’un à l’aide de techniques behavioristes, et ce sans même que la personne ne se rende compte de quoi que ce soit. Jusqu’à très récemment, il était peu probable de subir un tel traitement, à moins de se porter volontaire pour une expérience tenue dans les sous-sols de la faculté de psychologie d’une université locale. Dans ces expériences, le participant entre dans une salle de test où il est observé à travers un miroir sans tain. Bien conscient qu’une expérience est en cours, il ne se rend toutefois pas compte de la manière dont il est manipulé. Dans ce contexte, au moins, le participant consent à être manipulé d’une manière ou d’une autre. (Encore que ça ne soit pas toujours le cas. De nombreuses expériences plus cruelles les unes que les autres ont été menées sur des prisonniers, sur des populations déshéritées et, par-dessus tout, sur des personnes appartenant à certains groupes ethniques.)

Ce livre a pour but de démontrer en dix arguments que ces pratiques qui se sont banalisées du jour au lendemain, à savoir la surveillance généralisée des comportements et leur manipulation permanente et subtile, sont immorales, cruelles, dangereuses et inhumaines. Dangereuses, elles le sont à n’en pas douter, car qui sait qui va utiliser ce pouvoir, et à quelles fins ?

Le savant fou se préoccupe du sort du chien en cage

Vous avez peut-être déjà entendu les aveux larmoyants des fondateurs de ces empires des réseaux sociaux, que je préfère appeler des « empires de modification du comportement ».

Voilà ce qu’a affirmé Sean Parker, premier président de Facebook :

« On doit en quelque sorte vous donner une petite dose de dopamine de temps en temps, parce que quelqu’un a aimé ou commenté une photo ou une publication ou quoi que ce soit d’autre […] C’est une boucle de rétroaction de validation sociale, exactement le genre de choses qu’un hackeur comme moi imaginerait, parce que ça exploite une vulnérabilité de la psychologie humaine […] Les inventeurs, les créateurs – c’est moi, c’est Mark [Zuckerberg], c’est Kevin Systrom sur Instagram, ce sont tous ces gens – l’ont compris consciemment. Et nous l’avons fait quand même […] Ça change littéralement notre rapport à la société, et aux autres […] Ça influence probablement notre productivité de manière étrange. Dieu seul sait ce que ça fait aux cerveaux de nos enfants. »1

Et voici les déclarations de Chamath Palihapitiya, ancien vice-président en charge de la croissance du nombre d’utilisateurs de Facebook :

« Les boucles de rétroaction à court terme, carburant à la dopamine, que nous avons créées sont en train de détruire la façon dont la société fonctionne […] Il n’y a pas d’échanges courtois, pas de coopération ; par contre il y a de la désinformation et des contre-vérités. Et ce n’est pas qu’un problème américain, cela ne concerne pas seulement la publicité russe. C’est un problème mondial […] Je me sens extrêmement coupable. Je pense que nous en étions tous conscients au fond de nous-mêmes, même si nous faisions semblant de croire qu’il n’y aurait probablement pas de conséquences indésirables. Je pense qu’au plus profond de nous-mêmes, nous savions que quelque chose de mal pouvait se produire […] La situation actuelle est donc catastrophique, à mon avis. Cela sape les fondements qui régissent la façon dont nous nous comportons les uns envers les autres. Et je n’ai pas de bonne solution à proposer. Ma solution est de ne plus utiliser ces outils. Cela fait des années que je m’en passe. »2

Mieux vaut tard que jamais. Cela fait un moment maintenant que de nombreux détracteurs comme moi sonnent l’alarme, mais ce mea culpa des personnes à l’origine du problème constitue un progrès, un pas en avant.

Pendant de nombreuses années, j’ai essuyé les critiques acerbes de mes amis de la Silicon Valley, qui me considéraient comme un traître, car je désapprouvais ce que nous étions en train de faire. Depuis peu, c’est l’inverse qui se produit. Je soutiens que les responsables de la Silicon Valley sont, pour la plupart, des gens bien, et qu’il ne faut pas les diaboliser, ce qui me vaut une nouvelle avalanche de critiques. Difficile de savoir si je me suis montré trop dur ou trop clément envers ma communauté.

Aujourd’hui, la vraie question est de savoir si toutes ces critiques auront des répercussions. Maintenant que les dégâts provoqués par ces technologies néfastes ont été étalés au grand jour, serons-nous capables de résister et de contribuer à l’émergence d’un monde meilleur ? Je vous pose personnellement la question.

Les entreprises comme Facebook, Google et Twitter essayent enfin de remédier à certains énormes problèmes qu’elles ont créés, mais au coup par coup. Agissent-elles sous la pression, ou parce qu’elles estiment que c’est la bonne chose à faire ? Probablement un peu des deux.

Les entreprises changent leurs politiques, et elles engagent des surveillants et des spécialistes des données pour développer des algorithmes dans l’espoir d’éviter les fiascos les plus complets. L’ancienne devise de Facebook était « Move fast and break things »3. Aujourd’hui, ils inventent des devises plus positives et ils tentent tant bien que mal de recoller ensemble les morceaux d’un monde brisé.

Ce livre avance l’argument selon lequel les entreprises ne sont pas en mesure de rafistoler le monde à elles seules.

Vu que les gens de la Silicon Valley expriment des remords, nous pourrions nous contenter d’attendre qu’ils règlent le problème eux-mêmes. Hélas, ce n’est pas comme ça que ça marche. Si nous ne nous décidons pas à faire partie de la solution, il n’y aura pas de solution.

Dans ce premier chapitre, je vais introduire quelques concepts centraux dans la conception de services en réseau addictifs et manipulateurs. La prise de conscience est le premier pas vers la liberté.

La carotte et la supercherie

Sean Parker affirme que Facebook a délibérément rendu ses utilisateurs dépendants, et Chamath Palihapitiya évoque des effets négatifs sur les relations et la société. Quel est le rapport entre ces deux mea culpa ?

Le processus fondamental qui permet aux réseaux sociaux de générer de l’argent, et qui par ailleurs nuit à la société, est la modification du comportement. Ce terme désigne un ensemble de méthodes permettant d’altérer les schémas comportementaux chez les animaux et les êtres humains. Elles peuvent être utilisées pour traiter des problèmes d’addiction, mais aussi pour en créer.

Or, les phénomènes d’addiction rendent les gens fous et donc nuisent à la société. La personne dépendante perd progressivement le contact avec le monde réel et les personnes réelles. Lorsque de plus en plus de personnes deviennent esclaves de mécanismes manipulateurs, le monde s’assombrit et perd la raison.

L’addiction est un processus neurologique que nous n’avons pas encore élucidé. Le neurotransmetteur appelé dopamine est lié au plaisir et jouerait un rôle central dans le mécanisme de modification du comportement en réponse à des récompenses. C’est pourquoi Sean Parker y fait référence.

La modification du comportement, en particulier sous sa forme moderne mise en œuvre au travers d’appareils comme les smartphones, est un effet statistique, ce qui signifie qu’il s’agit un phénomène bien réel, mais peu fiable au cas par cas. Autrement dit, si l’effet produit sur l’ensemble d’une population est plus ou moins prévisible, les comportements individuels restent quant à eux impossibles à prédire. Dans une certaine mesure, nous sommes des cobayes enfermés dans la cage expérimentale de chercheurs behavioristes. Cependant, le fait qu’un phénomène soit flou ou approximatif ne le rend pas moins réel pour autant.

À l’origine, les behavioristes utilisaient le plus souvent des récompenses alimentaires dans leurs expériences, une pratique qui remonte à la nuit des temps. Tous les dresseurs d’animaux utilisent cette technique quand ils donnent une friandise à un chien lorsqu’il effectue un tour. De nombreux parents d’enfants en bas âge y ont recours également.

Un des premiers chercheurs behavioristes, Ivan Pavlov, est connu pour avoir démontré qu’il n’était pas indispensable d’utiliser de la vraie nourriture : en faisant sonner une cloche à chaque fois qu’il donnait à manger à un chien, il est parvenu, au bout d’un certain temps, à faire saliver l’animal au seul son de la cloche.

Le recours à des symboles au lieu de récompenses tangibles est devenu une ruse incontournable de la boite à outils de modification du comportement. Par exemple, un jeu pour smartphone comme Candy Crush crée l’addiction en remplaçant les friandises par des images miroitantes de sucreries. De la même manière, d’autres jeux vidéo utilisent des images scintillantes de pièces et de trésors en tous genres.

Les plaisirs addictifs et les schémas de récompense qui se manifestent dans nos cerveaux (la fameuse « petite dose de dopamine » évoquée par Sean Parker) constituent des rouages essentiels de l’addiction aux réseaux sociaux, mais ils ne sont pas l’unique facteur à prendre en compte, car les réseaux sociaux utilisent également des punitions et des renforcements négatifs.

Les behavioristes ont utilisé plusieurs types de punitions dans leurs laboratoires ; pendant un certain temps, les décharges électriques étaient à la mode. Cependant, les punitions, comme les récompenses, ne doivent pas nécessairement être réelles et tangibles. Parfois, les expériences faisaient perdre des points ou des jetons symboliques au participant.

Lorsque nous utilisons les réseaux sociaux, nous recevons en permanence des stimuli équivalents aux friandises et aux décharges électriques.

En effet, la plupart des utilisateurs des réseaux sociaux ont déjà fait l’expérience d’une ou de plusieurs dérives propres à ces médias : catfishing4 (pratique que les chats réprouvent totalement), méchanceté gratuite, tendance à rabaisser ou à ignorer les autres, voire à assouvir des penchants carrément sadiques, et j’en passe. À l’image de la carotte et du bâton, qui travaillent toujours de concert, les feed-back agréables et désagréables jouent tous les deux un rôle crucial dans les mécanismes d’addiction et de modification sournoise du comportement.

L’attrait du mystère

Lorsque Sean Parker utilise l’expression « de temps en temps », il fait probablement référence à un curieux phénomène que les chercheurs behavioristes ont découvert en étudiant les animaux et les êtres humains. Si un individu reçoit une récompense (que ce soit sous la forme d’une marque de considération sociale positive ou d’un bonbon) à chaque fois qu’il effectue une action particulière, il aura tendance à répéter cette action. Par conséquent, lorsque les gens reçoivent une réponse flatteuse après avoir partagé quelque chose sur les réseaux sociaux, ils prennent l’habitude de partager de plus en plus souvent des choses.

Cela peut sembler anodin, mais il s’agit parfois du premier pas vers une dépendance qui devient une source de problèmes pour les individus et la société. Bien que mes confrères de la Silicon Valley utilisent un terme édulcoré pour désigner cette phase, « l’engagement », nous nous en méfions suffisamment pour vouloir en préserver nos enfants. En effet, une grande partie des enfants de la Silicon Valley que je connais sont inscrits dans des écoles appliquant la pédagogie Waldorf, où l’utilisation des appareils électroniques est proscrite d’une manière générale.

Mais revenons-en au phénomène étonnant : ce n’est pas que les feed-back positifs et négatifs fonctionnent, mais que, si ces feed-back comportent une part d’aléatoire et d’imprévisibilité, ils sont susceptibles de provoquer un engagement plus fort que des feed-back parfaitement prévisibles.

Si un enfant reçoit systématiquement un bonbon lorsqu’il dit merci, il se mettra certainement à utiliser ce mot plus souvent. Mais supposons maintenant que, de temps en temps, il ne reçoive pas de bonbon. On pourrait croire qu’il commencera à dire merci moins souvent. Après tout, la récompense n’est plus assurée avec autant de fiabilité.

Pourtant, c’est parfois l’opposé qui se produit, un peu comme si notre cerveau, dont la tendance innée est de chercher des schémas logiques, ne pouvait résister au défi. « Il doit forcément il y avoir un truc », murmure notre cerveau obsessionnellement. Et nous continuons à obtempérer, persuadés que nous allons découvrir une logique plus profonde dictant des résultats pourtant totalement aléatoires.

C’est une bonne chose qu’un scientifique se fascine pour phénomène dont la logique lui échappe. C’est peut-être le signe qu’il y a quelque chose de plus profond à découvrir. C’est aussi un formidable outil pour les scénaristes : de petites incohérences rendent une intrigue ou un personnage plus fascinants.

Cela étant, dans de nombreuses situations, c’est une cause de fascination désastreuse. Cet attrait pour les feed-back imprévisibles est probablement la raison qui pousse de nombreuses personnes à s’engager dans des relations malsaines de « codépendance » dans lesquelles elles sont maltraitées.

Cette touche d’aléatoire est très facile à générer sur les réseaux sociaux, car les imperfections des algorithmes font qu’ils produisent intrinsèquement des effets aléatoires. En outre, les fils d’actualités sont habituellement générés de façon à inclure délibérément un degré supplémentaire d’aléatoire. La raison derrière cela était à l’origine purement mathématique, et non psychologique.

Les algorithmes des réseaux sociaux sont en général « adaptatifs », ce qui signifie qu’ils effectuent en permanence des petits changements dans leur comportement dans le but d’obtenir de meilleurs résultats, à savoir, en l’occurrence, un accroissement de l’engagement et donc des profits. Ce type d’algorithmes comporte toujours une certaine composante aléatoire.

Supposons qu’un algorithme nous montre une publicité pour une paire de bas ou de chaussettes environ cinq secondes après que nous ayons visionné une vidéo de chats qui nous rend de bonne humeur. Un algorithme adaptatif effectuera de temps en temps un test automatique pour voir ce qu’il se passe si l’intervalle passe, par exemple, à quatre secondes et demie. Cela augmente-t-il la probabilité d’achat ? Si tel est le cas, l’ajustement de l’intervalle sera appliqué non seulement à notre futur fil d’actualité, mais également à celui de milliers d’autres utilisateurs dont le comportement semble corrélé au nôtre, sur la base de données allant des couleurs préférées aux habitudes de conduite5.

Il arrive que les algorithmes adaptatifs se retrouvent bloqués : si l’algorithme ne constate pas d’amélioration en réponse à plusieurs ajustements successifs de ses paramètres, alors ces ajustements ne sont pas conservés. Par exemple, si un intervalle de quatre secondes et demie nous rend moins enclins à l’achat et qu’il en va de même pour un intervalle de cinq secondes et demie, alors la durée reste de cinq secondes. Sur la base des éléments dont l’algorithme dispose, cinq secondes est le temps d’attente optimal. En clair, si les ajustements aléatoires ne produisent aucune amélioration, alors l’algorithme adaptatif cesse de s’adapter, ce qui, en théorie, n’était pas censé se produire.

Supposons maintenant qu’un réglage plus éloigné permette d’obtenir un meilleur résultat. Par exemple, il se peut qu’un temps d’attente de deux secondes et demie soit plus efficace. Dans ce cas de figure, une succession de petits ajustements ne permettrait pas d’arriver à cette valeur, car l’algorithme resterait bloqué sur cinq secondes. C’est la raison pour laquelle, bien souvent, les algorithmes adaptatifs sont également programmés pour tester, plus exceptionnellement, des réglages aléatoires très divergents. De cette manière, de temps en temps, l’algorithme découvre des paramètres plus efficaces en s’écartant complètement des réglages qu’il considérait jusque-là comme acceptables, faute de mieux6.

Les systèmes adaptatifs sont souvent dotés de tels mécanismes de grand écart. Les mutations utiles observées dans l’évolution biologique, processus habituellement caractérisé par une succession d’étapes de sélection plus progressives au cours desquelles les gènes d’un individu sont transmis à la génération suivante ou non, en sont un bon exemple. La mutation est un joker qui ajoute de nouvelles possibilités, un saut dans l’inconnu. De temps en temps, une mutation introduit une caractéristique bizarre, inédite et positive pour l’espèce.

Naturellement, les chercheurs en neurosciences s’interrogent sur l’existence d’un processus similaire dans le cerveau humain. Notre cerveau intègre très certainement des processus adaptatifs. Par exemple, il se peut qu’il soit prédisposé à chercher des surprises, parce que la nature déteste la routine.

Lorsque des algorithmes administrent des expériences à quelqu’un, il se trouve que le caractère aléatoire inhérent à l’adaptation algorithmique peut également favoriser un phénomène d’addiction chez cette personne. L’algorithme essaye de déterminer les paramètres parfaits pour manipuler le cerveau, tandis que le cerveau, toujours en quête d’un sens plus profond, change en réaction aux expériences de l’algorithme ; en quelque sorte, ils jouent à une version purement mathématique du chat et de la souris. Les stimuli de l’algorithme étant dénués de sens en raison de leur nature aléatoire, le cerveau n’essaye pas de s’adapter à quelque chose de réel, mais à une fiction. C’est précisément ce processus de fascination croissante pour un mirage insaisissable qui constitue l’addiction. Alors que l’algorithme tente de se sortir de l’ornière, le cerveau humain s’enlise dans celle-ci.

Les pionniers de l’exploitation sur Internet de ce point d’intersection entre les mathématiques et le cerveau humain n’étaient pas les entreprises de réseaux sociaux, mais les créateurs de machines à sous électroniques de type « vidéo poker » et, par la suite, de sites de jeux de hasard. De temps à autre, les pionniers du monde des jeux de hasard se plaignent de la manière dont les réseaux sociaux leur ont piqué toutes leurs idées et amassent encore plus d’argent, mais la plupart du temps ils se félicitent de la façon dont les réseaux sociaux les aident à identifier les cibles les plus faciles7.

L’enfer, et le paradis, c’est les autres8

Avec les réseaux sociaux, une nouvelle dimension du stimulus entre en jeu : la pression sociale.

Les gens sont extrêmement sensibles au statut social, au regard des autres et à la compétition. Contrairement à la plupart des animaux, les êtres humains restent totalement dépendants des autres pendant plusieurs années après leur naissance. Nous ne devons notre survie qu’à notre capacité à bien nous entendre avec notre famille et notre entourage. Pour le cerveau humain, les préoccupations sociales ne sont pas en option : elles jouent un rôle primordial.

Des études célèbres comme les expériences de Milgram et de la prison de Stanford ont démontré que le pouvoir de ce que pensent les autres est suffisamment puissant pour modifier le comportement des individus. Des personnes tout à fait normales et sans antécédents judiciaires ont été poussées à commettre des atrocités (par exemple, à torturer des inconnus) par le seul mécanisme de la pression sociale.

Sur les réseaux sociaux, la manipulation des émotions sociales s’est imposée comme le moyen le plus facile de générer des récompenses et des punitions. Cela changera peut-être un jour, quand des drones feront tomber des friandises du ciel à chaque fois que nous faisons ce que les algorithmes veulent que nous fassions, mais pour l’heure tout tourne autour des sentiments qui peuvent être éveillés en nous (principalement des sentiments liés à ce que pensent les autres).

Par exemple, quand nous craignons de ne pas avoir l’air intéressants, attirants ou d’un statut social élevé, nous ressentons un certain mal-être. La peur est une émotion profonde et douloureuse9.

Tout le monde souffre d’anxiété sociale de temps en temps, et tous les enfants ont dû un jour faire face à des camarades d’école qui utilisaient l’anxiété sociale comme instrument de torture, probablement parce qu’adopter un comportement de tyran réduit le risque de se retrouver soi-même dans la position de bouc émissaire. Voilà pourquoi même des personnes qui, en temps normal, sont respectueuses vont avoir tendance à se faire les complices d’actes de torture sociale. Elles ont tellement peur de la vive douleur provoquée par l’anxiété sociale que leurs bas instincts prennent le dessus l’espace d’un instant.

Bien sûr, toutes les émotions sociales ne sont pas négatives. Lorsque nous interagissons avec les autres, nous sommes aussi capables d’une infinité de sentiments positifs, comme la camaraderie, le respect, l’admiration, la gratitude, l’espoir, l’empathie, la proximité, l’attirance, etc. Du côté négatif, on peut éprouver de la peur, de l’hostilité, de l’anxiété, du ressentiment, du dégoût, de la jalousie, ou encore l’envie de ridiculiser l’autre.

Sachant que les émotions liées aux interactions sociales peuvent faire office de récompense ou de punition, laquelle de ces deux fonctions est la plus efficace pour influencer les gens ? Cela fait longtemps que des chercheurs s’intéressent à la question, et il semblerait que la réponse varie en fonction des populations et des situations étudiées. Une étude a montré que les enfants en bas âge réagissaient mieux aux récompenses qu’aux punitions, bien que cette tendance pourrait s’inverser après douze ans10. Une autre étude indique que les étudiants universitaires seraient plus facilement manipulés par la mise en place de punitions que de récompenses11. Pour motiver des travailleurs adultes, l’utilisation d’affirmations positives serait plus efficace, d’après les résultats d’une autre étude12. D’autres facteurs auraient aussi un rôle à jouer pour déterminer la meilleure approche, tels que la nature13 et la description14 des tâches à effectuer.

L’étude comparée de l’efficacité des feed-back positifs et négatifs fait donc l’objet de tout un corpus d’articles scientifiques, mais cette question n’est pas particulièrement pertinente pour la conception des plateformes commerciales de réseaux sociaux, car celles-ci souhaitent avant tout réduire leurs coûts et améliorer leurs performances afin de maximiser leurs profits. Que les feed-back positifs soient, en théorie, plus efficaces dans certains cas ou non, la réalité est que l’engagement bon marché se trouve du côté des feed-back négatifs qui, par voie de conséquence, sont plus avantageux pour les entreprises et plus présents sur les réseaux sociaux.

Les émotions négatives comme la peur et la colère remontent plus facilement à la surface et mettent plus de temps à se dissiper que les émotions positives. Établir un lien de confiance prend plus de temps que de le briser. Les réponses de lutte ou de fuite sont déclenchées en quelques secondes, mais on peut avoir besoin de plusieurs heures pour retrouver son calme.

Si toutes ces affirmations sont vraies dans la vie réelle, elles le sont encore plus sous l’éclairage plat des algorithmes.

Soyons clairs, il n’y a pas de génie malfaisant qui, assis à son petit bureau chez Facebook, fait des calculs pour arriver à la conclusion que des utilisateurs malheureux ont un « taux d’engagement » supérieur et rapportent donc plus d’argent que des utilisateurs heureux. En tout cas, je n’ai jamais rencontré ou entendu parler d’un tel individu.

L’impératif prioritaire de l’engagement s’autorenforce, et personne ne remarque que les émotions négatives sont davantage amplifiées que les émotions positives. En d’autres termes, bien que la logique de l’engagement n’ait d’autre objectif que d’accroître celui-ci, elle mène, dans l’ensemble, à une amplification artificielle des émotions « faciles » qui, manque de chance, s’avèrent être les émotions négatives.

L’appât du bit

Plus généralement, dans une conception du monde où il ne suffirait pas que les gens obéissent pour que notre espèce prospère, le behaviorisme n’est pas une doctrine adaptée pour penser la société. Si notre objectif est de favoriser des résultats créatifs et de grande valeur, et non d’encourager des apprentissages mécaniques, alors les récompenses et les punitions ne sont pas du tout des outils appropriés.

Une longue lignée de chercheurs se sont penchés sur cette question, à commencer par Abraham Maslow dans les années 1950, suivi par de nombreux autres, parmi lesquels Mihály Csíkszentmihályi, rejoint par des auteurs comme Daniel Pink. Plutôt que d’appliquer les mécanismes simplistes du behaviorisme, nous devons penser les êtres humains de manière plus créative, si nous attendons d’eux qu’ils soient créatifs à leur tour. Nous devons favoriser la joie, le défi intellectuel, l’originalité, la curiosité, et bien d’autres qualités qui ne rentrent pas dans des cases prédéfinies.

Mais il y a quelque chose dans la rigidité de la technologie numérique, dans la nature binaire du bit, qui attire le mode de pensée behavioriste. La récompense et la punition sont comme le un et le zéro. Ce n’est pas un hasard si B. F. Skinner a joué un rôle de premier plan dans les débuts des réseaux numériques15, qu’il voyait déjà comme un outil idéal pour conditionner les populations et réaliser son projet de société utopique dans lequel nous serions tous, enfin, obéissants et bien éduqués. D’ailleurs, un de ses livres s’intitule Par-delà la liberté et la dignité. Par-delà !

Le terme « engagement » fait partie du langage courant et édulcoré que nous avons inventé pour tenter de dissimuler la stupidité sans nom de la machine que nous avons construite. Il est grand temps de commencer à utiliser des termes comme « addiction » et « modification du comportement ». Voici un autre exemple de langue de bois : nous continuons à appeler les clients des entreprises de réseaux sociaux des « annonceurs ». Pour être tout à fait honnête, la plupart d’entre eux sont vraiment des annonceurs dont le seul objectif est de nous faire acheter une certaine marque de savon, ou de quoi que ce soit d’autre. Cela étant, on trouve aussi parmi eux des crapules à l’identité nébuleuse et aux projets dangereux pour la démocratie. C’est pourquoi je préfère appeler cette catégorie d’individus des manipulateurs.

Toutes mes excuses, chers vendeurs de savon… D’ailleurs, il se trouve que j’ai eu l’occasion de faire la connaissance de nombreux responsables d’entreprises de produits cosmétiques comme Procter & Gamble, et je peux affirmer que ce sont des gens tout à fait respectables dont la tâche serait grandement facilitée s’ils ne devaient pas dépendre des entreprises de réseaux sociaux.

À ses débuts, la publicité sur Internet était juste un nouveau type de publicité. Mais, très vite, les progrès informatiques ont coïncidé avec des incitations économiques incroyablement perverses, comme nous le verrons dans le deuxième chapitre. Ce qui, au départ, n’était rien d’autre que de la publicité s’est transformé en ce qu’il conviendrait d’appeler des « empires de location de machines de modification des comportements ». Cette mutation attire fréquemment de nouveaux types de clients/manipulateurs, et ils font peur à voir.

Hélas, certains résultats sont plus faciles à manipuler que d’autres. On ne peut pas payer les entreprises de réseaux sociaux pour qu’elles mettent fin aux guerres et rendent tout le monde gentil. Les réseaux sociaux sont partiaux, et leur préférence ne va pas vers la gauche ou vers la droite, mais vers le pire. La plus grande facilité avec laquelle les émotions négatives peuvent être utilisées pour rendre les gens dépendants et les manipuler fait qu’il est relativement plus facile d’atteindre des objectifs peu glorieux. Une fâcheuse combinaison de facteurs biologiques et mathématiques favorise la détérioration du monde. Les unités de guerre de l’information font basculer des élections, les groupes de haine recrutent en masse, et les nihilistes bénéficient d’un excellent retour sur investissement dans leur entreprise de destruction de la société.

Le caractère improvisé du passage de la publicité à la manipulation directe des comportements a provoqué une amplification démesurée de la négativité dans les affaires sociétales. Nous aurons l’occasion de revenir à maintes reprises sur la prédominance des émotions négatives dans la modification du comportement lorsque nous aborderons plus en détail les effets personnels, politiques, sociaux et culturels des réseaux sociaux.

Addiction, je te présente l’effet de réseau

L’addiction explique en grande partie pourquoi nous sommes si nombreux à accepter d’être espionnés et manipulés par les technologies de l’information, mais ce n’est pas la seule raison. Les réseaux numériques nous sont d’une réelle utilité. Ils nous permettent de gagner en efficacité et nous simplifient la vie à bien des égards. C’est la raison pour laquelle tant de personnes ont travaillé si dur pour faire en sorte qu’ils deviennent réalité.

Difficile de revenir en arrière lorsque nous sommes habitués à avoir en poche un appareil qui nous permet de commander des chauffeurs personnels, de nous faire livrer des repas ou encore de savoir instantanément où et quand retrouver nos amis. On a tendance à l’oublier, mais les personnes atteintes de maladies rares ne disposaient d’aucun moyen pour entrer en contact avec d’autres malades souffrant des mêmes pathologies, et n’avaient donc personne avec qui échanger sur leurs problèmes. On ne peut que se réjouir que ça soit devenu possible.

Cependant, les réseaux ne sont utiles que lorsque les gens utilisent la même plateforme. Si personne ne voulait être conducteur Uber, cela ne servirait absolument à rien de télécharger l’application. Idem pour une application de rencontres sur laquelle personne ne serait inscrit.

La conséquence malheureuse de ce constat est que, quand une application commence à avoir du succès, les gens se retrouvent prisonniers de celle-ci. Difficile en effet de quitter un réseau social pour en rejoindre un autre lorsque toutes nos connaissances sont déjà sur le premier. Dans la pratique, il serait tout bonnement impossible de faire en sorte que tous les membres d’une société fassent une copie de sauvegarde de leurs données, passent à un autre réseau, et y restaurent leur mémoire tous en même temps.

Les effets de ce type sont appelés effets de réseau, ou plus rarement effets de club. Ils sont difficiles à éviter sur les réseaux numériques.

À l’origine, la plupart de mes confrères qui travaillaient sur la « scalabilité »16 d’Internet espéraient que la chose qui allait rassembler les gens (dans le sens de produire un effet de réseau) serait Internet en tant que tel. Mais un vent de libertarisme soufflait à l’époque, et nous avons décidé de ne pas intégrer de nombreuses fonctionnalités essentielles. Par exemple, nous n’avons pas doté Internet d’un mécanisme intégré pour l’identité personnelle. Chaque ordinateur a son propre numéro de code, mais les gens ne sont pas du tout représentés. De la même manière, Internet en tant que tel ne nous donne pas d’espace, si restreint soit-il, permettant de stocker des informations de manière permanente, de moyen d’effectuer et de recevoir des paiements, ou encore d’outil pour trouver d’autres personnes avec lesquelles nous avons peut-être des choses en commun.

Tout le monde savait que ces fonctionnalités ainsi que de nombreuses autres allaient être nécessaires. Nous estimions qu’il était plus avisé de laisser le soin de combler ces lacunes aux entrepreneurs plutôt qu’au gouvernement. En revanche, nous n’avions pas anticipé que les effets de réseau allaient mener à de nouvelles situations de monopole absolu sur les services répondant aux besoins numériques de base que je viens d’évoquer. Naïvement, nous avons jeté les fondations sur lesquelles bâtir des monopoles mondiaux. Nous avons fait l’essentiel du travail à leur place. À vrai dire, étant donné que l’utilisateur est le produit proposé par les réseaux sociaux et non le client de ceux-ci, il serait plus exact de parler de « monopsones »17. Nos idéaux libertariens des premiers jours ont donc conduit à l’émergence de gargantuesques monopsones sur le marché mondial des données personnelles.

L’impossibilité pratique de passer d’une plateforme à une autre est l’une des principales bonnes raisons de supprimer l’ensemble de nos comptes sur les plateformes actuelles. S’en aller complètement est la seule solution pour provoquer un changement. Si nous ne supprimons pas nos comptes, nous ne laissons pas à la Silicon Valley l’espace dont elle a besoin pour agir et s’améliorer.

Addiction ou libre arbitre, il faut choisir

L’addiction nous transforme progressivement en zombies. Par définition, les zombies sont dépourvus de libre arbitre. Encore une fois, je tiens à préciser que l’effet est statistique et non vérifiable au cas par cas. Dans l’ensemble, nous ressemblons un peu plus à des zombies, et un peu plus souvent, qu’en temps normal.

Inutile de se convaincre de l’existence d’êtres parfaits complètement immunisés contre les addictions. Ces personnes n’existent pas. Nous aurions beau passer notre temps à lire des livres de développement personnel et renoncer totalement à utiliser des services addictifs, nous ne serions jamais parfaits, ni parfaitement libres.

Le libre arbitre absolu n’existe pas. Notre cerveau modifie en permanence son fonctionnement pour s’adapter à un environnement en constante évolution. C’est beaucoup d’efforts à fournir, et il s’épuise à la tâche ! Parfois, il fait une pause, déconnecte et se met en mode pilote automatique. Mais ce n’est pas la même chose que de se laisser conduire par des manipulateurs cachés.

Nous modifions en permanence le comportement des autres, et vice versa. Heureusement, d’ailleurs ! Nous serions des êtres insensibles et froids si nous étions incapables de modifier notre comportement en fonction des réactions des autres. Quand la modification mutuelle du comportement devient positive, il se peut qu’elle ait quelque chose à voir avec ce que nous appelons l’amour.

Le libre arbitre ne doit pas nécessairement être compris comme une intervention surnaturelle du divin dans notre univers. Peut-être que le libre arbitre existe lorsque notre adaptation aux autres et au monde se caractérise par un degré exceptionnel de créativité.

Le problème n’est donc pas la modification du comportement en soi. Le problème est la modification du comportement incessante, robotique et dénuée de sens qui nous est infligée par d’impénétrables algorithmes au service de manipulateurs invisibles.

L’hypnose peut être pratiquée à des fins thérapeutiques par des hypnotiseurs de confiance, mais qui serait prêt à faire confiance à un hypnotiseur qui travaille à la solde de tierces parties inconnues ? Qui ? Apparemment, des milliards de personnes.

Réfléchissons aux milliards de dollars engrangés chaque mois par Facebook, Google et le reste du soi-disant secteur de la publicité numérique. La grande majorité de cet argent provient d’entités qui cherchent à modifier notre comportement, et qui sont convaincues d’obtenir des résultats. La plupart de ces modifications du comportement ont une visée comparable à celle des publicités télévisées, comme nous inciter à acheter une voiture ou à nous rendre dans tel ou tel café.

Paradoxalement, si à certains égards les entreprises de réseaux sociaux nous connaissent mieux que nous nous connaissons nous-mêmes, elles ne sont en revanche pas toujours au fait de l’identité des annonceurs et des entités qui bénéficient de la modification de notre comportement. Par exemple, des avocats d’entreprises du secteur des technologies ont déclaré sous serment que leurs employeurs n’auraient pas pu se douter que les services secrets russes chercheraient à perturber des élections ou à créer des divisions pour affaiblir des sociétés18.

Je pense que les raisonnements paranoïaques sont en général contreproductifs. Ils nous mettent en position de faiblesse. Mais réfléchissons à la situation actuelle. Nous savons que les réseaux sociaux ont été instrumentalisés avec succès pour perturber des sociétés19, et que le prix à payer pour arriver à de tels résultats est incroyablement bas. Nous savons que les entreprises concernées perçoivent des montants faramineux et qu’elles ne connaissent pas toujours l’identité de leurs clients. Nous pouvons donc conclure qu’il existe plus que probablement des acteurs qui nous manipulent, qui vous manipulent personnellement, et qui n’ont pas encore été démasqués.

Pour vous libérer, pour être plus authentique, moins dépendant, moins manipulé, moins paranoïaque… Pour toutes ces merveilleuses raisons, supprimez vos comptes !

Notes

1. https://www.axios.com/sean-parker-unloads-on-facebook-2508036343.html. En français, voir : https://www.lemonde.fr/pixels/article/2017/12/12/d-anciens-cadres-de-facebook-expriment-leur-culpabilite-d-avoir-contribue-a-son-succes_5228538_4408996.html (N.D.T.)

2. https://gizmodo.com/former-facebook-exec-you-don-t-realize-it-but-you-are-1821181133. Je me dois néanmoins de préciser que Palihapitiya est quelque peu revenu sur ses propos dans les jours qui ont suivi son intervention, en déclarant notamment que, selon lui, Facebook faisait dans l’ensemble plus de bien que de tort dans le monde.

3. Littéralement « Foncez et cassez tout sur votre passage ». Voir : https://mashable.com/2014/04/30/facebooks-new-mantra-move-fast-with-stability/. (N.D.T.)

4. Le terme « catfishing » désigne toute utilisation de faux profils en ligne à des fins frauduleuses. Voir la page Wikipédia correspondante, en anglais : https://en.wikipedia.org/wiki/Catfishing. (N.D.T.)

5. La détermination du délai optimal n’est qu’un exemple parmi d’autres. Absolument toutes les décisions qui façonnent notre expérience sur les réseaux sociaux sont constamment optimisées sur la base de principes similaires. Tristan Harris, ancien employé de Google, a répertorié d’autres exemples de décisions de ce type, allant de la manière dont des options en tous genres nous sont présentées à la façon dont nous pouvons cliquer sur ces options, en passant par des techniques consistant à nous présenter des options en tandem avec d’autres personnes. Je vous invite à consulter ses articles, notamment celui intitulé « How technology Hijacks People’s Minds » (« Comment la technologie s’empare de l’esprit des gens »), sur son site Internet : http://www.tristanharris.com/.

6. Les mathématiciens se représentent souvent ce processus comme un algorithme qui ramperait dans un « paysage énergétique » imaginaire. Chaque position dans le paysage correspond à un certain réglage des paramètres, de telle sorte qu’en rampant métaphoriquement dans le paysage, l’algorithme explore différents réglages des paramètres. Le réglage des cinq secondes correspondrait à une vallée dans laquelle l’algorithme se serait installé. Dans cette représentation, une position plus profonde est synonyme de mieux, car elle demande moins d’énergie ; on pourrait aussi imaginer que l’algorithme creuse de plus en plus profondément, vers des gisements d’or. Dans ce monde imaginaire, le réglage des deux secondes et demie serait une autre vallée, plus profonde, que l’algorithme serait incapable de rejoindre en ne faisant que des petits pas, car il retomberait à chaque fois dans le creux de la vallée des cinq secondes. La seule manière de rejoindre la vallée la plus profonde est d’être forcé de faire un grand bond dans l’inconnu.

7. https://link.springer.com/article/10.1007%2Fs10899-015-9525-2

8. Oui, ce titre fait bien référence à une pièce de Jean-Paul Sartre.

9. http://people.hss.caltech.edu/~lyariv/papers/DarkSide1.pdf

10. http://esciencenews.com/articles/2008/09/25/from.12.years.onward.you.learn.differently

11. https://source.wustl.edu/2015/05/carrot-or-stick-punishments-may-guide-behavior-more-effectively-than-rewards/

12. https://hbr.org/2017/09/what-motivates-employees-more-rewards-or-punishments

13. http://onlinelibrary.wiley.com/doi/10.1002/job.725/pdf

14. https://repositories.lib.utexas.edu/handle/2152/24850

15. http://friendlyorangeglow.com/

16. La « scalabilité » est un terme utilisé dans la Silicon Valley pour désigner la capacité à rendre quelque chose gigantesque. Je m’inclus dans ce groupe, car j’occupais dans les années 1990 le poste de directeur scientifique du bureau d’étude d’Internet2, le consortium d’universités chargé de trouver une solution pour garantir le bon fonctionnement d’Internet alors que celui-ci s’apprêtait à prendre des proportions gigantesques.

17. Un monopole est une situation dans laquelle il n’y a qu’un vendeur, tandis qu’un monopsone est une situation dans laquelle il n’y a qu’un acheteur. On pourrait considérer que les systèmes d’exploitation pour smartphone iOS et Android constituent un duopole, car ils sont concrètement les seuls canaux d’accès aux applications pour smartphone, mais on pourrait aussi dire qu’ils sont un duopsone, car tout l’argent qui circule sur le marché des applications doit forcément passer par eux.

18. https://www.washingtonpost.com/news/the-switch/wp/2017/10/31/facebook-google-and-twitter-are-set-to-testify-on-capitol-hill-heres-what-to-expect/

19. https://thestrategybridge.org/the-bridge/2017/5/10/how-russia-weaponized-social-media-in-crimea

Ouvrage original :
Ten Arguments for Deleting Your Social Media Accounts Right Now by Jaron Lanier
© Jaron Lanier 2018
All rights reserved.

Pour toute information sur notre fonds et nos nouveautés, consultez notre site web :

www.deboecksuperieur.com

En couverture : Jaron Lanier © John Naughton
Couverture : cerise.be

© De Boeck Supérieur s.a., 2020
Rue du Bosquet, 7 – B-1348 Louvain-la-Neuve

« Cette œuvre est protégée par le droit d’auteur et strictement réservée à l’usage privé du client. Toute reproduction ou diffusion au profit de tiers, à titre gratuit ou onéreux, de tout ou partie de cette œuvre, est strictement interdite et constitue une contrefaçon prévue par les articles L 335-2 et suivants du Code de la Propriété Intellectuelle. L’éditeur se réserve le droit de poursuivre toute atteinte à ses droits de propriété intellectuelle devant les juridictions civiles ou pénales. »

Ce document numérique a été réalisé par PCA