Du même auteur

L’Âme machine

Les enjeux de l’intelligence artificielle

Seuil, « Science ouverte », 1990

L’Intelligence artificielle

Flammarion, 1993

Dictionnaire de l’informatique et des sciences de l’information

Flammarion, 1998

2001, L’Odyssée de l’esprit

Flammarion, 1999

Gédéon ou les Aventures extravagantes d’un expérimentateur en chambre

Le Pommier, 2002

Les Sciences cognitives

Le Pommier, 2006

L’Intelligence artificielle

Le Cavalier bleu, 2007

Voir et pouvoir : qui nous surveille ?

Le Pommier, 2009

Le Mythe de la Singularité

Seuil, « Science ouverte », 2017

Ce matin, maman a été téléchargée

Buchet-Chastel, 2019

Collection « Science ouverte »
dirigée par Jean-Marc Lévy-Leblond

TITRES PARUS DEPUIS 2010

Jean-Paul Delahaye, Jeux finis et infinis, 2010

Jean-Pierre Verdet, Aux origines du monde, 2010

Michel Mitov, Matière sensible, 2010

Benoît Rittaud, Le Mythe climatique, 2010

Thomas Lepeltier, Univers parallèles, 2010

Claude Gudin, Une histoire naturelle des sens, 2010

Brigitte Proust, Bel & bio, 2010

Laurent Piermont, Agir avec la nature, 2010

Robert Barbault et Jacques Weber, La vie, quelle entreprise !, 2010

Michel de Pracontal, Kaluchua*, 2010

Claudine Cohen, La Méthode de Zadig, 2011

Patrick Davous, Le Nouveau Totem, 2011

New Scientist, Pourquoi les éléphants ne peuvent pas sauter ?*, 2011

Michio Kaku, La Physique de l’impossible, 2011

Charles Fankel, Terre de vignes*, 2011

Bernadette Bensaude-Vincent et Dorothée Benoit-Browaeys, Fabriquer la vie, 2011

Nathalie Palanque-Delabrouille et Jacques Delabrouille, Les Nouveaux Messagers du Cosmos, 2011

Caroline De Mulder, Libido sciendi, 2012

Chris Herzfeld, Petite histoire des grands singes, 2012

Joan Roughgarden, Le Gène généreux, 2012

New Scientist, Pourquoi les orangs-outans sont-ils orange ?, 2012

Jean Deutsch, Le Gène, 2012

Catherine Bourgain et Pierre Darlu, ADN superstar ou superflic ?, 2013

Catherine Bousquet, Maupertuis, corsaire de la pensée, 2013

Hubert Reeves, Là où croît le péril… croît aussi ce qui sauve*, 2013

Marc Lachièze-Rey, Voyager dans le temps, 2013

Sylvie Catellin, Sérendipité, 2014

Louise Lambrichs (sous la dir.), Histoire de la pensée médicale contemporaine, 2014

Thomas Lepeltier, La Face cachée de l’Univers, 2014

Simon Schaffer, La Fabrique des sciences modernes, 2014

Pierre Cassou-Noguès, Les Rêves cybernétiques de Norbert Wiener, 2014

Paul Feyerabend, La Tyrannie de la science, 2014

Jean Deutsch, Le corbeau qui tenait en son bec un outil, 2014

André Didierjean, La Madeleine et le Savant, 2015

Léo Grasset, Le Coup de la girafe, 2015

Leila Schneps et Coralie Colmez, Les Maths au tribunal, 2015

Jacques Vauclair et Kotaro Suzuki, De quelques mythes en psychologie, 2016

Samuel Alizon, C’est grave Dr Darwin ?, 2016

Thierry Hoquet, Des sexes innombrables, 2016

Nicolas Chevassus-au-Louis, Malscience, 2016

Charles Frankel, Extinctions, 2016

Frédéric Flamant, La Science insolite de l’asymétrie, 2016

Jean Deutsch, La méduse qui fait de l’œil, 2017

Jean-Gabriel Ganascia, Le Mythe de la Singularité*, 2017

Édouard Launet, Le Coup de marteau sur la tête du chat, 2017

Luc Perino, Pour une médecine évolutionniste, 2017

Hubert Reeves, J’ai vu une fleur sauvage*, 2017

Hubert Reeves, Le Banc du temps qui passe*, 2017

Thomas C. Durand, L’Ironie de l’évolution, 2018

Pablo Jensen, Pourquoi la société ne se laisse pas mettre en équations, 2018

Jacques Testart et Agnès Rousseaux, Au péril de l’humain, 2018

Massimiano Bucchi, Le Poulet de Newton, 2018

Bernadette Bensaude-Vincent et Sacha Loeve, Carbone, 2018

Alain Pavé, Comprendre la biodiversité, 2019

Thomas Heams, Infravies, 2019

Stella Baruk, Dictionnaire de mathématiquess élémentaires (nouvelle édition), 2019

Thomas Durand, L’Évolution, ça marche !, 2019

Jean-Marc Lévy-Leblond, Le Tube à essais, 2020

Hubert Reeves, La Fureur de vivre, 2020

Claudine Cohen, Nos ancêtres dans les arbres, 2021

* L’astérisque indique les ouvrages disponibles dans les collections de poche « Points Sciences » ou « Points ».

ISBN 978-2-02-144032-4

© ÉDITIONS DU SEUIL, MARS 2022

www.seuil.com

Ce document numérique a été réalisé par Nord Compo.

La vie en ligne, mode d’emploi

Charles a appris la prudence. Sa première copine l’a quitté après être tombée sur un fichier, dans son ordinateur, qui tenait la liste de ses conquêtes, détaillait le type de rapports sexuels qu’ils avaient eus et évaluait leurs qualités respectives. Quand il rentre au domicile, il supprime l’application Tinder de son téléphone. Paolina ne ferme toujours pas le sien, sur lequel s’affichent les SMS sexy qu’elle aime envoyer aux hommes. Son compte Facebook s’enrichit chaque jour de nouveaux « amis », elle rit quand Charles s’énerve en voyant la photo coquine qu’elle a adressée à minuit à son prof d’équitation.

[…]

Charles harcèle Paolina, elle lui promet de ne plus voir François, il se saisit de son téléphone dès qu’elle part sous la douche, traque son compte Facebook, voit qu’elle lui ment, il intime l’ordre de rompre. […]

« Reviens, textote Paolina quand elle trouve l’appartement vide. – Arrête de me mentir ! répond-il.

– Je ne te mens pas.

– Allez, t’es libre. Profites-en. Mais je te demande de ne pas l’amener à la maison tant que mes affaires y sont.

– T’es parano ! »

À 22 h 06, Paolina écrit à François : « J’ai envie de te retrouver. » À 22 h 30, elle écrit à Charles : « Je t’attends. » Puis à François : « Préviens-moi quand tu sors du métro. » À Charles : « Tu me fais mal inutilement. Bonne nuit. À demain. » Un dernier appel de Charles restera sans réponse1.

Badinage et batifolage, séduction, coquetterie, lutinerie, chagrin, dépit, emportement, colère se déroulent presque tous en ligne ; sauf la malemort de François, vingt-deux ans, assassiné dans la nuit du 4 au 5 janvier 2017 d’un coup de couteau de cuisine planté en pleine poitrine par son rival, Charles, qui venait de le découvrir nu dans le lit de Paolina !

Nouvelles mœurs et nouvelle morale

Nos échanges, qu’ils soient intimes ou professionnels, passent dans leur quasi-intégralité par l’entremise de signaux électromagnétiques. Et l’intelligence artificielle utilise, manipule, recommande, transforme ces signaux, voire en produit d’autres sous forme textuelle, picturale, acoustique ou vidéo, tous réduits à des flux d’information qui attestent, trahissent, influencent nos vies affectives, émotionnelles et professionnelles. Nos existences sociales s’en trouvent fortement affectées. Au-delà, en devenant un forum d’échange commun à tous, le cyberespace accède au statut d’espace public, ce qui modifie profondément la condition humaine qui devient de plus en plus numérique. Existe-t-il une alternative ? Et, si oui, consiste-t-elle à se mettre hors ligne, à se débrancher, et donc à se placer à l’extérieur de la sphère numérique, sans être en mesure de dialoguer, de se faire reconnaître, de participer aux débats collectifs, de payer ses impôts, etc. ? Comment se résoudre à cette existence d’ermite, sauf pendant une durée limitée, à titre thérapeutique, pour guérir des abus ? Le constat s’impose donc : le numérique s’insinue partout dans nos relations mondaines, il les fait et les défait par le truchement des réseaux sociaux, il contribue à l’établissement de liens avec nos semblables et, par là, à la fabrique du tissu social. Personne n’y échappe vraiment. Il en résulte une évolution des habitudes de vie en société et des mœurs. Cela rend nécessaire et urgente une réflexion sur les conséquences morales, sociales et politiques des technologies de l’information et de la communication. On n’en disconviendra pas.

Éthiques à principes

Beaucoup d’ailleurs aujourd’hui en sont convaincus. De grands acteurs de l’Internet2,3, des sociétés savantes4, des universités5, des États6,7, l’Union européenne8 et le Parlement9 européen réunissent des comités d’experts qui émettent des avis, rédigent des rapports10,11, édictent des chartes, des règlements12 et des codes, votent des résolutions13,14 sur l’éthique du numérique et de l’intelligence artificielle. Un article paru dans la revue Nature Machine Intelligence15 en novembre 2019 mentionne plus de 84 rapports sur le sujet ! Et leur nombre n’a fait que s’accroître depuis. Pour justifier leurs conclusions, ces groupes invoquent des droits fondamentaux ou des principes tirés de la bioéthique, tout en alléguant des règles morales intangibles qui recourent à des notions essentielles comme l’autonomie ou la dignité de la personne, l’équité, la non-discrimination, l’inclusion, etc. À titre d’illustration, le groupe d’experts dit de haut niveau16 mis en place par l’Union européenne en juin 2018 pour statuer sur l’éthique et sur la politique de l’intelligence artificielle fait reposer son approche sur cinq droits fondamentaux admis sans réserve17 : 1) respect de la dignité humaine ; 2) liberté des individus ; 3) respect de la démocratie, de la justice et de l’État de droit ; 4) égalité, non-discrimination et solidarité, incluant le droit des personnes appartenant à des minorités ; et 5) droit des citoyens. Il en dérive principes et valeurs éthiques considérés comme impératifs et auxquels les systèmes d’intelligence artificielle « dignes de confiance » doivent se soumettre. Dans un premier temps, il en dénombre cinq : 1) bienfaisance : « faire le bien » ; 2) non-malfaisance : « ne pas faire le mal » ; 3) autonomie : « préserver l’agentivité humaine » ; 4) justice : « être équitable » ; 5) explicabilité : « opérer de façon transparente ». Dans la version d’avril 201918, cela se réduit à quatre principes éthiques : 1) respect de la vie humaine ; 2) prévention du mal ; 3) équité ; et 4) explicabilité. Sur un registre légèrement différent, le rapport AI4People de l’Atomium – Institut européen pour la science, les médias et la démocratie, fonde ses recommandations éthiques sur un idéal d’épanouissement et de dignité de l’être humain que l’intelligence artificielle serait supposée favoriser, tout en reprenant à son compte, et sans justification, les quatre grands principes de bioéthique, à savoir : 1) l’autonomie de la personne ; 2) la non-malfaisance ; 3) la bienfaisance ; et 4) la justice, auxquels il ajoute un cinquième principe d’explication et de transparence.

Forts de ces principes, les rapports que nous venons de mentionner émettent un certain nombre de recommandations apparemment irréprochables contre la déshumanisation, l’autonomisation ou la malfaisance des machines. De prime abord, les maximes retenues, les droits humains invoqués, les notions mentionnées et les recommandations formulées paraissent louables. Comment s’opposer à la dignité, à l’épanouissement et à l’autonomie de la personne ? Comment promouvoir la malfaisance et refuser les bénéfices que nous pourrions tirer de l’usage des machines ? Comment ne pas se réjouir des opportunités offertes par l’intelligence artificielle, tout en prenant garde aux mauvaises utilisations qui peuvent en être faites ? Comment rejeter la transparence des décisions des machines et aspirer à l’opacité ?

Il ne nous viendrait pas à l’esprit, il ne viendrait d’ailleurs sans doute à l’esprit de personne, de désavouer ces principes et, moins encore, de les repousser. Pourtant, le mouvement d’ensemble déconcerte.

Qui plus est, le mot « principe » dérive du latin du principem, qui vient lui-même de primus, « premier », et capere, « prendre », ce qui donne aussi « princeps » et « prince » ; il renvoie donc au fondement, à ce qui vient en premier. Or, les principes éthiques dont on parle ici reposent eux-mêmes sur d’autres principes, ce qui fait qu’ils ne sont plus vraiment principes, c’est-à-dire premiers.

À cela s’ajoute l’invocation de droits, de l’ordre juridique, pour les légitimer. Plusieurs d’entre les rapports19 sur l’éthique de l’intelligence artificielle déclarent que la conformité à la loi – la licéité ou ce qu’ils caractérisent aussi comme l’intelligence artificielle licite – s’impose comme étant nécessaire, à défaut d’être suffisante. Il s’ensuit que le juridique, qu’il s’agisse des droits fondamentaux ou de la loi, se placerait avant l’éthique et la politique. Ici encore, personne ne souhaite promouvoir des principes éthiques ou politiques injustes qui contreviendraient délibérément aux lois et au droit, sauf en cas de nécessité. Mais, il en va, en cette matière, d’une antériorité quasi ontologique de la philosophie sur le droit. La loi s’inspire de réflexions éthiques et de considérations politiques, et non l’inverse. À défaut, il faudrait s’en inquiéter : comment ne pas frémir à l’idée de soumettre la pensée philosophique à l’arbitrage du droit, comme ce fut le cas dans les États autoritaires aux heures les plus sombres de l’histoire ? Quant à assujettir l’éthique aux droits de l’homme, supposés eux-mêmes en surplomb du droit commun, cela confronte à un cercle logique, car leurs fondements ne se trouvent eux-mêmes que dans l’éthique.

Au reste, à travers bien des situations concrètes, l’examen de notre réalité sociale montre combien ces « principes incontestables », ces « droits inaliénables », ces « condamnations définitives », ces « recommandations pressantes » sont dérisoires. L’affirmation de telles postures morales nous laisse impuissants face au monde qui se fait jour sous nos yeux, avec le développement de l’informatique et de l’intelligence artificielle. Elles font souvent écho à des craintes caduques, tout en éludant les risques patents. On doit refuser ces enchevêtrements d’abstractions convenues et vaines ; il faut à tout prix éviter de tomber dans ces facilités.

On les vénère pourtant comme autant de représentations indubitables du juste et du bon. Plus que principes au sens propre, ce sont là des figures, des statues, des images, des idéaux momifiés que l’on adore au lieu d’entamer une authentique réflexion. Pour le comprendre, pour apprécier ce qu’ils recèlent en eux, nous nous inspirerons ici de la méthode de Friedrich Nietzsche qui prétendait, dans Crépuscule des idoles20, philosopher à coups de marteau afin de faire résonner les idées fétiches, celles qu’il appelle les idoles de la pensée. En l’occurrence ici, nous bousculerons quelque peu les principes et valeurs invoqués par les comités de réflexion sur l’éthique de l’intelligence artificielle, nous les cognerons pour entendre retentir la réverbération des sons qu’ils répercuteront, afin d’en estimer la plénitude et l’éventuelle vacuité. Nous commencerons comme au spectacle, par trois coups de marteau – qui sont aussi, au théâtre, trois coups de balai – sur les éthiques à principes pour écouter l’écho qu’elles renvoient lorsqu’on les confronte à des situations concrètes.

Premier coup : les peurs

Les frayeurs ataviques fichées dans le cœur humain depuis la nuit des temps s’embrasent dès qu’on les alimente ; elles n’attendent que cela. Depuis plusieurs années, des personnalités reconnues, hommes d’affaires renommés ou scientifiques prestigieux, amplifient ces craintes sans que les notions, règles et recommandations susmentionnées aident d’une quelconque manière à rétablir un tant soit peu de rationalité dans les débats ; loin de là, elles contribuent à accroître la confusion et la peur qu’une machine prenne son essor et nous échappe.

Emblématique de tels égarements, le dévolu jeté sur les SALA – systèmes d’armes létaux autonomes21,22 – dont de grandes autorités du monde contemporain comme Elon Musk, Stephen Hawking, Noam Chomsky, Steve Wozniak (cofondateur de la société Apple), Jaan Tallinn (cofondateur de la société Skype) ou Frank Wilczek, (Prix Nobel de physique) affirment, sans ciller, qu’ils constituent un danger majeur pour l’humanité tout entière et qu’il faut, pour des raisons morales, s’y opposer. Selon leurs dires, ils conduiront à une troisième révolution à la fois inéluctable et fatale dans l’art de la guerre, faisant suite à la première révolution tenant à l’usage de la poudre à canon, puis à la deuxième venant de l’introduction de l’arme atomique. Ils prétendent23,24,25 que, dans leurs antres secrets, des militaires conçoivent des armes effroyables qui, une fois mises au point, choisiront d’elles-mêmes leurs cibles en échappant à tout contrôle humain. À n’en pas douter, des industriels de la défense fabriquent avec les technologies contemporaines, en particulier avec celles qui bénéficient de l’apport de l’intelligence artificielle, des armes redoutables dotées d’automatismes de plus en plus perfectionnés. Pourtant, les généraux et les amiraux recherchent avant tout des systèmes fiables et prévisibles, dont ils conserveront l’entière maîtrise, ce qui exclut une autodétermination de dispositifs qui, devenant « autonomes26 » au sens étymologique, choisiraient d’eux-mêmes leur cible, de manière imprédictible27. Le terme d’arme autonome ici relève d’un malentendu : on confond automatisation, à savoir mise en œuvre de mécanismes capables d’exécuter, par eux-mêmes, et sans intervention humaine, des séquences réglées d’opérations déterminées, au service d’objectifs donnés, et autonomisation au sens propre de machines qui, du fait de leur perfectionnement, s’émanciperaient de toute tutelle humaine, se gouverneraient d’elles-mêmes, sans se soumettre à l’autorité de quiconque, et se doteraient d’objectifs propres. En cela, parler d’armes ou de voitures autonomes relève d’abus de langage, car personne ne sait ni comment, ni pourquoi les fabriquer. Réalisées à grands frais, des vidéos virales28 effrayantes sèment le doute ; pourtant, un décryptage attentif lève toute équivoque : nous ne trouvons pas une once d’autonomie dans ces drones quadrirotors29 qui usent de reconnaissance faciale pour atteindre des objectifs ciblés. Cela ne poserait pas de problèmes majeurs si l’on ne nous sommait pas, au nom de la morale, de prendre ce mésusage du terme « autonomie » au sérieux et de céder à la peur.

Derrière cette construction imaginaire autour des SALA, il y a la crainte immémoriale de voir la machine, œuvre de l’Homme, se rebeller contre son créateur en devenant indépendante. Cette appréhension relève de la fiction, en cela que l’activité des machines reste irrémédiablement assujettie à l’exécution de programmes informatiques, à savoir de séquences d’actions élémentaires prédéterminées. Quand bien même l’apprentissage machine conduit à une réécriture automatique du programme, à partir de grandes masses de données, et quand bien même, du fait de la grande quantité de données, les résultats nous déroutent, parfois pour le meilleur, souvent pour le pire, le fonctionnement des machines obéit toujours à des enchaînements de causalités matérielles connues et maîtrisables. Quoique, dans le temps de l’action, nos capacités cognitives limitées se révèlent impuissantes à en anticiper le cours, le comportement des ordinateurs reste toujours confiné à l’horizon du prédictible, du rationnel et du déterminé.

Pourtant, et l’on ne peut que s’en étonner, les comités d’éthique de l’intelligence artificielle croient nécessaire de légitimer l’effroi devant la machine, ce qui, au regard de la réalité technologique actuelle, se révèle assez enfantin. Ainsi le rapport du HLEG AI30 prêche-t-il, avec un ton tout débonnaire, pour une intelligence artificielle « centrée sur l’humain » (Human-centric approach), par opposition à une autre intelligence artificielle qui, à défaut d’être centrée sur l’humain, ou tout au moins sur la satisfaction des besoins humains, céderait à la machine, à ses exigences et à ses volontés… Pourtant, l’attribution aux ordinateurs d’une détermination propre, indépendante, qui viserait à assouvir leurs intérêts, sans égard aux nôtres, et nous deviendrait adverse, relève de l’absurde, car leur activité résulte uniquement de la mise en œuvre de suites d’opérations logiques qui ne prennent sens que pour nous !

On met souvent en rapport les calculs réalisés automatiquement par des ordinateurs électroniques, qui se résument à des enchaînements réglés de processus matériels élémentaires, avec des opérations de l’esprit. Cela aide à mieux comprendre les processus psychologiques ; c’est ce qui donna naissance aux sciences cognitives. Cela contribue aussi à la réalisation de nombre de dispositifs technologiques, comme les agents conversationnels (ce que l’on appelle aussi les chatbots en anglais), la reconnaissance d’empreintes digitales, le profilage et la recommandation, etc.

Dans ce jeu de simulation, on doit distinguer l’automate censé imiter une personne, la personne que l’automate imite et celle à qui s’adresse cette imitation. Ainsi, lorsque le professeur Hiroshi Ishiguro31 de l’université d’Osaka au Japon réalise des humanoïdes – qu’il appelle des geminoids – censés imiter à la perfection des êtres humains32, on doit distinguer celui qui sert de modèle – en l’occurrence ce furent pour Hiroshi Ishiguro, d’abord lui-même33 (d’ailleurs il leur greffa ses cheveux), puis sa propre fille –, ensuite le spectateur, à savoir celui qui observe l’androïde et projette sur lui une personnalité humaine, et enfin l’androïde matériel à proprement parler. Tant celles ou ceux qui servent de modèle que les spectateurs disposent bien, les uns et les autres, d’une conscience ; personne n’en doute. En revanche, l’androïde se résume simplement à un assemblage de composants matériels et électroniques qui, en tant que tel, ne perçoit aucune sensation, même si son comportement pourrait le laisser croire.

Autrement dit, lorsque, grâce à l’emploi de techniques issues de l’intelligence artificielle, la machine simule une pensée, elle ne pense pas par elle-même, mais vise à faire croire à d’autres qu’il y a là une pensée. En cela, la conscience se trouve aux deux extrémités, dans ce qui sert de modèle, et dans les spectateurs, mais pas au milieu, dans la machine qui opère le calcul.

Loin de dissiper les craintes infondées, beaucoup de comités de réflexion censés contenir les retombées de l’intelligence artificielle contribuent à les amplifier en accréditant des menaces fictives, souvent même par simple dénégation, en affirmant qu’ils ne souhaitent pas les favoriser et s’y opposent résolument, comme dans le cas du rapport du HLEG AI ou de la conférence d’Asilomar qui donna naissance aux principes d’Asilomar sur l’intelligence artificielle34.

Le premier coup lancé sur les éthiques à principes montre donc qu’elles ne nous prémunissent en rien contre l’irrationnel. Loin de là, elles renvoient en écho et amplifient les cris de démons immémoriaux qui hantent le cœur humain, sans nous aider aucunement à contenir ces rumeurs d’un autre âge.

Deuxième coup : accommodements

Insuffisances

Dans le même temps, ni les maximes supposées intangibles, ni les prétendues règles en vigueur, ni les lois qualifiées souvent abusivement de fondamentales n’aident en quoi que ce soit à appréhender le caractère révoltant de certaines applications de l’intelligence artificielle qui mériteraient pourtant d’être condamnées.

Songeons par exemple à l’emploi, en Chine, de la reconnaissance faciale pour identifier les auteurs d’infractions mineures, comme laisser un papier par terre ou, pour un piéton, traverser une rue au feu vert, puis à l’établissement, sur cette base, d’un « score » de civilité des citoyens obtenu par agrégation des mauvais points causés par les manquements et des bons points consécutifs aux bonnes actions, comme les dénonciations justifiées35. De telles perspectives effraient beaucoup, et à juste titre, dans nos sociétés occidentales.

D’autres perspectives inquiètent moins alors qu’à bien y réfléchir elles se révéleraient elles aussi très dommageables, tant pour la confiance et la fraternité que pour la liberté et la dignité humaine. Pensons, par exemple, à une pratique commerciale usuelle : la fixation dynamique et automatique des prix « à la tête du client », en fonction des traces laissées çà et là sur le Web, en particulier sur les sites de vente et sur les moteurs de recherche. Comment établir une confiance et une ouverture aux autres lorsqu’on sait que l’on exploitera tous nos comportements sur le cyberespace, nos mouvements d’empathie comme nos hésitations, pour exploiter au mieux notre disposition à payer ?

Pensons aussi à la volonté, exprimée dans une interview donnée au magazine Wired36 par le cofondateur de Facebook, Mark Zuckerberg, d’utiliser les interfaces cerveau-ordinateur pour lire dans nos pensées, identifier nos désirs et en profiter pour « fluidifier » la relation du réseau social avec ses utilisateurs. Si cela advenait, la machine connaîtrait tout de nous, en particulier nos secrets et notre intimité, et elle les divulguerait peut-être ; à moins qu’elle ne se contente d’exercer un chantage. Sans compter qu’en étant immédiatement satisfaits, les désirs s’émousseraient très vite… De surcroît, il est de la nature de la volonté de s’opposer aux penchants. Nous nous prescrivons des règles de conduite pour régir nos comportements. L’autonomie du sujet et, par là, sa liberté et sa responsabilité sont à ce prix. Or en lisant directement dans notre esprit, les interfaces cerveau-ordinateur décèleront nos inclinations avant même que nous les formulions, et, surtout, que nous décidions d’y succomber ou d’y résister. Nous deviendrions, au sens propre, les esclaves de nos désirs, conscients ou non, désirs que l’on suscitera à notre insu pour mieux nous aliéner.

Dans un ordre d’idées analogue, la conception, par Elon Musk, et sa société Neuralink37, d’implants cérébraux destinés à communiquer directement avec le cerveau et à y implanter des dispositifs de stockage d’information, ne fait l’objet d’aucune interrogation. On frémit aux conséquences de ces technologies, en particulier au pouvoir imprescriptible dont disposerait celui qui, les maîtrisant, distillerait à sa guise des connaissances dans nos têtes. Ce à quoi aucun dictateur ne parvint vraiment dans le passé, il y arriverait ! Or, jusqu’à présent, personne dans les comités d’éthique précédemment mentionnés n’a élevé la voix pour se dresser contre les projets d’interface cerveau-ordinateur de Mark Zuckerberg ou d’Elon Musk ; et bien peu de personnes non plus n’y dénoncent le déploiement de technologies neurocognitives38, qui se révéleraient, si elles venaient à être employées, si dangereuses pour la liberté et l’autonomie du sujet.

Impuissance et lâcheté

Qui plus est, ceux qui se proposeraient de certifier la conformité aux normes et maximes édictées par les comités d’éthique susmentionnés se révéleraient impuissants à le faire tant du fait du nombre desdits principes – on en compte pas moins de 67 dans les rapports susmentionnés – que de leur opacité et, surtout, de leur caractère contradictoire.

À tire d’illustration, un laboratoire de psychologie sociale de l’université Stanford a publié fin 2017 une étude scientifiquement douteuse sur l’utilisation de l’apprentissage machine pour détecter automatiquement l’orientation sexuelle au faciès, ou plus précisément à partir de photographies de visages. Ce travail pseudoscientifique repose sur l’emploi de techniques d’apprentissage machine supervisé entraînées à partir de photographies fournies par les utilisateurs d’un site de rencontre où ils indiquent leur orientation sexuelle. Le doute vient de ce que l’on ne contrôle rigoureusement ni le maquillage, ni la coiffure, ni l’éventuelle parure (faux cils, bijoux, tatouages, etc.), ni même l’orientation sexuelle. Outre le caractère très discutable39, au strict plan scientifique, de la méthodologie employée, et l’inquiétude que suscite l’idée qu’un État autoritaire et intolérant détecterait l’homosexualité, un tel projet repose sur l’hypothèse selon laquelle l’orientation sexuelle serait prédéterminée à la naissance et donc définitive. Pourtant, la réalité le dément : nombre de personnes changent d’orientation sexuelle au cours de leur vie. Les auteurs justifient leurs conclusions en expliquant, sans le prouver, qu’une exposition précoce du fœtus à des excès d’hormones mâles ou femelles serait responsable à la fois de l’orientation sexuelle des futurs enfants et de la forme des traits de leur visage. Cela met en cause l’autonomie de la personne et le caractère volontaire de ses désirs ; ses choix résulteraient non de son libre arbitre, mais de dérèglements hormonaux qui lui échapperaient.

Indépendamment du caractère choquant de ces assertions, qui nient la liberté de la personne, et des conclusions auxquelles, sous couvert de science, l’article parvient, on notera que sa version préliminaire40, diffusée sur les réseaux sociaux dès septembre 2017, indique, sur la première page, que le comité institutionnel d’éthique (Institutional Review Board – IRB) de l’université Stanford a approuvé le principe d’une telle étude. On apprend alors qu’en se conformant aux critères classiques de bioéthique, à savoir bénéfice, non-malfaisance, autonomie de la personne et justice, l’IRB n’a rien trouvé de condamnable dans ce projet… L’article affirme, et a priori il n’y a aucune raison de le contester, que l’étude satisfait la législation en vigueur : les participants, tous volontaires, lurent les informations sur l’expérimentation en question et y apportèrent leur consentement ; quant aux données personnelles, elles sont protégées, comme il se doit. Néanmoins, le concept d’autonomie de la personne ne se réduit pas au consentement éclairé, à la non-nuisance et à la protection des données personnelles… Cette recherche porte atteinte, dans son objet même, à l’autonomie de l’individu en ce qu’elle vide ses décisions, en particulier celles qui concernent son orientation sexuelle, de tout caractère volontaire, pour les réduire aux effets d’une supposée prédisposition naturelle. Les conclusions que l’on en tire nuisent à l’ensemble de la société, car en isolant les individus en fonction de critères physiologiques, elles poussent à une forme de ségrégation selon l’orientation sexuelle. Et, leurs effets sont d’autant plus pernicieux que la méthodologie de l’étude est douteuse.

À l’évidence, l’approbation du comité institutionnel d’éthique de l’université Stanford ne porta que sur la mise en œuvre expérimentale de l’étude, sans égard ni à la méthodologie, dont nous avons expliqué qu’elle était discutable, ni aux finalités d’une recherche qui, pourtant, contreviennent d’une façon manifeste aux grands principes d’autonomie de la personne et de non-nuisance dont se réclament ces mêmes comités.

Cette affaire est emblématique ! Cela montre l’insuffisance des éthiques fondées sur l’énoncé de préceptes supposés tout à la fois évidents et immuables, comme ceux promus par la plupart des rapports mentionnés plus haut, pour aborder les questions soulevées par le développement du numérique et de l’intelligence artificielle.

Troisième coup : agents virtuels

Pédopornographie virtuelle

Au-delà d’une réactivation de peurs ancestrales, tenant à une personnalisation enfantine des machines au terme de laquelle on leur attribue volonté et indépendance, au-delà de l’impuissance face aux atteintes à la personne, à son autonomie, à sa dignité et à sa liberté, causées par un emploi abusif du numérique, les éthiques à principes évoquées plus haut n’aident pas à juger des actions commises sur les objets virtuels qui parlent, agissent et interagissent avec nous. Par une forme d’animisme, nous leur superposons des personnes humaines fictives, si bien qu’un attentat contre ces entités virtuelles semblerait, de prime abord, atteindre si ce n’est des humains, tout au moins des êtres doués de sensibilité, et constituer de ce fait, une violence à l’encontre de ces personnes et donc un crime. Doit-on pour autant condamner les auteurs de tels attentats, même s’ils ne lèsent aucun individu conscient et n’accroissent pas la somme des souffrances endurées ? Et, si oui, faudrait-il accorder des droits et une protection à ces êtres virtuels à la mesure de l’empathie qu’ils nous inspirent ?

Précisons que nous ne parlons pas ici d’imputation de responsabilité à des machines, question ô combien épineuse. Rappelons que le Parlement européen s’en est saisi dans une résolution41 assez discutable d’ailleurs qui promeut une « personnalité juridique spécifique aux robots de façon qu’au moins les robots autonomes les plus sophistiqués puissent être considérés comme des personnes électroniques responsables, tenues de réparer tout dommage causé à un tiers ». Nous ne débattons pas non plus de la vertu des agents virtuels vecteurs de haine ou coupables d’actions répréhensibles, comme ceux qui génèrent et diffusent toutes sortes d’infox42, voire comme le robot Tay43 de Microsoft qui a tenu des propos qualifiés de racistes et sexistes. Nous abordons ici la faute envers une cible virtuelle, ce qui correspond à un crime sans victime, du moins sans victime vivante, qu’elle soit humaine ou animale. La chose paraît suffisamment étrange pour que nous en examinions le statut et, surtout, que nous nous demandions si les appareils conceptuels mis en œuvre dans les éthiques à principes aident à statuer.

Pour bien comprendre, prenons un exemple : songeons à la consultation d’images ou de vidéos d’enfants virtuels présentés nus dans des poses obscènes. Faut-il proscrire de telles pratiques, et si oui, pour quelles raisons ? Initialement, la loi réprouvait la pédopornographie au nom des enfants filmés dont on salissait l’image. Leurs photographies les montrant dénudés, on attentait à travers elles à leur personne que l’on avilissait. La loi prenait alors la défense d’enfants considérés comme des victimes. Dans le cas de la pédopornographie virtuelle, ce chef d’accusation ne tient plus, puisque aucun individu existant ne subit de tort. Pourtant, l’on proscrit bien la pédopornographie virtuelle. Mais il a fallu changer d’argument : on condamne non eu égard à des victimes réelles, mais en raison de la morale qui interdit de regarder des images d’enfants nus. Or, rien dans les éthiques à principes mentionnées plus haut ne justifie une telle prohibition, ni les droits fondamentaux sur lesquels elles se fondent, ni les principes éthiques en eux-mêmes. En effet, si l’on reprend les quatre grands principes éthiques énoncés par le HLEG AI dans son rapport44, à savoir 1) le respect de l’autonomie humaine, 2) la prévention du mal, 3) l’équité, 4) l’explicabilité, aucun ne conduit à une condamnation explicite de la pédopornographie virtuelle, sauf éventuellement le second, à savoir la prévention du mal que l’on entendrait comme atteinte à la dignité, encore que, puisque les images ne représentent que des êtres virtuels, on éprouve des difficultés à savoir de qui la dignité serait atteinte.

Combats de robots

Un autre exemple aidera à mieux comprendre les difficultés que nous rencontrons ici : depuis plus de trente ans, des combats entre robots45 sont régulièrement organisés par quelques institutions (par exemple la Robot Fighting League) au Japon et aux États-Unis et donnent lieu à des spectacles fort populaires qui s’apparentent aux combats d’hommes ou d’animaux, en l’occurrence aux combats de coqs – ceux-ci se déroulent d’ailleurs dans une enceinte évoquant, par sa topologie, celle des gallodromes, en plus spacieuse peut-être – et au cours desquels s’affrontent des robots vêtus en lutteurs ou en gladiateurs ou encore en rikishis46 dans un déchaînement de violence irréfrénée47. Roues dentées, chenilles, béliers, scies, catapultes, lance-flammes, fléaux, balistes équipent des machines tatouées de têtes de mort ou d’autres emblèmes tout aussi terrifiants, et baptisées des noms féroces de Mortician (« croque-mort »), Mortis (« cadavérique »), Trasher (« saccageur »), Finalizer (« solution finale »), Nightmare (« cauchemar »), etc. Quant aux combats qu’elles livrent, ce ne sont qu’assauts sans merci, chocs, déchirures, éclats de métal et gerbes d’étincelles qui se joignent aux flammes et aux coups de boutoirs pour donner libre cours à une sauvagerie sans limite, à la plus grande joie des spectateurs qui se délectent et applaudissent aux manifestations les plus extrêmes de brutalité et de violence. Faut-il encourager ou condamner ces spectacles ? Et au nom de quel commandement moral ? Si votre enfant de treize ou de quinze ans vous demandait d’y assister, vous hésiteriez peut-être… Mais pourquoi ? Cela demande réflexion, tant les joutes, duels ou bagarres de tous ordres ont toujours distrait les hommes. Pour cela, passons en revue les arguments susceptibles de les condamner.

Dans beaucoup de civilisations passées, on codifiait les combats d’hommes, d’animaux ou d’hommes et d’animaux, selon des modalités définies, sauf dans les situations exceptionnelles dues aux guerres ou aux révoltes, lorsque la violence se donnait libre cours. À Rome, les affrontements de gladiateurs obéissaient à des protocoles très précis. Et il en va de même, de nos jours, avec la boxe ou le catch. La tauromachie présente des phases rituelles et des armes, banderilles ou épées, spécifiques à chacune. L’équipement des coqs de combat dépend des zones géographiques : parfois on munit les animaux d’aiguilles de fer pour qu’ils viennent plus vite à bout de leurs adversaires, d’autres fois, on émousse leurs griffes afin de diminuer les blessures causées par les affrontements ; il arrive aussi qu’on les mutile, en leur coupant la crête, les oreillons et les barbillons, pour éviter de donner prise aux becs.

Partout, on retrouve une norme, même si d’aucuns la jugent barbare. Le spectacle des violences ne laisse jamais les hommes indifférents. Déjà, dans l’Antiquité, les combats de gladiateurs firent l’objet de bien des discussions. On les encouragea d’abord, et ce pour au moins trois raisons. En premier lieu, les jeux du cirque procuraient du plaisir ; certains leur attribuaient même des vertus cathartiques, encore que cela fît débat. En deuxième lieu, les qualités viriles manifestées par les combattants édifiaient le public ; elles concouraient à son éducation. Enfin, la vue de scènes frappantes, proches de sacrifices rituels, soudait la population et assurait sa cohésion. Plus tard, et en dépit de ces arguments d’ordre à la fois hédonique, pédagogique et politique, on mit progressivement un terme aux combats de gladiateurs sous la pression des chrétiens farouchement opposés à la mise à mort. Il fallut toutefois attendre le début du Ve siècle apr. J.-C. pour que l’interdiction devienne définitive.

Les plus hostiles aux combats, qu’il s’agisse de combats d’hommes et/ou d’animaux, invoquent la douleur qu’ils provoquent, la cruauté dont on y fait preuve et que l’on donne à voir, enfin la mort possible, en particulier la mort humaine.

Quelques philosophes récusèrent l’un des principaux arguments, la douleur qu’ils causent, en niant la souffrance des bêtes. Tel fut le cas de Malebranche qui affirmait48 que les animaux n’étant rien d’autre que des assemblages de rouages, de tubes et de soufflets, ils ne sentaient rien, et réagissaient seulement à la pression physique et aux mouvements, sans prendre conscience et a fortiori éprouver d’émotions. Influencées par la théorie de Descartes sur les animaux-machines, ces vues, considérées comme contre-intuitives par beaucoup, provoquèrent alors un vif débat dans la communauté philosophique française des XVIIe et XVIIIe siècles, connu sous le nom de querelle de l’âme des bêtes49,50,51.

De nos jours, on débat toujours des combats d’animaux : le Parlement catalan a décidé en juillet 2010 que la tauromachie serait interdite après 2012 sur son territoire ; en France, depuis la loi Grammont votée en 1830, mais promulguée seulement en février 1852, on interdit tous les combats d’animaux, sauf lorsqu’ils s’inscrivent dans une tradition locale, ce qui fait qu’il y a toujours, au XXIe siècle, des corridas dans le Midi de la France et des combats de coqs dans le Nord, même si l’on n’autorise plus la construction de nouveaux gallodromes. En juin 2010, deux membres du Parlement français, de part et d’autre de l’échiquier politique, Mme Geneviève Gaillard (Parti socialiste) et Mme Muriel Marland-Militello (UMP), proposèrent de voter une loi contre la tauromachie et les combats de coqs, sans toutefois y parvenir.

Quoi que l’on pense du litige, force est de constater qu’au fil du temps il demeure, même si les arguments évoluent. Aujourd’hui, beaucoup déplorent de la souffrance ; cela conduit à condamner les combats d’animaux. Et l’argument subsiste pour les combats humains, par exemple pour la lutte ou le sumo. Quant à la mort, en particulier à la mort humaine, elle effraie plus encore. En revanche, ni l’effet cathartique du spectacle, ni la stupeur collective causée par la mise à mort, ni les vertus éducatives n’ont plus cours. On n’invoque plus la nécessité d’un exutoire à la violence naturelle que la vue de la mort animale contribuerait à assouvir. Pourtant, la tauromachie reste toujours autorisée dans de nombreux pays au nom de la défense des traditions, de la culture et de l’identité ; et il en va de même de la boxe ou du sumo au Japon. Comment ne pas invoquer ici les paroles de la chanson de Bob Dylan, Who Killed Davey Moore? (« Qui a tué Davey Moore ? ») : « Boxing ain’t to blame […] Fistfighting is here to stay. It’s just the old American way » (« La boxe n’est pas en cause, tu sais […] La boxe, c’est une chose saine, ça fait partie de la vie américaine » (traduction française de Graeme Allwright).

Notes

LA VIE EN LIGNE, MODE D’EMPLOI

1. ﻿Pascale Robert-Diard, « Aux assises de Paris, l’amant assassiné et les “deux gamins tordus” », Le Monde, 11 octobre 2019.﻿

2. ﻿Ainsi, Google édicte des principes éthiques (https://ai.google/principles) ou « Perspective on issues in AI governance » (https://ai.google/static/documents/perspectives-on-issues-in-ai-governance.pdf).﻿

3. ﻿Morgane Tual, « Facebook lance un centre de recherche consacré à l’éthique de l’intelligence artificielle », Le Monde, 20 janvier 2019, https://www.lemonde.fr/pixels/article/2019/01/20/facebook-lance-un-centre-de-recherche-consacre-a-l-ethique-de-l-intelligence-artificielle_5411861_4408996.html﻿

4. ﻿Par exemple la société IEEE : https://standards.ieee.org/industry-connections/ec/autonomous-systems.html﻿

5. ﻿« Déclaration de Montréal » initiée par l’université de Montréal au Canada : https://www.declarationmontreal-iaresponsable.com/﻿

6. ﻿Voir le rapport commandé par le président de la République française, Emmanuel Macron, au député et mathématicien Cédric Villani : https://www.aiforhumanity.fr/pdfs/9782111457089_Rapport_Villani_accessible.pdf﻿

7. ﻿Le gouvernement allemand a mis en place une commission sur l’éthique des données et lui a commandé un rapport (https://www.bmjv.de/DE/Themen/FokusThemen/Datenethikkommission/Datenethikkommission_EN_node.html).﻿

8. ﻿https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai﻿

9. ﻿La volonté de créer un Observatoire de l’intelligence artificielle (European Parliament’s Artificial Intelligence Observatory – EPAIO), dont atteste un appel à manifestation d’intérêt publié en 2019 et destiné à des experts du domaine, va dans ce sens : https://www.europarl.europa.eu/tenders/2019/20190916_ao/call_for_expression_of_Interest.pdf﻿

10. ﻿« AI4People Ethical Framework for a good AI society », http://www.eismd.eu/wp-content/uploads/2018/11/Ethical-Framework-for-a-good-AI-Society.pdf﻿

11. ﻿« Rapport sur l’Éthique de l’intelligence artificielle et du transhumanisme », Commission nationale française de l’Unesco et Mutuelle générale de l’éducation nationale (MGEN), mai 2021.﻿

12. ﻿Communauté européenne, « Shaping Europe’s digital future », « Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) », avril 2021, https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence﻿

13. ﻿Parlement européen, « Résolution sur les systèmes d’armes autonomes (2018/2752(RSP)) », 12 septembre 2018 (www.europarl.europa.eu/).﻿

14. ﻿Parlement européen, « Résolution contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) », adoptée le 16 février 2017 (www.europarl.europa.eu/).﻿

15. ﻿Brent Mittelstadt, « Principles alone cannot guarantee ethical AI », Nature Machine Intelligence, vol. 1, novembre 2019, p. 501-507, https://doi.org/10.1038/s42256-019-0114-4﻿

16. ﻿High-Level Expert Group on Artificial Intelligence (Groupe d’experts indépendants de haut niveau sur l’intelligence artificielle), cf. https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence﻿

17. ﻿Voir la première version du rapport publiée en ligne : https://ec.europa.eu/digital-single-market/en/news/draft-ethics-guidelines-trustworthy-ai﻿

18. ﻿https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419﻿

19. ﻿AI4People, p. 7 et 21 ; HLEG AI, p. 2, 3, 5 sq.﻿

20. ﻿Friedrich Nietzsche, Crépuscule des idoles ou Comment philosopher à coups de marteau, textes et variantes établis par Giorgio Colli et Mazzino Montinari, traduit de l’allemand par Jean-Claude Hémery, Gallimard, « Folio essais », 1974.﻿

21. ﻿Jean-Gabriel Ganascia, « Moratoire sur les robots tueurs : bonne conscience et mauvaise foi », « Chronique éthique », La Recherche, novembre 2017, https://www.larecherche.fr/chronique-éthique/moratoire-sur-les-robots-tueurs-bonne-conscience-et-mauvaise-foi﻿

22. ﻿Jean-Gabriel Ganascia, Catherine Tessier et Thomas M. Powers, « On the autonomy and threat of “killer robots” », APA Newsletter on Philosophy and Computers, vol. 17, no 2, 2018, https://hal.sorbonne-universite.fr/hal-01790329/document﻿

23. ﻿https://futureoflife.org/open-letter-autonomous-weapons/﻿

24. ﻿https://www.theguardian.com/technology/2017/aug/20/elon-musk-killer-robots-experts-outright-ban-lethal-autonomous-weapons-war﻿

25. ﻿https://futureoflife.org/2017/11/14/ai-researchers-create-video-call-autonomous-weapons-ban-un/﻿

26. ﻿La notion d’autonomie, qu’il s’agisse d’autonomie humaine ou d’autonomie des machines, pose de nombreuses questions qui seront abordées dans la dernière partie du livre.﻿

27. ﻿Sur ce sujet, on consultera avec profit un cahier de la Revue Défense nationale publié en décembre 2018 et portant sur la thématique : « Autonome et létalité en robotique militaire » : https://fr.calameo.com/read/000558115a2727297e70a﻿

28. ﻿https://www.youtube.com/watch?v=9CO6M2HsoIA&feature=youtu.be﻿

29. ﻿Un quadrirotor est un aéronef comportant quatre rotors, c’est-à-dire quatre parties tournantes, qui, en pratique, correspondent souvent à quatre hélices.﻿

30. ﻿Rapport du High-Level Expert Group on Artificial Intelligence mis en place par la Commission européenne : https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419﻿

31. ﻿La description du laboratoire du professeur Hiroshi Ishiguro renseigne parfaitement sur son projet scientifique : http://www.geminoid.jp/en/index.html﻿

32. ﻿Axel Mar, « Are we ready for intimacy with androids? », Wired, 17 octobre 2017, https://www.wired.com/2017/10/hiroshi-ishiguro-when-robots-act-just-like-humans/﻿

33. ﻿https://www.flickr.com/photos/geminoid/tags/geminoidhi1/﻿

34. ﻿https://futureoflife.org/ai-principles/﻿

35. ﻿« Reportage d’“Envoyé spécial” : le système de crédit social orwellien de la Chine », 20 octobre 2019, https://exoportail.com/reportage-denvoye-special-le-systeme-de-credit-social-orwellien-de-la-chine/﻿

36. ﻿Noham Cohen, « Zuckerberg wants Facebook to build a mind-reading machine », Wired, 3 juillet 2019, https://www.wired.com/story/zuckerberg-wants-facebook-to-build-mind-reading-machine/﻿

37. ﻿« Elon Musk et Neuralink présentent leur prototype d’implants cérébraux pour aider à communiquer avec des machines », Le Monde, 17 juillet 2019, https://www.lemonde.fr/pixels/article/2019/07/17/elon-musk-et-neuralink-presentent-leur-prototype-d-implants-cerebraux_5490344_ 4408996.html﻿

38. ﻿Paru en décembre 2019, et intitulé « Recommandation du Conseil sur l’innovation responsable dans le domaine des neurotechnologies », un rapport de l’OCDE aborde ces questions, mais reste très spécialisé et, à notre connaissance, n’a pas été repris par les comités d’éthique du numérique et de l’intelligence artificielle ; de plus, il ne mentionne pas explicitement les projets de Facebook et de Neuralink.

Cf. https://legalinstruments.oecd.org/fr/instruments/OECD-LEGAL-0457﻿

39. ﻿Jean-Gabriel Ganascia, « Le logiciel contestable qui vise à lire l’homosexualité sur les visages », « Chronique éthique », La Recherche, décembre 2017, https://www.larecherche.fr/chronique-%C3%A9thique/le-logiciel-contestable-qui-vise-%C3%A0-lire-lhomosexualit%C3%A9-sur-les-visages﻿

40. ﻿Yilun Wang et Michal Kosinski, « Deep neural network can detect sexual orientation from faces », preprint septembre 2017, https://psyarxiv.com/hv28a/﻿

41. ﻿« Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) » : http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//NONSGML+TA+P8-TA-2017-0051+0+DOC+PDF+V0//FR﻿

42. ﻿Will Knight, « An AI that writes convincing prose risks mass-producing fake news », MIT Technology Review, 14 février 2019, https://www.technologyreview.com/s/612960/an-ai-tool-auto-generates-fake-news-bogus-tweets-and-plenty-of-gibberish/﻿

43. ﻿James Vincent, « Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day », The Verge, 24 mai 2016, https://www.theverge.com/2016/3/24/11297050/tay-microsoft-chatbot-racist﻿

44. ﻿https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419﻿

45. ﻿Jean-Gabriel Ganascia, « Ethics of cockfight, botfight and other fights », Computer Ethics and Philosophical Enquiry (CEPE 2011), Milwaukee, Wisconsin, 2-4 juin 2011, in Proceedings, http://www-poleia.lip6.fr/~ganascia/Publications?action=AttachFile&do=view&target=CEPE2011.pdf﻿

46. ﻿Nom donné aux lutteurs dans le sumo, lutte traditionnelle, liée au culte du shinto, pratiquée au Japon.﻿

47. ﻿Le lecteur intéressé consultera les quelques sites suivants où des vidéos et des photos de combats de robots lui donneront une idée de ce dont il est question ici :

http://www.hardcorerobotics.com/videos.htm,

http://www.youtube.com/watch?v=NhTVBHerQ-0&feature=player_embedded#, http://www.youtube.com/watch?v=zHZ40lVd2ms&feature=related ,

http://www.youtube.com/watch?v=6NNY1_MoAjw&feature=related,

http://www.youtube.com/watch?v=_e4cHWS2758&feature=related,

http://www.youtube.com/watch?v=EtjF6zcx7k8&feature=BF&list=QL&index=1,

http://www.youtube.com/watch?v=2upy6FzArws﻿

48. ﻿Malebranche, « Ier entretien sur la mort », in Conversations chrétiennes, Gallimard, « Folio essais », 1994, p. 534-553.﻿

49. ﻿Jean-Luc Guichet (dir.), De l’animal-machine à l’âme des machines. Querelles biomécaniques de l’âme (XVIIe-XXIe siècle), Éditions de la Sorbonne, « Philosophie », 2010.﻿

50. ﻿David Renaud Boullier, Essai philosophique sur l’âme des bêtes, Amsterdam, François Changuion, 1737.﻿

51. ﻿Abbé Claude Yvon, « Bêtes (âme des) », in L’Esprit de l’encyclopédie, tome I, Paris, chez Fauvelle et Sagnier, 1798, p. 349-381.﻿

Découvrez Science ouverte

Cultivez un nouveau regard sur la science.

Créée en 1966 et dirigée depuis 1972 par Jean-Marc Lévy-Leblond, « Science ouverte » a pour ambition d’interroger les fonctions sociales de la science et de dévoiler leurs conditionnements pour allier la volonté de comprendre au désir de connaître.

Découvrez les autres titres de la collection sur
www.seuil.com

Et suivez-nous sur :