Martin Gibert

Faire la morale aux robots

Une introduction à l’éthique des algorithmes

Premiere parution chez Atelier 10 (2020), dans la collection Documents dirigée par Nicolas Langelier.
© Climats, un département des Éditions Flammarion, Paris, 2021

ISBN numérique : 978-2-0802-5111-4

ISBN du pdf web : 978-2-0802-5113-8

Le livre a été imprimé sous les références :

ISBN : 978-2-0802-4397-3

Ce document numérique a été réalisé par Nord Compo.

Présentation de l’éditeur :
Une voiture pilotée par une intelligence artificielle est face à un choix tragique : pour éviter un enfant qui traverse la route, elle doit écraser un vieillard sur le bas-côté. Que faire, qui sauver dans l’urgence ? Voilà un dilemme qui rappelle la fameuse expérience de pensée du tramway, et qui illustre les enjeux moraux de l’intelligence artificielle.
Comment programmer nos robots – de transport, militaires, sexuels ou conversationnels – pour qu’ils prennent les bonnes décisions lorsqu’ils sont confrontés à des choix ? Quelle morale pour les robots ? Y en a-t-il, comme nous, de bons et de mauvais ?
S’intéresser à l’éthique des algorithmes, c’est plonger au cœur de nos différentes intuitions et théories morales, questionner nos biais et préjugés, mais aussi explorer un nouveau domaine de la philosophie, expliqué avec clarté et humour par Martin Gibert, chercheur en éthique de l’intelligence artificielle.

Martin Gibert est philosophe et chercheur en éthique à l’Université de Montréal. Il est l’auteur de L’Imagination en morale (Hermann, 2014) et Voir son steak comme un animal mort (Lux, 2015).

Faire la morale aux robots

Mais il y a encore une chose à dire, et celle-ci est presque incroyable.

Ursula Le Guin

Avant-propos

Ce livre ne parle pas de la pandémie. Il a été achevé juste avant et publié au Québec lors du premier confinement. À vrai dire, eût-il été écrit juste après que les thèses qu’il avance n’en auraient pas été différentes. Mais sa parution en France est une bonne occasion de se demander comment les algorithmes pourraient nous aider dans une crise mondiale de cet ordre. L’intelligence artificielle, on le sait, contribue largement à la recherche biomédicale sur les virus, que ce soit en simulant des traitements ou en analysant des données de santé publique. Mais si l’on se concentre sur son cœur de métier – prédire, simuler, remplacer –, une possibilité ne manque pas de surgir : et si les algorithmes avaient pris des décisions à la place de nos responsables politiques ?

Durant cette longue année, les décideurs – et quelques décideuses – ont vécu l’embarras du choix. Quand et où confiner, imposer ou non le masque, comment allouer des ressources limitées... et que dire à la télévision ? Ce qu’il fallait déterminer, en définitive, c’est la bonne politique de santé, pour le bon territoire et les bons habitants. Ce qu’il nous faut maintenant envisager, c’est une expérience de pensée, une gouvernance algorithmique de la pandémie.

On pourrait imaginer une sorte de Multivac moderne, du nom de ce superordinateur inventé par Isaac Asimov et qui, dissimulé dans des souterrains, emmagasine des data et prodigue des conseils avisés au gouvernement américain. En éthique de l’intelligence artificielle, c’est ce qu’on nomme un oracle, c’est-à-dire une machine qui ne prend pas de décision, mais répond avec diligence aux questions qu’on lui pose. Ainsi, lors de sa première apparition sous la plume d’Asimov, le superordinateur devait déterminer quel citoyen représentait le mieux la volonté générale1. L’heureux élu avait alors la lourde tâche, dans une conception originale de la démocratie, de choisir à lui seul le nouveau président.

À bien des égards, le Multivac d’Asimov est un précurseur des IA contemporaines. Comme elles, il collige des torrents de données et s’emploie, à force d’apprentissage automatique, à en tirer des leçons. C’est une machine à prédire à qui il arrive de buter sur la réalité. Dans une autre nouvelle, la préférée d’Asimov, le superordinateur et ses lointains descendants ne parviennent pas à répondre à La Dernière Question : comment inverser l’entropie ? Les données, répond inlassablement l’ordinateur, sont insuffisantes pour une réponse significative.

Mais avec un Multivac anti-pandémie, les données seraient probablement suffisantes pour anticiper l’évolution de la maladie. En supposant à cet ordinateur un accès à tous les objets connectés, il pourrait savoir qui tousse, qui a de la fièvre, et partant, établir avec une précision inégalée l’état de santé d’une population. Ensuite, il ne resterait plus qu’à raffiner nos modèles épidémiologiques et à lutter plus efficacement contre le virus.

Pourtant, serait-ce vraiment souhaitable ? Si l’on en croit la philosophe Carissa Véliz qui s’est récemment penchée sur ces questions2, il y a d’excellentes raisons d’en douter. Nous méconnaissons l’étendue des dégâts numériques sur la vie privée, l’égalité et la démocratie. Heureusement que les fictions cyberpunks sont là pour nous rappeler les inconvénients d’une société de surveillance qui s’adonne à un contrôle millimétrique de la population. On veut parfois que les données (personnelles) demeurent insuffisantes.

À supposer que notre Multivac respecte scrupuleusement le règlement européen sur la protection des données (RGPD), pourrait-il néanmoins donner un coup de main ? Le superordinateur serait sans doute très efficace pour gérer les problèmes d’action collective, ces situations intriquées qu’étudie la théorie des jeux où les individus auraient tout intérêt à coopérer, bien qu’il soit rationnel de ne pas le faire. Centralisant toute l’information, il coordonnerait la réponse sanitaire à merveille. On l’imagine distribuer les vaccins de façon optimale. Mais ce serait aussi sa limite : il aurait besoin d’être programmé, qu’on lui dise quoi optimiser.

En réalité, même un superordinateur ne fait jamais qu’exécuter un algorithme, c’est-à-dire une série d’instructions délivrées par des humains. Notre Multivac détermine les meilleurs moyens de parvenir à des fins, tout en respectant des contraintes. Mais son intelligence est foncièrement instrumentale : il ne choisit ni les contraintes ni les fins.

Voilà pourquoi, au bout du compte, il ne servirait pas à grand-chose pour les problèmes de fond. Bien souvent, les décisions de santé publique se ramènent à des arbitrages délicats entre des objectifs ou des valeurs en concurrence. Faut-il mettre la sécurité avant l’économie ? Faut-il envoyer les jeunes à l’école au risque de faire courir davantage de risques aux plus vieux ? Jusqu’à aujourd’hui, et sans doute encore pour longtemps, seuls des cerveaux humains sont capables d’évaluer des objectifs, de pondérer leur importance, et de prendre des décisions en conséquence.

Les robots dont parle ce livre n’ont pas l’ambition ou la prétention d’un Multivac. Mais ils ont un point commun avec lui. Ce sont des humains qui les programment. Bref, ce n’est pas demain la veille qu’on pourra se défausser sur des machines de notre responsabilité politique et morale.

Introduction

Le bus des jours fériés

S’il y a un truc que je n’aime pas, ce sont bien les dilemmes de bus. Ça arrive sans prévenir : devrais-je avertir cet ado que l’étiquette de son pull est sortie ? Devrais-je laisser ma place à l’homme âgé ? Est-il assez vieux, va-t-il mal le prendre ? Ou à cette femme un peu ronde qui pourrait être enceinte – ou pas ? C’est ce genre de décisions délicates, parfois embarrassantes, entre éthique et politesse, qui nous rappellent à nos limites intellectuelles. On voudrait bien faire, mais on n’a pas toutes les informations, et on doit faire un choix.