Vivre bien dans un monde d’automatisation

Introduction du dossier thématique du numéro 5 de la Revue française d'éthique appliquée "Un monde d'automatisation ?"

Par : Sébastien Claeys, Responsable communication et stratégie de médiation, Espace de réflexion éthique de la région Île-de-France / Pierre-Emmanuel Brugeron, Responsable de Pôle Ressources, Espace éthique/IDF | Publié le : 27 juin 2018

Gouvernance et décision par les algorithmes, véhicules autonomes, trading haute fréquence et autres avancées technologiques de l’automatisation, font régulièrement la une des journaux, accompagnés de leur lot de sensationnalisme… « Autonomie » et « intelligence » semblent, à tort ou à raison, les maîtres mots pour décrire ces machines et ces processus qui prennent le relais de décisions et de pratiques humaines de plus en plus sophistiquées. Si bien que notre époque semble hantée par le remplacement de l’homme par la machine, non seulement dans son activité économique - rappelons que, selon une étude d’Oxford, 47% des emplois seraient automatisables d’ici vingt ans -, mais aussi dans les activités du soin, de la relation et de la présence à l’autre, qui nous semblaient jusqu’alors irremplaçables. C’est ainsi que plus de 5 000 robots « socio-pédagogiques » paro sont d’ores et déjà utilisés dans le cadre de thérapies relationnelles à destination des malades atteints de la maladie d’Alzheimer. Quand l’humain semble promis à s’effacer, à disparaître, se pose alors la question de relations qu’il entretient avec ses machines, mais aussi du contrôle des valeurs, des finalités et des conséquences de ces processus automatisés qui se fond pour nous mais sans nous. D’autant plus que les progrès exponentiels de l’apprentissage machine semblent nous conduire vers un avenir où les décisions de nos voitures autonomes ou de nos outils d’aide au choix seront, à proprement parler, ininterprétables, opaques et indéchiffrables. Si bien que, paradoxalement, les « prophètes » de l’automatisation sont aussi ceux qui annoncent avec emphase que l’intelligence artificielle pourrait présenter un risque majeur pour l’humanité, en tête desquels Elon Musk, le fondateur de SpaceX et Tesla, et Bill Gates. L’homme risquerait de perdre son autonomie pour devenir esclave des machines.

2L’automatisation serait alors nécessairement accompagnée d’un « syndrome de la touche étoile », pour reprendre l’expression de Jean-Michel Besnier (Besnier, 2012), comme une quatrième blessure narcissique, suite aux trois blessures décrites par Freud dans son Introduction à la psychanalyse : avec Copernic, la terre n’est plus le centre de l’univers ; avec Darwin, l’homme n’est plus créé à l’image de Dieu, mais un animal ; avec Freud, l’homme n’est plus « maître dans sa propre maison », dans sa vie psychique ; avec l’avènement des machines « intelligentes » et autonomes, l’homme serait devenu tout simplement obsolète, remplaçable et devrait se plier aux lois de la machine.
3C’est le phénomène que Bernard Stiegler (2015) pointe du doigt en citant l’exemple d’Alan Greenspan, l’ancien président de la Réserve fédérale américaine qui, interrogé sur la crise des subprimes, admet devant la Chambre des représentants à Washington que l’automatisation des marchés financiers et l’incompréhension du système dans la globalité ont rendu les acteurs impuissants. Autrement dit, les algorithmes prennent des décisions pour nous à une vitesse que nous ne pouvons égaler, nous coupant d’une ressource précieuse : notre capacité de faire un raisonnement éthique ou tout simplement stratégique. Il est temps de nous approprier ces questions complexes. C’est en réponse à cette phase de prolétarisation ultime que décrit Bernard Stiegler, une ère où la « gouvernementalité algorithmique » des big data, anticipant toutes nos attentes, nos envies et nos choix, nous fait perdre notre liberté intime de choisir et de raisonner, qu’il nous a semblé bon de poser la question de l’éthique de l’automatisation en apportant un éclairage original et transversal, à la croisée des choix politiques et industriels, de la phénoménologie du quotidien et de la philosophie de la technique.
 

Vers une automatisation de l’éthique ?

4Dans cette perspective de disparition de la possibilité de l’éthique comme choix raisonné, la logique d’automatisation incite les ingénieurs à concevoir des « boîtes noires » sur lesquelles nous ne pouvons plus intervenir. Les voitures autonomes, pour ne prendre que cet exemple, semblent être paradigmatiques de cette tendance, puisque la conception du produit intègre même un code éthique lui permettant de prendre des décisions de manière indépendante de son utilisateur lors d’un conflit de valeurs qui, pour un humain, relèverait de la décision éthique ultime : le choix de vie ou de mort. Le choix éthique, immanent à la machine, se ferait donc sans l’homme. Ou, plus exactement, il serait l’objet d’un choix décontextualisé lors de la conception de la machine, nous confinant dans un rôle de spectateur observant le déroulement inéluctable d’un programme mettant en jeu nos passions, nos choix intimes, nos convictions profondes et notre sécurité. Quel droit s’applique donc à la machine autonome ? Quelles mesures de protection doivent être mises en œuvre pour les utilisateurs ? Comment pouvoir désactiver une machine intelligente (Tual, 2016) ? Comment reprendre la main sur la machine et comprendre son fonctionnement ? Ce sont aussi des questions posées par la Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene (cerna) dans son rapport « Éthique de la recherche en robotique » (Rapport n°1, 2014).
5Autant de questions qui deviennent pressantes pour les industriels, de manière plus ou moins prospective, car il est bien question ici de logiques industrielles. Le modèle industriel actuel des algorithmes qui nous prive de notre libre arbitre, dénoncé par l’ancien employé de Google Tristan Harris (2017), va de pair avec la conception d’objets créés de telle manière qu’ils ne peuvent pas être « bricolés » ou modifiés. Comment penser les enjeux éthiques à l’aune de l’autonomie de ces machines ? Autant de questions classiques de la philosophie de la technique qui échoient désormais aux concepteurs et aux industriels.

Pour une éthique de l’automatisation

6En se gardant de céder au catastrophisme, éclairons la question par l’enseignement platonicien repris par Derrida et Stiegler (Derrida, 1972 ; Stiegler, 2010), et tirons-en toutes les conséquences. La technique est un pharmakon : à la fois remède et poison. Qui dit automatisation ne dit pas nécessairement « boîte noire » (Carr, 2014) et perte d’autonomie individuelle et collective. Il existe de nouveaux modes de gestions des données ouvertes (open data) et des algorithmes, selon la logique des biens communs, plus participative, libre et ouverte, comme le souligne Mélanie Dulong de Rosnay (2016).
7L’automatisation peut aussi nous permettre de créer une nouvelle valeur du temps libre et une réappropriation individuelle et collective des technologies. Pour les accélérationnistes Nick Srnicek et Alex Williams (2015), elle pourrait même être une occasion sans égal d’inventer un nouveau modèle de société qui consacre la différence entre travail et emploi et réoriente la politique industrielle vers davantage d’émancipation humaine et de production de biens communs. La question se pose alors dans des termes nouveaux : il ne s’agit plus de résister à l’automatisation mais d’en profiter pour se l’approprier collectivement et inventer une nouvelle organisation sociale, économique, politique, éthique. Autrement dit, comment faire de l’automatisation un monde vivable et cohérent, fait de savoirs, de savoir-faire et de savoir être adaptés à notre nouvel écosystème technique et non une technologie destructive de nos vies sociale et intime ?
8Dans cette perspective d’automatisation opérant à des niveaux allant de notre vie intime aux relations internationales (Bratton, 2016), c’est tout un travail critique de compréhension, d’interprétation et de réappropriation des technologies, de leurs valeurs et de leur conception qui nous attend. À travers ces questionnements, c’est aussi tout le rapport de l’homme au monde qui est à repenser et à réinventer à travers ses outils, sa capacité à interagir avec son environnement et à le modeler. Dans un monde aux outils automatisés — un monde automatisé —, se pose encore la question de savoir quelle capacité nous avons de conserver une expérience riche et singulière.

Construire un débat intelligent sur la machine éthique

9Pour penser une « machine respectueuse », Vincent Bontems nous rappelle que les techniques autonomes ne sont pas un ensemble de moyens neutres qui nous poseraient simplement la question de savoir comment les utiliser pour faire le bien. La technique est en elle-même porteuse de valeurs et fait naître de nouveaux savoirs et de nouveaux savoir-faire. Elle pose de nouvelles normes. Elle change nos conditions d’existence, et en cela, elle est le milieu dans lequel s’effectuent nos choix. Reprenant l’appel de Gilbert Simondon, Vincent Bontems plaide pour une meilleure connaissance de la machine, de son fonctionnement, et de son interaction avec la société. Il nous invite ainsi à penser les conséquences sur notre vie individuelle et collective de l’accélération de la cadence des machines, de leur soumission à l’idéologie du rendement et de leur obsolescence culturelle. Peut-être faut-il alors renverser la perspective éthique à l’égard des objets techniques et se demander comment bien se conduire à leur égard. Une première étape pour une réflexion plus générale sur notre rapport aux autres et au monde.
10Avec Vincent Bonnemains, Catherine Tessier et Claire Saurel, nous entrons de plain-pied dans les réflexions éthiques liées à la conception de voitures autonomes. Pour reprendre le rapport n°1 de la cerna en 2014, il s’agit de programmer des comportements relevant de l’éthique dans une machine qui a une « capacité à fonctionner indépendamment d’un opérateur humain ou d’une autre machine en exhibant des comportements non triviaux dans des environnements complexes et variables ». Dans une situation de dilemme mettant potentiellement la vie des passagers et d’un piéton en jeu, les chercheurs explicitent plusieurs possibilités de modélisations éthiques correspondant alternativement aux principes de l’éthique conséquentialiste, déontologique et à la « Doctrine du double effet ». Ils mettent ainsi au jour dans la modalisation des situations la part d’arbitraire lié au choix du cadre éthique mais aussi aux biais dans la collecte et le traitement des informations par la machine.
11À rebours de cette explicitation transparente de la décision éthique dans les machines, Alexei Grinbaum aborde dans son article la question de la place du hasard dans la délégation de choix moraux, également inacceptables, à des systèmes automatisés (par exemple, des véhicules autonomes en situation d’accidents imminents). Face au « frisson » provoqué par les calculs utilitaristes du dilemme du tramway fréquemment mobilisé pour ces questions, la position de l’auteur refuse la pertinence du calcul sur la base de critères transparents et connus et lui préfère l’incorporation d’une dose de hasard, assumée par tous les acteurs. Pour justifier cet aspect presque paradoxal d’un hasard souhaitable, l’auteur dresse des parallèles entre les questions posées par l’informatique et les récits mythiques, notamment un texte issu de l’Ancien Testament où seul un tirage au sort peut être le garant de la justice. L’automatisation de la prise de décision par la machine, parce qu’elle repose sur un hasard assumé, est alors positionnée « par-delà le bien et le mal. Il faut déployer le hasard : la procédure du tirage au sort est bien la seule à n’être ni bonne ni mauvaise ».
12Dans un registre plus intime et relationnel, Fabrice Métais aborde la question non pas de rendre éthiques des dispositifs automatisés mais de rendre vivable l’expérience éthique du rapport à autrui dans un monde d’automatisation. En situation, sa réflexion se situant entre la phénoménologie d’Emmanuel Levinas et la paléoanthropologie de Leroi-Gourhan, l’auteur dresse une généalogie de la place de l’outil dans les relations à autrui. Sur cette base, il étudie les caractéristiques propres de l’outil automatisé pour en étudier les effets sur le « régime du possible », soit la condition de possibilité d’une rencontre avec autrui. Face à la vision toujours trop sombre d’une réduction de la vie à des « processus automatiques dans lesquels le sens serait lui-même réduit à des calculs, des règles, des symboles, des traces et des données, des rythmes et des signaux », l’auteur oppose au contraire la réduction phénoménologique et la multiplicité des approches artistiques, philosophiques et humaines pour témoigner de l’irréductibilité de la rencontre avec l’autre.
13Marc-Antoine Pencolé, enfin, aborde les enjeux politiques à travers les algorithmes pensés comme dépositaires d’une charge morale plutôt que simples délégataires de la décision. À travers l’exemple des réseaux de partage pair-à-pair, il montre comment un système reposant sur un algorithme correspondant aux normes d’une communauté peut « décharger » celle-ci d’un ensemble de calculs. En somme, une sorte d’idéal moral, basé notamment sur le partage, est rendu possible par l’automatisation de ses règles. Mais cette délégation peut dans certains cas donner lieu à une dépossession des finalités morales : l’auteur s’applique donc à identifier les « conditions socio-techniques qui font la différence entre une délégation moralement effective et une dépossession et perte de la décision ».

Bibliographie