Santé : ce dont l’intelligence artificielle est le symptôme

Dans la cadre de la révision de la loi relative à la bioéthique, qui aura lieu en 2018 et 2019, l'Espace éthique/IDF propose une série de textes, réflexions et expertises pour animer le débat public. Chaque intervention visera à éclairer un point, une perspective ou un enjeu des révisions de la loi. Ce sixième texte aborde la santé connectée et l'intelligence artificelle comme symptômes de nos sociétés contemporaines.

Par : Jean-Michel Besnier, Professeur de philosophie, Sorbonne-Université | Publié le : 09 Février 2018

Parmi les thèmes annoncés pour les Etats généraux préparatoires à la révision des lois de bioéthique de 2011, figurent l’Intelligence artificielle (IA) et les robots. Cela pourra étonner. On se demandera d’où vient cette préoccupation pour l’IA dans un contexte où il s’agit d’interroger le traitement réservé au corps humain par suite de la montée en puissance des « anthropotechnies ».
Quand elle est affichée par les technoprophètes de la Silicon Valley, l’IA n’est-elle pas associée au reflux du biologique devant le virtuel et l’artéfactuel ? La Singularité annoncée par eux dans un futur proche est tout de même présentée comme la défaite du corps habité par une intelligence devenue incapable de résister à la puissance des machines. Espère-t-on, dans ces Etats généraux, établir un plan de bataille contre les algorithmes dans la mesure où ils nous menaceraient de dé-corporation et donc, de déshumanisation ? S’agira-t-il donc de convoquer l’IA au tribunal de l’éthique pour la remettre à sa place et restaurer l’humain dans ses droits à gérer son existence, autrement qu’en se pliant aux automatismes auxquels s’abandonnent les sociétés développées ? Il n’est pas certain que ce sera là l’objectif poursuivi par les instances appelées à se prononcer sur la responsabilité des professionnels de santé. Comme souvent, quand il s’agit de l’impact des techniques numériques, c’est plutôt la préservation de la propriété des données et l’imputation des responsabilités en cas de dysfonctionnement des systèmes d’information, qui seront sur la sellette. On risque encore d’oublier que l’éthique n’est pas seulement le domaine dans lequel on expertise les avantages et les inconvénients des innovations, mais qu’elle est surtout la mise en débat des conditions du bien-vivre individuel et collectif.

S’agissant de la santé, un rappel s’impose : définie en termes de bien-être, la question de savoir ce que peut lui apporter le renfort des algorithmes ne peut être écartée. Et on ne devra pas se contenter de l’éloge habituel du numérique au service de la médecine : l’IA autorise la télémédecine, le diagnostic à distance, l’auto-surveillance des malades grâce aux objets intelligents ; elle conditionne le progrès des instruments et en particulier, la fiabilité de l’imagerie ; elle permet donc l’essor d’une médecine prédictive et personnalisée… L’argumentaire est désormais connu et parfaitement convaincant – ce qui n’empêche pas qu’on s’interroge encore. Que produiront les robots-compagnon sur le comportement des patients atteints de maladies neurodégénératives ? Comment la médecine connectée nous évitera-t-elle l’obsession de la santé parfaite et l’hypocondrie ? Que deviendra la relation du médecin avec son patient (déjà mise à mal par la tarification à l’acte) quand le diagnostic et le traitement de la maladie seront le résultat de la collecte de millions de données gérés par de puissants ordinateurs ? Quel gain en humanité résultera de l’ambition de contrôler intégralement le fonctionnement de ses organes ? Devra-t-on souscrire à l’enthousiasme de tel  médecin se faisant l’avocat de l’e-santé : « Je rêve du sous-vêtement connecté capable, sans compromis de confort pour le porteur, de mesurer en continu ses paramètres vitaux. Je suis sûr qu’un jour, nous le porterons tous mais, pour l’instant, il reste à mettre au point » (Michel Nahon, orateur dans le cadre des Sommets du Digital qui se tiendront à la Clusaz en février 2018).

Ne nous hâtons pas d’opposer abstraitement les technoprogressistes qui mettent en avant le gain en longévité promis grâce à l’IA, et les bioconservateurs qui osent croire dans le pouvoir normatif des organismes respectueux de la nature en eux. La vérité n’est sans doute pas dans les extrêmes. Ce qu’il convient en tous les cas de comprendre, c’est ce dont l’IA est le symptôme et quel imaginaire elle induit : elle est en effet associée dans nos esprits à un sentiment croissant d’immaîtrise, généré par des innovations dont les tenants et les aboutissants nous échappent. L’exemple des perspectives offertes par le décryptage du génome humain le démontrerait. Que nous promet par exemple le fameux ciseau moléculaire CRISPR Cas09 qui en procède ? Un renouveau de la thérapie génique ou un « eugénisme intellectuel », tel celui que rêvent de réaliser les Chinois ?
On a assurément raison d’impliquer l’IA dans l’examen des lois de bioéthique à réviser. Mais il faut le faire jusqu’au bout, et affronter le paradoxe suivant : c’est dans le domaine où l’on attend le plus de sécurité qu’on mise sur des dispositifs techniques qui nous paraissent de moins en moins contrôlables.