Vieillissement et nouvelles technologies : Enjeux éthiques et juridiques. Pour des technologies au service des capabilités et du bien commun

Rapport commandé par la Filière Silver Économie - Novembre 2019

Par : Fabrice Gzil, Responsable du Pôle Réseaux, Espace éthique/IDF / Solenne Brugère, Avocate, Cabinet b Ethics | Publié le : 03 Décembre 2019

Synthèse du rapport

Le rapport est accessible via ce lien.

Notre constat

Le monde vieillit. La France aussi.
Depuis sa création, la Filière Silver Économie a conscience du double défi de la longévité auquel nous sommes confrontés pour la première fois depuis l’origine de l’Humanité, à savoir un allongement important de la durée de vie, cumulé à une augmentation du nombre de personnes âgées, qui vient bousculer tous les équilibres sociaux, sociétaux et économiques. Parallèlement, une révolution numérique et technologique est en cours et s’accélère, partout, dans tous les secteurs d’activités, dans tous les foyers. Cette évolution, aussi bouleversante que l’invention de l’écriture ou l’imprimerie, semble également irrévocable.

À l’heure actuelle, cette transition numérique et digitale suscite beaucoup de craintes dans la société française : crainte d’une « ubérisation » de l’économie ; crainte d’une surveillance généralisée, contraire à la préservation des libertés individuelles dont la préservation d’une vie privée ; crainte d’une exploitation sans scrupule des données à caractère personnel dont des données sensibles sur la santé des individus par des acteurs uniquement intéressés par le profit ; crainte enfin d’un rapport homme/machine déséquilibré, où les algorithmes ne seraient plus une aide à la décision, mais se substitueraient sans contrôle aux capacités d’analyse et de jugement des êtres humains.
Il en va de même dans le champ du grand âge et de l’autonomie : l’irruption rapide de technologies, dont le mode de fonctionnement et les conséquences pratiques pour les aînés ne sont pas toujours bien comprises, se heurte à la lenteur manifeste avec laquelle des cadres juridiques et éthiques tardent à se mettre en place.
À cette croisée des chemins, inédite, viennent s’ajouter d’autres contraintes liées au climat et un souhait accru des personnes de trouver du sens dans leur activité et une meilleure qualité de vie.

Rien n’est encore écrit. Ce qui va se passer cela dépend de nous toutes et tous, de chacun. Il nous appartient d’impulser les choix politiques qui correspondent à nos aspirations. Et la Filière a une responsabilité dans la manière dont notre pays va orienter ses choix.
Deux scenarii sont possibles, deux voies, deux choix.
Le premier est déjà à l’œuvre dans certains pays : une société de surveillance et de contrôle ; une société déshumanisée avec le remplacement des êtres humains par des machines ; une société mettant en péril notre sécurité voire nos vies, avec le développement de nouvelles formes de délinquance et de cyber- criminalité.
Le deuxième scénario est celui que nous appelons de nos vœux : notre société et notre économie réussissent leur transition numérique et utilisent les nouvelles technologies – numérique, robotique, domotique, réalité virtuelle, big data, intelligence artificielle, objets connectés, smart cities, « jumeaux numériques »... - pour relever le double défi de la transition démographique et de la transition climatique.
Nous faisons le pari que la révolution numérique et ces nouveaux outils peuvent permettre de mieux répondre aux besoins et attentes des personnes âgées et de leurs aidants, familiaux, bénévoles et professionnels. Car ces outils peuvent être des aides inespérées pour recréer du lien social et intergénérationnel, pour rassurer les personnes qui savent qu’elles sont en sécurité, pour leur permettre de sortir, d’accéder à une richesse d’informations, de loisirs et de culture exceptionnelle et infinie.
Les technologies peuvent aussi formidablement assister les professionnels, diminuer la pénibilité de leur travail, fluidifier la transmission des informations, leur faire gagner un temps précieux, et leur permettre de mieux intervenir autour des valeurs qui ont motivé leur engagement initial, qui les a conduits à vouloir prendre soin de personnes âgées, parfois fragiles et vulnérables.
 

Le défi est immense, car dans le même temps il s’agit de trouver de nouveaux modes de financement, pour les retraites et pour la dépendance. Nous pensons ainsi vraiment que ce serait considérer les choses par un prisme étroit de ne voir les technologies que comme un moyen de réduire les coûts du vieillissement et de la dépendance.
Selon nous, la transition numérique est une occasion inespérée pour changer enfin d’approche, pour rompre définitivement avec le paradigme des incapacités, qui induit une approche tardive, institutionnelle, coûteuse, occasionnant beaucoup de frustrations chez l’ensemble des acteurs, et adopter enfin le paradigme des capabilités, qui induit une approche préventive, coordonnée, inclusive, tout au long de la vie, et qui permet une réponse domiciliaire, financièrement soutenable par les familles et par la collectivité.
Pour que cette promesse se réalise, il est impératif que les technologies et leurs usages respectent un certain nombre de règles, de principes et de valeurs, éthiques et juridiques. Ce sont ces règles, ces principes et ces valeurs que nous avons progressivement dégagés au cours des quatre mois qu’aura duré notre (trop courte !) mission.
Pendant ces quatre mois, nous avons eu le souci de rencontrer des personnes aux compétences et aux regards divers. Au cours des auditions et des ateliers que nous avons organisés, nous avons rencontré plus de cent-vingt femmes et hommes passionnés : philosophes et juristes bien sûr, mais aussi médecins, infirmières, sociologues, ethnologues, anthropologues, psychologues, ergothérapeutes, gérontologues, travailleurs sociaux, journalistes, blogueurs, élus, ingénieurs, informaticiens, développeurs, experts digitaux, représentants de living labs, de startups, de l’industrie, du monde de la banque, de l’assurance, de la protection sociale, acteurs de la grande consommation, des mobilités, de grands groupes publics et privés, d’agences et de caisses de l’Etat, d’institutions financières, d’associations et de fondations... Une quarantaine de personnes ont également bien voulu répondre au questionnaire que nous avions posté en ligne. Ce sont donc au total cent-soixante personnes qui ont accepté de réfléchir à nos côtés.

Les questions auxquelles nous avons essayé de répondre

  1. Le premier bloc répond à la question « Pourquoi ? » : Pourquoi utiliser les nouvelles technologies dans le contexte de l’avancée en âge et de la perte d’autonomie ? Quelles finalités poursuivons-nous en le faisant ? Quel sens donnons-nous au numérique, à la domotique, à la robotique, à la réalité virtuelle, à l’intelligence artificielle, aux objets connectés, aux smart cities... dans le contexte du grand âge et de la perte d’autonomie ?
  2. Le deuxième bloc de propositions répond à la question « Quoi ? » : La Filière Silver Économie a un rôle majeur à jouer pour encourager une approche éthique des silver tech. Mais quelles valeurs devrait-elle promouvoir ? Quelles vertus devrait-elle s’efforcer de développer ? Et comment peut-elle parvenir à donner l’exemple et à inciter les autres acteurs à adopter eux aussi une approche éthique ?
  3. Le troisième bloc de propositions répond à la question « Comment ? » : Du terrain remontent un certain nombre de questions pressantes. Par exemple, doit-on autoriser les familles qui le souhaitent à installer dans la chambre de leur parent vivant en EHPAD une caméra pour lutter contre les phénomènes de maltraitance ? Un autre problème récurrent est fréquemment remonté : Comment procéder avec les aînés qui ont des troubles du discernement et ne peuvent apparemment plus décider pour eux-mêmes ?

Nos propositions

A- Innover et rester ferme sur les principes fondamentaux
  1. Le point de départ doit toujours être la personne dans son environnement, dont la technologie fait partie.
    L’objectif des produits et services pour les personnes qui avancent en âge ne saurait être ni le profit pour le profit, ni la technologie pour la technologie. Leur fonction est d’être au service de la qualité de vie de la personne, dans le respect de sa dignité, qui est inaliénable.

  2. Les technologies peuvent soulager les aidants familiaux, bénévoles et professionnels, mais elles sont avant tout au service des personnes âgées elles-mêmes.
    Toute personne, quel que soit son âge, a le droit de ne pas vouloir que des objets techniques soient introduits dans son environnement et dans sa vie, même si des tiers pensent, et lui disent avec insistance, que c’est pour son bien.
  3. Les évolutions technologiques ne nécessitent pas de modifier les grands principes des libertés et droits fondamentaux du droit français, qui restent tout à fait pertinents et adaptés pour encadrer les usages. Dignité, vie privée, liberté d’aller et venir, santé, droits sociaux, sûreté. Il convient également de veiller au respect d’un consentement, libre, éclairé, renouvelé. Le consentement n’est pas transférable. Nécessité, proportionnalité, subsidiarité. Individualisation. Nous ne sommes pas favorables à la reconnaissance d’un droit de propriété de l’individu sur ses données.
  4. Les nouveaux usages numériques obligent cependant le droit et l’éthique à être inventifs : Ils rendent nécessaire un approfondissement de certains concepts éthiques et de certaines règles de droit.
    En l’absence de consentement, il importe de rechercher l’assentiment de la personne (= accord fondé sur une compréhension seulement partielle de la situation). Il faut mieux protéger la vie privée mais aussi donner plus de pouvoir aux individus sur leurs données personnelles (auto-détermination informationnelle). De nouvelles notions et de nouvelles règles sont nécessaires : garantie humaine ; partage d’informations étendu et mieux sécurisé.
  5. La visée des technologies devrait être de bâtir, avec et pour les personnes qui avancent en âge – c’est- à-dire nous toutes et tous –, un monde plus solidaire, plus juste et plus durable.
    Le sujet des technologies au grand âge est une question politique, en ce qu’elle nous invite à réfléchir au type de société dans lequel nous voulons vivre demain et au type de vivre-ensemble que nous voulons bâtir. Une société où seules comptent la jeunesse, la vitesse, le rendement, la croissance pour la croissance ? Ou une société de la « convivance », qui crée du lien social et du bien-vivre ensemble ?
  6. Le numérique est l’occasion de passer enfin d’un paradigme de la prise en charge des incapacités à un paradigme de la promotion, tout au long de la vie, des « capabilités ». L’approche par les incapacités est tardive, centrée sur les pertes, institutionnelle, coûteuse, cloisonnée. L’approche par les « capabilités » (Sen, Nussbaum) est définie ici comme le fait de donner à toutes et tous et à chacun.e des opportunités réelles (et non pas seulement des droits abstraits) de vivre une vie la plus proche possible du genre de vie auquel il ou elle attribue de la valeur, en tenant compte de ses souhaits, de ses ressources (internes et externes) et de ses difficultés. Cette approche est préventive, centrée sur les ressources, domiciliaire et coordonnée. Les technologies numériques, domotiques, l’intelligence artificielle et la e-santé peuvent rendre cette approche possible (à condition d’obéir aux principes éthiques et juridiques décrits dans cette partie).

B – Fédérer les acteurs de la filière autour de cing valeurs
  1. Promouvoir l’intégrité scientifique, technique, industrielle et commerciale.
    L’intégrité concerne à la fois les pratiques commerciales, la relation client, les contrôles de sécurité, les qualités éthiques des documents juridiques (contrats, CGV) : une « tolérance zéro » sur l’abus de faiblesse. L’intégrité doit aussi être scientifique : rigueur des méthodes d’évaluation, publication des résultats de la recherche (y compris quand ils sont négatifs), information des personnes qui y ont participé...
  2. Créer de la confiance en renforçant la transparence, notamment grâce à un centre de preuves, dont la principale fonction est de définir les indications validées d’une technologie, c’est-à-dire ce que – d’après les études disponibles – elle peut et ne peut pas faire.
    L’absence de transparence sur les performances réelles des produits, sur les conditions précises dans lesquelles ils pourraient être efficaces (indications), et sur les problèmes qu’ils sont susceptibles d’occasionner (effets indésirables) est très préjudiciable à la fois pour les consommateurs et pour les décideurs. Le rôle d’un centre de preuves n’est pas de mener lui-même des évaluations d’impact ou des essais techniques, mais de faire la synthèse de ces données et de référencer les produits pour lesquels il existe une évaluation d’impact avec un bon niveau de preuve, et des indications précises. Des acteurs privés peuvent être partenaires du centre, mais sa gouvernance devra impérativement être confiée à une personne morale de droit public (par exemple dans le cadre d’un groupement d’intérêt public) pour garantir une indépendance et une impartialité absolue du centre et de ses travaux.
  3. Systématiser la participation active des aînés, de leurs proches et, le cas échéant des professionnels et des bénévoles qui les accompagnent, depuis la conception jusqu’à l’implémentation (mise sur le marché), dans une logique de projet.
  4. Garantir l’accessibilité universelle et démocratiser l’accès grâce à un service public des aides techniques et technologiques.
    Les personnes qui ne sont pas nées dans le monde numérique peuvent s’y adapter mais se sentent malgré tout exclues de ce monde : il faut engager des recherches sérieuses sur ce qui peut permettre aux personnes qui avancent en âge de continuer à utiliser les technologies qui sont déjà présentes dans leur vie quand elles développent des troubles visuels et auditifs. Par ailleurs, un service public des aides techniques et technologiques permettrait aux familles modestes de bénéficier de prestations socle sans être confrontées à la complexité du système.
  5. Responsabiliser l’ensemble des acteurs, en faisant preuve soi-même d’une responsabilité sociale et sociétale exemplaire, pour une économie vertueuse et durable.
    Les acteurs de la Silver Economie devraient avoir le réflexe « éthique et sécurité juridique by design ». Ils doivent être les promoteurs d’une culture de la sécurité : RSE, responsabilité par rapport aux produits défectueux ; mesures proactives pour protéger les systèmes d’information, connaître et être vigilant sur le chemin de la donnée (cf. Pack de conformité avec la CNIL) ; sécurité d’accès aux données personnelles, notamment médicales. Il convient d’inciter les équipes à mettre en place une méthode d’analyse des événements indésirables, avec remontée d’informations, en s’appuyant sur des référentiels de qualité et sécurité (Norme ISO 26000 responsabilité sociétale, Label HS2 Haute Sécurité Santé).
  6. Co-construire des « Silver Rules » pour fédérer la filière autour d’une charte éthique commune :
    Les cinq valeurs précédentes (intégrité, transparence, participation, accessibilité universelle, responsabilité) constituent un socle de valeurs partagées. Il convient maintenant de préciser ensemble ce qu’implique concrètement leur traduction dans la réalité (conformité / compliance) et de structurer une offre de formation adaptée sur les enjeux éthiques et juridiques, pour tous les acteurs de la Silver Économie qui le souhaitent, et notamment pour ceux qui sont amenés à être au contact direct de personnes âgées.

C – Construire ensemble les comportements vertueux de demain
  1. « Caméras anti maltraitrance » : Ne pas suivre l’exemple texan et québécois.
    Il ne nous paraît pas opportun que le législateur français suive l’exemple des législateurs texan et québécois qui autorisent à certaines conditions la captation d’images dans les chambres des résidents d’EHPAD à des fins de lutte contre la maltraitance. Il s’agit d’une pratique en déclin. Le coût du dispositif est prohibitif, son efficacité est discutée, cela risque de rompre totalement le lien de confiance entre les familles et les équipes, et de porter atteinte à la dignité du résident ou de la résidente, car ces dispositifs sont très vulnérables au piratage. Il importe cependant que les familles puissent parler de leurs inquiétudes, que celles-ci soient prises au sérieux par les établissements et les services, et que des mécanismes simples puissent être activés pour lever rapidement le doute, et non un long et incertain processus administratif.
  2. Recourir avec beaucoup de vigilance et de précautions aux robots dit « sociaux » ou « émotionnels ».
    Il existe des usages définis, dans lesquels l’usage de robots « sociaux » (qui simulent des interactions sociales avec des êtres humains) peut être légitime, notamment lors de soins douloureux ou d’activités de réhabilitation. Mais un usage non réfléchi, non préparé, non encadré de ces machines comporte des risques importants, compte tenu de notre tendance naturelle à attribuer une intentionnalité à ces machines, et de la capacité de certaines d’entre elles à induire une manipulation.
  3. Ne recourir à la géolocalisation que lorsqu’elle permet de renforcer à la fois la liberté et la sécurité.
    Il est impossible de tenir un discours général sur les dispositifs de géo-repérage (tagging) ou de géo- localisation (tracking), tant les questions éthiques dépendent des situations : Le dispositif est-il visible ou dissimulé ? Esthétique ou disgracieux ? La personne comprend-elle sa fonction ? Peut-elle elle-même le mettre en route et le désactiver ? Ces dispositifs ne sont véritablement satisfaisants au plan éthique que lorsqu’ils accroissent à la fois la liberté et la sécurité de la personne.
  4. Légiférer sur la « zone grise » pour savoir quoi faire quand la personne paraît ne plus avoir toutes ses facultés de discernement et de jugement.
    Tout se passe comme si le législateur français avait soigneusement évité jusqu’à présent de se prononcer sur la conduite à tenir lorsqu’une personne ne paraît pas en mesure de prendre des décisions en connaissance de cause ou d’exprimer valablement sa volonté. Ce problème n’est pas propre au domaine des technologies, mais il s’y pose de manière particulièrement aiguë. Il convient donc, à la faveur d’une loi Grand âge et Autonomie, d’avancer ensemble sur ce sujet. Le Mental Capacity Act, voté en Angleterre et au Pays-de-Galles en 2005, pourrait constituer une source d’inspiration en ce domaine.
  5. Utiliser un outil moderne d’évaluation multidimensionnelle pour analyser les besoins et pour évaluer la pertinence des réponses.
    Pour évaluer rigoureusement de quelles aides (humaines, techniques, financières) une personne a besoin, et pour apprécier si les aides mises en place ont réellement un impact positif sur sa situation, son «fonctionnement» et sa qualité de vie, il est impératif de disposer d’un outil d’évaluation multidimensionnelle scientifiquement validé, sensible aux changements, fiable, standardisé et informatisé. Un tel outil est aussi nécessaire pour la coordination des professionnels. Plus encore, c’est la condition pour qu’une approche par les capabilités (préventive, coordonnée, domiciliaire, tout au long de la vie, inclusive...) puisse réellement devenir réalité. Les outils qui remplissent tous ces critères ne sont pas nombreux mais ils existent. La suite d’outils interRAI (Resident Assessment Instrument), déjà retenue par la CNSA pour les gestionnaires de cas des dispositifs MAIA, paraît un excellent candidat.
  6. Pérenniser et généraliser le questionnement éthique et juridique et susciter un débat démocratique.
    Il est important qu’une culture du questionnement éthique et qu’une culture juridique de la gestion des risques soient partagées par tous les acteurs (ingénieurs, développeurs, industriels, entreprises, chercheurs...). Ceux-ci se questionnent déjà beaucoup sur leurs pratiques individuelles et collectives, sans nécessairement qualifier leurs réflexions comme relevant de l’éthique ou du droit. Afin de renforcer et d’étayer ces questionnements, est proposée la mise en place d’un Espace national de réflexion et de prospective éthiques et juridiques, qui sera notamment chargé d’animer dans les territoires des Conférences citoyennes sur tous ces sujets.