NOTE DE SYNTHESE – Numérique et santé, quels enjeux éthiques pour quelles régulations ?

Rapport du groupe de travail commandé par le comité consultatif d’éthique pour les sciences de la vie et de la santé (CCNE) avec le concours de la commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene (CERNA) – 19 novembre 2018

Par Candice DIAS CARDOSO, juriste apprentie au centre de droit JuriSanté du CNEH

Promouvoir la qualité et la pertinence des soins est une des ambitions qui irriguent la politique menée par l’actuel gouvernement dans le cadre de la réforme de notre système de santé. Le numérique participe et ce de manière considérable à cette démarche. Force est de constater que le numérique est aujourd’hui source d’avancées majeures pour le renforcement de la qualité et l’efficience de notre système de santé (avancée de la recherche, développement des outils de diagnostic et de l’équipement médical, etc.). Des mutations profondes ont vocation à s’opérer dans les formations, les fonctions ou encore les responsabilités des acteurs de santé. Pour autant, si le déploiement du numérique en santé n’est qu’à son préambule, il ne saurait être exonéré d’une analyse continue des enjeux éthiques associés à ces technologies et à leurs évolutions futures.

A ce titre, afin d’aider le CCNE à mieux appréhender les nombreux enjeux suscités par l’intelligence artificielle ainsi que les interactions entre numérique et santé et les leviers de régulation envisageables, le CCNE  a commandé un rapport avec le concours de la commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique d’Allistene (CERNA).

Le groupe de travail est composé de membres du CCNE, de la CERNA ainsi que d’autres personnalités qualifiés, piloté par Claude Kirchner, Délégué général à la recherche et au transfert pour l’innovation de l’INRIA et David Gruson, Membre du comité de direction de la Chaire Santé de ScPO Paris.

1. Le numérique en santé ?

Le numérique en santé renvoie à l’ensemble des processus informatisés dans le domaine de la santé, que ces processus impliquent ou non de l’intelligence artificielle ou de la robotique.

L’intelligence artificielle est définie par la Commission TIC de l’Académie des Technologies comme « la science de l’imitation du raisonnement humain ou dans une acception performative, celle de prendre les bonnes décisions en fonction d’une reconnaissance efficace d’un environnement. »[1]

L’intelligence artificielle considérée comme au cœur du système de santé de demain notamment avec l’avènement des opérations assistées, les prothèses intelligentes, le big data ou encore le suivi des patients à distance constitue un vecteur de mutation profonde de notre système de santé, non pas sans soulever de réels questionnements éthiques.

2. Le numérique en santé : quels enjeux éthiques ?

Le rapport met en lumière les différentes problématiques soulevées par la diffusion du  numérique en

santé.

• La conciliation de la protection des données et du partage de l’information

La protection des données est un volet important de la réglementation, elle garantit notamment le respect de la vie privée. Toutefois, avec le développement du numérique, il apparait nécessaire de prévoir une juste conciliation entre protection des données et partage de l’information. Axe principal de cette volonté de renforcer la  qualité et l’efficience des soins, le partage de l’information permet en outre une meilleure coordination du parcours de soin ou encore – et c’est ce qui souligne la nécessité d’une conciliation – la contribution à l’avancée des connaissances s’agissant des données personnelles d’un patient atteint d’une maladie rare par exemple. Les enjeux sont ici considérables, il s’agit notamment de garantir la sécurisation des données ainsi que «  d’impliquer, d’encapaciter les individus dans la production de ces informations tout en veillant à limiter les risques d’intrusion dans la vie privée.[2]»

• L’accentuation des inégalités de l’offre de soins sur le territoire

La crainte est exprimée de voir les inégalités territoriales accrues par une absence d’uniformité dans l’équipement numérique. Le groupe de travail reprend les recommandations du CNOM qui met l’accent sur la nécessité de couvrir l’ensemble du territoire, considérant qu’il est «  impératif que les progrès attendus des technologies d’intelligence artificielle, big data et robotique profitent à tous et n’accentuent pas des fractures sociales, socio-économiques ou culturelles[3] ». 

• La médecine algorithmique : délégation du consentement éclairé et minoration de la prise en compte des situations individuelles ?

La médecine algorithmique s’appuyant sur des données massives, se pose la question de l’implication effective du patient dans les décisions concernant sa prise en charge mais également la question de la responsabilité du médecin qui déciderait d’écarter la recommandation produite par le système numérique. Le CNOM précise dans son rapport précité que ces dispositifs constituent une aide à la décision médicale, l’objectif n’est de « dicter au médecin comme au patient une décision rendue par l’algorithme qui s’imposerait à eux sans être susceptible de critique ou de transgression.» Etant précisé que le Conseil Constitutionnel a indiqué que  le recours à un algorithme pour fonder une décision administrative individuelle devait faire l’objet d’une information préalable[4].

Par ailleurs, le numérique accentue la problématique de la systématisation, à savoir l’application au niveau individuel de résultats obtenus sur des groupes de population. Il conviendra donc d’écarter le risque d’universalisation des analyses.

• La formation des professionnels en la matière

Dans la lignée de la réforme des études de médecine entreprise par l’actuel gouvernement qui se nourrit notamment de la volonté d’améliorer la formation des professionnels et de diversifier les profils, le CNOM estime indispensable de former dès maintenant les médecins en fonction du monde dans lequel ils exerceront demain. Les travaux soulignent ainsi la nécessité d’adapter la formation des professionnels de santé aux usages de l’intelligence artificielle, au big data en santé etc. Néanmoins, face au risque prégnant de deshumanisation de la relation soigné/soignant, il apparait indispensable de veiller à ce que l’empathie et les qualités relationnelles des professionnels ne soient pas relayées au second plan.

• L’insuffisance du recours au numérique

Au-delà des questionnements éthiques encore non résolus que pose cette insertion du numérique dans le champ de la santé, le défaut de recours au numérique dans la prise en charge des patients constituerait un frein à la qualité et l’efficience de notre système de santé, pour la recherche ou pour le développement du pilotage par les données qui permet d’identifier par exemple la non-pertinence des soins.

A la lumière de ces développements, force est de constater que le numérique en santé engendre de nombreux bouleversements et nécessite une adaptation de notre système de santé actuel dans la manière d’appréhender l’organisation de l’offre de soins ainsi que la relation soigné/soignant.

3.Quel niveau de régulation privilégier ?

Le rapport Villani précité traduit une volonté d’ouvrir la question à l’international plutôt que de se cantonner à une régulation nationale contraignante. Il considère qu’ « il est important que la France soit force de proposition à l’échelle internationale, et s’investisse pleinement dans les négociations sur les futurs standards technologiques» afin d’éviter que ne soit abandonnée aux Etats ayant un cadre plus souple le soin d’imposer leur philosophie et leurs usages de l’intelligence artificielle en santé.

Le groupe de travail appelle également, dans la perspective de la prochaine révision de la loi de bioéthique et la transposition en droit français du RGPD, à la plus grande retenue dans le recours aux instruments législatifs et réglementaires pour la régulation de la diffusion du numérique. Il argue qu’une réglementation trop contraignante aurait pour conséquences de renforcer encore les blocages à la diffusion de l’innovation en France et d’encourager dans le futur les patients et les professionnels à demander l’importation de solutions numériques construites dans d’autres pays et dans des cadres n’offrant pas de garanties de régulation suffisantes.

4. Les leviers de régulations envisagés

Si on ne peut que constater la prise de position du groupe de travail dans le sens d’une modération législative sur les questions de numérique, celui- ci propose néanmoins quelques axes de régulation.

• L’évolution du CCNE et de ses compétences

Le CCNE deviendrait le Comité National d’Ethique auquel on demandera de travailler sur les sciences, technologies, usages et innovations du numérique. Cette évolution aurait pour corolaire un élargissement de l’objet et des missions du CCNE dans la prochaine loi de bioéthique.

• Le renforcement de principes ou de normes de niveau législatif déjà en vigueur 

Il conviendrait d’étayer les dispositifs de recueil du consentement : revivification de la personne de confiance, mise en place d’une protection renforcée pour les personnes vulnérables.

• L’insertion d’un principe de garantie humaine dans la loi bioéthique

Le Conseil Constitutionnel fait valoir qu’un algorithme ne peut constituer un paramètre « exclusif » pour prendre une décision individuelle[5].

S’agissant du développement d’un cadre juridique international, les divergences d’approches entre les pays sur le bien-fondé et la nature d’une régulation de la diffusion du numérique en santé semble quelque peu obstruer la voie. En revanche, l’exemple du RGPD montre qu’une dynamique communautaire sur ces questions numériques est possible.

5. Des zones d’ombres demeurent

Bien que des moyens doivent être mis en œuvre pour veiller à ce que le patient reste pleinement acteur de sa santé,  la question subsiste de savoir si, face à des systèmes aussi complexes, le patient sera toujours en mesure de donner un consentement éclairé à leur usage ?

Il est également nécessaire de s’interroger sur toutes les implications en matière de responsabilité. Qui est responsable en cas d’erreur ou de dérèglement de la machine ? Le médecin peut-il voir sa responsabilité engagée pour avoir décidé d’écarter une recommandation du système numérique dans le cadre de la médecine algorithmique ?

Le rapport numérique et santé publié ce 19 novembre fait ainsi état de l’immense chantier que constitue la diffusion du numérique en santé et des nombreuses implications associées. Les questions éthiques soulevées peinent à susciter des solutions juridiques claires et pourtant nécessaires d’une part, pour garantir l’information et la protection des patients dans leur prise en charge, d’autre part, pour réglementer l’exercice du professionnel face à ces avancées technologiques notamment au regard de la responsabilité.

[1] Renouveau de l’Intelligence artificielle et de l’Apprentissage Automatique de la Commission TIC de l’Académie des Technologies

[2] Rapport Villani, Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne

[3] Conseil national de l’Ordre des médecins (CNOM), « Médecins et patients dans le monde des data, des algorithmes et de l’intelligence artificielle », Janvier 2018

[4] Décision 2018-765 DC «  Loi relative à la protection des données à caractère personnel »

[5] Décision 2018-765 DC précitée