Alors que les SIADM irriguent progressivement les différents champs de la pratique médicale et transforment la relation soignants-patients, il est indispensable de créer les conditions de la confiance

C'est en ces termes que le Comité consultatif national d'éthique (CCNE) et le Comité national pilote d'éthique du numérique (CNPEN) ont présenté leur dernier avis sur l'utilisation de l'intelligence artificielle dans le diagnostic médical. Un usage qui pose de « nouveaux enjeux éthiques ». Et aussi le « l'évaluation des systèmes d'intelligence artificielle pour le diagnostic médical (SIADM) », en vue de protéger le patient. Pour répondre à ces défis, les gendarmes de l'éthique proposent 16 recommandations en vue d'un encadrement des systèmes. À noter que la publication conjointe de cet avis fait suite à une saisine du Premier ministre en juillet 2019.

 

L'IA pour quels domaines ?

Aujourd'hui, les disciplines médicales les plus concernées par le recours au numérique sont la radiologie (plus particulièrement l'oncologie), l'ophtalmologie, la dermatologie, la cardiologie et l'histopathologie, avec « des perspectives d'avancées très significatives pour les patients ». Pourquoi faire appel à l'IA ? Elle offre aux professionnels de santé une grande précision dans la détection de maladies, lésions ou anomalies. Et donc de proposer au patient la meilleure prise en charge thérapeutique possible. 

 

L'humain reste primordial

Le document publié par les deux comités revient sur les capacités actuelles des SIADM... avant d'aborder les écueils liés à ce type d'outils. En particulier, le fait qu'ils « produisent des résultats basés, d'une part, sur des approches qui peuvent être probabilistes et d'autre part, peuvent être entachés d'erreurs. [...] Il faut se donner constamment les moyens de prendre de la distance avec le résultat fourni ».

Deux règles sont immuables : 

  1. Le SIADM ne peut échapper au contrôle humain
  2. Les résultats du système doivent être explicables.

Selon les comités, un SIADM doit passer par deux étapes pour être « utilisable » :

  • L'évaluation de l'efficacité clinique du SIADM 
  • La certification de conformité, en vue de la mise sur le marché du système. 

 

Une évaluation qui pose question

L'évaluation, au niveau international, est un autre enjeu du secteur.  

Une double question capitale intervient. D'abord celle de savoir comment produire une évaluation sincère et utile de ses performances, et ensuite de contrôler l'influence prédominante du marché dans ces jugements, avec le risque que celui-ci ne dicte les transformations du système de soins

La Haute autorité de santé (HAS) pourrait avoir un rôle prépondérant dans ce processus. Elle évalue déjà les algorithmes d'IA inclus dans un DM. Mais il y a un hic, ainsi que le rappellent les deux comités : 

La HAS ne procède qu'à l'évaluation des dispositifs médicaux qui font l'objet de remboursement par l'assurance maladie auprès des patients. De fait, la presque totalité des algorithmes utilisés par les professionnels de santé se voient donc exclus de l'évaluation par la HAS puisqu'ils n'ont pour la plupart pas vocation à être vendus aux patients.

À ce titre, et en réponse à cette faille, le CCNE et le CNPEN mettent en lumière la grille socle de la HAS permettant une évaluation et incluant « une partie éthique complémentaire à celle prévue par le règlement européen ».

 

Les recommandations

Le CCNE et le CNPEN ont émis 16 propositions. Ils recommandent notamment :

  • La recherche pour améliorer les méthodes diagnostiques
  • La réalisation d'études approfondies autour des interactions homme/machine afin de mesurer l'impact des SIADM dans l'exercice de la médecine
  • La mention de l'utilisation d'un SIADM dans le compte-rendu d'une consultation
  • Le maintien d'un contrôle humain sur tout le parcours de soin, « de l'indication des examens aux résultats des analyses et à l'interprétation contextuelle de ces résultats ». 
  • La mise en œuvre d'une concertation nationale sur l'accessibilité économique des SIADM
  • La mise en place d'actions de formation en vue de développer les compétences des soignants autour des propriétés des SIADM
  • L'intégration des technologies d'IA et de ses enjeux éthiques au sein des formations initiales et continues à destination des professions médicales et paramédicales. 

 

La gestion des données de santé

Le numérique en santé constitue un enjeu majeur pour les industriels. L'un des défis à relever concerne la gestion des données personnelles. Pour vous aider, l'Ifis vous propose deux formations autour de cette thématique : 

 

Sessions bientôt programmées. N'hésitez pas à contacter les équipes de l'Ifis pour être informé.e.s des prochaines dates.