La publication du futur règlement européen sur l’intelligence artificielle (IA) devrait aboutir début d'année prochaine pour une mise en application en 2025. Annonce faite par David Gruson, à l’occasion du Congrès européen de la Société française de santé digitale (SFSD) qui s’est tenu début octobre. Le fondateur de l'initiative citoyenne et académique Ethik-IA est notamment revenu sur la liability directive (ou « directive sur la responsabilité ») publiée fin septembre par la Commission européenne.

La finalité de cette directive ? Mettre en place un régime de dédommagement adapté à l’ère du numérique. Concrètement, le texte définit les responsabilités et règles d’indemnisation en cas de dommages liés à l’IA. Des règles qui s'appliquent à divers secteurs activités, dont celui de la santé. 

 

Qui est responsable aujourd'hui ? 

Revenons sur les divers degrés de responsabilité. Aujourd’hui, le régime est celui de la « responsabilité du fait des choses » : un individu qui a le contrôle ou l’usage d’une solution est responsable des dommages causés à autrui. Dans le domaine de la santé, il s’agit par exemple d’un médecin ou d’un hôpital.

Mais cette responsabilité peut se déplacer sur le concepteur du système d’IA en cas de défaillance importante… sauf si ledit concepteur parvienne à « montrer qu'il ne disposait pas, au moment de la mise sur le marché, des connaissances scientifiques nécessaires pour pouvoir anticiper l'évolution de son produit », justifie David Gruson. Le risque devient dès lors évident : une non-indemnisation des dommages pour les patients. 

 

La garantie humaine

Et c’est là qu’intervient le futur règlement européen. Il instaure une présomption de responsabilité du concepteur de l’IA si celui-ci ne met pas en place un dispositif de garantie humaine. En d’autres mots, celui-ci contraint fabricants et utilisateurs à informer les patients tout en contrôlant l’utilisation et la traçabilité de la technologie.

Une approche « assez pragmatique », même si « elle ne couvre pas toutes les situations de risque de développement mais il vaut mieux sans doute procéder ainsi. C'est de la régulation positive », analyse David Gruson.  

La mise en place de ce dispositif est tout sauf facultative. Des sanctions financières seront appliquées en cas de non-conformité (2 à 4% du chiffre d'affaires annuel mondial du groupe). Pour les entreprises du dispositif médical, la mise en œuvre du dispositif doit également faciliter l’obtention du marquage CE.

 

Se former au marquage CE

Qu'est-ce qu'un dispositif médical au sens du MDR ? Quelles sont les exigences du règlement européen ? Et les étapes de processus de mise sur le marché ? Vous souhaitez connaître les principes de l'ergonomie appliquée aux DM ?

Toutes les réponses dans les formations ci-dessous :