L’IA comme nouvel assistant médical : qui paie la facture en cas d’erreur ?

L’impact de l’IA sur la médecine est sans commune mesure. La technologie améliore non seulement le diagnostic, mais optimise également les processus de soins et les traitements. Citons notamment :

• Des diagnostics plus rapides et plus précis : les algorithmes analysent les résultats des examens d’imagerie médicale, comme les scanners ou les mammographies, avec une précision d’horloger. Ils détectent les anomalies à peine perceptibles à l’œil nu, ce qui conduit à un diagnostic plus rapide et de meilleure qualité.
• Des soins prédictifs et personnalisés : en analysant de grandes quantités de données des patients, le logiciel reconnaît les modèles qui indiquent un risque accru de maladie, comme la septicémie. Ainsi, cette technologie autorise les interventions préventives et les traitements personnalisés, notamment en prédisant la réponse de l’organisme à la chimiothérapie.
• Une gestion plus efficace de l’hôpital : la technologie automatise les tâches répétitives, comme la planification et la gestion des dossiers. Par ailleurs, l’IA aide à prédire la demande en lits et en personnel, ce qui permet à l’hôpital d’affecter plus efficacement ses ressources.
• Un accompagnement de meilleure qualité pour le patient : des chatbots intelligents informent les patients et permettent un monitoring à distance, une fonction particulièrement utile pour les malades chroniques.

Ces progrès technologiques soulèvent néanmoins une question juridique des plus complexes. Alors que le médecin était autrefois le seul expert fondé d’un pouvoir de décision, il est aujourd’hui secondé par un assistant numérique doté d’une grande influence. Ce changement de paradigme s’accompagne de toute une série de questions de première importance :

• Qui endosse la responsabilité finale ? Le médecin demeure-t-il le seul responsable final, même s’il s’appuie sur des informations fournies par un système certifié ?
• Quand le produit est-il défectueux ? L’hôpital peut-il se retourner contre le concepteur du logiciel si l’algorithme n’est pas en mesure de garantir le niveau de sécurité promis ?
• Qu’attend-on de la part du médecin ? Un médecin doit-il oser ignorer les recommandations d’un algorithme ? Et qu’advient-il si cette décision entraîne des dommages ?
• Quel est le rôle de la direction de l’hôpital ? La direction est responsable de l’achat d’une technologie sûre. Un choix erroné peut engager la responsabilité des administrateurs.

Ces nouveaux risques ont des répercussions directes sur les assurances de votre hôpital et de vos médecins.

1. Responsabilité Civile (RC) Professionnelle & Exploitation : en vertu de la législation belge, l’IA peut être considérée comme un « instrument ». En d’autres termes, le prestataire de soins peut, en principe, être tenu responsable d’un vice du produit, comme c’est le cas avec tout autre instrument médical. La responsabilité finale demeure donc chez le médecin, qui doit interpréter et valider les informations fournies par l’IA.
2. Responsabilité d’administrateur (D&O) : les administrateurs sont responsables des investissements stratégiques. À l’acquisition de systèmes d’IA, il leur appartient de contrôler minutieusement la fiabilité et la certification du produit. S’ils font preuve de négligence, ils peuvent être tenus personnellement responsables d’une faute de gestion.
3. Cyberassurance : les systèmes d’IA sont vulnérables aux cyberattaques. Si une cyberpolice est indispensable pour couvrir les dommages directs d’un incident, elle ne couvre généralement pas les conséquences d’une erreur médicale provoquée par le piratage d’un système.

N’attendez pas l’entrée en vigueur de l’AI Act européen, mais prenez les devants en adoptant dès maintenant des mesures de gestion des risques :

• Examen minutieux à l’achat : procédez à un contrôle approfondi des fournisseurs et de leurs produits.
• Contrats sans équivoque : définissez contractuellement la responsabilité avec le fournisseur de logiciel. Qui est responsable des mises à jour et de la résolution des erreurs ?
• Formation et protocoles clairs : développez des protocoles internes régissant l’utilisation du logiciel et assurez une formation en bonne et due forme de vos collaborateurs sur les possibilités et les limites de la technologie.
• Le contrôle humain demeure essentiel : précisez avec insistance que l’IA est un outil et non un substitut à l’avis clinique. La décision finale revient invariablement au médecin.

L’essor de l’IA dans le secteur des soins de santé constitue une évolution positive. Une bonne compréhension des risques ainsi qu’une approche proactive se révèlent toutefois indispensables pour mettre à profit les opportunités tout en garantissant la sécurité du patient et la protection de votre établissement. En tant que votre courtier en assurances, nous suivons ces évolutions de près et vous recommandons vivement d’adapter vos polices aux risques de demain.