Gratuit, ouvert et irresponsable ? Les risques de l'IA généraliste dans la pratique clinique

L'intelligence artificielle reconfigure rapidement la pratique clinique à travers l'Europe : près de la moitié des cliniciens déclarent désormais utiliser des outils d'IA régulièrement dans leur exercice professionnel. La gouvernance peine pourtant à suivre le rythme de cette adoption, laissant de nombreux professionnels de santé dépendre d'outils d'IA généralistes qui n'ont jamais été conçus ni validés pour des environnements cliniques réglementés. Entraînés sur des contenus internet généralistes plutôt que sur des données médicales validées, ces outils peuvent produire des informations inexactes ou obsolètes, et manquent de la transparence et de la traçabilité qu'exige la prise de décision clinique.

Pour les établissements de santé, la question n'est plus de savoir si l'IA a sa place dans la pratique clinique, mais quelle IA peut y être utilisée en toute confiance. À mesure que l'EU AI Act entre en vigueur, les outils d'IA gratuits et ouverts dépourvus de gouvernance claire font l'objet d'un examen croissant, et les exigences historiquement appliquées aux dispositifs médicaux, aux recommandations cliniques et aux traitements sont désormais étendues à l'IA.

Contrairement aux outils généralistes qui produisent des réponses fluides à partir de sources non vérifiées, sans visibilité sur la manière dont les conclusions sont établies, ClinicalKey AI repose sur des contenus médicaux sélectionnés et évalués par les pairs, avec une traçabilité transparente des sources, une validation des citations en temps réel et une gouvernance impliquant l'humain à chaque étape. Cette différence n'est pas seulement technique : elle traduit une philosophie fondamentalement distincte de ce dont l'IA en santé doit rendre compte. Dans les environnements cliniques, cette distinction est déterminante : le secteur de la santé ne peut plus considérer l'IA comme un simple outil de productivité.

Ce livre blanc analyse pourquoi le recours non encadré à l'IA généraliste dans le domaine de la santé constitue un risque croissant pour la sécurité des patients et la gouvernance, examine ce que représente concrètement une IA clinique responsable et fondée sur les preuves, et propose un cadre de référence pour les décideurs en santé qui pilotent l'adoption de l'IA dans un environnement de plus en plus réglementé.