Depuis des années, les laboratoires de biologie médicale maîtrisent la validation analytique : fidélité, justesse, répétabilité, valeurs de référence. Ces études sont codifiées, bien documentées, et portées par les biologistes responsables dans le cadre de l'accréditation COFRAC selon ISO 15189. Alors pourquoi parle-t-on de validation algorithmiquecomme d'une discipline à part ?
Parce que valider un outil d'IA dans un LBM, ce n'est pas valider une méthode de dosage. Un algorithme peut produire des résultats parfaitement stables pendant six mois, puis se dégrader silencieusement à mesure que la population de patients évolue, que les équipements changent, ou qu'un fournisseur met à jour son modèle en arrière-plan. L'AI Act l'a bien compris : il impose une logique de surveillance continue, là où la validation classique est ponctuelle. Ce guide détaille ce que cela signifie concrètement pour votre laboratoire.
Validation analytique vs. validation algorithmique : les différences fondamentales
La validation analytique classique répond à une question simple : est-ce que cette méthode mesure ce qu'elle est censée mesurer, avec la précision requise, dans des conditions définies ? La réponse s'obtient par un protocole d'études, conduit une fois (ou après modification significative), et produit un dossier qui reste valable tant que les conditions ne changent pas.
La validation algorithmique ajoute une dimension temporelle que la validation classique ignore : les algorithmes d'IA peuvent dériver. Leurs performances dépendent de la distribution des données d'entrée — et cette distribution évolue. Ce que l'AI Act nomme concept drift(dérive conceptuelle) ou data drift (dérive des données) peut rendre un outil initialement performant progressivement non fiable, sans erreur visible au sens classique du terme.
- Protocole ponctuel, réalisé à la mise en service
- Conditions stables supposées constantes
- Résultat : dossier de validation figé
- Surveillance : CIQ et EEQ périodiques
- Protocole initial + surveillance continue obligatoire
- Distribution des données susceptible d'évoluer
- Résultat : plan de monitoring documenté et actif
- Surveillance : indicateurs de dérive définis et seuillés
Les 4 étapes d'une validation algorithmique conforme AI Act
L'AI Act (articles 9, 10 et 72 pour les systèmes à haut risque) structure implicitement la validation en quatre phases que tout LBM déployant un outil d'IA doit documenter.
Qualification des données de validation
Avant toute étude de performance, vous devez vous assurer que les données sur lesquelles l'outil a été entraîné — et celles sur lesquelles vous allez le valider — sont représentatives de votre population de patients. Un système performant sur une cohorte universitaire parisienne peut sous-performer dans un laboratoire de ville du sud-ouest. L'AI Act impose que le déployeur vérifie cette représentativité et la documente dans son dossier technique.
Points à documenter : source des données, période couverte, caractéristiques démographiques, flux analytique (types d'analyseurs, réactifs, pré-analytique).
Évaluation des performances initiales
C'est l'équivalent de la validation de méthode classique, appliqué à l'algorithme. Les métriques à documenter dépendent du type d'outil : sensibilité/spécificité pour un outil de détection, valeur prédictive positive/négative pour une aide à la décision, taux d'accord avec la décision humaine pour un outil de validation automatique.
L'AI Act exige que ces métriques soient définies avantl'étude (et non choisies après pour valoriser les résultats), et que les seuils d'acceptabilité soient justifiés au regard du contexte clinique.
Surveillance de la dérive algorithmique post-déploiement
C'est la rupture majeure avec la validation classique. L'AI Act impose un plan de surveillance post-déploiement(post-market monitoring) formalisé, avec des indicateurs définis, une fréquence de révision et des seuils déclenchant une réévaluation. En pratique pour un LBM :
- Taux de validation automatique vs. humaine : une chute anormale peut signaler une dérive
- Distribution des résultats dans le temps : un glissement de la courbe de distribution est un signal précoce
- Taux d'alertes ou de flags générés par l'outil : une hausse soudaine doit être investiguée
- Concordance avec le biologiste lors des révisions manuelles
Revue périodique et déclenchement de revalidation
Le plan de surveillance doit définir à quelle fréquence une revue formelle est conduite (typiquement annuelle, ou déclenchée par un événement : mise à jour du logiciel, changement d'analyseur, évolution notable de la population de patients). Si un seuil d'alerte est franchi, une revalidation partielle ou complète est obligatoire avant de maintenir l'outil en production clinique.
L'AI Act prévoit que toute modification significative du système entraîne une réévaluation de conformité — cela inclut les mises à jour de modèle par le fournisseur. Obtenez contractuellement la notification de ces modifications.
Articulation avec COFRAC ISO 15189 : construire un pont, pas un doublon
La bonne nouvelle : votre système de management de la qualité COFRAC est une base solide. La norme ISO 15189 couvre déjà la traçabilité, la gestion documentaire, et la validation des méthodes. L'erreur à éviter est de traiter la validation algorithmique comme un chantier parallèle, déconnecté de votre SMQ existant.
Ce que ISO 15189 couvre déjà
Procédures de validation, gestion des non-conformités, traçabilité des résultats, compétences du personnel, contrôle qualité interne. Réutilisez ces structures pour la partie algorithmique sans les dupliquer.
Ce qu'AI Act ajoute spécifiquement
Plan de surveillance continue, indicateurs de dérive, dossier technique IA distinct, journal des événements automatisés, gestion des mises à jour fournisseur. Ce sont des extensions documentaires, pas des reconstructions.
Approche recommandée : créez une annexe IAà votre dossier de validation ISO 15189 existant, qui documente les dimensions spécifiques AI Act. Cela évite la duplication, facilite les audits COFRAC, et constitue le dossier technique requis par le règlement européen.
La responsabilité du biologiste responsable face à la validation algorithmique
L'AI Act est clair sur un point : même lorsque le système d'IA est fourni par un éditeur tiers, le déployeur— en l'occurrence le LBM, représenté par le biologiste responsable — engage sa responsabilité dans les conditions d'utilisation et la surveillance de l'outil.
Concrètement, le biologiste responsable doit :
- Approuver et signer le plan de validation algorithmiqueavant tout déploiement clinique — au même titre qu'il approuve les dossiers de validation analytique
- Définir les conditions d'utilisation clinique : quels examens, quels patients, quels contextes cliniques tombent dans le périmètre de l'outil et lesquels en sont exclus
- S'assurer de la supervision humaine : l'AI Act impose un human-in-the-loop pour toute décision clinique — le biologiste responsable doit définir les procédures qui garantissent qu'aucune décision critique n'est prise sans validation humaine identifiable
- Valider les revalidations périodiques : à chaque revue annuelle ou événementielle, c'est le biologiste responsable qui approuve le maintien en production ou décide d'une suspension
Point de vigilance :la délégation à un prestataire ou à un responsable qualité ne décharge pas le biologiste responsable de sa responsabilité réglementaire. L'article 26 de l'AI Act précise que le déployeur reste responsable de l'adéquation entre l'usage réel et les conditions documentées, même lorsque le système est fourni clé en main par un fabricant de dispositifs médicaux.
La validation algorithmique n'est pas une formalité à déléguer à l'informatique ou au service qualité. C'est un acte biologique et réglementaire au cœur des responsabilités du biologiste qui signe les résultats — et qui doit pouvoir justifier, en cas d'incident, que chaque outil IA en production dans son laboratoire a été validé, surveillé, et réévalué selon les exigences de l'AI Act.