Quels sont les biais algorithmiques en IA santé et comment affectent-ils l'équité des soins ?

Nuance clinique

Les biais algorithmiques en santé sont particulièrement insidieux parce qu’ils se présentent souvent avec une apparence de précision mathématique. Un médecin qui reçoit un résultat d’outil IA suivi d’un chiffre de confiance (« 87 % ») peut inconsciemment lui accorder une autorité qu’une opinion clinique équivalente n’obtiendrait pas. La lutte contre le biais algorithmique n’est pas seulement une question technique — c’est une question de littératie clinique et d’épistémologie médicale.

Points pratiques

Sources de biais fréquentes :

• Biais de représentation : données d’entraînement issues de populations non représentatives (ex: majorité de patients blancs, anglophones, urbains)
• Biais de mesure : variables proxy défectueuses (coût des soins, accès aux services comme substituts de l’état de santé)
• Biais de confirmation : l’IA reproduit les décisions historiques des médecins, y compris leurs propres biais documentés
• Biais de déploiement : performance validée dans un contexte, dégradée dans un autre sans recalibration

Exemples documentés :

• Algorithme de priorisation des soins (Obermeyer et al., 2019) — sous-estimation des besoins des patients Noirs
• Outils de détection de mélanome — performance réduite sur les peaux foncées dans plusieurs études
• Modèles de prédiction de sepsis — performance variable selon les établissements de validation externe

Ce que le clinicien peut faire :

• Demander aux fournisseurs d’IA : sur quelle population a été validé cet outil ? En sous-groupes ?
• Ne pas extrapoler les performances publiées à sa propre population sans validation locale
• Maintenir un regard critique sur les patients pour lesquels l’outil semble « trop confiant »
• Signaler les cas suspects d’erreur systématique — c’est une donnée précieuse pour améliorer les outils

Preuves et contexte public

• Comment évaluer la fiabilité d’un outil IA clinique ?
• Évaluation clinique de l’IA — pilier