Le CMQ rappelle que la responsabilité professionnelle du médecin s'applique intégralement aux actes posés avec l'aide de l'IA. L'INESSS souligne que la collecte de données en contexte réel est nécessaire pour réduire les incertitudes liées à l'efficacité de l'IA après déploiement.
Nuance clinique
Le risque d’erreur lié à l’IA n’est pas nécessairement supérieur au risque d’erreur humaine dans les mêmes tâches — mais il est différent dans ses mécanismes. Un médecin fatigué fait des erreurs prévisibles. Un LLM fait des erreurs imprévisibles, souvent sur des cas atypiques, parfois avec une confiance apparente qui ne correspond pas à la fiabilité réelle. Ce profil de risque différent demande une adaptation des stratégies de vigilance clinique.
Points pratiques
Risques documentés :
- Hallucinations des LLM : informations médicales fausses présentées avec fluidité — vérifier toujours les sources primaires pour les décisions cliniques importantes
- Erreurs de transcription des scribes : mots rares, abréviations, homophones médicaux — relecture attentive obligatoire
- Automation bias : tendance à faire confiance à une suggestion IA sans esprit critique — maintenir le questionnement clinique
- Biais de population : les données d’entraînement peuvent mal représenter certains groupes (populations racialisées, personnes âgées) — interpréter avec prudence
- Dérive de la documentation : si un scribe répète systématiquement une erreur, elle peut se propager dans le dossier sans être détectée
Mitigation :
- Traiter toute sortie IA comme un brouillon à valider, pas comme une vérité
- Maintenir une surveillance active des erreurs de documentation
- Former les équipes aux mécanismes d’erreur spécifiques aux outils utilisés
- Signaler les erreurs IA (contribute à l’amélioration des outils et à la littérature)