Le CMQ considère l'IA générative comme un outil d'aide à la décision qui ne peut remplacer la relation thérapeutique entre le médecin et le patient. Tout contenu généré par l'IA doit être systématiquement validé par le professionnel.
Nuance clinique
Les LLM sont remarquablement utiles pour des tâches rédactionnelles à faible risque clinique : rédiger une lettre d’explication pour un patient, formuler une réponse à une question administrative, structurer un résumé. Ils deviennent risqués quand on les utilise pour des tâches à fort enjeu clinique sans validation indépendante : interprétation d’examens, aide au diagnostic différentiel, recommandations posologiques. La limite n’est pas dans l’outil — elle est dans la tâche. Un LLM utilisé comme assistant rédactionnel est très différent d’un LLM utilisé comme conseiller clinique.
Points pratiques
Ce qui est généralement sûr :
- Rédiger une lettre d’explication pour un patient (sans données identifiantes dans le prompt)
- Reformuler un résumé clinique pour un non-médecin
- Générer un plan de présentation ou de formation médicale
- Explorer des angles différents sur une question clinique générale (comme une revue de littérature préliminaire)
- Préparer des questions pour une conférence ou un comité
Ce qui requiert une vigilance accrue :
- Aide au diagnostic différentiel : utile comme rappel, mais vérifier indépendamment
- Recommandations posologiques : TOUJOURS vérifier dans une source pharmacologique certifiée
- Interprétation d’examens : le LLM n’a pas accès au contexte clinique complet
- Rédaction de notes versées au dossier : valider mot par mot
Ce qu’on ne fait pas :
- Entrer le nom, la date de naissance ou des identifiants patients dans ChatGPT grand public, Claude.ai gratuit ou Gemini standard
- Copier-coller des sections de dossier dans un LLM sans version enterprise
- Citer une référence bibliographique générée par un LLM sans vérification indépendante
- Déléguer un jugement clinique à un LLM sans validation humaine
Comment vérifier qu’une version est « enterprise » / conforme :
- Claude Enterprise : données hors entraînement, contrat de traitement des données disponible
- ChatGPT Enterprise : même garanties, SOC 2 Type II
- Microsoft Copilot M365 Business : données dans le tenant Microsoft de l’organisation, HIPAA eligible
- Version gratuite ou Copilot Web : données peuvent être utilisées pour l’entraînement — à éviter pour toute donnée clinique
Preuves et contexte public
- Quelle est la différence entre IA faible et IA forte en santé ?
- Évaluation clinique de l’IA — pilier