Vetted Medical × Mila AI Safety Studio — garde-fous pour les agents conversationnels en santé mentale

Contribution

En 2026, Vetted Medical a contribué à une mission du Mila AI Safety Studio visant à élaborer des garde-fous pour les chatbots et agents conversationnels d’intelligence artificielle en santé mentale.

La contribution de Vetted Medical a porté sur la conception d’un benchmark clinique et sur la production d’un jeu de données annoté par plus de 20 psychiatres, pédopsychiatres et résidents en psychiatrie, afin d’évaluer le comportement des modèles dans des situations à risque élevé.

Contexte

Le Mila AI Safety Studio travaille notamment sur les garde-fous externes, le benchmarking multi-tours et l’alignement des modèles. Mila et Vetted Medical ont par ailleurs annoncé en 2026 un partenariat autour de l’adoption responsable de l’IA en santé.