Les enjeux cruciaux de l'IA thérapeutique

L'IA Act européen resserre son étau sur les systèmes conçus pour la thérapie ou le soutien émotionnel. Si votre produit utilise une IA à usage général (GPAI) pour interagir avec des utilisateurs dans un contexte thérapeutique, vous ne vous contentez plus de développer une fonctionnalité : vous évoluez désormais dans un cadre réglementaire à haut risque qui considère vos résultats comme une intervention clinique potentielle.

Pour nous, PME belges, c'est un signal d'alarme. Beaucoup d'entre nous sont tentés d'ajouter un « bot bien-être » ou un « coach IA » à leurs plateformes SaaS pour créer de la valeur. Selon l'IA Act, il ne s'agit plus de simples interfaces astucieuses. Si votre système a pour vocation d'apporter un soutien émotionnel ou thérapeutique, vous vous substituez de fait à un fournisseur de dispositifs médicaux. Vous êtes soumis à des obligations strictes en matière de transparence, de supervision humaine et de gouvernance des données. Même si vous n'êtes pas le concepteur principal du modèle, la charge de prouver que votre système est sûr — et qu'il ne risque pas de générer une recommandation dangereuse — repose entièrement sur vos épaules.

Ne vous imaginez pas que, parce que vous êtes un petit studio, les régulateurs regarderont ailleurs. L'UE est particulièrement sensible aux IA qui manipulent les états émotionnels ou imitent l'empathie humaine. Si votre produit influence la santé mentale d'un utilisateur, vous devez documenter la manière dont vous atténuez le risque que le modèle ne sorte de son cadre. L'époque du « c'est juste une expérimentation LLM » est révolue dès lors que vous pénétrez dans le domaine thérapeutique.

Ce trimestre, réalisez un « audit d'intention thérapeutique » sur votre feuille de route actuelle. Si vous proposez des fonctionnalités prodiguant des conseils sur les états émotionnels, la dépression ou l'anxiété, documentez précisément où le système cesse d'être un outil d'information pour devenir un outil de soutien. Si vous ne pouvez pas définir clairement ces limites, réduisez ces fonctionnalités à un contenu purement informatif. Il vaut mieux perdre une fonctionnalité « gadget » que de passer les deux prochaines années à gérer un audit de l'Autorité de protection des données belge ou du Bureau européen de l'IA.

https://artificialintelligenceact.eu/ai-therapy-under-the-eu-ai-act/