Recommandations pratiques pour une utilisation responsable de l’IA en santé mentale en contexte de pandémie
La pandémie actuelle a provoqué une onde de choc dont les conséquences se font sentir dans tous les aspects de notre vie. Alors que la santé physique a été généralement au cœur de l’attention scientifique et politique, il est devenu clair que la pandémie de COVID-19 a influé significativement sur la santé mentale de nombreux individus. Plus encore, elle aurait accentué les fragilités déjà existantes dans nos systèmes de santé mentale. Souvent moins financé ou soutenu que la santé physique, le domaine de la santé mentale pourrait-il bénéficier d’innovations en intelligence artificielle en période de pandémie ? Et si oui comment ?
Que vous soyez développeur.e.s en IA, chercheur.e.s ou entrepreneur.e.s, ce document vise à vous fournir une synthèse des pistes d’actions et des ressources pour prévenir les principaux risques éthiques liés au développement d’applications d’IA dans le champ de la santé mentale. Pour illustrer ces principes, ce document propose de découvrir quatre cas fictif, à visée réaliste, à partir desquels il vous sera proposé de porter attention aux enjeux éthiques potentiels dans cette situation, aux enjeux d’innovation responsable à envisager, aux pistes d’action possibles inspirées de la liste de contrôle (Protocole Canadien conçu pour favoriser une utilisation responsable de l’IA en santé mentale et prévention du suicide, Mörch et al., 2020), aux ressources pratiques et à certains enjeux juridiques pertinents.
Ce document a été élaboré par Carl-Maria Mörch, PhD, Algora Lab, Université de Montréal, Observatoire International sur les impacts sociétaux de l’Intelligence Artificielle et du Numérique (OBVIA), Mila – Institut Québécois d’Intelligence Artificielle, avec les contributions de Pascale Lehoux, Marc-Antoine Dilhac, Catherine Régis et Xavier Dionne.
Lire les recommandations pratiques
Cette veille sur les outils numérique en santé dans le contexte de COVID-19 s’inscrit dans le cadre des travaux de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) sur les effets des systèmes d’intelligence artificielle et des outils numériques déployés pour lutter contre la propagation de la COVID-19 sur les sociétés, soutenus par les Fonds de recherche du Québec (FRQ).
À PROPOS DE L’OBVIA
L’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) est un réseau de recherche ouvert qui fédère les expertises de plus de 200 chercheur·e·s en sciences humaines et sociales, en sciences et génie, et en santé. C’est aussi un espace ouvert de discussion et de réflexion pour l’ensemble des parties prenantes au développement et à l’utilisation de l’IA et du numérique.
La mission de l’OBVIA, en se fondant sur une interrogation critique des innovations technologiques, est de soulever des enjeux cruciaux et d’identifier des solutions plausibles aux problèmes et opportunités posés par les développements de l’IA et du numérique au Québec et ailleurs dans le monde.
Nous voulons contribuer à définir le bien commun qui devrait être poursuivi par ces innovations en produisant des connaissances ou en menant des projets de recherche-création sur leurs retombées sociales et en interpellant les institutions démocratiques. Nos travaux s’inscrivent dans une perspective d’innovation responsable.
