Petit guide sur les angles morts des réponses technologiques à la pandémie de COVID-19

En ce début d’année 2021, on recense près de 1000  millions de cas confirmés de COVID-19 et plus de 2 millions de décès à travers le monde. Près d’un an après le début de la pandémie, on commence à mesurer les effets humanitaires des mesures mises en place pour la contrôler. Pourtant, la conception universaliste des effets sanitaires et socioéconomiques de la pandémie a d’ores et déjà rapidement été remise en question à la lumière des impacts différenciés du virus chez certaines populations, d’une part, et sa propension à exacerber des inégalités sociales préexistantes d’autre part. Certains parlent d’ailleurs d’une « pandémie de l’inégalité ».

C’est dans ce contexte que Karine Gentelet, professeure agrégée au Département des sciences sociales de l’Université du Québec en Outaouais (UQO) et titulaire de la Chaire Abéona-ENS-OBVIA sur l’IA et la justice sociale et Alexandra Bahary-Dionne, candidate au doctorat en droit à l’Université d’Ottawa, ont publié en septembre 2020 un rapport de recherche intitulé: « Les angles morts des réponses technologiques à la pandémie de COVID-19 : Disjonction entre les inégalités en santé et numériques structurantes de la marginalisation de certaines populations » (lire le rapport).

Avec ce petit guide sur les angles morts des réponses technologiques à la pandémie de COVID-19, l’Observatoire international sur les enjeux sociétaux de l’intelligence artificielle et du numérique (OBVIA) a pour objectif de faire comprendre au grand public les enjeux d’exclusion et de marginalisation dans les solutions technologiques apportées pour répondre à la pandémie de COVID-19.

1. Quelle est la relation entre les inégalités sociales et la santé ?

La relation entre inégalités sociales et la santé est mutuelle : si les personnes marginalisées socialement sont davantage exposées aux maladies et, notamment, à la distribution et à l’évolution des maladies chroniques, la maladie peut inversement entraîner pour elles des conséquences socioéconomiques plus substantielles (perte d’emploi, isolement, exclusion sociale), qui nuisent à leur tour à la santé. De même, les personnes au statut socioéconomique élevé sont généralement mieux protégées contre les conséquences négatives de la maladie.

Nous pouvons prendre l’exemple des inégalités de genre en contexte de pandémie. Les femmes seraient davantage à risque à l’occasion de pandémies en raison de leur surreprésentation dans le milieu de la santé et des services sociaux (lien), mais aussi de la charge mentale au sein du ménage qui leur incombe encore majoritairement et du fait de la fermeture des écoles et des garderies. Au Québec, elles comptent pour plus de 90% des infirmières et 88% des aides-soignantes et des préposées aux bénéficiaires. Les femmes seraient également plus touchées par la perte d’emploi depuis le début de la pandémie alors qu’elles sont surreprésentées dans les secteurs de la restauration et du commerce de détail, en plus d’être majoritaires parmi les travailleurs et travailleuses atypiques et à faible revenu. Le risque de violence domestique est de surcroît susceptible d’augmenter pendant le confinement.

Nous pouvons aussi l’illustrer avec les personnes en situation d’itinérance qui sont plus à risque d’être touchées par le virus et de décéder pendant la pandémie en raison des conditions de santé prévalentes parmi cette population et  plus  largement de leurs contextes  de  vie  (nuits  passées  dans  des refuges ou des campements, manque d’accès au  matériel sanitaire de  base,  fréquentation des  organismes   alimentaires,  accès compromis  aux  soins  de  santé). Elles auraient un  taux de mortalité 5 à 10 fois supérieur à celui de la population générale. La mobilité qui caractérise cette population implique une difficulté à les rejoindre au moyen de campagnes de dépistage.  Selon certains organismes de terrains, la réponse au virus aurait été peu pensée pour ces populations alors que la pandémie augmente la précarisation et la stigmatisation de ces populations pour ne penser qu’à l’isolement à domicile, au dépistage au volant et à la fermeture des banques alimentaires et des espaces publics. Certaines situations habituellement tolérées sont ainsi maintenant illégales, comme le fait de se rassembler dans les parcs ou de dormir dans le métro. À Montréal, des jeunes en situation d’itinérance auraient reçu des contrats d’infraction de 1546 $ pour non-respect des mesures du confinement.

Un troisième exemple est celui du statut migratoire, qui a une influence sur le type d’emploi occupé et le quartier habité, constitue également un facteur d’inégalité de santé dans la crise actuelle. Par exemple, le succès attribué à Singapour dans sa gestion de la pandémie a été éclipsé par le sort des travailleurs et des travailleuses migrantes. Ces travailleurs et travailleuses, qui représentent plus de 1,4 millions de personnes parmi une population totale de 5,8 millions, vivent généralement dans des dortoirs privés de 10 à 20 personnes dans des conditions insalubres. Ceux et celles qui tombent malades sont susceptibles de ne pas en informer leur employeur de craindre de perdre leur permis de travail et d’être rapatriés (lien). En dépit des alertes des organismes de défense des droits humains, aucune action n’a été entamé jusqu’à l’éclosion d’avril 2020. Or, la contagion dans les dortoirs serait liée à plus de 90% des cas au pays (lien). Le gouvernement a réagi en excluant les données concernant les travailleurs et travailleuses migrantes de celles concernant la population générale, qui connaissent des tendances opposées.

En somme, en raison des inégalités sociales de santé, plusieurs populations sont davantage à risque de contracter, d’éprouver des complications et de décéder de la COVID-19 au-delà de l’âge en plus d’en éprouver davantage les conséquences socioéconomiques. Or, les moyens déployés pour contrôler la pandémie ne sont pas toujours adaptées à leurs réalités.

2. Comment expliquer les inégalités numériques ?

Certains groupes de personnes sont exclus de manière disproportionnée de l’accès effectif aux technologies numériques ; or ces mêmes groupes sont également sous-représentés ou font l’objet de représentations biaisées dans les modèles capitalisant sur des données numériques.

Nous proposons de conceptualiser les inégalités numériques sur trois niveaux :

  • Les inégalités dans l’accès à l’équipement et à Internet (fracture de premier niveau). Ceci inclut les conditions d’accès, par exemple le fait d’avoir un ordinateur personnel ;
  • Les inégalités dans les usages numériques (fracture de second niveau) comme la capacité et l’intérêt à utiliser les technologies, notamment à des fins informationnelles ;
  • Les inégalités dans les données numériques (fracture de troisième niveau) en termes de sous-représentation ou de représentation biaisée au sein des données.

3. Pourquoi est-ce que les inégalités numériques vont de pair avec les inégalités sociales ?

Tout d’abord, cet entrecroisement peut s’expliquer avec les inégalités dans l’accès à l’équipement et à Internet. 91% des foyers québécois sont munis d’une connexion Internet et plus de 81% des adultes québécois ont un ordinateur portable ou de bureau (lien). Or, l’accès à une connexion Internet fiable ou à du matériel technologique adéquat reste compromis pour certaines couches de la population. Ainsi, seuls 68% des personnes de 65 ans et plus et seuls 63% des adultes ayant un revenu de moins de 20 000$ disposent d’un ordinateur à la maison.

En ce qui concerne les téléphones intelligents, si 77% de la population possède un tel appareil, le taux d’adoption est respectivement de 53% pour les personnes ayant un revenu de moins de 20 000$, 52% pour les personnes de 65 à 74 ans et 35% pour les personnes de 75 ans et plus.

Par ailleurs, ces disparités peuvent s’entrecroiser: seuls 57% des aînés ayant un revenu de moins de 20 000$ disposent d’une connexion Internet à la maison (et seuls 37% d’entre eux disposent d’un ordinateur).

Ensuite, il faut prendre en considération qu’il existe des inégalités dans les usages numériques. Nous pouvons l’illustrer notamment par les disparités dans la capacité et l’intérêt à utiliser Internet à des fins informationnelles plutôt que récréatives. Par exemple, les personnes avec un plus haut revenu ont tendance à effectuer davantage d’activités en ligne de même que les personnes diplômées ont des usages plus diversifiés, tirent davantage profit des achats et des services en ligne et font des recherches d’information plus approfondies. Les personnes moins scolarisées auraient des plus grandes difficultés à gérer et hiérarchiser la quantité d’informations disponibles en ligne et seraient plus susceptibles d’être victimes de fraude.

Le domaine de la santé ne fait pas exception puisque l’utilisation d’Internet pour rechercher de l’information de santé ainsi que les bénéfices obtenus diffèrent selon les groupes sociaux. Les personnes moins diplômées auraient également moins tendance à utiliser des applications de mesure de la santé ainsi qu’à consulter de l’information de santé en ligne. De plus, les problèmes de lisibilité, de compréhension et d’appropriation de l’information en ligne se concrétisent particulièrement lorsqu’il est question d’enjeux de santé. Par conséquent, ce sont les personnes les plus favorisées en termes de statut socioéconomique, d’état de santé ou de recours aux soins qui auraient tendance à utiliser l’information de santé en ligne et à le faire de manière adéquate.

Les organismes communautaires jouent un rôle crucial dans ces inégalités en tant que structures de soutien puisqu’ils sont les premiers répondants des populations marginalisées. Mais ces structures sont elles-mêmes touchées par la pandémie. Alors qu’elles ont le potentiel d’accompagner numériquement les groupes moins rompus aux technologies, elles peuvent elles-mêmes connaître des obstacles en termes d’accès et d’usage aux technologies.

À titre d’exemple, la situation à Montréal-Nord exemplifie celle d’autres grandes villes d’Amérique du Nord où le coronavirus a affecté de manière disproportionnée les quartiers les plus pauvres et les plus diversifiés en raison des conditions de vie de leurs résidents et résidentes. Selon le directeur général de la Table de quartier Montréal-Nord, il s’agit de l’un des arrondissements où les organismes communautaires sont les moins financés en fonction de leur mission. Il estime que le fait qu’une grande partie de la population n’ait pas accès à Internet constitue également un facteur de risque substantiel alors que toute la stratégie de soutien aux populations se fait à travers des outils numériques. La majorité de la population utilisait Internet par le biais des espaces publics comme les bibliothèques qui étaient fermées cet été et qui sont désormais ré-ouvertes mais pour des périodes de temps limitées.

4. Pourquoi peut-on considérer que les inégalités numériques ont un impact en termes de conséquences sociales et de risque d’exposition à la maladie ?

Alors que la fracture numérique se dessine elle-même en fonction des inégalités sociales préexistantes, le contexte de pandémie met en lumière le fait que les inégalités numériques ont à leur tour un impact sur le risque d’exposition à la maladie.

En raison de la dépendance d’ampleur inédite aux technologies qu’elle implique, des scientifiques soutiennent que la pandémie de COVID-19 constitue le premier évènement d’importance pour lequel les inégalités numériques constituent un facteur majeur de vulnérabilité et ce, tant en termes de risque à l’exposition du virus qu’à ses conséquences socio-économiques. L’accès réduit aux technologies pourrait ainsi compromettre l’accès aux services et ressources pour les personnes les plus marginalisées, affectant alors l’accès aux déterminants de santé comme l’éducation (cours en ligne), l’emploi (capacité à postuler à des emplois en ligne et à travailler à distance) et à des besoins de base (numérisation des offres de logement et des demandes de prestations sociales).

En dépit de ces inégalités d’accès et d’usage, les outils numériques constituent les outils principaux du gouvernement et des agences officielles de santé pour disséminer les recommandations de santé publique. Dans ce contexte, les personnes qui ne sont pas connectées vivraient « une exclusion totale » qui pourrait même compromettre la survie alors que le numérique agit comme médiateur dans l’accès à des services de base.

Par exemple, une exposition potentiellement problématique peut ne pas être détectée lorsque les personnes n’ont pas de téléphone intelligent sur eux. Les personnes les plus à risque de contracter la COVID-19, et donc qui auraient le plus besoin d’une telle application, sont moins susceptibles de l’utiliser en raison des fractures numériques évoquées, d’autant plus que certains modèles, dont par exemple AlerteCovid requièrent un modèle de téléphone intelligent récent.

En réalité, si les inégalités numériques sont reconnues en tant que forme d’inégalité sociale, voire en tant que déterminant de la santé, le contexte de la pandémie met en lumière leur intersection avec d’autres inégalités sociales, elles-mêmes entrecroisées. En contexte de distanciation sociale, l’accès et la capacité à user des technologies constitue un déterminant de santé en soi.

5. Pourquoi l’exclusion numérique de certains groupes de personnes peut-elle mener à certains biais ?

Certains groupes de personnes sont exclus de manière disproportionnée de l’accès effectif aux technologies numériques ; or ces mêmes groupes sont également sous-représentés ou font l’objet de représentations biaisées dans les modèles capitalisant sur des données numériques.

En effet, tandis que l’on collecte de plus en plus de données en ligne, notamment à des fins de sondage, les réponses aux sondages par courriel dépendent non seulement du niveau de revenu et d’éducation mais de l’accès à Internet haute-vitesse. Les concepteurs de telles stratégies de collecte de données omettraient souvent de considérer les inégalités numériques en jeu et leurs implications en termes de profil de population alors qu’elles peuvent mener à des estimations erronées.

Alors que les politiques publiques, s’appuient de manière croissante sur les données, le fait que certains groupes soient exclus des bases de données de manière répétée peut impliquer que les problématiques qu’ils expérimentent soient passées sous silence par rapport aux groupes représentées dans ces bases de données.

Aux États-Unis, certaines données sont collectées à des fins d’analyse pour améliorer et personnaliser le système des soins de santé. Si nous prenons l’exemple des populations hispaniques qui représentent 16% de la population, elles représentent seulement 1% des participants et participantes aux études cliniques. Cette sous-représentation a des conséquences tangibles alors que le genre ou la racialisation peut avoir un impact sur la réaction à certaines médications. De la même manière, les outils d’analyse des données massives ont leurs limites si certains groupes sont exclus des bases de données concernées.

Il convient donc de retenir que les inégalités découlant de la production, de la collecte et de l’utilisation des données numériques, notamment dans le domaine de la santé, ne se cantonnent pas à un enjeu de sous-représentation inhérent aux fractures numériques mais ont aussi une incidence sur les inégalités de santé.

6. Quelles sont les technologies numériques développées en réponse à la COVID-19 ?

Les types de technologies utilisées afin de contrôler la pandémie et afin d’assouplir les mesures de distanciation sociale sont variées : applications de téléphone intelligent, technologie de reconnaissance faciale, caméras thermiques, dispositifs biométriques portables, casques intelligents, drones et technologies d’analyse prédictive. Afin de l’illustrer de façon plus concrète, nous nous attarderons sur les fonctions et finalités de six technologies.

Nous avons tout d’abord le traçage de contacts / notification d’exposition dont l’objectif est d’identifier et de contacter les individus qui auraient pu être en contact avec une personne infectée. Il s’agit d’augmenter le volume du traçage manuel, qui peut être long et coûteux en plus de s’appuyer sur la mémoire et de ne pas pouvoir permettre d’identifier des personnes inconnues de la personne infectée. L’application AlerteCovid, est promue par le gouvernement canadien et utilisée en Ontario depuis le 31 juillet 2020 et au Québec depuis le 6 octobre 2020. Elle utilise le protocole Bluetooth afin d’entrer en contact avec d’autres téléphones qui possèdent également l’application et repose sur une utilisation volontaire. Chaque appareil mémorise toute personne croisée au fil d’une période de 14 jours. Lorsqu’une personne reçoit un diagnostic, elle peut donc notifier de manière anonyme les personnes rencontrées au cours des 14 jours précédent à l’aide d’une clé à usage unique.

Ensuite, certaines technologies sont développées dans l’objectif de surveiller les mouvements et de déterminer si les personnes respectent la distanciation sociale et les restrictions à la circulation dans les espaces publics et privés. Par exemple, la startup américaine Landing AI a créé un outil de surveillance en milieu de travail qui envoie une alerte dès qu’une personne ne respecte pas la distance requise avec une autre.

Des technologies ont aussi été développées relativement à l’imposition de quarantaines et de mesures d’isolement. L’objectif est de s’assurer que les mesures de quarantaine visant les personnes infectées ou à risque de l’être soient respectées, d’autoriser les déplacements de celles qui ne sont pas infectée ou à risque de l’être mais aussi de surveiller en temps réel si les personnes concernées sont où elles devraient être. C’est le cas de l’application taïwanaise Electronic Fence, qui suit les individus arrivés d’outremer à partir de leurs données mobiles afin de s’assurer qu’ils se mettent en quarantaine.

Certaines technologies s’intéressent également à la détection de l’infection, notamment de ses symptômes, mais également des cas asymptomatiques permet parfois d’obtenir une décision de triage. L’application mobile COVID-19 Symptom Trackera compte plus de 2,8 millions d’usagers et d’usagères aux États-Unis et en Grande-Bretagne. Elle collecte des données sur les facteurs de risque, les symptômes, les résultats cliniques et les zones géographiques à risque afin de nourrir une réponse à la pandémie appuyée sur les données.

Plus largement, des technologies sont développées relativement à la gestion clinique dans le but de diagnostiquer les individus, surveiller leur état clinique, prédire les risques de complications et guider le processus décisionnel clinique et l’allocation de ressources, notamment afin d’identifier les régions et les hôpitaux ayant davantage besoin de ressources et d’équipement médical. Au Canada, le Ministère de la santé de l’Ontario a annoncé le développement d’une nouvelle plateforme de données de santé, Pandemic Threat Response, afin de mieux soutenir la planification et la réactivité du système de santé. La plateforme vise à améliorer la détection des cas, identifier les facteurs de risques pour les populations vulnérables, prédire quand et où surviennent les éclosions, évaluer l’efficacité des mesures de prévention et de traitement et identifier où allouer de l’équipement et d’autres types des ressources en utilisant des outils tels que les SIA pour analyser les données provinciales.

Enfin, on peut compter la prestation de services en ligne (soit la numérisation d’activités qui ne l’étaient pas, ou qui ne l’étaient que partiellement, auparavant dont la télémédecine) qui vise à faire respecter la distanciation sociale tout en amenuisant ses impacts sociaux et économiques. Au Canada, les consultations par télémédecine ont augmenté de 1 000 à 1 4000 par jour entre le mois de février et la mi-mai. On estime que si 10 à 20 % des consultations s’effectuaient déjà virtuellement antérieurement à la pandémie, c’est désormais le cas de 60 % d’entre elles. Au Québec, plus de 11 000 médecins qui ont effectué des rendez-vous par téléphone ou visioconférence pour desservir plus de 1,5 millions de personnes. Les consultations en ligne peuvent s’accompagner de l’utilisation d’outils numériques qui collectent les données des patients et qui sont envoyées aux médecins, tels que les brassards de tensiomètre, les oxymètres de pouls, les thermomètres intelligents Kinsa ainsi que les trousses d’auto-examen TytoCare (lien).

Il convient de souligner qu’un même outil technologique peut être utilisé pour différentes finalités selon le contexte. Par exemple, Singapour envisage de donner des bracelets portatifs à chacun de ses 5,7 millions de résidents et résidentes à des fins de traçage de contacts, tandis que les gouvernements du Bahreïn et de Hong Kong les utilise plutôt afin de surveiller les personnes en quarantaine.

7. Quels peuvent être les risques pour des populations marginalisées suite à l’implantation des applications de notification ?

Si certains risques peuvent découler de l’implantation des applications de notification, nous pensons notamment à ceux concernant :

 Les inégalités dans l’accès à l’équipement et à internet avec l’exclusion des couches de la population qui n’ont pas un modèle récent de téléphone intelligent. Exemple : les personnes âgées, les personnes en situation de pauvreté ou d’itinérance.

  • Les inégalités dans les usages, particulièrement car certaines personnes peuvent avoir de la difficulté à comprendre ce que l’application peut ou ne pas faire et quelles sont les mesures obligatoires. Ceci peut impliquer de la méfiance du fait des mesures de suivi. Exemple : les personnes au statut migratoire précaire, les personnes en statut d’emploi précaire et/ou en situation de monoparentalité, les personnes en situation d’itinérance et/ou sans réseau communautaire.
  • Les inégalités dans les données, notamment avec l’enjeu de représentativité et de qualité des données collectées en ce qui concerne les applications qui tentent de construire un modèle épidémiologique à partir des données collectées. Exemple : l’exclusion des personnes racisées, la surreprésentation des populations provenant de quartiers défavorisés ou de corps de métier à statut précaire impactés par la première vague.

Par exemple, certaines applications, comme COVI impulsée par le Mila, avaient une finalité double : non seulement notifier les individus en fonction de leur niveau de risque, mais aussi, à partir des données collectées, de mieux comprendre la maladie et les manières par lesquelles elle se transmet afin de développer un modèle épidémiologique. Or, la fracture numérique de premier niveau peut avoir des répercussions sur la représentativité des données collectées pour nourrir un tel modèle. Dans l’éventualité où ce modèle servirait à influencer des stratégies d’intervention en santé publique, il serait alors peu susceptible de refléter les réalités des groupes les plus à risque et les spécificités éventuelles de la transmission du virus dans leurs contextes de vie.

À ce titre, les scientifiques derrière une étude basée sur des symptômes de la COVID-19 rapportés sur une application mobile mettent en garde quant au fait de confondre l’échantillon de personnes qui utilise une application, en l’occurrence celle utilisée pour l’étude, avec la population générale : il est fort probable que l’échantillon ne contienne pas de données des populations plus âgées et pauvres qui sont les plus susceptibles d’être touchées par le virus (lien).

  • Les exacerbations des inégalités préexistantes comme le risque accru de faux-positifs différencié selon la condition socio-économique (corrélée avec la racialisation et le statut migratoire) et la composition géographique de quartiers défavorisés. Il faut aussi prendre en considération les risques de détournement des finalités de l’application qui pourraient compromettre l’accès à certains espaces publics et privés pour ces populations ainsi que les risques de discrimination pour les populations identifiées.

8. Quels peuvent être les risques suite à l’usage des SIA dans le système médical ?

En raison du manque de personnel et du nombre très élevé de patients et de patientes, un grand nombre d’hôpitaux se tournent vers des SIA (systèmes d’intelligence artificielle) pour les aider à gérer la pandémie. Ces systèmes peuvent faire une lecture préalable des radiographies afin de diminuer le temps d’attentes aux urgences avant qu’un médecin en fasse une lecture plus approfondie. Ils permettraient notamment de repérer les cas les plus sévères de COVID-19 et seraient ainsi des outils de triage rapides et économiques. Or, si plusieurs hôpitaux à travers le monde utilisent ces outils pour la première fois en contexte de crise, ces derniers n’ont pas encore fait l’objet de toutes les vérifications nécessaires ; tous ne sont pas certifiés par les agences de santé responsables.

Par exemple, la COVID-19 a impulsé un usage accru des oxymètres de pouls dans les ménages américains, qui permettent de calculer la quantité d’oxygène qui pénètre dans le sang. Ces outils, qui doivent lire la couleur du sang pour analyser le pouls, détectent cette couleur à partir de la peau. Alors que les taux normaux sont de 95 à 100%, on recommande d’aller à l’hôpital au deçà du seuil de 92%. Ces outils sont également utilisés dans les hôpitaux afin de décider à qui octroyer de l’oxygène, ce que l’on fait au-delà d’un certain seuil. Or, la plupart de ceux sur le marché sont calibrés pour les peaux plus claires, ce qui implique une tendance à des chiffres plus bas qu’ils ne devraient l’être pour les personnes avec la peau plus foncée, non sans conséquences sur la santé. Une équipe de recherche a ainsi détecté un taux d’erreur anormalement élevé pour les peaux plus foncées. Pourtant, ces disparités ne sont pas nécessairement considérées par le personnel médical lors du triage.

Par ailleurs, ces approximations évoluent dans un contexte plus large selon lequel, pour des symptômes identiques, les personnes racisées sont moins susceptibles de voir considérer leur cas comme urgents que les personnes blanches, y compris en ce qui concerne les consultations liées à la COVID-19 où les difficultés à respirer sont davantage assimilées à de l’anxiété. Qui plus est, les données des oxymètres sont utilisées pour nourrir les algorithmes qui guident de manière croissante les décisions dans les hôpitaux et qui suggèrent déjà des soins inadéquats au détriment des personnes racisées.

Si certains risques peuvent découler de l’usage des SIA dans le système médical, nous pensons notamment à ceux concernant :

  • Les inégalités dans l’accès à l’équipement et à internet avec l’exclusion des populations n’ayant pas accès aux technologies lorsque les SIA utilisent des données provenant des applications mobiles ou des médias sociaux. Exemple : les personnes âgées, les personnes en situation de pauvreté ou d’itinérance.
  • Les inégalités dans les données, en partie à cause du fait que les échantillons sur lesquels s’entraînent les SIA, qui proviennent souvent de Chine, ne sont pas forcément généralisables. Il faut aussi souligner le fait que d’avoir recours à d’autres données, comme celles des médias sociaux et du trafic en ligne, peut créer du bruit dans les données qui affectent leur fiabilité. De plus, il y a des risques d’omission des données socioéconomiques qui peuvent avoir un impact sur les tendances dégagées à partir des données collectées. Exemple : les personnes racisées en situation de pauvreté.
  • Les exacerbations des inégalités préexistantes avec l’exacerbation des biais raciaux qui précèdent la technologie (certaines données utilisées pour nourrir les algorithmes qui guident de manière croissante les décisions dans les hôpitaux suggèrent déjà des soins inadéquats au détriment des personnes racisées) et la sous-représentation de certains groupes comme les personnes racisées.

9. Quels peuvent être les risques suite à la numérisation croissante de la prestation de services en réponse à la pandémie ?

À l’ère de la numérisation croissante du social, la COVID-19 constitue la première pandémie pour laquelle les réponses numériques jouent un rôle de premier plan pour ne penser qu’à la diffusion de l’information de santé publique en ligne, au télétravail, aux démarches pour obtenir des prestations d’aide (PCU), à la télémédecine ou aux applications de notification de contacts. Ces réponses traduisent une transition numérique accélérée dans une très courte échelle de temps, et ce, dans une diversité de secteurs. En contexte de distanciation sociale, l’accès et la capacité à utiliser des technologies deviennent non seulement un avantage, mais une nécessité. Cette numérisation pourrait aussi devenir l’option par défaut non sans impacts, à plus long terme.

Au-delà de technologies plus sophistiquées telles que les SIA et les applications mobiles, il convient de ne pas négliger les risques posés par la numérisation des services. L’entrecroisement entre les inégalités numériques et les autres formes d’inégalités est particulièrement important pour comprendre le potentiel de l’e-Santé à accroître ou à amenuiser les disparités sociales. Les groupes marginalisés, qui sont davantage à risque en termes de santé, sont aussi moins susceptibles d’avoir les habiletés, les outils et les attitudes associées à l’usage effectif des technologies de e-Santé. Les recherches démontrent ainsi que les jeunes adultes, les femmes, les personnes blanches et les personnes avec un plus haut niveau d’éducation, sont les plus susceptibles de rechercher de l’information de santé en ligne.

En ce qui concerne la télémédecine, on estime que si elle est implantée de manière appropriée, elle peut améliorer l’accès aux soins pendant et après la pandémie, mais des risques envisageables incluent les diagnostics erronés, l’équipement déficient, les violations de la vie privée et les coûts additionnels pour le système de santé (lien). Au surplus, les patients et patientes les plus âgées, pauvres et allophones pourraient éprouver des barrières d’accès aux soins accrues en raison des fractures numériques. Par ailleurs, dans l’optique où ces personnes peuvent avoir des difficultés à utiliser les technologies, le gain en termes de temps pour le système de santé anticipés se traduiraient plutôt en termes de perte (lien). Au Québec, des médecins rapportent ainsi avoir connu des problèmes avec la télémédecine avec les personnes âgées, expliquant que la possibilité d’avoir un proche aidant pour établir la communication est parfois impossible en contexte de distanciation sociale (lien).

Si certains risques peuvent découler de la numérisation de services préexistants, nous pensons notamment à ceux concernant :

  • Les inégalités dans l’accès à l’équipement et à Internet avec l’exclusion des populations sans environnement adéquat d’utilisation des technologies (ordinateur personnel, Internet haute-vitesse ; espace de travail). Exemple : les personnes en situation d’emploi précaire, vivant en situation de pauvreté, les personnes en situation d’itinérance, les personnes sans réseau communautaire.
  • Les inégalités dans les usages avec la capacité moindre à tirer des bénéfices de l’information de santé en ligne, capacité elle-même différenciée selon la stratification sociale. En effet, il existe une non prise en compte des besoins des populations qui n’interagissent pas directement avec les institutions publiques et qui s’informent peu au moyen des technologies numériques. Exemple : les personnes âgées, les personnes en situation de pauvreté, d’itinérance ou au statut migratoire précaire, les personnes sans réseau communautaire.
  • Les inégalités dans les données et notamment du fait que si l’on collecte des données de satisfaction auprès des usagers et usagères de telles plateformes, il existe une invisibilité des besoins des personnes non-usagères qui pourraient pourtant devenir des usagères potentielles. Exemple : les personnes âgées, les personnes en situation de pauvreté ou d’itinérance ou les personnes au statut migratoire précaire ainsi que les personnes sans réseau communautaire.
  • Les exacerbations des inégalités préexistantes avec l’exacerbation des inégalités de santé qui visent des groupes déjà à risque de contracter la COVID.

10. Quels sont les enjeux d’utilisation des technologies sur des populations marginalisées et de façon plus générale

Les analyses sur les inégalités mises en lumière par la COVID-19 ont eu tendance à considérer les réponses numériques et les inégalités de santé en silo et, donc, sans analyser leurs interconnections dynamiques. Or, si la recherche sur les inégalités numériques prend de l’expansion, la relation entre celles-ci et d’autres formes d’inégalités se doit d’être davantage appréhendée. En outre, les analyses portant sur les réponses numériques à la pandémie sont généralement axées soit sur les bénéfices en termes de santé publique à la lumière de facteurs biomédicaux soit sur les enjeux de protection de la vie privée.

Si ces dimensions sont importantes, nous soutenons toutefois que les réponses numériques et leurs cadres d’analyse doivent également tenir compte des facteurs sociaux afin de s’assurer qu’elles aient les bénéfices escomptés.

De nombreux enjeux sont donc à envisager en lien avec l’utilisation de technologies, particulièrement au niveau des populations marginalisées. Nous vous proposons ici une liste de sept enjeux qui peuvent vous aider dans votre propre réflexion.

1. Exacerbations des inégalités préexistantes

Il existe des risques en termes de vie privée qui peuvent être disproportionnés pour les populations déjà stigmatisées pré-pandémie. On compte aussi un risque de « triage socio-spatial » au détriment de certaines populations ainsi qu’un risque de détournement de certaines technologies au détriment des personnes racisées et des personnes en situation d’itinérance. Il convient donc de ne pas confondre la maladie avec les populations à risque elles-mêmes.

2. Enjeu de stigmatisation avec la collecte de grandes quantités de données potentiellement sensibles.

Il convient de de ne pas oublier que les mesures de santé publique en réponse à la COVID-19 se sont déployées dans un contexte social spécifique ; plusieurs de ces dernières ont eu des impacts disproportionnés, voire discriminatoires, sur plusieurs groupes marginalisés. Par exemple, en Bulgarie, les pouvoirs publics ont eu recours à des drones équipés de capteurs thermiques pour capter la température des personnes dans les quartiers roms et surveiller leurs mouvements. La population rom a ainsi été visée de manière sélective.

3. Enjeu pour les personnes allophones

L’information de santé publique n’est pas forcément disponible dans les langues des personnes, qui peuvent également avoir des difficultés à accéder et à utiliser Internet.

4. Exclusion des populations

Certaines personnes ne peuvent pas avoir accès aux technologies déployées. Nous pensons notamment aux populations qui vivent en région éloignée avec un accès internet de mauvaise qualité comme les communautés autochtones.

5. Exclusion indirecte des populations

Certaines personnes n’ont pas les habiletés ou une faible littératie numérique pour se servir des technologies déployées. Il s’agit notamment des personnes vivant en situation de pauvreté et des personnes en situation d’itinérance.

Des risques supplémentaires se posent aussi en termes d’exclusion, ce que met en lumière l’interconnexion entre inégalités de santé et inégalités numériques. Les personnes les plus à risque de contracter la COVID-19, et donc qui en auraient le plus besoin d’une telle application, sont moins susceptibles de l’utiliser en raison des fractures numériques évoquées, d’autant plus que certains modèles, dont par exemple AlerteCovid, requièrent un modèle de téléphone intelligent récent.

6. Enjeux de confiance et d’acceptabilité sociale

Si les personnes sentent leurs droits menacés et qu’un lien de confiance ne peux pas être établi, elles n’utiliseront pas la technologie ou trouveront des manières de s’en subvertir, voire éviteront de se faire tester ou d’accéder à des soins, en particulier pour celles qui n’ont pas les moyens ou le soutien social pour s’isoler.

7. Enjeu de qualité et d’intégrité des données

Cet enjeu pourrait, à plus long terme, avoir des conséquences sur les modèles prédictifs à grande échelle. En ce qui concerne les groupes les plus sujets à des telles inégalités, on peut relever à la fois un risque de représentation biaisée et d’exclusion.

Au chapitre de la représentation biaisée, donnons l’exemple des personnes à faible revenu, qui sont susceptibles de vivre et de travailler dans des lieux où la prévalence de la COVID-19 est plus élevée parce qu’elles habitent des logements surpeuplés et qu’elles travaillent en première ligne dans les services essentiels. Elles se rendent également au travail par le transport en commun et peuvent avoir recours à des mesures de protection (masque, équipement de protection, plexiglas, murs fins) que la technologie Bluetooth ne peut pas détecter et ainsi se voir attribuer un faux en dépit des mesures de protection qu’elles peuvent adopter.

11. Dans quelle mesure la participation et la consultation de différents acteurs pourraient-elles aider le développement des outils technologiques ?

Afin d’éviter les risques de stigmatisation des populations concernées, la collecte de données devrait s’accompagner de la participation des acteurs et des groupes concernés au processus d’analyse et d’interprétation des données. En ce qui concerne la conception des réponses technologiques, il serait important de consulter les populations concernées et les organismes qui les représentent afin de déterminer les besoins et priorités, ainsi que le type de technologie à privilégier le cas échéant.

La participation des personnes et des organismes concernés devrait s’effectuer en amont de tout projet technologique visant à contrôler la pandémie ou ses conséquences sociales. En effet, le développement technologique ne doit pas reposer uniquement entre les mains des compagnies privées ou de concepteurs et conceptrices bénévoles, mais également inclure des experts et expertes de santé public, des spécialistes des sciences sociales, des organismes de terrain et des acteurs et actrices concernés, par exemple par le biais d’un comité d’usagères et d’usagers. La participation et l’approbation des acteurs de santé publique à la conception et l’activation des mesures est fondamentale, notamment pour savoir à partir de quel degré de proximité entre deux téléphones, le contact entre les personnes concernées est pertinent du point de vue médical.

De plus, les données sur lesquelles s’appuient la prise de décision doivent provenir de plusieurs sources (gouvernement, praticiens et praticiennes, société civile) afin de dépeindre un portrait global de la pandémie, et notamment des études de cas incluant des méthodologies mixtes et qualitatives.

Les mesures technologiques doivent aussi être ancrées dans un écosystème sociosanitaire rigoureux, notamment en prenant des mesures pour atténuer les effets disproportionnés que peuvent avoir certaines mesures de confinement sur les groupes marginalisés. De telles applications doivent donc être développées dans un processus qui identifie et appréhende les disparités démographiques potentielles, ce qui implique une consultation en amont avec les communautés les plus affectées.

12. Quel type de cadre éthique et juridique devrait encadrer le déploiement et les usages d’outils technologies en contexte de pandémie ?

Les types de cadre juridique et éthique encadrant le déploiement des technologies devraient non seulement tenir compte du droit à la vie privée, mais à l’ensemble des droits garantis par les chartes canadiennes et québécoises, en particulier le droit à l’égalité.

Ces cadres devraient donc tenir compte du refus de conclure un acte juridique ayant pour objet un bien ou un service ordinairement destiné au public et l’interdiction de refuser l’accès à un lieu public qui sont prohibés par la Charte québécoise (conséquence par exemple de l’utilisation d’une application de notification).

Les personnes devraient savoir précisément et clairement ce que ces technologies visent à faire et comment leurs données seront utilisées le cas échéant. Il s’agit également de ne pas évaluer les implications de telles technologies à la lumière de leurs finalités poursuivies, mais également en fonction de leurs usages concrets observés empiriquement, en particulier alors que des SIA, a priori neutres, peuvent avoir des effets discriminatoires indirects sur certaines catégories de personnes.

Afin de s’assurer que l’adoption des applications de notification par exemple, soit réellement volontaire, le « opting out » devrait être une réelle option et ne pas devenir une condition d’accès à l’espace public, commercial, de travail ou éducationnel. Les technologies devraient clairement indiquer la portée des recommandations et les risques de faux-positifs et de faux-négatifs envisageables, ainsi que le fait que ces recommandations ne soient pas contraignantes. Il s’agirait aussi de déterminer quels sont les groupes les plus susceptibles de faire l’objet de faux-positifs ou de faux-négatifs.


Ce guide a été préparé dans le cadre des travaux de l’Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) sur les effets des systèmes d’intelligence artificielle et des outils numériques déployés pour lutter contre la propagation de la COVID-19 sur les sociétés soutenus par les Fonds de recherche du Québec (FRQ).

CHERCHEURE RESPONSABLE du projet

  • Karine Gentelet, professeure agrégée au Département des sciences sociales de l’Université du Québec en Outaouais (UQO) et titulaire de la Chaire Abéona-ENS-OBVIA sur l’IA et la justice sociale.

AUXILLIARES DE RECHERCHE

  • Alexandra Bahary-Dionne, candidate au doctorat en droit à l’Université d’Ottawa
  • Émilie Guiraud, auxiliaire de recherche à l’OBVIA et étudiante en droit à l’Université Laval.
Nous joindre

On reste en contact?

Vous souhaitez être au courant des dernières activités de l’Observatoire? Inscrivez-vous à notre infolettre.

L'Observatoire international sur les impacts sociétaux de l'IA et du numérique est rendu possible grâce au soutien des Fonds de recherche du Québec.