Karine Gentelet, nouvelle titulaire de la Chaire Abeona-ENS-OBVIA Intelligence artificielle et justice sociale
La chaire Abeona-École normale supérieure (ENS)-Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA) a le plaisir de présenter l’heureuse récipiendaire 2020-2021 la Pre Karine Gentelet au concours IA et justice sociale, succédant ainsi à la Pre Kate Crawford de AI Now Institute, à New York. Cette chaire permet à un·e professeur·e invité·e de développer, pendant une année, des travaux sur l’intelligence artificielle (IA) et la justice sociale et d’interagir avec les chercheur·e·s des écosystèmes parisien et québécois dans les secteurs de l’IA, des sciences humaines et sociales et de la santé, qui donneront lieu à des séries de séminaires et d’événements publics.
Le projet de recherche
Justice sociale et intelligence artificielle : la gouvernance citoyenne pour renverser l’invisibilité dans les algorithmes et la discrimination dans leurs usages
Les rapports de pouvoir inéquitables sont le produit de l’imposition de structures hégémoniques dominantes ou de processus historiques de colonisation. Peu de recherches se concentrent sur les usages, les stratégies et les solutions avancées par les groupes, communautés et les personnes affectées par les technologies numériques. Ces usagers ont pourtant des besoins ou des préoccupations par rapport notamment aux usages et au déploiement des technologies d’IA qui sont très probablement très différents des institutions étatiques et acteurs privés.
Leur participation à la gouvernance est devenue indispensable d’un point de vue démocratique. Leur participation est aussi fondamentale pour limiter et contrôler les biais et discriminations liés aux technologies d’IA de leurs conceptions à leurs usages. Pourtant, et très souvent, l’angle de ces analyses porte sur les effets (positifs ou négatifs), mais rarement sur les modalités de leur participation ou de leur inclusion dans les modes de gouvernance des données, des technologies et de leurs usages. Or, toutes et tous expriment le besoin, voire l’urgence, d’être non seulement consultés, mais inclus dans les modes de gouvernance puisqu’ils sont, en substance, les premiers affectés par ces technologies développées et mises en œuvre sans leurs expertises et leurs savoirs expérientiels tels qu’eux-mêmes se les représentent. Les défis actuels sont donc d’implanter des processus adéquats de gouvernance citoyenne des données, des algorithmes et des modes de régulation des usages de ces technologies. Dans monde qui repose de plus en plus sur les technologies de l’IA et du numérique, cette gouvernance citoyenne représente un enjeu de justice sociale de première importance.
Les travaux de la Chaire interviendront dans un contexte de pandémie qu’il sera difficile d’ignorer étant donné les incidences sur la dynamique des interactions sociales, la vie démocratique, les droits fondamentaux, et définitivement l’omniprésence des technologies d’IA pour aider à la prise de décision. En outre, la crise sociale, sanitaire et économique mondiale post-COVID-19 qui se profile pour les années à venir va faire en sorte que le recours aux technologies risque d’aller croissant soit pour permettre de faciliter les interactions démocratiques, soit pour réaliser des économies monétaires. En ce sens, on peut s’attendre à une accélération de la dématérialisation des interactions sociales et politiques et de la donnéification (datafication) de la société. Il apparait alors d’autant plus important de proposer une réflexion sur les modalités de la participation citoyenne dans la gouvernance des données, des systèmes d’intelligence artificielle et de l’usage de ces technologies à un niveau local et un niveau global.
À propos de Karine Gentelet
Karine Gentelet, Ph.D., est professeure agrégée de sociologie au département desciences sociales à l’Université du Québec en Outaouais et sera professeure invitée à l’Université Laval. Ses intérêts de recherche et ses publications portent sur la reconnaissance des droits des peuples autochtones, l’usage de la technologie numérique et l’intelligence artificielle au service de la justice sociale, l’éthique de la recherche en contexte autochtone et la responsabilité sociale des chercheurs.
Karine Gentelet est chercheure au Centre interuniversitaire de recherche et d’études autochtones (CIERA) de l’Université Laval, au Laboratoire de cyberjustice au sein duquel elle dirige un projet de recherche sur l’autonomisation par l’intelligence artificielle des populations marginalisées. Elle est également co-responsable de l’axe Relations internationales, action humanitaire et droits humains, au sein de l’Observatoire international des impacts sociétaux de l’intelligence artificielle et du numérique (OBVIA).
Enfin, Karine Gentelet est fortement engagée dans la promotion et la défense des droits de la personne auprès d’Amnesty International depuis 2007.
À propos du partenariat tri-partite :
L’École normale supérieure, la fondation Abeona et l’OBVIA ont signé un partenariat d’une durée de trois ans pour avancer les recherches en intelligence artificielle, en justice sociale, en invitant chaque année un.e expert.e en IA et ses impacts sociologiques, éthiques et scientifiques. La chaire se concentrera sur l’IA et la justice sociale sous le prisme de l’équité, de la diversité et de l’inclusion (EDI). Cette entente s’inscrit dans le cadre d’une collaboration scientifique internationale entre la France et le Québec. Elle a été signée en présence de la ministre des Relations internationales et de la Francophonie et ministre de l’Immigration, de la Francisation et de l’Intégration, Mme Nadine Girault, et le Secrétaire d’État auprès du ministre de l’Économie et des Finances et du ministre de l’Action et des Comptes publics, chargé du Numérique, M. Cédric O.
L’École normale supérieure est un établissement d’enseignement supérieur et de recherche de niveau mondial formant plus de 2000 étudiants, dont 600 doctorants et 200 post-doctorants, aux carrières de la recherche scientifique, de l’enseignement supérieur et secondaire, ainsi qu’au service des administrations de l’État, des collectivités territoriales, des établissements publics et des entreprises. Largement ouverte à l’international, forte de 15 départements, 31 unités de recherche et de plus d’une centaine d’équipes de recherche couvrant l’essentiel des disciplines, des humanités et des sciences sociales aux sciences de la vie et de la matière, l’École normale supérieure est régulièrement distinguée et compte aujourd’hui 14 prix Nobel et 10 médailles Fields. L’ENS a la volonté de développer des partenariats avec des institutions menant des activités en faveur de l’égalité des chances et est membre fondateur de l’Université PSL.
La fondation ENS, reconnue d’utilité publique, a pour but de développer et de soutenir les activités de recherche et de formation de l’École normale supérieure et de ses partenaires notamment avec la fondation de coopération scientifique dite Paris Sciences et Lettres (PSL) dont l’ENS est membre fondateur, de renforcer leurs relations avec les entreprises et de contribuer à leur rayonnement international.
La Fondation Abeona parraine des recherches visant à promouvoir l’équité et la justice en intelligence artificielle. Elle rassemble des chefs d’entreprise, des instituts de recherche, des décideurs publics et des spécialistes des données pour faire progresser les meilleures pratiques et sensibiliser la société aux risques et aux opportunités créés par l’innovation en science des données, algorithmique et apprentissage automatique.
L’OBVIA regroupe plus de 220 chercheurs québécois et plus de 125 partenaires à travers le monde. D’abord piloté par l’Université Laval et avec le soutien des Fonds de recherche du Québec, il a pour mission de soulever des enjeux cruciaux et d’identifier des solutions plausibles aux problèmes et opportunités posés par les développements de l’IA et du numérique au Québec et ailleurs dans le monde. Ces travaux permettent d’alimenter la réflexion des citoyens et des autorités publiques sur les impacts sociétaux des technologies et du numérique sur la santé, mais aussi sur l’économie, la politique et la culture des générations actuelles et futures.
