Quelle place pour l’ÉDI dans les IA qui guident vos décisions professionnelles
Le 17 février 2022 a eu lieu la conférence Quelle place pour l’ÉDI dans les IA qui guident vos décisions professionnelles à laquelle 128 participantes et participants se sont joints. D’entrée de jeu, l’animatrice, Gaëlle Cachat-Rosset (ULaval) expose aux participants l’importance du sujet de cette table ronde en soutenant que la question n’est pas de savoir si une entreprise utilisera l’IA, mais plutôt quand elle y arrivera. Tour à tour, les panélistes Ronny Aoun (Valital Technologies), Benhaz Saboonchi (EY), Allison Cohen (MILA), Shalee-Fa Diop (Digno Solution) et Tania Saba (UdeM) nous renseignent au sujet des biais dans l’intelligence artificielle (IA), de la place de l’ÉDI dans les décisions professionnelles, ainsi que des défis et opportunités vis-à-vis de l’intégration de l’ÉDI dans l’IA en entreprise.
Si l’IA nous semble souvent comme une boîte noire mystérieuse et inaccessible, elle ne peut être dissociée de nous comme êtres humains. En effet, ses modèles algorithmiques sont de prime abord une copie de l’intelligence des individus dont elle extraie ses apprentissages. Pour Allison Cohen, l’IA se doit d’être analysée de manière anthropologique, puisqu’elle constitue dans les faits un miroir du contexte social dans lequel elle est développée. Ainsi, elle mimique et amplifie le cadre culturel et social lui donnant naissance, cadre non exempt de biais et de stéréotypes. Selon Tania Saba, cette faculté de reproduction et d’expansion rapides propre à l’IA accélère la mise en avant des inégalités et, incidemment, leur dénonciation. Si l’on souhaite contrer les enjeux liés aux biais dans l’IA, il est essentiel de réfléchir à l’ensemble du processus en amont et non seulement aux résultats. Cependant, si l’on désire rallier l’ensemble des parties prenantes aux réflexions entourant l’IA, sa compréhension doit cesser d’être uniquement accessible à ceux qui la conçoivent, soutient Ronny Aoun. Pour lui, la transparence doit être privilégiée tout au long du montage des algorithmes.
Pour les entreprises, toutefois, les projets de l’IA s’avèrent très grands et coûteux. Benhaz Saboonchi souligne avec doigté que, du fait de l’ampleur des changements générés par l’IA, les organisations tendent à investir beaucoup d’énergie dans le développement d’un business-case solide où une grande emphase est attribuée au retour sur investissement. Toutefois, la valeur et les impacts à court moyen terme de l’intégration de l’ÉDI au sein de ces projets demeurent difficiles à évaluer. De ces faits, malgré toutes les bonnes intentions dont peuvent faire preuve les entreprises, les questions relatives aux principes d’ÉDI sont souvent mises de côté. Shalee-Fa Diop joint sa voix à celle de Mme Saboonchi en affirmant que les intentions des entreprises sont le plus souvent bonnes, mais que l’intégration de l’ÉDI peut difficilement avoir lieu si aucun changement n’est opéré dans l’ensemble de l’écosystème organisationnel. Dans un système de capitalisme où l’orientation porte sur les profits et la prise de décision rapide, il apparaît que des défis importants se dressent devant les entreprises.
Afin de réécouter les riches échanges entre ces panélistes, nous vous invitons à regarder l’enregistrement.
