IA et responsabilités: Comment les normes éthiques sont-elles intégrées aux systèmes techniques? Les exemples des villes intelligentes et de la finance
Informations sur l'événement
Date
22 - 23 mars 2022
Lieu
DKN-2151 Université Laval et en ligne
Comment penser, voire repenser, les formes de responsabilité face au phénomène du développement de l’IA et des algorithmes qui pénètrent l’ensemble des pratiques sociales, économiques, scientifiques ou culturelles?
Poser cette question, c’est d’une part s’interroger sur les normes éthiques qui structurent ou influencent la construction des algorithmes, le design des outils techniques, et l’utilisation par les professionnels, les consommateurs ou les citoyens de ces systèmes techniques. C’est d’autre part s’interroger sur la manière dont elles engagent ou mettent en question nos conceptions communes de la responsabilité et du vivre ensemble.
La complexité de ces systèmes techniques, leurs niveaux d’organisation, les scénarios qu’ils comportent, les formes de mathématisation utilisées et les finalités recherchées, obligent à réfléchir sur la façon dont les normes éthiques sont actuellement intégrées.
L’analyse des relations entre IA et responsabilités fera l’objet de plusieurs conférences et ateliers internationaux dont le premier volet prendra place à Québec. Deux exemples de systèmes techniques complexes, les villes intelligentes et la finance, ont été choisis pour tenter de les comprendre, de les interroger et de rendre compte de ce phénomène de l’intégration des normes éthiques.
Atelier 1
Les villes intelligentes: Quels projets politiques? Quelles formes techniques? Comment les normes éthiques sont-elles intégrées?
22 mars, de 8h45 à 16h30
Le premier atelier concerne le modèle des villes intelligentes qui semble a priori très complexe, très hétérogène avec différents modèles mathématiques, l’ajout d’outils technologiques multiples (objets connectés) et l’intégration de scénarios politiques et des normes éthiques. Scénarios politiques comme «la durabilité des villes» et normes éthiques comme «l’implication des citoyens», interviennent en aval et en amont dans les projets de villes intelligentes. Comment pourrait-on redéfinir ce qu’une ville intelligente? Comment comprenons-nous les changements que ces projets de ville intelligente modifient dans la conscience collective du vivre ensemble dans la ville et dans les caractéristiques de la vie de voisinage? Plus largement quels sont les nouveaux enjeux éthiques, psychologiques, sociologiques et politiques des villes intelligentes? Les discussions porteront entre autres sur la signification des villes intelligentes sur l’habitation individuelle, la vie de voisinage et plus largement sur la ville (la cité-État) entendue comme un tout.
Découvrez le programme préliminaire
22 mars 2022
8h45: Mots d’ouverture, Vanessa Nurock, CRHI- Université Côte d’Azur & Chaire UNESCO EVA
9h à 9h20: Jennifer Ang, philosophe, Singapore University of Social Sciences
« Technologization and the place of human autonomy »
Jacques Ellul warns us about the “technique civilization” – a society that is pervaded by technicians and dominated by complex standardized means for attaining a predetermined result. Postphenomenologists such as Don Idhe on the other hand, sees technology as mediators of human experiences and practices that does not necessarily shape relations between humans and the world in alienating ways from themselves and the world they live in. This talk will discuss some of these perspectives to understand what living in a technologically-embedded smart city means, and raise concerns about human autonomy.
Jennifer Ang is an Associate Professor in Philosophy, a member of the International Standing Panel of Ethics at the Centre for Defence Leadership and Ethics at Australia Defence College, a member of the Scientific Committee at AI Singapore, and was the Director of the Univesity Core at the Singapore University of Social Sciences. She is the author of Sartre and the Moral Limits of War and Terrorism, and has published in the areas of war and humanitarian interventions, forgiveness and memories, and bad faith.
9h20 à 9h40 : Shin Koseki, formé à l’architecture et à l’urbanisme, titulaire de la Chaire UNESCO Paysage urbain à l’Université de Montréal et coresponsable de l’axe Environnement, villes intelligentes, territoire et mobilité de l’OBVIA
« Smart cities as tailored dynamic fields of affordances »
This paper proposes a socially informed definition of the smart city as to provide the foundation for a pragmatic urban ethic. Taking the viewpoint of urban planners and designers, the smart city becomes a space that generates affordances to individual citizens’ aspirations in real time.
Shin Koseki is UNESCO Chair Professor in Urban Landscape at the University of Montréal, where he teaches urban design and theory. Trained in architecture and urban planning, Shin Koseki works on how digital technology can foster social inclusion and sustainability in cities and urban settlements.
9h40 à 10h: Nina Powell, psychology, National University of Singapore
« What does it mean to be a free and autonomous moral person in a smart city? »
While automation offers people convenience, ease and accessibility, there is also an underlying « nudge » psychology that tends to be brought in with automation and the design of smart cities. While « nudge » psychology has been argued to be useful in many areas of decision making (e.g., economic, health, social responsibility and civic duty, etc.), there is also a broader shift that follows from « nudge » psychology that has moved us towards a society built on a prescriptive moral focus (an activation-focused morality). With a prescriptive moral focus, freedom and agency are more constrained than in a society with a focus on proscriptive morality (an inhibition-focused morality). There are questions to consider with respect to a how a “nudge”-based prescriptive moral focus as an underlying principle of automation and smart city design changes our understanding of moral agency in terms of both behaviour (crime and deviance) and cognition (beliefs about how we construct moral norms and use reason).
Nina Powell is a Senior Lecturer in the NUS Department of Psychology and has held an appointment in the National University of Singapore since 2013. Her research focuses on judgment, certainty and decision-making in children and adults, both in the context of moral decision-making and education. She teaches introductory psychology modules and upper-level seminar modules on Moral Psychology and Historical Controversies in Psychology. She is also Deputy Director of Undergraduate Studies in Psychology and the co-founder of MADE in Psych (Mentoring and Demystifying Education in Psychology).
10h à 10h30: Discussion
10h30 à 10h55: Pause
10h55 à 11h15: Rita Padawangi, sociologue, Singapore University of Social Sciences
« Whose Smartness? Whose City? Making Sense in the Everyday Life of a “Smart City” »
There is lack of coherence in conceptual understanding definition of the term “smart city” from one place to another and from one group to another (Hollands, 2008). One thing in common from the various ways of implementation is “smart city” as a universally and rationally positive paradigm to increase efficiency and effectiveness of urban governance by relying on information and communication technology. Such optimistic perspective commonly represents voices from policymakers, financiers, and corporations that produce these technological tools in public discourses of smart city (Shelton, Zook and Wiig, 2014), but rarely involves voices and experiences from the everyday life of ordinary citizens. At most, there is an assumption that smart cities would facilitate more participation as technologies would allow real-time communication between concerned citizens and policymakers, for time-efficient problem-solving. How consistent are these assumptions with everyday life experiences in a “smart city”? Knowing that social inequalities are realities of urban life, what are the impacts of these technological fixes on lives and livelihoods of groups in the margins of society? To what extent does smart city paradigm bring empowerment (or disempowerment) of marginalized groups to influence urban governance? In this presentation, I rely on field observations from several urban neighborhoods in the Southeast Asia Neighborhoods Network (SEANNET) since 2017, to examine the extent to which smart city governance paradigm affect the everyday life of the residents on the margins, particularly in terms of economic class and gender.
Rita Padawangi is Associate Professor (Sociology) at Centre for University Core, Singapore University of Social Sciences. She received her PhD in sociology from Loyola University Chicago, a Master of Arts in Urban Design from the National University of Singapore, and a Bachelor of Architecture from Parahyangan Catholic University in Bandung, Indonesia. Her research interests include the sociology of architecture, social movements and participatory urban development. She is coordinator of the Southeast Asia Neighbourhoods Network (SEANNET), an initiative for urban research and education, funded by the Henry Luce Foundation.
11h15 à 11h35: Paul Rabé, sciences politiques, International Institute for Asian Studies, Erasmus University, Rotterdam
« Smart cities and governance »
Behind the technology surrounding AI and smart cities there are people who are designing the systems and the algorithms. Therefore, discussions about AI and smart cities do not escape the conventional questions and paradigms in urban governance centered around power and the responsibilities of individuals, communities and the state. Separating the technology from its human origins and motivations is to “fetishize” this technology and therefore to give it magical powers that it does not possess. Technology does not stand on its own, but it is intimately connected to the humans and their institutions that develop and use it. I argue that the motivations of these institutions must be assessed using an ethical frame based on democratic visions established in each society. Failing this, smart cities will serve not society but vice versa.
11h35 à 12h15: Discussion
12h15 à 13h45: Pause repas
13h45 à 14h45: Table ronde «Éthique et recommandations»
- Stéphane Roche, professeur au Département des sciences géométriques, Université Laval
- Mario Marosan, doctorant, Faculté de philosophie, Université Laval
- Philippe Girard, étudiant à la maitrise, Faculté de philosophie, Université Laval
14h45 à 15h: Pause
15h à 15h20: Propos de clôture, Marie-Hélène Parizeau, philosophe, Université Laval
« Enjeux éthiques et politiques de la gouvernance des villes intelligentes »
Quels sont les cadres de gouvernance mis en œuvre dans les villes intelligentes? Deux modèles se dégagent du point de vue éthique et politique. Le premier cadre de gouvernance sous-jacent aux projets de villes intelligentes créées de novo s’appuie sur les valeurs opératoires d’efficacité et d’optimisation technique de l’économie néo-libérale pour créer de la richesse en privatisant certains services ou infrastructures municipales. Le deuxième modèle, celui de l’approche européenne des villes intelligentes, se veut pluraliste, centré sur le citoyen et façonné par les objectifs du développement durable. Cependant, sa mise en œuvre se heurte à des intérêts souvent contradictoires entre le développement de solutions urbaines numériques et la protection des données personnelles et de la vie privée.
15h30 à 16h30: Exposition d’affiches
Je souhaite assister en présentiel
Atelier 2
Modèles mathématiques, algorithmes et normes éthiques intégrées dans le système financier
23 mars, de 9h à 12h30
Ce 2e atelier questionne particulièrement les modèles mathématiques utilisés en amont du système financier et qui charpentent les algorithmes utilisés dans les pratiques financières actuelles. Ces algorithmes ne sont pas pour autant des véhicules neutres dans la façon de calculer les risques ou dans la manière dont les professionnels se conforment ou non au cadre de gestion. Tout ceci façonnerait une forme de responsabilité épistémique qui valorise certaines normes éthiques plutôt que d’autres. Le modèle financier dominant laisserait donc apparaître un système intégré, voire fermé, entre les modèles mathématiques, les algorithmes, et les formes de gestion avec des normes éthiques accompagnant son efficacité et sa prédictibilité. Ce modèle sera donc questionné dans ses fondements et dans ses usages.
Découvrez le programme préliminaire
23 mars 2022
9h: Mots d’ouverture
9h15 à 9h45: Conférence «Gestion des portefeuilles: la comédie des erreurs»
Christian Walter, actuaire, co-titulaire de la Chaire Éthique et Finance (FMSH, ISJPS), chercheur associé Université de Paris 1
Plongés dans l’incertitude économique et financière, les gérants de portefeuille professionnels doivent être capables de prouver leur professionnalisme en mettant en scène leur savoir-faire. Cette mise en scène les amène à endosser un rôle écrit pour eux, une «représentation» de leur compétence canoniquement définie par le CAPM et ses machineries informatiques. Le dessin des algorithmes devient le dessein de la gestion. En jouant sur les sens français et anglais du mot «performance», on dira que cette mise en scène imposée, le «jeu» du gérant, s’apparente à une performance au sens théâtral du terme, guidée par un script algorithmique, et que la qualité de la performance (dans les deux sens) devient un élément clé de l’appréciation de la valeur ajoutée de la gestion. La notion de diversification contenue dans le CAPM est issue de la mathématisation de l’erreur au XVIIIe siècle et, en ce sens, le théâtre de la gestion professionnelle semi-automatisée ressemble à une comédie des erreurs.
9h45 à 10h15: Conférence « AI ethics and systemic risks in finance »
Ekaterina Svetlova, economist, associate professor, University of Twente, The Netherlands
The paper suggests that AI ethics should pay attention to morally relevant systemic effects of AI use. It uses the financial industry as an example to ask: How can AI-enhanced systemic risks be ethically accounted for? Which specific issues does AI use raise for ethics that takes systemic effects into account? The paper clarifies the moral relevance of AI use with respect to the imposition of systemic risks and proposes a theoretical framework based on the ethics of complexity.
10h15 à 10h30: Pause
10h30 à 11h: Conference « Banal Political Economy »
Donald MacKenzie, sociologist, professor, School of Social and Political Science, University of Edinburgh, UK
Discussion of the ethics of finance, artificial intelligence, etc., necessarily deals with many complexities, but it is important not to ignore a basic, pervasively important, everyday issue that is in a broad sense ethical: the capacity of well-placed intermediaries to exact rent. Reanimating an old word, « banal », this talk will sketch the banal political economy of two application domains of machine learning: financial trading and online advertising.
11h à 12h20 Table ronde
- Louis Adam, professeur à l’École d’actuariat, Université Laval
- Raul Dumitras, analyste investissement, BDC Capital de risque
- Dimitri Obama, doctorant, Département de sciences politiques, Université de Montréal
Je souhaite assister en présentiel
Ces ateliers internationaux et interdisciplinaires abordent donc sous différents angles, des spécificités techniques, comme le contrôle, la surveillance, l’optimisation, l’évaluation des risques, l’efficacité, la prédictibilité liées aux algorithmes et aux objets techniques et qui peuvent ou non être liées à des normes éthiques de transparence, de protection de la vie privée, de non-discrimination, d’inclusion, de participation démocratique. Comment comprendre les normes éthiques qui se manifestent ou non dans ces systèmes techniques qui intègrent modèles mathématiques, algorithmes et outils techniques? Comment est-il possible de questionner, voire remettre en cause ces systèmes techniques?
Organisation
Cet événement est organisé par Marie-Hélène Parizeau, professeure à la Faculté de philosophie de l’Université Laval et membre chercheuse de l’OBVIA, avec le soutien de Jennifer Ang, Singapore University of Social Sciences, et Vanessa Nurock, CRHI- Université Côte d’Azur et Chaire UNESCO EVA, pour l’atelier sur les villes intelligentes et Christian Walter, co-titulaire de la chaire Éthique et Finance (FMSH, ISJPS), pour l’atelier sur le système financier.
Merci aux partenaires:
- CRHI
- EVA Chaire UNESCO sur l’éthique du Vivant et de l’artificiel
- Chaire Éthique et finance, Fondation Maison des sciences de l’Homme, Paris
- DesCartes Program, CNRS@CREATE, Singapore
- Fond François-et-Rachel Routhier de l’Université Laval
- L’idex UCAJEDI
- L’Institut 3IA
- Observatoire international sur les impacts sociétaux de l’IA et du numérique (OBVIA)
- Observatoire des impacts Technologiques, Economiques et Sociétaux de l’Intelligence Artificielle (OTESIA)
Interprétation simultanée
L’interprétation simultanée en français et en anglais sera disponible pour tous les participants et participantes. Pour bénéficier de l’interprétation en présentiel, vous devrez vous connecter simultanément à la diffusion sur Zoom et écouter l’interprétation à partir d’écouteurs branchés à votre appareil personnel (téléphone intelligent, tablette ou ordinateur portable). Pour y avoir accès, vous devez préalablement remplir le formulaire suivant et conserver le lien de connexion:
Accès à l’interprétation le 22 mars
Accès à l’interprétation le 23 mars
FORMATION CONTINUE – ATTESTATION DE PARTICIPATION
Les participantes et les participants qui souhaitent obtenir une attestation de participation à cet événement pourront l’indiquer dans le formulaire d’inscription. Elle sera transmise par courriel par l’OBVIA dans les jours suivants l’événement. Chaque personne est ensuite responsable d’effectuer les démarches nécessaires pour se faire reconnaître leur participation comme une activité de formation continue auprès de leur établissement d’enseignement, leur employeur ou leur ordre professionnel.