IA et responsabilités: Comment les normes éthiques sont-elles intégrées aux systèmes techniques? Les exemples des villes intelligentes et de la finance.
Comment penser, voire repenser, les formes de responsabilité face au phénomène du développement de l’IA et des algorithmes qui pénètrent l’ensemble des pratiques sociales, économiques, scientifiques ou culturelles?
Séminaire IA responsabilité
22 - 23 mars 2022
Lieu : Université Laval et en ligne
Poser cette question, c’est d’une part s’interroger sur les normes éthiques qui structurent ou influencent la construction des algorithmes, le design des outils techniques, et l’utilisation par les professionnels, les consommateurs ou les citoyens de ces systèmes techniques. C’est d’autre part s’interroger sur la manière dont elles engagent ou mettent en question nos conceptions communes de la responsabilité et du vivre ensemble.
La complexité de ces systèmes techniques, leurs niveaux d’organisation, les scénarios qu’ils comportent, les formes de mathématisation utilisées et les finalités recherchées, obligent à réfléchir sur la façon dont les normes éthiques sont actuellement intégrées.
L’analyse des relations entre IA et responsabilités fera l’objet de plusieurs conférences et ateliers internationaux dont le premier volet prendra place à Québec. Deux exemples de systèmes techniques complexes, les villes intelligentes et la finance, ont été choisis pour tenter de les comprendre, de les interroger et de rendre compte de ce phénomène de l’intégration des normes éthiques.
Deux ateliers internationaux et interdisciplinaires abordent sous différents angles, des spécificités techniques, comme le contrôle, la surveillance, l’optimisation, l’évaluation des risques, l’efficacité, la prédictibilité liées aux algorithmes et aux objets techniques et qui peuvent ou non être liées à des normes éthiques de transparence, de protection de la vie privée, de non-discrimination, d’inclusion, de participation démocratique. Comment comprendre les normes éthiques qui se manifestent ou non dans ces systèmes techniques qui intègrent modèles mathématiques, algorithmes et outils techniques? Comment est-il possible de questionner, voire remettre en cause ces systèmes techniques?
DÉTAIL DE L'ATELIER 1
Les villes intelligentes: Quels projets politiques? Quelles formes techniques? Comment les normes éthiques sont-elles intégrées?
22 mars, de 8h45 à 16h30
Le premier atelier concerne le modèle des villes intelligentes qui semble a priori très complexe, très hétérogène avec différents modèles mathématiques, l’ajout d’outils technologiques multiples (objets connectés) et l’intégration de scénarios politiques et des normes éthiques. Scénarios politiques comme «la durabilité des villes» et normes éthiques comme «l’implication des citoyens», interviennent en aval et en amont dans les projets de villes intelligentes. Comment pourrait-on redéfinir ce qu’une ville intelligente? Comment comprenons-nous les changements que ces projets de ville intelligente modifient dans la conscience collective du vivre ensemble dans la ville et dans les caractéristiques de la vie de voisinage? Plus largement quels sont les nouveaux enjeux éthiques, psychologiques, sociologiques et politiques des villes intelligentes? Les discussions porteront entre autres sur la signification des villes intelligentes sur l’habitation individuelle, la vie de voisinage et plus largement sur la ville (la cité-État) entendue comme un tout.
PROGRAMME:
8h45: Mots d’ouverture, Vanessa Nurock, CRHI- Université Côte d’Azur & Chaire UNESCO EVA
9h à 9h20: Jennifer Ang, philosophe, Singapore University of Social Sciences : « Technologization and the place of human autonomy »
9h20 à 9h40 : Shin Koseki, formé à l’architecture et à l’urbanisme, titulaire de la Chaire UNESCO Paysage urbain à l’Université de Montréal et coresponsable de l’axe Environnement, villes intelligentes, territoire et mobilité de l’OBVIA : « Smart cities as tailored dynamic fields of affordances »
9h40 à 10h: Nina Powell, psychology, National University of Singapore : « What does it mean to be a free and autonomous moral person in a smart city? »
10h à 10h30: Discussion
10h30 à 10h55: Pause
10h55 à 11h15: Rita Padawangi, sociologue, Singapore University of Social Sciences : « Whose Smartness? Whose City? Making Sense in the Everyday Life of a “Smart City” »
11h15 à 11h35: Paul Rabé, sciences politiques, International Institute for Asian Studies, Erasmus University, Rotterdam : « Smart cities and governance »
11h35 à 12h15: Discussion
12h15 à 13h45: Pause repas
13h45 à 14h45: Table ronde «Éthique et recommandations»
Stéphane Roche, professeur au Département des sciences géométriques, Université Laval Mario Marosan, doctorant, Faculté de philosophie, Université Laval Philippe Girard, étudiant à la maitrise, Faculté de philosophie, Université Laval
14h45 à 15h: Pause
15h à 15h20: Propos de clôture, Marie-Hélène Parizeau, philosophe, Université Laval
« Enjeux éthiques et politiques de la gouvernance des villes intelligentes »
15h30 à 16h30: Exposition d’affiches
DÉTAIL DE L'ATELIER 2
Modèles mathématiques, algorithmes et normes éthiques intégrées dans le système financier
23 mars, de 9h à 12h30
Ce 2e atelier questionne particulièrement les modèles mathématiques utilisés en amont du système financier et qui charpentent les algorithmes utilisés dans les pratiques financières actuelles. Ces algorithmes ne sont pas pour autant des véhicules neutres dans la façon de calculer les risques ou dans la manière dont les professionnels se conforment ou non au cadre de gestion. Tout ceci façonnerait une forme de responsabilité épistémique qui valorise certaines normes éthiques plutôt que d’autres. Le modèle financier dominant laisserait donc apparaître un système intégré, voire fermé, entre les modèles mathématiques, les algorithmes, et les formes de gestion avec des normes éthiques accompagnant son efficacité et sa prédictibilité. Ce modèle sera donc questionné dans ses fondements et dans ses usages.
PROGRAMME:
9h: Mots d’ouverture
9h15 à 9h45: Conférence «Gestion des portefeuilles: la comédie des erreurs» Christian Walter, actuaire, co-titulaire de la Chaire Éthique et Finance (FMSH, ISJPS), chercheur associé Université de Paris 1
9h45 à 10h15: Conférence « AI ethics and systemic risks in finance » Ekaterina Svetlova, economist, associate professor, University of Twente, The Netherlands
10h15 à 10h30: Pause
10h30 à 11h: Conference « Banal Political Economy » Donald MacKenzie, sociologist, professor, School of Social and Political Science, University of Edinburgh, UK
Cet événement est organisé par Marie-Hélène Parizeau, professeure à la Faculté de philosophie de l’Université Laval et membre chercheuse de l’OBVIA, avec le soutien de Jennifer Ang, Singapore University of Social Sciences, et Vanessa Nurock, CRHI- Université Côte d’Azur et Chaire UNESCO EVA, pour l’atelier sur les villes intelligentes et Christian Walter, co-titulaire de la chaire Éthique et Finance (FMSH, ISJPS), pour l’atelier sur le système financier.
Lors de la consultation par profil (menu « Je suis ») du portail d’Université Côte d’Azur et des portails des composantes d’Université Côte d’Azur des informations sont susceptibles d'être enregistrées dans un fichier "Cookie" installé par Université Côte d’Azur dans votre ordinateur, tablette ou téléphone mobile.Ce fichier Cookie contient certaines informations, comme un identifiant unique, le nom du portail, ainsi que le profil choisi. Ce fichier Cookie est lu par son émetteur. Il permet, pendant sa durée de validité de 12 mois, de reconnaitre votre terminal et de conserver le profil choisi comme votre page d’accueil par défaut.
Vous avez donné votre consentement pour le dépôt de cookies sauvegardant votre profil dans votre navigateur.
Vous vous êtes opposé au dépôt de cookies de mémorisation de votre profil dans votre navigateur.
Le paramètre "Do Not Track" est actif sur votre navigateur. Le profil ne sera pas mémorisé dans un cookie
