Projet issu de l'AAP 2020 Interdisciplinaire
Porté par Caroline Lequesne Roth (GREDEG) et Serena Villata (I3S)
A l’ère du « service public augmenté », alors que la majorité des administrations déploient des dispositifs algorithmiques, la question du traitement des données étudiantes demeurent encore peu explorée par la recherche française, en informatique comme en droit.
Elle apparaît toutefois essentielle au regard d’un double phénomène :
1/ La gestion des affectations étudiantes repose aujourd’hui sur des traitements algorithmiques : Parcours Sup et ses algorithmes locaux, qui se sont substitués à la plateforme APB, conditionnent l’accès au service public de l’enseignement supérieur. Pour autant, leur fonctionnement comme leur légalité interrogent : production de biais, « faiblesses du système d’information en matière de sécurité, de performance et de robustesse » sont autant de lacunes dont ces dispositifs souffriraient selon un récent rapport de la Cour des Comptes qui dénonce en outre un « dispositif aujourd’hui sans direction stratégique ni gouvernance satisfaisantes ». La multiplication des recours, pendants devant les hautes juridictions françaises, témoignent en outre d’une suspicion accrue des associations étudiantes, qui plaident en faveur d’une transparence des procédures.
2/ Le développement de l’industrie des « edtech » à l’étranger, tout particulièrement dans les universités anglo-saxones, laisse préfigurer des déploiements sur nos propres campus, au service de la gouvernance universitaire. Cette industrie décline le traitement de la donnée étudiante au travers d’outils aussi divers queles indicateurs de réussite, d’attention ou d’implication, la «personnalisation» des services fondée sur la reconnaissance faciale ou les mesures de performance. Ici encore, fiabilité, transparence, pertinence et opportunité des traitements soulèvent tout autant d’interrogation sur le terrain technique, que juridique et éthique.
Le présent projet poursuit un double objectif :
- Réfléchir aux usages locaux des algorithmes APB, en élaborant des propositions sur le terrain
de l’audit algorithmique : quelles exigences techniques ? quelles garanties humaines ? Selon quelle(s) méthode(s) ?
Comment surmonter le défi de la transparence des algorithmes sans compromettre les usages de l’administration? Comment accompagner le développement du service algorithmique universitaire ? Comment envisager l’exploitation d’algorithmes d’Intelligence Artificielle (ex. apprentissage profond) dans le domaine des edtech, tout en garantissant le respect de droits fondamentaux et de l’état de de droit ?
- Dresser un état de l’art technico-juridique de l’industrie et des cas d’usage en matière de edtech et envisager le cadre de leur déploiement à l’échelon français.
Porté par Caroline Lequesne Roth (GREDEG) et Serena Villata (I3S)
A l’ère du « service public augmenté », alors que la majorité des administrations déploient des dispositifs algorithmiques, la question du traitement des données étudiantes demeurent encore peu explorée par la recherche française, en informatique comme en droit.
Elle apparaît toutefois essentielle au regard d’un double phénomène :
1/ La gestion des affectations étudiantes repose aujourd’hui sur des traitements algorithmiques : Parcours Sup et ses algorithmes locaux, qui se sont substitués à la plateforme APB, conditionnent l’accès au service public de l’enseignement supérieur. Pour autant, leur fonctionnement comme leur légalité interrogent : production de biais, « faiblesses du système d’information en matière de sécurité, de performance et de robustesse » sont autant de lacunes dont ces dispositifs souffriraient selon un récent rapport de la Cour des Comptes qui dénonce en outre un « dispositif aujourd’hui sans direction stratégique ni gouvernance satisfaisantes ». La multiplication des recours, pendants devant les hautes juridictions françaises, témoignent en outre d’une suspicion accrue des associations étudiantes, qui plaident en faveur d’une transparence des procédures.
2/ Le développement de l’industrie des « edtech » à l’étranger, tout particulièrement dans les universités anglo-saxones, laisse préfigurer des déploiements sur nos propres campus, au service de la gouvernance universitaire. Cette industrie décline le traitement de la donnée étudiante au travers d’outils aussi divers queles indicateurs de réussite, d’attention ou d’implication, la «personnalisation» des services fondée sur la reconnaissance faciale ou les mesures de performance. Ici encore, fiabilité, transparence, pertinence et opportunité des traitements soulèvent tout autant d’interrogation sur le terrain technique, que juridique et éthique.
Le présent projet poursuit un double objectif :
- Réfléchir aux usages locaux des algorithmes APB, en élaborant des propositions sur le terrain
de l’audit algorithmique : quelles exigences techniques ? quelles garanties humaines ? Selon quelle(s) méthode(s) ?
Comment surmonter le défi de la transparence des algorithmes sans compromettre les usages de l’administration? Comment accompagner le développement du service algorithmique universitaire ? Comment envisager l’exploitation d’algorithmes d’Intelligence Artificielle (ex. apprentissage profond) dans le domaine des edtech, tout en garantissant le respect de droits fondamentaux et de l’état de de droit ?
- Dresser un état de l’art technico-juridique de l’industrie et des cas d’usage en matière de edtech et envisager le cadre de leur déploiement à l’échelon français.
Dates
Créé le 25 février 2021