Le programme pilote intègre l’éthique dans les cours de technologie de premier cycle de l’Université de Toronto

Un nouveau programme pilote à l’Université de Toronto intégrera des modules d’éthique dans les cours d’informatique de premier cycle existants dans le but de garantir que les technologies futures seront conçues et déployées de manière à tenir compte de leur impact sociétal plus large.

De l’apprentissage du compromis complexe entre la confidentialité des données et l’intérêt public à la prise de décisions de conception qui ont un impact sur les communautés marginalisées, le programme pilote – dirigé par le département d’informatique de la Faculté des arts et des sciences et le Schwartz Reisman Institute for Technology and Society (SRI) – enseignera aux étudiants en informatique les compétences nécessaires pour identifier les risques éthiques potentiels dans les technologies qu’ils apprennent à construire.

L’initiative vise à équiper les diplômés de l’Université de Toronto, qui pourraient devenir des leaders mondiaux de la technologie, à prendre des décisions éclairées sur la technologie et ses nombreux effets sur la justice, les soins de santé, l’éducation, les économies, les droits de l’homme et au-delà.

« Nous voulons enseigner aux élèves comment penser, pas quoi penser », dit Sheila McIlraith, professeur d’informatique et directeur de recherche au SRI qui co-dirige l’initiative, qui comprend des universitaires spécialisés en éthique du département de philosophie de l’Université de Toronto.

« Nous ne faisons pas de prosélytisme sur le « bien » ou le « mal », mais nous voulons que les étudiants identifient les questions éthiques car, lorsqu’ils entreront sur le marché du travail, ils seront en première ligne. Ce seront eux qui écriront le code, développeront les systèmes, utiliseront les données. Il est impératif que les considérations éthiques fassent partie des principes de conception fondamentaux.

McIlraith souligne l’évolution rapide du rôle que joue la technologie dans la société comme preuve du besoin urgent d’un tel programme.

« Auparavant, les technologues construisaient des systèmes pour un usage ou une industrie particulière », dit-elle. « Mais maintenant, la technologie n’est plus réservée aux tâches individuelles telles que la préparation des déclarations de revenus ou le suivi des stocks de l’entreprise. La technologie a un impact sur la façon dont nous vivons, travaillons et interagissons les uns avec les autres. Une grande partie de l’argent et des investissements qui alimentent notre économie sont liés à la technologie. Et les entreprises technologiques émergentes sont souvent dirigées par des jeunes qui viennent de sortir d’un diplôme en informatique.

Lorsque SRI a été fondé en 2019, McIlraith a été nommé comme l’un de ses premiers responsables de la recherche. Elle s’est rapidement rapprochée du directeur ISR Gillian K. Hadfield sur la nécessité d’une initiative d’éthique intégrée dans l’informatique, citant un programme pionnier similaire déjà en cours à l’Université de Harvard. Hadfield a immédiatement vu l’alignement avec la mission du SRI d’explorer la dynamique entre la technologie et l’agenda humain – et de résoudre les problèmes à l’intersection de la technologie et du bien public.

McIlraith et Horton sont rejoints dans l’équipe par Benjamin Wald, plus récemment chercheur postdoctoral au SRI et ancien élève du département de philosophie de l’Université de Toronto; Maryam Majedi, chercheur post-doctoral au département d’informatique ; et Emma McClure, doctorant au département de philosophie.

« L’intégration de considérations éthiques dans les cours existants aide les étudiants à voir leur pertinence au moment même où ils apprennent l’informatique », déclare Diane Horton, professeur, filière enseignement, dans le département qui co-dirige le programme pilote avec McIlraith. « Les modules d’éthique sont étroitement associés au contenu technique, donc lorsque les étudiants seront finalement sur le lieu de travail, nous espérons que les deux resteront très connectés dans leur esprit. »

Horton, qui enseigne dans le département depuis 25 ans, a vu de ses propres yeux à quel point les étudiants sont désireux de parler d’éthique. Elle a également noté qu’ils apportent des perspectives différentes à la conversation.

« Une élève avait une appréciation très intense de la vulnérabilité de la population des sans-abri, dit Horton, et elle a tiré cela de son expérience personnelle. Un autre étudiant a parlé de l’hôpital où il travaille et de la façon dont les données médicales privées sont si soigneusement protégées.

« Il y a eu tellement de curiosité de la part des étudiants », ajoute Majedi de l’initiative jusqu’à présent. « Ils posent beaucoup de questions et proposent des idées intéressantes et créatives. Certains sont tellement excités et restent longtemps après les cours pour parler avec nous.

Majedi dit que ses propres recherches sur la confidentialité des données ont mis en évidence une lacune dans les programmes où une formation éthique pour les étudiants est absolument nécessaire.

« Il est essentiel d’enseigner l’éthique en informatique », dit-elle, « car ces étudiants seront responsables de nombreuses tâches importantes à l’avenir. »

Wald et McClure se disent tous deux ravis de voir l’enthousiasme des étudiants en informatique lorsqu’il s’agit d’aborder des questions éthiques.

« Je pense que les étudiants veulent vraiment disposer de ces outils de pensée critique, car il est clair qu’ils ont déjà pris en compte ces questions », déclare McClure.

« Parfois, un étudiant en informatique peut reconnaître un problème éthique potentiel », explique Wald, « mais peut ne pas savoir comment il a été discuté par d’autres personnes, ou où trouver les bonnes ressources pour le résoudre. Ils pourraient penser : « Comment puis-je mettre des mots sur mon inquiétude ? » J’espère que nous pourrons leur donner les outils pour le faire.

L’initiative d’éthique intégrée produira une étude longitudinale pour éclairer ses orientations futures. L’objectif est que chaque étudiant en informatique rencontre des modules d’éthique à plusieurs moments de son programme informatique de l’Université de Toronto – et apporte ces informations à sa future carrière.

« Les grandes entreprises technologiques comme Apple emploient souvent des personnes dans des rôles d’éthique spécialisés, mais notre programme vise à équiper les personnes qui construisent réellement les technologies dans une entreprise comme celle-ci », explique McClure. « De cette façon, le comportement éthique vient de la conception des technologies. Cela vient du bas au lieu d’être imposé de l’extérieur par un « spécialiste de l’éthique ».

McIlraith et Horton attribuent tous deux à Barbara Grosz et Jeff Behrends de Harvard le soutien apporté à l’équipe de l’Université de Toronto aux premiers stades de la conception et du développement du programme pilote. Grosz est l’un des fondateurs du programme Embedded EthiCS de Harvard, tandis que Behrends est chef d’équipe du corps professoral.

L’équipe de l’Université de Toronto vise à engager d’autres professeurs, instructeurs et chercheurs au fur et à mesure de sa croissance, en particulier des professeurs d’informatique qui enseignent déjà des cours de premier cycle dans le programme de base depuis des années.

«À plus long terme, nous aspirons à ce que les considérations éthiques soient la pierre angulaire de bon nombre de nos disciplines axées sur la technologie au sein de l’université», explique McIlraith. « L’un de nos objectifs est de créer une stratégie gagnante afin que ce pilote puisse se transformer en quelque chose de plus large. »