Western News – Alumna mène le monde dans l’éthique des robots

Aimee van Wynsberghe est la preuve que le détour est parfois plus convaincant que la destination prévue.

Depuis que ses études à Western sont passées de la biologie cellulaire à la quasi-vie de l’intelligence artificielle il y a près de 15 ans, van Wynsberghe, BSc’06, est devenue l’un des plus grands experts mondiaux en éthique des robots.

En janvier, elle a commencé un mandat de cinq ans à l’Université de Bonn en tant que professeur Alexander von Humboldt. L’un des chaires universitaires et de recherche les plus prestigieux d’Allemagne, la nomination apporte 3,5 millions d’euros (environ 5,5 millions de dollars canadiens) pour démarrer un laboratoire axé sur l’éthique appliquée de l’intelligence artificielle et, en particulier, l’IA durable.

La technologie, a déclaré van Wynsberghe, est tout sauf neutre sur le plan éthique – et comme les robots n’ont pas d’intelligence morale intrinsèque, il appartient aux humains de combler le fossé entre ce qui est possible et ce qui est responsable.

«Au lieu que l’éthique soit une réflexion après coup, comme: ‘Oh, nous avions besoin de ce robot, et maintenant nous l’utilisons partout dans le monde et peut-être devrions-nous réfléchir à des problèmes éthiques,’ il est important que quelqu’un comme moi pose des questions sur le les questions éthiques que nous testons – être cet intermédiaire, le pas entre l’innovation et la politique.

Lorsque l’éthique est une réflexion après coup sur le design, les choses peuvent mal tourner. Prenons, par exemple, un outil de recrutement développé par Amazon pour passer au crible les CV des candidats aux emplois et aux promotions. L’algorithme s’est formé pour baser les choix d’embauche sur des mots clés indiquant les employés qui avaient été embauchés ou promus au cours de la décennie précédente – ce qui a filtré les candidatures féminines pour des emplois techniques ou de supervision.

«Un biais culturel qui faisait partie de leurs pratiques quotidiennes est devenu ancré dans l’algorithme, puis s’est perpétué au fur et à mesure que vous continuiez à utiliser l’algorithme», a déclaré van Wynsberghe. (La société a abandonné le recruteur d’apprentissage automatique en 2018 et a déclaré qu’elle ne s’était jamais appuyée uniquement sur ses résultats.)

Aujourd’hui, les régulateurs essaient de créer des cadres et des outils capables de détecter les sources possibles de discrimination et de créer des évaluations technologiques éthiques, a-t-elle déclaré. Les entreprises devront s’assurer que les évaluations sont conformes à certains ensembles de données et consigner comment le système a été formé, testé et validé. Cela améliorera à la fois la technologie et guidera les régulateurs lorsqu’ils tracent des lignes de non-croisement, a déclaré van Wynsberghe. «Par exemple, il se peut que« non, vous ne pouvez pas utiliser la reconnaissance des émotions ou la reconnaissance faciale parce que la technologie n’est pas suffisante.

CSTAR une influence professionnelle majeure

L’un des huit professeurs von Humboldt choisis dans ce dernier cycle, van Wynsberghe a obtenu deux diplômes de maîtrise et son doctorat en Europe et a été professeur d’IA à l’Université de technologie de Delft aux Pays-Bas.

Mais son intérêt pour le domaine a commencé alors qu’elle était dans sa troisième année d’études de premier cycle en biologie cellulaire à Western. C’est à ce moment-là qu’elle a décroché un poste d’assistante de recherche au CSTAR (Canadian Surgical Technologies & Advanced Robotics), un centre collaboratif du London Health Sciences Centre, du Lawson Health Research Institute et de Western pour rechercher et développer la chirurgie robotique assistée par ordinateur et la simulation.

Dans le cadre d’une équipe testant les capacités d’un robot de télé-chirurgie, elle a commencé à se demander s’il y avait un processus parallèle pour évaluer les aspects non techniques de la chirurgie à distance: comment les médecins et les infirmières interagissaient avec des patients qu’ils n’avaient jamais rencontrés, par exemple.

C’est là que le Dr Chris Schlachta, directeur médical du CSTAR, a joué un rôle important dans la vie de van Wynsberghe: «Il a dit: ‘Ce sont des questions vraiment cool, mais je ne sais pas comment y répondre pour vous. Je pense qu’il serait utile que vous alliez étudier l’éthique. « 
Le soutien médical et technique dès le départ était important, a-t-elle déclaré. «C’était un environnement sûr pour moi de pouvoir poser ces questions et de me sentir habilité à aller étudier les choses que j’ai étudiées.

L’empreinte carbone de l’IA

Les principes clés qui doivent être intégrés dans la culture de développement de l’apprentissage automatique sont la sécurité, la sûreté, la confidentialité, l’équité, la durabilité, la responsabilité et la transparence, a déclaré van Wynsberghe. L’intention n’est pas d’étouffer l’innovation ou d’étouffer la créativité, mais d’établir un terrain d’entente sur certaines des questions les plus épineuses de l’IA, y compris l’utilisation responsable des ressources.

Même rechercher une carte Google ou exiger qu’Alexa joue notre musique préférée entraîne un coût carbone que nous considérons rarement, a déclaré van Wynsberghe. «Certaines des recherches préliminaires montrent que le simple fait de former un système d’IA équivaut à la même empreinte carbone que cinq voitures nord-américaines au cours de leur vie. C’est beaucoup. Avant que nous n’ayons dépassé le point de non-retour, je veux examiner les différentes méthodologies de développement d’algorithmes et voir s’il y en a qui sont plus respectueuses de l’environnement.

Son objectif est de fournir aux décideurs des données afin qu’ils puissent décider: «D’accord, cet algorithme a une empreinte carbone si élevée qu’il ne peut être utilisé que par des entreprises comme DeepMind, qui vont l’utiliser pour comprendre comment les protéines se replient, mais vous pouvez ne l’utilisez pas pour créer un modèle qui va écrire de la poésie, par exemple.

À Bonn, van Wynsberghe sera également directrice de l’Institut des sciences et de l’éthique de l’université, où seront situés ses doctorants et postdoctorants et son laboratoire.

Déplacer des montagnes

Elle est la première femme à recevoir un poste de professeur von Humboldt et l’une des plus jeunes femmes d’Allemagne à avoir atteint le poste de professeur titulaire.

Elle est également codirectrice et co-fondatrice de la Foundation for Responsible Robotics, conseillère de la Commission européenne sur les questions d’intelligence artificielle et membre du Global Futures Council du Forum économique mondial sur l’intelligence artificielle et l’humanité.

Elle a déménagé à Bonn avec son mari, chercheur postdoctoral; leur jeune fils et fille, et leur chien. Il est difficile d’être aussi loin de ses pom-pom girls locales, de sa mère Catherine Woodburn (Dip’Ed’73) et de son frère, a-t-elle déclaré, mais cela valait la peine de parcourir chaque sideroad qu’elle a parcouru pour arriver ici.

«Je suis particulièrement heureux que ma fille me voie faire ça, que nous bougions principalement pour ma carrière. Je pense que c’est assez rare et je pense que c’est assez spécial. Et j’espère que si jamais elle occupe ce poste, on s’attend à ce que «bien sûr, c’est une opportunité incroyable, nous déplacerons des montagnes pour y arriver». «