Trois prédictions pour l’avenir de la technologie responsable
- Le projet Utilisation responsable de la technologie du Forum est en cours depuis plus de deux ans.
- Sur la base de ses travaux à ce jour, voici trois prédictions pour l’avenir de la technologie responsable.
- Ils comprennent l’investissement responsable, des réglementations ciblées et l’intégration de l’éthique technologique dans l’enseignement supérieur.
Au cours des deux dernières années, le Forum économique mondial – travaillant en étroite collaboration avec un groupe diversifié d’experts – a travaillé à l’avancement du domaine de l’éthique en technologie. Ce projet, intitulé Utilisation responsable de la technologie, a commencé lorsque plus de 40 dirigeants du gouvernement, de la société civile et des entreprises, dont certains avec des programmes concurrents, se sont réunis au Center for the Fourth Industrial Revolution à San Francisco. Ce groupe a convenu de l’objectif important de fournir des outils et des techniques que les dirigeants peuvent utiliser pour opérationnaliser l’éthique pendant le cycle de vie de la technologie.
Cette communauté de projets multipartite a plaidé en faveur d’approches à la fois fondées sur les droits de l’homme et sur l’éthique pour l’utilisation responsable de la technologie, a promu l’utilisation des principes d’économie comportementale dans la conception organisationnelle pour favoriser un comportement plus éthique avec la technologie et a mis en évidence des techniques pour une innovation de produit technologique responsable. Alors que nous entrons dans la troisième année de ce projet, nous avons quelques prédictions sur l’avenir de la technologie responsable que nous aimerions partager.
1. L’essor de l’investissement responsable dans la technologie
Lorsque ce projet a été conçu, l’intention initiale était de fournir aux praticiens des outils et des techniques qu’ils pourraient utiliser pour créer des résultats plus éthiques lors de la conception, du développement, du déploiement et de l’utilisation de la technologie. L’une de ces techniques est l’analyse des conséquences, qui aide les chefs de produit, les concepteurs et les développeurs à identifier à l’avance les conséquences potentielles prévues et imprévues d’un nouveau produit ou d’une nouvelle fonctionnalité.
Cependant, alors que notre société prend de plus en plus conscience de l’impact des technologies sur les droits de l’homme, les dirigeants se penchent sur les premières étapes de l’innovation technologique. Ils commencent à se demander si les investisseurs mènent des évaluations éthiques et des droits de l’homme des start-up dans lesquelles ils investissent ou incubent. Un récent rapport publié par Amnesty International révèle qu’aucune des dix premières sociétés de capital-risque du Journal du capital de risqueLa liste des 50 premiers du classement avait mis en place des politiques adéquates de diligence raisonnable en matière de droits de l’homme lors de l’évaluation des entreprises.
Notre recherche a révélé que la grande majorité des sociétés de capital-risque les plus influentes au monde opèrent avec peu ou pas de considération de l’impact de leurs décisions sur les droits humains. Avec des enjeux si élevés, les investisseurs doivent adopter l’idée d’investir de manière responsable dans la technologie et s’engager à des évaluations plus solides des droits de l’homme dans leur processus de diligence raisonnable.
—Michael Kleinman, directeur, Silicon Valley Initiative, Amnesty International / AIUSA
Avec des groupes de défense des droits humains comme Amnesty International mettant en lumière ce problème, ainsi que la montée des investissements environnementaux, sociaux et de gouvernance (ESG) et les appels accrus au capitalisme des parties prenantes, nous prévoyons qu’il y aura plus de progrès dans l’investissement responsable dans la technologie – en particulier dans le domaine du capital-risque – dans les années à venir.
2. Réglementations technologiques ciblées : juste le début
L’année 2021 restera dans les annales comme une année charnière pour la réglementation technologique à l’échelle mondiale. En effet, plus tôt cette année, la Commission européenne (CE) a publié sa loi sur l’intelligence artificielle, une proposition réglementaire complète qui classe toutes les applications d’IA en quatre catégories distinctes de risques (risque inacceptable, risque élevé, risque limité et risque minimal) et introduit des exigences pour chacun d’eux. Les preuves suggèrent que les régulateurs américains prennent également des mesures coercitives contre les systèmes d’IA biaisés, tandis que les législateurs fédéraux ont proposé diverses réglementations pour réglementer la reconnaissance faciale.
L’opinion publique évolue également aux États-Unis. Dans une enquête du Pew Research Center d’avril 2021, 56% des Américains ont déclaré soutenir une réglementation accrue des grandes entreprises technologiques contre 47% en juin 2020. En Chine, les régulateurs ont récemment lancé une répression technologique. Le gouvernement chinois a publié un document en août 2021 indiquant que les autorités promouvront activement la législation dans des domaines tels que la sécurité nationale, l’innovation technologique et la lutte contre les monopoles. Ces activités réglementaires sont susceptibles de s’intensifier en raison de la demande croissante de solutions technologiques fiables.
L’époque des entreprises technologiques opérant dans le « Far West » est révolue. La société civile et les gouvernements commencent à tenir les entreprises responsables de la manière dont leurs produits sont déployés par les utilisateurs finaux, ainsi que de l’impact qu’ils peuvent avoir sur les processus sociétaux clés et les communautés. Nous continuerons de voir une évolution vers une réglementation gouvernementale disjointe sur divers marchés. Ces changements ont déjà un impact sur la façon dont les entreprises font des affaires et les dirigeants doivent garder à l’esprit ces responsabilités éthiques et juridiques.
—Rachel Gillum, responsable de la politique mondiale, de l’utilisation éthique et humaine, Salesforce
Nous prévoyons que les futures réglementations seront davantage ciblées sur des technologies, des industries, des cas d’utilisation, des profils de risque et des communautés affectées spécifiques.
3. L’éthique technologique sera obligatoire dans l’enseignement supérieur
Jusqu’à récemment, la plupart des étudiants qui étudiaient l’informatique, le génie électrique et la science des données pouvaient obtenir leur diplôme sans suivre de cours d’éthique. Les universités qui offraient des cours d’éthique technologique les considéraient comme des cours optionnels et non obligatoires. Ceci est différent d’autres disciplines telles que le droit et la médecine, qui traitent l’éthique comme un élément clé de la formation professionnelle. La plupart des technologues en milieu de travail aujourd’hui n’ont même pas été exposés aux sciences sociales ou aux aspects humanistes de leurs futures professions tout au long de leur éducation formelle. Nous pensons que cela va changer. Alors que les questions d’éthique technologique continuent d’imprégner la sensibilisation du public, nous prévoyons que la plupart des universités offriront davantage de cours sur l’éthique technologique et les rendront obligatoires pour que les étudiants obtiennent des diplômes dans des domaines techniques.
Étant donné le rôle primordial des informaticiens et des ingénieurs dans le remodelage de chaque facette de la vie humaine, les établissements d’enseignement supérieur commencent à repenser la façon dont ces disciplines sont enseignées. Au cœur de cette refonte, il faut des cours de raisonnement éthique pour obliger les informaticiens et les ingénieurs à examiner leurs obligations éthiques envers les sociétés que leurs technologies impactent au quotidien.
— Will Griffin, directeur de l’éthique, HyperGiant
Certaines entreprises imposent déjà une formation technologique responsable à tous les employés. Des associations professionnelles telles que l’Institute of Electrical and Electronics Engineers (IEEE) organisent des conférences dédiées à l’éthique des technologies, et des organisations à but non lucratif telles que le Responsible Artificial Intelligence Institute interviennent en proposant des options pour certifier les compétences incluses dans ces formations. Nous pensons que la plupart des universités emboîteront bientôt le pas.
Avec les nouvelles technologies qui imprègnent de plus en plus notre quotidien, le domaine de la technologie responsable s’élargit. Ce qui pouvait auparavant être considéré comme une fonction du secteur financier, comme une pratique d’investissement éthique, est de plus en plus considéré comme faisant partie du cycle de vie de la technologie. Les approches de type laissez-faire en matière de gouvernance qui permettent l’utilisation et la mauvaise utilisation des plateformes technologiques ne sont plus tolérées. Et les éducateurs dans des domaines techniques tels que la science des données doivent se débattre avec des études interdisciplinaires d’éthique et de droit.
En effet, dans notre travail sur le projet d’utilisation responsable de la technologie, nous avons constaté un intérêt et une participation croissants dans des secteurs allant de la banque à l’alimentation et aux boissons, nous rappelant que chaque entreprise est désormais une entreprise technologique. Les prédictions décrites ci-dessus démontrent les façons dont des acteurs disparates commencent à se rassembler pour aborder les questions d’éthique technologique. Alors que le monde devient de plus en plus complexe et interconnecté, il s’agit d’une approche holistique et à plusieurs volets de la gouvernance qui permettra aux communautés de profiter des avantages et d’éviter les inconvénients de ces nouvelles technologies.