La boursière Kate Crawford s’exprime sur les implications sociales de la technologie de l’IA
Lors d’une conversation avec la théoricienne politique Wendy Brown GS ’83, Kate Crawford, éminente spécialiste de l’intelligence artificielle (IA), a parlé des dimensions environnementales, morales et sociales de l’IA en tant que technologie d’extraction de données et physique, y compris ses réflexions sur l’avenir de la technologie.
La conversation s’est appuyée sur le dernier livre de Crawford, « The Atlas of AI: Power, Politics and the Planetary Costs of Artificial Intelligence », et a couvert le rôle de l’IA dans un cadre capitaliste, ses préjugés inhérents et ses efforts pour démocratiser la technologie.
Crawford est professeur-chercheur en communication et études scientifiques et technologiques à l’USC Annenberg et chercheur principal principal à Microsoft Research New York. Brown est professeur de la Fondation UPS à l’École des sciences sociales de l’Institute for Advanced Study.
L’événement a commencé avec Crawford expliquant ses intentions d’écrire « Atlas of AI » au public.
« La représentation commune de l’intelligence artificielle se situe quelque part entre la science-fiction et l’extraction mathématique », a-t-elle déclaré.
Les implications politiques dangereuses de cette représentation l’ont amenée à écrire sur l’intelligence artificielle.
« Nous avons tendance à restreindre l’IA aux paradigmes techniques », a-t-elle déclaré. « Mais l’IA est autant des pratiques sociales que des pratiques techniques. Et ce sont aussi les infrastructures qui sous-tendent ces systèmes.
Étant donné que l’IA n’est ni entièrement artificielle ni intelligente, Crawford a déclaré qu’elle considérait l’IA comme un « abus de langage absolu », mais toujours un terme utile et évocateur.
Crawford a abordé trois des huit chapitres de son livre : « Terre », « Travail » et « Données ». Parlant des formes de travail humain nécessaires pour créer l’IA actuelle et de la tendance croissante à traiter les humains comme des robots grâce à l’IA, Crawford a critiqué l’application de l’intelligence artificielle aux institutions sociales comme l’éducation et les soins de santé.
« Ce que j’ai vu depuis tant d’années, c’est que l’IA élargit généralement les asymétries de pouvoir sous-jacentes », a-t-elle déclaré.
Brown a amplifié le rôle de l’« Atlas de l’IA » en dissipant les mythes de « l’IA en tant que technologie propre, économe en main-d’œuvre, neutre ou impartiale, et simplement une technologie ».
Brown a également évoqué l’interprétation de Crawford de l’IA dans le contexte du capitalisme moderne.
« L’IA est liée au capital. Cela en dépend; il valorise le capital. Mais périodiquement, vous dites que l’IA est capitale », a-t-elle déclaré.
Cela a conduit à une discussion plus approfondie sur l’IA en tant qu’industrie extractive. Brown a résumé la vision de Crawford pour les actions futures nécessaires pour atténuer les implications environnementales, politiques et sociales de l’IA.
« Le mouvement pour la démocratisation de l’IA ressemble beaucoup à la démocratisation de la finance. Il y a un appel pour un accès plus universel, en développant des plateformes qui réduisent les barrières à l’entrée. Ici, la démocratie elle-même est réduite à l’inclusion », a-t-elle déclaré.
De plus, Crawford a parlé de la nécessité d’une formation interdisciplinaire autour de l’informatique, centrée sur les humains qui sont quotidiennement affectés par ces systèmes.
Citant l’exemple des récentes manifestations à New York contre la reconnaissance faciale dans les logements sociaux, Crawford a déclaré : « le muscle que nous devons vraiment exercer est la politique du refus ».
Le dialogue a ensuite été ouvert aux questions pré-soumises du public, à la fois ceux présents en personne et ceux présents via Zoom.
« Dans quelle mesure les générations futures dépendent-elles de la technologie, ou de l’IA en particulier ? » a demandé un membre du public.
Crawford a expliqué que, qu’il s’agisse de postuler à l’université ou à un emploi, la jeune génération est constamment évaluée et profilée par l’IA d’une manière indépendante de sa volonté.
Une autre question a exploré les rôles des biais dans l’IA.
« Les systèmes nous indiquent à certains égards les problèmes structurels que nous avons déjà », a déclaré Crawford, se référant aux préjugés sexistes involontaires dans l’algorithme Apple Card et l’algorithme de CV d’Amazon.
La session s’est terminée avec Crawford parlant de Jeff Bezos ’86 et de sa « vision radicale » de Blue Origin et de la technologie facilitant la vie au-delà de la Terre.
« Je préférerais de loin que nous regardions comment nous pouvons réparer et partager la planète que nous avons et dont nous savons qu’elle soutient la vie plutôt que de regarder des fantasmes qui sont plus une idéologie que des faits », a-t-elle déclaré.
L’événement a eu lieu le 27 octobre à 17 heures par Princeton Public Lectures (PPL) dans le cadre de la série de conférences Louis Clark Vanuxem. Il s’agit du premier événement en personne de PPL depuis le début de la pandémie de COVID-19.
Tara Agarwal est une contributrice de nouvelles pour le « Prince ». Elle peut être jointe à ta3150@princeton.edu.