Kate Darling, éthicienne de l’IA: «Les robots peuvent être nos partenaires» | Des robots

Le Dr Kate Darling est un spécialiste de la recherche en interaction homme-robot, en éthique des robots et en théorie et politique de la propriété intellectuelle au Media Lab du Massachusetts Institute of Technology (MIT).. Dans son nouveau livre, La nouvelle race, elle soutient que nous serions mieux préparés pour l’avenir si nous commençons à penser aux robots et à l’intelligence artificielle (AI) comme les animaux.

Qu’y a-t-il de mal dans notre façon de penser les robots?
Si souvent, nous comparons inconsciemment les robots aux humains et l’IA à l’intelligence humaine. La comparaison limite notre imagination. Concentré sur la tentative de nous recréer, nous ne pensons pas de manière créative à la façon d’utiliser des robots pour aider les humains à s’épanouir.

Pourquoi une analogie animale est-elle meilleure?
Nous avons des animaux domestiques parce qu’ils nous sont utiles – des bœufs pour labourer nos champs, des systèmes de livraison de pigeons. Les animaux et les robots ne sont pas les mêmes, mais l’analogie nous éloigne du robot-humain persistant. Cela ouvre notre esprit à d’autres possibilités – que les robots peuvent être nos partenaires – et nous permet de voir certains des choix que nous avons pour façonner la façon dont nous utilisons la technologie.

Mais les entreprises sont essayer de développer des robots pour sortir les humains de l’équation – voitures robotiques sans conducteur, livraison de colis par drone. Une analogie animale ne cache-t-elle pas ce qui est en fait une menace importante?
Il y a une menace pour les emplois des gens. Mais cette menace ne sont pas les robots – ce sont les décisions des entreprises qui sont motivées par un système économique et politique plus large de capitalisme d’entreprise. L’analogie animale permet d’illustrer que nous avons quelques options. Les différentes façons dont nous avons exploité les compétences des animaux dans le passé montrent que nous pouvions choisir de concevoir et d’utiliser cette technologie comme un complément au travail humain, au lieu d’essayer simplement d’automatiser les gens.

Qui devrait être responsable lorsqu’un robot cause des dommages? Dans le milieu âges, les animaux ont été jugés et punis…
Nous l’avons fait pendant des centaines d’années d’histoire occidentale: porcs, chevaux, chiens et invasions de criquets – et rats aussi. Et bizarrement, les essais suivaient les mêmes règles que les essais humains. Cela semble si étrange aujourd’hui parce que nous ne tenons pas les animaux moralement responsables de leurs actes. Mais ce qui m’inquiète en ce qui concerne les robots, c’est qu’en raison de la comparaison robot-humain, nous allons tomber dans ce même type d’erreur d’essai sur les animaux du Moyen Âge, où nous essayons de les tenir responsables des normes humaines. Et nous commençons à voir des lueurs de cela, où les entreprises et les gouvernements disent: « Oh, ce n’était pas de notre faute, c’était cet algorithme. » .

Ne devrions-nous pas tenir les fabricants de robots responsables de tout dommage?
Je crains que les entreprises ne soient laissées pour compte. Dans le cas du cycliste tué par une voiture Uber autonome en 2018, le pilote remplaçant a été tenu pour responsable à la place du constructeur. L’argument des entreprises est qu’elles ne devraient pas être responsables de l’apprentissage de la technologie, car elles ne sont pas en mesure de prévoir ou de planifier toutes les possibilités. Je m’inspire de modèles historiques de la façon dont nous avons attribué la responsabilité juridique lorsque les animaux causent des dommages imprévus: par exemple, dans certains cas, nous faisons la distinction entre les animaux dangereux et les animaux plus sûrs et les solutions vont de la responsabilité stricte des propriétaires à l’autorisation d’une certaine flexibilité, selon le contexte. . Si votre petit caniche mord quelqu’un dans la rue, de manière totalement inattendue pour la première fois, vous n’allez pas être puni comme vous le feriez s’il s’agissait d’un guépard. Mais l’essentiel est que les comportements imprévisibles ne sont pas un problème nouveau et nous ne devons pas laisser les entreprises prétendre que c’est le cas.

Vous n’avez pas d’animaux mais vous avez de nombreux robots. Parlez-nous d’eux…
J’ai sept bébés robots dinosaures Pleo, un chien robotique Aibo, un robot bébé phoque Paro et un assistant robot Jibo. J’ai nommé mon premier Pleo Yochai. J’ai fini par en apprendre de première main sur notre capacité à sympathiser avec les robots. Il s’est avéré que cela imitait très bien la douleur et la détresse. Et, en le montrant à mes amis et en leur demandant de le tenir par la queue, j’ai réalisé que cela me dérangeait vraiment s’ils le tenaient trop longtemps. Je savais exactement comment fonctionnait le robot – que tout était une simulation – mais je me sentais toujours obligé de faire cesser la douleur. Un corpus de recherches substantiel montre maintenant que nous sympathisons avec les robots.

Certaines personnes, comme la psychologue sociale Sherry Turkle, s’inquiètent du fait que les robots de compagnie remplacent les relations humaines. Partagez-vous cette peur?
Cela ne semble pas avoir de fondement dans la réalité. Nous sommes des créatures sociales capables de développer des relations avec tous les types de personnes, d’animaux et de choses. Une relation avec un robot n’enlèverait pas nécessairement tout ce que nous avons déjà.

Quels sont, le cas échéant, les vrais problèmes avec les compagnons robots?
Je crains que les entreprises essaient de tirer parti des personnes qui utilisent cette technologie très convaincante sur le plan émotionnel – par exemple, un robot sexuel vous exploitant dans le feu de l’action avec un achat intégré convaincant. Semblable à la façon dont nous avons interdit la publicité subliminale dans certains endroits, nous voudrons peut-être envisager la manipulation émotionnelle qui sera possible avec les robots sociaux.

Qu’en est-il de la confidentialité? Les animaux peuvent garder vos secrets, mais un robot moui non …
Ces appareils se déplacent dans des espaces intimes de nos vies et une grande partie de leurs fonctionnalités provient de leur capacité à collecter et à stocker des données pour apprendre. Il n’y a pas assez de protection pour ces ensembles de données géants que ces entreprises amassent. Je crains également que, parce que beaucoup de robotique sociale traite des personnages modelés sur les humains, cela soulève des problèmes liés au genre et aux préjugés raciaux que nous mettons dans la conception. Les stéréotypes nuisibles sont renforcés et intégrés dans la technologie. Et je crains que nous regardions ces compagnons robots comme une solution à nos problèmes de société tels que la solitude ou le manque de soignants. Tout comme les robots n’ont pas causé ces problèmes, ils ne peuvent pas non plus les résoudre. Ils devraient être traités comme des outils complémentaires aux soins humains qui apportent quelque chose de nouveau.

Doit-on donner des droits aux robots?
Cela revient souvent dans la science-fiction, tournant autour de la question de savoir si les robots nous ressemblent suffisamment. Je ne conteste pas que les robots, en théorie, mériteraient des droits s’ils devenaient conscients ou sensibles. Mais c’est un scénario lointain. Les droits des animaux sont un bien meilleur prédicteur de la façon dont cette conversation sur les droits des robots va se dérouler dans la pratique, du moins dans la société occidentale. Et sur les droits des animaux, nous sommes des hypocrites. Nous aimons croire que nous nous soucions de la souffrance animale, mais si vous regardez notre comportement réel, nous gravitons autour de la protection des animaux avec lesquels nous nous rapportons émotionnellement ou culturellement. Aux États-Unis, vous pouvez obtenir un hamburger au service au volant, mais nous ne mangeons pas de viande de chien. Je pense qu’il est probable que nous ferons la même chose avec les robots: donner des droits à certains et pas à d’autres.

Devrions-nous avoir des robots à l’apparence humaine?
Je ne pense pas que nous allons jamais arrêter de le faire mais, pour la plupart des intentions et des buts pratiques, la forme humaine est surestimée et surutilisée. Nous pouvons mettre des émotions dans tout, des gouttes aux chaises. Les gens peuvent même mieux réagir aux robots non humains, car ce qui est souvent décevant, c’est lorsque des choses qui vous semblent ne se comportent pas tout à fait comme vous le souhaitez.