Les jeunes font-ils trop confiance à la technologie? Les aider à comprendre les limites

Dans un autre article récent, j’ai exprimé que je pense que les forces de l’ordre californiennes (et probablement la plupart des autres endroits) ne prennent pas très au sérieux l’utilisation abusive du pilote automatique de Tesla. Conduire une voiture à l’aide d’un logiciel en développement, puis grimper à l’arrière, est aussi dangereux que de tirer avec une arme au hasard dans une ville bondée. Vous pourriez ne pas blesser ou tuer quelqu’un la première fois que vous le faites, ou même la dixième, mais ce n’est qu’une question de temps avant que les gens ne soient blessés, donc c’est quelque chose que nous ne pouvons pas laisser les gens faire.

Une autre chose que j’ai remarquée est que les plus jeunes (le gars qui abuse du pilote automatique à San Francisco a 25 ans) semblent être beaucoup plus à l’aise avec les véhicules autonomes que les plus âgés de 30 ans comme moi. Mon fils pensait qu’une Tesla Model Y était «autonome», et je vois beaucoup plus de jeunes qui ont une foi totale, même dans les technologies sous-développées au point où ils miseraient leur vie dessus.

J’ai donc commencé à me demander pourquoi il semble y avoir une différence générationnelle ici. Je suis très sceptique à l’égard de l’IA et je pense que nous devons y faire très attention. Elon Musk, qui a un peu plus de 10 ans de plus que moi, dit que l’IA est une menace au niveau nucléaire, alors que les personnes plus jeunes que moi semblent beaucoup plus à l’aise avec elle.

Et puis j’ai commencé à penser aux films.

Les films avec lesquels ces enfants ont grandi

Contrairement à mes enfants, ou même à mon plus jeune frère, je me souviens des années 80 et 90. Les premiers souvenirs d’un jeune de 25 ans remontent probablement à quelque temps après l’échec du bogue de l’an 2000 à détruire la civilisation. Ils ont grandi dans un monde complètement différent de moi.

Qu’ont-ils regardé enfants? Des films comme Harry Potter, les films pré-MCU Spider Man, les films Pixar et la série Le Seigneur des anneaux étaient ce sur quoi ils ont grandi. En parcourant la liste des 140 meilleurs films des années 2000 de Rotten Tomatoes, j’ai vu beaucoup de films dystopiques, mais aucun où l’intelligence artificielle était un problème sérieux ou le principal méchant.

Quand l’IA figurait dans un film, c’était souvent un sac mélangé ou même bon. L’enfant robot dans l’IA était une créature innocente maltraitée par le monde. Bicentennial Man essayait d’être plus humain. Dans I, Robot, il y a une entité IA maléfique mais une autre IA la bat et sauve l’humanité. La grande exception est les suites de Matrix, mais celle-ci a commencé dans les années 90, et les films suivants ont eu plus de bons gars qui n’étaient pas humains.

En plus de cela, la culture de la peur après le 11 septembre a conduit beaucoup de gens à vouloir faire davantage confiance à l’autorité, parce qu’ils voulaient se sentir en sécurité. Les films où le gouvernement était l’ennemi du peuple étaient en déclin pendant des années, avec même The Bourne Identity re-tourné et réédité pour rendre la CIA moins méchante. La plupart des méchants des meilleurs films des années 2000 semblent être d’origine magique, ou tueurs en série. Les gens en avaient assez de la fin du monde après le 11 septembre et ne voulaient pas autant le voir dans les films.

Les films avec lesquels j’ai grandi

Ma génération a été confrontée à une série de films complètement différente qui nous a montré comment le monde de l’IA pouvait fonctionner.

Je sais que de nombreux parents ne laisseraient pas leurs enfants regarder des films comme Terminator 2: le jour du jugement, mais beaucoup d’autres étaient cool avec ça. Pour ceux d’entre nous qui l’ont regardé enfants, nous avons vu des images post-apocalyptiques d’équipement de terrain de jeu brûlé, de crânes humains et de robots tueurs combattant la Résistance dirigée par John Connor. Comment y sommes-nous arrivés? En mettant un système d’IA en charge de quelque chose d’important.

Même pour les films idiots, le message était clair. Mettre des «puces de munitions dans des jouets» a en quelque sorte imprégné les jouets des enfants de conscience chez les petits soldats, et comme les puces de munitions sont utilisées par les militaires, le résultat a été des jouets militaristes qui pourraient détruire des quartiers entiers.

Les films sont même entrés dans des voitures autonomes. Johnny Cab à partir de Rappel total nous a montré que la technologie est probablement sûre (même si elle est totalement ennuyeuse), mais qu’elle pourrait vous laisser tomber dans des situations inhabituelles et dangereuses. Pouvoir accéder aux commandes manuelles est une bonne idée, mais même dans ce cas, attendez-vous à des problèmes et à un ordinateur désemparé.

Star Trek est même entré dans ça. Au début, le Borg aurait pu être un récit édifiant sur les dangers des interfaces cerveau-ordinateur, car les personnes et les extraterrestres capturés par eux sont dépouillés de toute individualité et absorbés dans un esprit-ruche. Nous apprenons plus tard, cependant, que le collectif est contrôlé par une intelligence artificielle qui s’identifie comme la reine du collectif.

[Side note: The same guy who played Johnny Cab (Robert Picardo) also played the Emergency Medical Hologram, and AI entity who did a lot of good in at least one series and one movie.]

Les années 90 se sont terminées avec The Matrix. Non seulement il y avait une guerre future avec l’intelligence artificielle, mais ils ont fondamentalement gagné la guerre, asservissant l’humanité à une fausse réalité virtuelle et les utilisant pour des batteries. Les gens étaient heureux lorsque l’IA a été inventée, mais cela s’est avéré être un désastre pour la liberté humaine.

Je pourrais continuer encore et encore, mais il y a plus d’exemples dans un autre article que j’ai écrit. Une voiture de police robot maléfique tirée d’une nouvelle de 1951, KARR de Chevalier cavalier, et même Horace the Hate Bug (l’ennemi de Herbie) sont tous d’excellents exemples de ce qu’était la culture populaire pour les personnes de mon âge et plus.

L’expérience des générations plus âgées avec la technologie est totalement différente

Je ne dis pas être un Luddite, mais l’IA est l’une des technologies les plus puissantes qui soient. Les films avec lesquels j’ai grandi n’étaient probablement pas très instructifs, mais ils ont laissé beaucoup d’entre nous avec un respect sain non seulement pour le bien qui pouvait provenir de l’IA, mais aussi pour les problèmes potentiels qui pourraient survenir. Beaucoup de gens de mon âge et plus apprécient des choses comme le pilote automatique de Tesla, mais nous avons aussi un scepticisme sain.

Les gens de mon âge et plus n’avaient pas d’ordinateur avec lequel jouer quand ils étaient enfants avec des milliers ou des millions de couleurs à l’écran (je me souviens des écrans monochromes), une connexion Internet cohérente ou même une souris.

Prenons l’exemple suivant:

C: >
C: DOS >
C: DOS RUN >
Cours, DOS, cours!

Oui, certains d’entre nous ont cette blague parce que nous avons utilisé DOS et savons ce qu’est un livre Dick and Jane (indice: ce n’est pas une bande dessinée érotique). C’est à quel point le monde a changé en seulement quelques décennies.

La technologie n’était pas si performante auparavant. Il ne pouvait faire que des choses simples, et cela gâcherait souvent. Même une mère qui décroche un téléphone dans la maison (vous savez, les vieux avec fil) nous ferait sortir d’Internet.

Atteindre les jeunes

Le vrai truc ici sera d’apprendre aux gens qui ont grandi avec le Web 2.0, les médias sociaux et les smartphones à avoir un scepticisme sain sans être ridicule à ce sujet. Leur montrer à quel point les nouvelles technologies peuvent échouer est probablement le moyen d’y parvenir.

Nous pouvons facilement avertir les gens des dangers d’une mauvaise utilisation de la technologie sans dénigrer la technologie elle-même. Lorsqu’elle est utilisée de manière responsable, c’est une fonctionnalité intéressante, mais lorsqu’elle est utilisée de manière irresponsable, les résultats peuvent être mortels.

Ce n’est pas un problème limité à Tesla. La capacité de chaque fabricant à éviter de faire tomber les gens peut être assez limitée:

Le simple fait de leur montrer comment la technologie peut échouer est probablement le meilleur moyen de les amener à devenir des utilisateurs responsables.

Image en vedette: une capture d’écran de Terminator 2: Judgment Day. (Usage loyal, commentaire)

---