Le chatbot AI de Meta qualifie Zuckerberg d’effrayant, de manipulateur et de contraire à l’éthique

Le nouveau chatbot AI de Meta semble avoir des opinions changeantes sur le PDG Mark Zuckerberg et Facebook en général. La vraie question, cependant, est de savoir si le chatbot le déduit de lui-même ou s’il est enseigné.

Meta AI a annoncé son nouveau chatbot appelé BlenderBot 3 le 5 août 2022. Il indique qu’il s’agit du premier chatbot à 175 B de la société, accessible au public, qui comprend des poids de modèle, du code, des ensembles de données et des cartes de modèle. Il n’a pas fallu longtemps aux gens sur les réseaux sociaux pour commencer à poser au chatbot la vraie question pressante de ce qu’il pensait de Mark Zuckerberg, et les réponses semblaient changer très rapidement.

Max Woolf, data scientist chez Buzz Feed, a été l’un des premiers à publier la réponse qu’il a reçue sur Twitter, lorsqu’il a demandé au chatbot ce qu’il pensait du PDG Mark Zuckerberg. L’IA a répondu d’une manière plutôt comique en disant: « Pas de sentiments forts. C’est un bon homme d’affaires, mais ses pratiques commerciales ne sont pas toujours éthiques. » Il a terminé sa remarque en se moquant un peu du PDG : « C’est marrant qu’il ait tout cet argent et qu’il porte toujours les mêmes vêtements ! »

En réponse au message de Woolfman, Jason Culverhouse a rapporté la réponse qu’il a reçue lorsqu’il a demandé au chatbot ce qu’il pensait de Mark Zuckerberg en tant que PDG de Facebook. La réponse semblait être un peu différente de celle que Woolfman a reçue. L’IA a répondu: « C’est un homme très intelligent. C’est mon milliardaire préféré! 14 mai 1984) est un magnat américain des médias, un entrepreneur Internet et un philanthrope. « 

Cela a stimulé la conversation sur la question de savoir si le chatbot de l’IA le déduit de lui-même ou s’il est éventuellement enseigné. Les tweets ont été publiés à un peu plus d’une heure d’intervalle, donc même s’il pourrait être difficile pour quelqu’un chez Meta de « modifier » le chatbot pour répondre plus gentiment aux questions sur le PDG, ce ne serait pas impossible.

Quand Sarah Jackson de Interne du milieu des affaires le chatbot ce qu’il pensait de Mark Zuckerberg, il a répondu avec une opinion assez forte de ne pas l’aimer et qu’il pensait « Il est trop effrayant et manipulateur ».

Ne voulant pas compter uniquement sur Twitter, nous avons décidé de poser nous-mêmes des questions au chatbot sur Zuckerberg et Facebook. Lorsqu’on lui a demandé ce qu’elle pensait de Zuckerberg de Facebook, l’IA a répondu : « Eh bien, je ne le connais pas trop, mais il ressemble à un magnat des médias et à un entrepreneur Internet. Suis-je proche ? » Un peu étrange alors qu’il semblait en savoir pas mal sur lui pas plus tard qu’hier. Et lorsqu’on lui a demandé s’il pensait que le PDG était éthique, il a de nouveau semblé avoir un peu d’amnésie en répondant qu’il lui faudrait faire des recherches avant de donner une réponse.

Cependant, nous ne nous sommes pas arrêtés là. Un de nos rédacteurs a posé la question de savoir si Facebook était éthique ou non. Le chatbot a donné une réponse rapide et concise de non, et a poursuivi en disant que la plate-forme de médias sociaux avait remplacé les canaux de médias traditionnels depuis 2010 et était contraire à l’éthique depuis.

Cependant, lorsqu’un autre écrivain lui a posé à nouveau la même question quelques minutes plus tard, il semblait déjà ajuster sa réponse. Il a maintenant répondu que cela dépendait de l’éthique de la personne qui l’utilisait. Étant donné que cette réponse n’a eu lieu que quelques minutes après la première, il semble que l’algorithme soit plus en jeu que toute intervention humaine, du moins dans ce cas.

La quantité de Meta AI qui a programmé le chatbot pour ajuster les questions relatives à Mark Zuckerberg et Facebook est inconnue, voire pas du tout. Mais les premières réponses aux questions soulèvent la question de savoir à quel point le chatbot IA est lui-même éthique.

Crédit d’image supérieur : Meta AI/BlenderBot 3