Les experts mettent en garde contre les jouets intelligents, les poupées basées sur l'IA et autres cadeaux de haute technologie

Un enfant s'assoit devant un tout nouveau jouet pour Noël : un robot capable de tenir une conversation. Le robot interroge l'enfant sur sa vie, où il vit et comment il se sent. Le robot dispose d'une caméra et d'un microphone. Il peut enregistrer et mémoriser les expressions faciales et les jeux auxquels votre enfant joue avec.

Les données relatives aux heures de jeu d'un enfant sont stockées dans le cloud et utilisées pour développer des mesures sur sa croissance. Les transcriptions de ce que dit un enfant sont parfois transmises à OpenAI, le créateur de ChatGPT, pour traitement.

Le robot, nommé Moxie, est vanté par son fabricant pour utiliser « l’apprentissage conversationnel payant pour soutenir le développement holistique des compétences » pour les enfants âgés de cinq à 10 ans.

Mais la capacité du jouet, et de nombreux autres jouets qui seront vendus pendant la période des fêtes, a été mise en évidence par le projet Privacy Not Included, un effort réalisé par la Fondation Mozilla pour évaluer la confidentialité et la sécurité des jouets, des gadgets et des produits pour la maison intelligente.

« Cela devient délicat », a déclaré Jen Caltrider, qui dirige le projet Privacy Not Included et dont l'équipe a examiné le fonctionnement et les conditions de confidentialité de Moxie dans le cadre d'un projet de défense des droits des consommateurs. « Ils disent de bonnes choses dans leur politique de confidentialité… mais il y a aussi beaucoup de signaux d'alarme quant à la destination des données. »

Chaotique et déroutant

Le paysage des jouets intelligents, et des jouets en général, est difficile à cerner. En tant qu’industrie, Caltrider l’a décrit comme un « Far West » de petites entreprises apparaissant, mettant des produits sur le marché, puis disparaissant.

En dehors des grands fabricants de jouets, ce paysage chaotique peut rendre difficile la traçabilité de qui fabrique un jouet et où vont les données sur les jouets.

Selon la Federal Trade Commission des États-Unis, les entreprises sont tenues de respecter les politiques de confidentialité ou les déclarations de confidentialité qu'elles formulent en vertu du Children's Online Privacy Act.

Dans la pratique, des entreprises comme Amazon et Microsoft ont été citées pour violation de la loi Coppa. La loi ne protège pas non plus contre une mauvaise sécurité numérique, qui pourrait divulguer des informations à de mauvais acteurs en ligne.

En 2023, la FTC a accusé Amazon de collecter les données vocales et de géolocalisation des enfants auprès d'Alexa et de les stocker à perpétuité, même si les parents demandaient à Amazon de les supprimer. Amazon a accepté de payer 25 millions de dollars américains (117 millions de RM) pour régler la réclamation, selon le New York Times.

Moxie illustre une partie du territoire déroutant des jouets intelligents. Pour fonctionner, Moxie a besoin d'un accès Internet, d'un stockage cloud et de services tiers de Google et OpenAI.

Il enregistre à la fois la voix et la vidéo. La manière dont toutes ces données sont traitées et la question de savoir si chaque entreprise impliquée se comporte de manière appropriée crée un champ de mines de problèmes potentiels en matière de confidentialité.

Moxie est fabriqué par une société appelée Embodied, qui fabrique des robots compagnons pour des personnes d'âges différents. Sur son site Internet, il souligne plusieurs critiques positives sur le robot, dont Time, qui a désigné le robot comme l'une des meilleures inventions de 2020.

« En Moxie, les enfants trouvent un ami compatissant qui les encourage à lire et à dessiner et les envoie dans des missions destinées à stimuler l'engagement avec les adultes, les frères et sœurs et les pairs, comme écrire des notes aimables pour que leur famille les retrouve ou parler de leurs sentiments à un ami », explique le rapport. l'entrée se lit à l'heure.

Les créateurs de Moxie demandent aux parents, dans leur politique de confidentialité, d'apprendre à leurs enfants « à ne jamais fournir d'informations personnelles ».

« Cela ne compte pas parce que vous le facturez comme quelque chose à qui votre enfant va parler comme à un ami », a déclaré Caltrider. « Bien sûr, les enfants ne savent pas ce que sont les informations personnelles. »

Les jouets intelligents intègrent souvent des microphones, des caméras, des capteurs, une IA et une connectivité Internet dans un jeu interactif.

Bien que ce ne soit pas nécessairement un problème pour les jouets d'inclure des éléments « intelligents », les défenseurs de la vie privée des enfants affirment qu'ils peuvent introduire une surveillance indésirable dans le jeu.

Selon le Public Interest Research Group, une organisation de défense à but non lucratif, les jouets intelligents introduisent la possibilité de collecte de données invisibles et de surveillance de vos enfants par des entreprises, des pirates informatiques ou d'autres parties.

« Il n'est pas nécessaire d'être fanatique de la vie privée ou de la sécurité des enfants pour imaginer quel genre de conversations nous pourrions avoir dans quelques années si cela n'est pas maîtrisé », a déclaré Tracey Murray du Public Interest Research Group.

« Même au-delà des problèmes de sécurité, cela représente un risque énorme d'usurpation d'identité pour la famille, en fonction du type de données impliquées. »

PIRG a publié cette année un rapport sur les jouets dangereux qui mettaient fortement en avant les jouets intelligents.

Les entreprises de technologie et de jouets, notamment Microsoft, Edmodo et VTech, ont été citées par la FTC pour violations de la confidentialité des données sur les enfants au fil des ans.

Plus tôt cette année, il a été découvert qu'une table destinée aux enfants, The Dragon Touch, contenait des logiciels malveillants par l'Electronic Frontier Foundation. En 2017, CloudPets a divulgué les détails de plus d'un demi-million d'utilisateurs.

Selon Markets and Research, une société d'études de marché, le marché mondial des jouets intelligents est passé d'environ 14 milliards de dollars américains (65,2 milliards de RM) en 2022 à environ 16,6 milliards de dollars américains (77,3 milliards de RM) en 2023 et devrait continuer de croître pour le reste du monde. un avenir prévisible.

Les jouets intelligents ne sont pas toujours évidents dans leur conception. Murray a déclaré que de nombreux jouets intelligents incluent des fonctionnalités telles que des microphones, une connectivité Internet ou Bluetooth qui ne sont pas clairement indiquées sur l'emballage.

« Ce que nous constatons, c'est que les jouets traditionnels, les animaux en peluche, les poupées, les jeux de société, les voitures de course – dans toutes ces choses, les fabricants réclament, essayant de comprendre comment en faire des jouets intelligents », a déclaré Murray. « Nous voyons maintenant beaucoup de jouets dotés d'un composant de jouet intelligent qui n'en avait pas auparavant. »

La loi américaine sur l'espionnage des jouets, ou TOTS Act, qui obligerait les fabricants de jouets à divulguer des capacités de surveillance électronique ou intelligente sur l'emballage, est examinée par le comité de l'énergie et du commerce de la Chambre des représentants des États-Unis depuis janvier de cette année.

Caltrider a également souligné que certaines montres intelligentes étaient potentiellement problématiques, en particulier celles dotées d'une surveillance discrète. Présentée comme un moyen de garder un œil sur votre enfant, la Fondation Mozilla note qu'il n'est pas toujours clair quelles données sont collectées et comment elles sont utilisées.

Être intelligent avec les jouets

Murray du PIRG a déclaré que si vous achetiez un jouet pour votre enfant, ou pour n'importe quel enfant, vous deviez sérieusement réfléchir à la question de savoir si le jouet était approprié à apporter dans une maison. Les jouets intelligents, en particulier, nécessitent des soins supplémentaires.

« Je n'achèterais jamais un jouet intelligent pour quelqu'un sans vérifier auprès d'un parent pour m'assurer qu'il va bien », a déclaré Murray.

«Ils sont comme des pistolets BB ou un animal de compagnie. Achèteriez-vous un serpent de compagnie pour quelqu'un comme cadeau de vacances sans consulter les parents ? »

Si vous envisagez un jouet intelligent pour votre enfant, les experts disent qu'une bonne règle de base est de vous assurer que la politique de confidentialité du jouet vous convient.

Murray recommande de rechercher des termes clés tels que « données », « géolocalisation » ou « publicité » pour vérifier ce qu'une entreprise a l'intention de faire avec des types spécifiques de données.

Au-delà de cela, le moyen le plus élémentaire de garantir votre sécurité, a déclaré Murray, était de vous assurer que vous saviez ce que faisait le jouet et que vous étiez à l'aise avec cela.

Le jouet est-il équipé d'un microphone ou d'une caméra ? La caméra ou le microphone sont-ils toujours allumés ? Le jouet a-t-il un voyant lumineux lorsqu'il enregistre ? Le jouet se connecte-t-il à Internet ? Les adultes doivent connaître les réponses à ces questions avant de présenter un jouet à un enfant.

« Si un parent a des inquiétudes au sujet d'un jouet en particulier, il ne devrait tout simplement pas l'acheter », a déclaré Murray. – Connecticut Post, Bridgeport/Tribune News Service