La technologie d’analyse faciale peut-elle créer un Internet sûr pour les enfants ? | Cartes d’identité
SSupposons que vous ayez sorti votre téléphone ce matin pour publier une photo sur votre réseau social préféré – appelons-le Twinstabooktok – et qu’on vous ait demandé un selfie avant de pouvoir vous connecter. La photo que vous avez soumise ne serait envoyée nulle part, le service vous l’a assuré : à la place, il utiliserait des techniques d’apprentissage automatique de pointe pour déterminer votre âge. Selon toute vraisemblance, une fois que vous avez soumis le scan, vous pouvez continuer votre petit bonhomme de chemin. Si le service s’est trompé, vous pouvez faire appel, même si cela peut prendre un peu plus de temps.
Le bon côté de tout ça ? Le réseau social pourrait savoir que vous êtes un utilisateur adulte et vous offrir une expérience largement exempte de contrôle parental et de modération paternaliste, tandis que les enfants qui tenteraient de s’inscrire se verraient offrir une version restreinte de la même expérience.
Selon votre position, cela peut sembler être un correctif attendu depuis longtemps pour le secteur technologique du Far West, ou une tentative désespérément restrictive pour atteindre une fin impossible : un Internet sans danger pour les enfants. Quoi qu’il en soit, c’est beaucoup plus proche de la réalité que beaucoup ne le pensent.
En Chine, les joueurs qui souhaitent se connecter pour jouer à des jeux mobiles après 22 heures doivent prouver leur âge, ou se faire rejeter, alors que l’État tente de lutter contre la dépendance au jeu. « Nous procéderons à un dépistage facial pour les comptes enregistrés avec de vrais noms et qui ont joué pendant un certain temps la nuit », a déclaré mardi dernier la société de jeux chinoise Tencent. « Quiconque refuse ou échoue à la vérification faciale sera traité comme un mineur, comme indiqué dans la supervision anti-addiction du système de santé du jeu de Tencent, et mis hors ligne. » Aujourd’hui, la même approche pourrait s’appliquer au Royaume-Uni, où une série de mesures gouvernementales sont sur le point d’entrer en vigueur rapidement, modifiant potentiellement Internet pour toujours.
Te problème fondamental de la vérification de l’âge d’un internaute est assez évident : si, sur Internet, personne ne sait que vous êtes un chien, alors ils ne savent certainement pas que vous avez 17 ans. Dans le monde hors ligne, nous avons deux approches principales pour la vérification de l’âge. La première est une forme d’identité officielle. Au Royaume-Uni, il s’agit souvent d’un permis de conduire, tandis que pour les enfants, il peut s’agir de l’une des quelques cartes d’identité du secteur privé, telles que CitizenCard ou MyID Card. Ceux-ci, à leur tour, sont soutenus par une chaîne rigoureuse de preuve d’identité, menant généralement à un certificat de naissance – la preuve finale de l’âge. Mais l’autre approche est tout aussi importante pour le fonctionnement quotidien de la société : regarder les gens. Il n’est pas nécessaire d’avoir un système de carte d’identité pour empêcher les enfants de sept ans de se faufiler dans un film classé 18 – c’est tellement évident que cela ne ressemble même pas à une vérification de l’âge.
Mais prouver son âge avec une pièce d’identité, il s’avère, est une chose très différente en ligne et hors ligne, déclare Alec Muffett, chercheur indépendant en sécurité et ancien directeur d’Open Rights Group : « L’identité est un concept qui est largement mal compris, en particulier en ligne. Parce que « identité » signifie en fait « relation ». Nous aimons penser en termes d’identité signifiant « accréditation », comme « passeport » ou « permis de conduire », mais même dans ces circonstances, nous parlons en fait de « porteur de passeport » et de « passeport britannique » – les deux relations – avec le livret associé agissant comme un « pivot » difficile à forger entre les deux relations. » En d’autres termes : même dans le monde hors ligne, une preuve d’âge n’est pas simplement un morceau de papier qui dit « J’ai plus de 18 ans » ; cela ressemble plus à une entrée dans un lien complexe qui dit : « L’émetteur de cette carte a vérifié que la personne représentée sur la carte a plus de 18 ans en vérifiant auprès d’une autorité compétente.
En ligne, si vous reproduisez simplement le niveau de surface des contrôles d’identité hors ligne – en montrant une carte à quelqu’un qui vérifie la date – vous rompez ce lien entre les relations. Il ne sert à rien de prouver que vous détenez un permis de conduire valide, par exemple, si vous ne pouvez pas également prouver que vous êtes le nom sur le permis. Mais si vous acceptez cela, le site que vous visitez aura une trace de qui vous êtes, quand vous l’avez visité et ce que vous avez fait pendant que vous y étiez.
Ainsi, dans la pratique, la vérification de l’âge peut devenir une vérification d’identité, qui peut à son tour devenir, prévient Muffett, « assujettie à des recoupements et à la révocation d’un cartel de tiers… tous se frottant joyeusement les mains aux opportunités de monétisation ».
Tles craintes liées aux tuyaux ont fait échouer plus que de simples tentatives de créer des systèmes de preuve d’âge en ligne. Depuis la défaite des cartes d’identité nationales à l’ère Blair, le peuple britannique se méfie de tout ce qui ressemble à une base de données nationale. Commencer à suivre les gens dans un système centralisé, craignent-ils, et c’est la première étape d’un déclin inexorable vers un état de surveillance. Mais alors que le poids de la législation s’accumule, il semble inévitable que quelque chose change bientôt.
La loi sur l’économie numérique (2017) était principalement un texte législatif de mise au point, apportant des ajustements à un certain nombre de problèmes soulevés depuis l’adoption de la loi de 2010 du même nom, beaucoup plus vaste. Mais une disposition, la troisième partie de la loi, était une tentative de faire quelque chose qui n’avait jamais été fait auparavant et d’introduire une exigence de vérification de l’âge en ligne.
La loi avait une portée relativement étroite, ne s’appliquant qu’aux sites Web commerciaux pornographiques, mais elle les obligeait à s’assurer que leurs utilisateurs avaient plus de 18 ans. La loi ne précisait pas comment ils devaient le faire, préférant plutôt confier la tâche de trouver un solution acceptable au secteur privé. Des propositions ont été consciencieusement suggérées, à partir d’un « pass porno », que les utilisateurs pouvaient acheter en personne auprès d’un marchand de journaux et entrer sur le site à une date ultérieure, grâce à des tentatives algorithmiques d’exploiter les données de carte de crédit et les services de vérification de crédit existants pour le faire automatiquement (avec un taux de réussite moins qu’éblouissant). Les sites qui fourniraient de la pornographie commerciale aux moins de 18 ans seraient condamnés à une amende pouvant atteindre 5 % de leur chiffre d’affaires, et le BBFC a été désigné comme régulateur attendu, élaborant les règlements détaillés.
Et puis… rien ne s’est passé. Le programme devait commencer en 2018, mais ne l’a pas fait. En 2019, une rumeur de début de printemps a été manquée, mais le gouvernement a, deux ans après l’adoption du projet de loi, fixé une date : juillet de cette année-là. Mais quelques jours à peine avant que le règlement ne soit censé entrer en vigueur, le gouvernement a déclaré qu’il n’avait pas notifié la Commission européenne et avait encore retardé le programme, « de l’ordre de six mois ». Puis tout à coup, en octobre 2019, alors que cette échéance approchait à nouveau, le stratagème a été définitivement tué.
La nouvelle a attristé les militants, comme Vanessa Morse, directrice générale de Cease, le Center to End All Sexual Exploitation. « Il est stupéfiant que les sites pornographiques n’aient pas encore de vérification de l’âge », dit-elle. « Le Royaume-Uni a l’opportunité d’être un leader dans ce domaine. Mais parce qu’il est tergiversé et jeté dans l’herbe haute, beaucoup d’autres pays l’ont déjà repris. »
Morse soutient que l’absence de limite d’âge sur Internet cause de graves dommages. « L’industrie de la pornographie commerciale en ligne est terriblement non réglementée. Il a eu plusieurs décennies pour exploser en termes de croissance, et il n’a pratiquement pas été réglementé. En conséquence, les sites pornographiques ne font pas de distinction entre les enfants et les adultes. Ils ne sont pas neutres et ils ne sont pas naïfs : ils savent qu’il y a 1,4 million d’enfants qui visitent des sites pornographiques chaque mois au Royaume-Uni.
«Et 44% des garçons âgés de 11 à 16 ans, qui regardent régulièrement du porno, ont déclaré que cela leur donnait des idées sur le type de sexe qu’ils voulaient essayer. Nous savons que la consommation de pornographie en ligne par les enfants a été associée à une augmentation spectaculaire des abus sexuels entre enfants au cours des dernières années. L’abus sexuel d’enfant à enfant constitue maintenant environ un tiers de tous les abus sexuels d’enfants. C’est énorme. »
Malgré les protestations de Cease et d’autres, le gouvernement ne montre aucun signe de ressusciter le bloc porno. Au lieu de cela, ses efforts de protection de l’enfance se sont divisés en un éventail d’initiatives différentes. Le projet de loi sur les préjudices en ligne, un texte législatif de l’ère Theresa May, a été relancé par l’administration Johnson et finalement présenté sous forme de projet en mai : il appelle les plateformes de médias sociaux à prendre des mesures contre les contenus « légaux mais préjudiciables », tels que ceux qui encourage l’automutilation ou le suicide et leur impose des exigences pour protéger les enfants contre les contenus inappropriés.
Ailleurs, le gouvernement a donné des « conseils » non contraignants aux services de communication sur la façon « d’améliorer la sécurité de votre plate-forme en ligne »: « Vous pouvez également empêcher le cryptage de bout en bout pour les comptes enfants », lit-on en partie, car cela « rend plus difficile pour vous d’identifier les contenus illégaux et préjudiciables se produisant sur les chaînes privées ». Largement interprété dans le cadre d’une action gouvernementale plus large pour amener WhatsApp à désactiver son cryptage de bout en bout – un fléau de longue date de l’application de la loi, qui déteste l’incapacité d’intercepter facilement les communications – le conseil pousse les entreprises à reconnaître leurs enfants utilisateurs et les traiter différemment.
Le plus immédiat, cependant, est le code de conception adaptée à l’âge. Introduit dans le Data Protection Act 2018, qui a mis en œuvre le RGPD au Royaume-Uni, le code prévoit que le bureau du commissaire à l’information définit une nouvelle norme pour les sociétés Internet « susceptibles d’être consultées par les enfants ». Lorsqu’il entrera en vigueur en septembre de cette année, le code sera complet, couvrant tout, des exigences en matière de contrôle parental aux restrictions sur la collecte de données et aux interdictions de « pousser » les enfants pour désactiver les protections de la vie privée, mais le mot clé est « probable » : dans la pratique, certains craignent qu’il ne soit assez large pour que l’ensemble d’Internet soit obligé de se déclarer « ami des enfants » – ou de prouver qu’il a bloqué des enfants.
La NSPCC est fortement en faveur du code. « Les réseaux sociaux devraient utiliser la technologie d’assurance de l’âge pour reconnaître les enfants utilisateurs et s’assurer à leur tour qu’ils ne reçoivent pas de contenu inapproprié par des algorithmes et qu’ils bénéficient de meilleures protections, telles que les paramètres de confidentialité les plus stricts », déclare Alison Trew, responsable de la politique en ligne sur la sécurité des enfants. officier à la NSPCC. « Cette technologie doit être flexible et adaptable aux diverses plates-formes utilisées par les jeunes – maintenant et aux nouveaux sites à l’avenir – afin que de meilleures garanties pour les droits des enfants à la vie privée et à la sécurité puissent être intégrées aux protections de la vie privée pour tous les utilisateurs. »
Wce qui nous ramène au début, et le service de médias sociaux demandant un selfie lors de la création du compte. Parce que les exigences du code sont moins rigoureuses que le bloc porno, les fournisseurs sont libres d’innover un peu plus. Prenez Yoti, par exemple : la société propose une gamme de services de vérification de l’âge, s’associe à CitizenCard pour proposer une version numérique de son identifiant et travaille avec des supermarchés en libre-service pour expérimenter la reconnaissance automatique de l’âge des individus. John Abbott, directeur commercial de Yoti, affirme que le système est déjà aussi bon qu’une personne pour déterminer l’âge d’une personne à partir d’une vidéo d’elle, et a été testé par rapport à un large éventail de données démographiques – y compris l’âge, la race et le sexe – pour s’assurer qu’il est ne pas catégoriser sauvagement un groupe particulier. Le rapport le plus récent de la société affirme qu’une politique « Challenge 21 » (bloquer les moins de 18 ans en demandant une preuve d’âge solide aux personnes qui ont l’air de moins de 21 ans) attraperait 98% des 17 ans et 99,15% des 16 ans. , par exemple.
« C’est une analyse faciale, pas une reconnaissance faciale », ajoute la collègue d’Abbott, Julie Dawson, directrice de la réglementation et des politiques. « Ce n’est pas reconnaître mon visage en tête-à-tête, tout ce qu’il essaie de déterminer, c’est mon âge. » Ce système, pense l’entreprise, pourrait être déployé à grande échelle presque du jour au lendemain, et pour les entreprises qui ont simplement besoin de prouver qu’ils ne sont pas « susceptibles » d’être accessibles aux enfants, cela pourrait être une offre intéressante.
Ce n’est pas, bien sûr, quelque chose qui dérangerait un jeune de 14 ans intelligent – ou même juste un jeune de 14 ans ordinaire avec un téléphone et un frère plus âgé prêt à remplacer le selfie – mais peut-être qu’un peu de friction est mieux que rien.