TechScape : le Parlement britannique repousse le projet de loi sur la sécurité en ligne | La technologie

Le Far West numérique a rencontré son shérif cette semaine. Le comité mixte sur le projet de loi sur la sécurité en ligne a annoncé mardi qu’il maîtrisait le « pays de l’anarchie » de l’industrie technologique avec son rapport sur la législation pionnière. Dévoilant le document, le président conservateur du comité, le député Damian Collins, a déclaré : « Le comité a conclu à l’unanimité que nous devons interrompre le Far West en ligne.

Inscrivez-vous à notre newsletter technologique hebdomadaire, TechScape.

Le rapport de 192 pages recommande une refonte en profondeur du projet de loi, qui s’adresse aux entreprises qui fournissent du contenu généré par les utilisateurs – c’est-à-dire les réseaux de médias sociaux comme Facebook et Twitter et les plateformes de partage de vidéos comme YouTube et TikTok – ainsi que les moteurs de recherche comme Google. Le projet de loi impose une obligation de diligence aux entreprises technologiques pour protéger les utilisateurs contre les contenus préjudiciables, au risque d’une amende substantielle infligée par l’Ofcom, le régulateur de l’industrie des communications mettant en œuvre la loi.

Le projet de loi est important car il représente pour la première fois une tentative de réglementer correctement les sociétés de médias sociaux, les sites de partage de vidéos et les moteurs de recherche sous un même toit législatif. Et le rapport compte aussi. Il s’agit d’un travail approfondi réalisé par un groupe multipartite de députés et de pairs qui connaissent leur métier et ont soutenu les 170 conclusions à l’unanimité. Le gouvernement s’est déjà engagé à l’examiner sérieusement et le comité est également susceptible de rester le chien de garde du projet de loi une fois qu’il deviendra loi – une structure de surveillance calquée sur le comité mixte des droits de l’homme. Voici quelques-uns des changements au projet de loi que le rapport recommande.

Expliquer clairement les objectifs du projet de loi

Le comité affirme que le projet de loi devrait énoncer ses principaux objectifs « clairement dès le début ». C’est également très pratique pour tous les lecteurs de TechScape qui souhaitent rester au courant d’un travail législatif complexe. Le rapport indique que l’Ofcom devrait protéger les citoyens britanniques en ligne en veillant à ce que les entreprises technologiques fassent ce qui suit : se conformer à la loi britannique et ne pas mettre en danger la santé publique ou la sécurité nationale ; offrir un niveau de protection plus élevé aux enfants qu’aux adultes; identifier et traiter le risque de « dommages raisonnablement prévisible » découlant de l’exploitation et de la conception de leurs plateformes (algorithmes et autres) ; reconnaître et répondre au niveau disproportionné de préjudices subis par les personnes sur la base de caractéristiques protégées (handicap, âge, orientation sexuelle, religion, etc.) ; assurez-vous que vos systèmes sont conçus pour être sûrs, c’est-à-dire qu’ils ne dirigent pas les utilisateurs vers des terriers de contenu dangereux ; protéger la liberté d’expression et la vie privée; et opérer avec transparence et responsabilité en matière de sécurité en ligne.

Contenu légal mais nuisible

L’une des parties les plus controversées du projet de loi était l’article 11, qui couvrait le devoir de diligence qui s’appliquait aux adultes : les protéger des contenus légaux mais préjudiciables. Cela a suscité des inquiétudes car, en vertu du projet de loi, non seulement le secrétaire à la Culture aurait un rôle clé dans la définition d’un tel contenu – ce qui signifie que Nadine Dorries aurait, au moins techniquement, un rôle de censure sur ce qui est un discours acceptable en ligne – mais il contenait également une menace amorphe contre la liberté d’expression.

Le rapport propose de supprimer complètement l’article 11 et de le remplacer par des catégories de transgression qui reflètent l’illégalité dans le monde hors ligne. Cela signifierait interdire le contenu en ligne qui constitue un abus, du harcèlement ou incitant à la violence ou à la haine sur la base des caractéristiques protégées par la loi sur l’égalité de 2010. Cela, espère le comité, obligera les plateformes technologiques à traiter le discours de haine.

La nouvelle approche signifierait également l’interdiction d’autres formes de contenu qui sont illégales dans le monde hors ligne, telles que l’intimidation des candidats aux élections et la facilitation de la traite des êtres humains. Le raisonnement du rapport est que parce que ces dommages sont déjà illégaux dans le monde hors ligne, « la société a reconnu qu’il s’agissait de raisons légitimes d’interférer avec les droits à la liberté d’expression. [online]. « 

Exemptions journalistiques – et journalistes citoyens

Alors que nous parlons de la liberté d’expression, le rapport recommande également un durcissement de l’exemption du projet de loi du contenu des agences de presse des retraits par les plateformes technologiques. En vertu de la nouvelle recommandation du comité, si ce n’est pas illégal, cela reste en vigueur : « Nous recommandons que l’exemption relative au contenu des éditeurs d’actualités soit renforcée pour inclure une exigence selon laquelle le contenu des éditeurs d’actualités ne doit pas être modéré, restreint ou supprimé à moins qu’il ne soit contenu dans la publication. qui constitue clairement une infraction pénale.

Il y a également une tentative de couvrir les « journalistes citoyens », tels que les blogueurs, en abordant les protections du projet de loi pour les contenus « d’importance démocratique ». Le rapport recommande plutôt que le projet de loi protège le contenu qui est dans « l’intérêt public ». Les journalistes citoyens dont le contenu a été supprimé par erreur ou injustement peuvent voir leur travail réintégré rapidement via une procédure de plainte dédiée et accélérée.

Protéger les enfants

Dans le projet de loi, l’un des trois devoirs de diligence est de protéger les enfants contre les contenus préjudiciables (les deux autres protègent les utilisateurs contre les préjudices illégaux et les adultes contre les contenus légaux mais préjudiciables). Il existe un certain nombre de nouvelles protections pour les enfants recommandées par le comité. Il s’agit notamment de : exiger de tous les sites pornographiques qu’ils empêchent les enfants d’accéder à leur contenu, ce qui pourrait impliquer l’introduction de mesures de garantie d’âge ; la définition des services Internet susceptibles d’être consultés par les enfants devrait être tirée du code de conception approprié à l’âge du commissaire à l’information ; introduire des normes minimales pour les mesures d’assurance de l’âge (de la saisie de votre date de naissance sur un formulaire contextuel à une vérification plus stricte de l’âge) ; et l’Ofcom devraient élaborer un code de pratique pour la protection des enfants en ligne, qui devrait faire référence à la Convention des Nations Unies relative aux droits de l’enfant, à l’AADC et au droit des enfants de recevoir des informations en vertu de la Convention européenne des droits de l’homme.

Algorithmes, désinformation, anonymat et sécurité dès la conception

Le rapport recommande de s’attaquer aux algorithmes nuisibles, aux abus anonymes et à la propagation de la désinformation via un « code de pratique de sécurité dès la conception » supervisé par l’Ofcom. Ce code de pratique exige que les plateformes examinent leur fonctionnement, leur conception et la manière dont cela pourrait nuire aux utilisateurs. Par exemple, les entreprises technologiques doivent examiner les algorithmes qui poussent le contenu vers les utilisateurs et les empêchent de diriger les gens vers de dangereux « trous de lapin ». La propagation massive de la désinformation sera combattue en élaborant des mesures pour empêcher le partage sans friction de contenu à grande échelle, tout en étant couverte par le code de pratique. La pêche à la traîne anonyme – et la diffusion de fausses informations par des comptes anonymes – seront également incluses dans le code de pratique en tant que catégorie spécifique, les plateformes devant proposer des mesures pour traiter les comptes anonymes vexatoires, y compris la possibilité d’empêcher les trolls interdits de s’installer. nouveaux comptes.

Les grands acteurs devraient également être tenus de commander des audits annuels et indépendants par des tiers des effets de leurs algorithmes, de leurs évaluations des risques (où ils décrivent à l’Ofcom les dommages que leurs services pourraient causer) et leurs rapports de transparence (qui comprendront des éléments comme le incidences de contenu illégal et préjudiciable, et combien d’utilisateurs ont rencontré un tel contenu). L’Ofcom devrait également avoir le pouvoir d’inspecter ces audits et d’effectuer ses propres contrôles.

Nouvelles catégories criminelles

Le rapport recommande la création de nouvelles infractions pénales, notamment : le flash électronique ; encourager quelqu’un à s’automutiler ; envoyer intentionnellement des images clignotantes à une personne épileptique (dans le but de provoquer une crise) ; et envoyer sciemment des communications fausses, persistantes ou menaçantes. Les dirigeants techniques sont également touchés par une extension de la responsabilité pénale. Le rapport appelle les entreprises technologiques à nommer un cadre au niveau du conseil d’administration qui sera désigné comme le « contrôleur de la sécurité » de l’entreprise et sera passible d’une nouvelle infraction pénale : ne pas traiter les « défaillances répétées et systémiques qui entraînent un risque important de préjudice aux utilisateurs ». Le comité considère cette dernière infraction comme un filet de sécurité, mais les entreprises technologiques ne l’aiment manifestement pas du tout.

Publicité

Martin Lewis, le champion des consommateurs, a fait une apparition passionnée lors d’une audience du comité en octobre, disant aux députés et à ses pairs que la vie des gens était « détruite » par des fraudeurs utilisant son image dans des publicités frauduleuses en ligne. Le comité a écouté et a recommandé que les publicités frauduleuses soient incluses dans le champ d’application du projet de loi. En vertu de sa proposition, Ofcom sera responsable d’agir contre les entreprises technologiques qui autorisent systématiquement les publicités frauduleuses ou nuisibles sur leurs plateformes.

Pas de devise pour la crypto

La Banque d’Angleterre a publié mardi plus d’avertissements sur les crypto-monnaies. Le sous-gouverneur de la banque, Sir Jon Cunliffe, a déclaré que le prix de la monnaie numérique telle que le bitcoin pourrait « théoriquement ou pratiquement tomber à zéro ». Pendant ce temps, le blog du personnel de la banque, examinant le bitcoin, a déclaré: «C’est juste un tas de code qui n’existe que dans le cyberespace. Il n’est pas soutenu par l’État. Même si Threadneedle Street a raison, cela ne fait que souligner le statut anti-établissement des crypto-monnaies.

Si vous souhaitez lire la version complète de la newsletter, veuillez vous inscrire pour recevoir TechScape dans votre boîte de réception tous les mercredis.