TechScape : à quoi s’attendre de la facture de sécurité en ligne | La technologie

Vous ne voudriez pas blâmer l’Ofcom de se sentir intimidé. Le monde, ou du moins la partie de la planète qui veut nettoyer Internet, surveille le projet de loi sur la sécurité en ligne et le régulateur britannique des communications doit l’appliquer. Les auditions sur le projet de loi par un comité mixte ont pris fin la semaine dernière et si vous prenez du recul et regardez ce qui est ressorti de ces sessions depuis septembre, il est clair que l’Ofcom a un travail à faire.

Introduction rapide : le projet de loi couvre les entreprises technologiques qui permettent aux utilisateurs de publier leur propre contenu ou d’interagir les uns avec les autres. Cela signifie donc que les gros poissons tels que Facebook, Twitter, Instagram, YouTube et Snapchat doivent y obéir, mais aussi les sites pornographiques commerciaux comme OnlyFans. Les moteurs de recherche tels que Google sont également inclus.

Le projet de loi impose à ces entreprises une obligation de diligence pour protéger les utilisateurs contre les contenus préjudiciables – sous peine d’amendes substantielles imposées par l’Ofcom. Le devoir de diligence est divisé en trois parties : empêcher la prolifération de contenus et d’activités illégaux tels que la pornographie juvénile, le matériel terroriste et les crimes haineux (c’est-à-dire les abus raciaux) ; veiller à ce que les enfants ne soient pas exposés à des contenus préjudiciables ou inappropriés ; et, pour les grands acteurs tels que Facebook, Twitter et YouTube (décrits comme des services de « catégorie 1 »), veiller à ce que les adultes soient protégés contre les contenus légaux mais préjudiciables. Cette dernière catégorie de contenu doit être définie par le secrétaire à la culture, après consultation de l’Ofcom, puis examinée par le parlement avant d’être promulguée dans la législation secondaire.

La directrice générale de l’Ofcom, Dame Melanie Dawes, avait averti qu’elle était « submergée » par les plaintes des utilisateurs de médias sociaux et qu’elle devait faire face au « poids juridique pur » de la réponse des grandes technologies à la loi une fois qu’elle deviendrait loi, ce qui devrait se produire autour du fin de l’année prochaine.

La secrétaire à la Culture, Nadine Dorries, a clôturé les auditions par une comparution au cours de laquelle elle a proposé un certain nombre de changements à la législation. Mais même les sessions précédentes avaient souligné les complexités et les lacunes du projet de loi. Cela doit être plus simple – mais il ne fait aucun doute après l’apparition de Dorries que cela va être plus grand.

Le comité publiera son rapport sur le projet de loi d’ici le 10 décembre et Dorries a déclaré qu’elle examinerait les recommandations « très sérieusement en effet ». Voici quelques-uns des changements auxquels nous pouvons nous attendre, ou du moins des questions que le comité abordera dans son rapport, après les audiences.

Un comité mixte permanent supervisera la loi
Dorries a déclaré qu’un comité permanent de députés et de pairs – sur le modèle du comité mixte des droits de l’homme – sera mis en place pour effectuer « un examen continu » du paysage que la loi contrôlera et du rôle du secrétaire d’État et de l’Ofcom dans l’application du projet de loi. . L’organe pourrait également recommander quand le secrétaire d’État déploie des pouvoirs secondaires en vertu du projet de loi, comme donner des conseils sur la manière dont l’Ofcom devrait exercer ses pouvoirs.

Il y aura des sanctions pénales pour les utilisateurs et les cadres
Dorries est définitivement à la recherche de cadres technologiques, disant au fondateur de Facebook, Mark Zuckerberg, et à son chef de la communication, Nick Clegg, d’éviter le métaverse et de se concentrer sur le monde réel. S’adressant à l’ensemble de l’industrie de la technologie, Dorries a déclaré: « Supprimez vos algorithmes nuisibles aujourd’hui et vous ne serez pas soumis – des personnes nommées – à une responsabilité pénale et à des poursuites. » Être poursuivi pour ne pas avoir géré les algorithmes qui orientent les utilisateurs vers des contenus préjudiciables n’est certainement pas dans le projet de loi. Dans l’état actuel des choses, le projet de loi contient des dispositions prévoyant un pouvoir différé, après environ deux ans, d’imposer des sanctions pénales aux dirigeants s’ils ne répondent pas aux demandes d’informations de l’Ofcom avec précision et en temps opportun. Dorries parle maintenant d’imposer des sanctions pénales dans un délai de trois à six mois pour une infraction beaucoup plus large, en permettant à leurs plateformes de guider les utilisateurs vers des contenus préjudiciables. S’agit-il de contenus illégaux tels que des abus racistes ou de domaines moins clairs tels que légaux mais nuisibles ?

Pour les utilisateurs, trois nouvelles sanctions pénales seront prononcées pour les délits de : envoi de messages ou de messages qui « véhiculent une menace de préjudice grave » ; publier des informations erronées – « fausses communications » – destinées à causer des dommages émotionnels, psychologiques ou physiques non négligeables ; et l’envoi de messages ou de messages destinés à causer du tort sans excuse raisonnable.

Publicité en ligne : dans la facture ou pas ?
Lors de sa comparution devant le comité, le fondateur de MoneySavingExpert.com, Martin Lewis, a exhorté le gouvernement à inclure la publicité dans le projet de loi en tant que domaine qui devrait être réglementé. « Les publicités frauduleuses détruisent la vie des gens. Des gens se suicident après avoir été arnaqués, et cela devrait figurer dans la facture. » Dawes de l’Ofcom a suggéré de réglementer les publicités aux côtés de l’Advertising Standards Authority et le président du comité, le député conservateur Damian Collins, s’occupe de la publicité politique trompeuse. Mais Dorries a fermement déclaré la semaine dernière que la publicité, en particulier les publicités frauduleuses, serait un ajout trop important, en déclarant: « Il a besoin de sa propre facture. » Néanmoins, ne soyez pas surpris si le comité essaie de l’obtenir ou au moins de faire des recommandations fermes pour traiter de la publicité dans le projet de loi ou dans une autre loi.

Pouvoirs d’enquête accrus pour l’Ofcom
La commissaire à l’information, Elizabeth Denham (autorité britannique de régulation des données), a déclaré lors de sa comparution qu’en l’état actuel du projet de loi, l’Ofcom n’avait pas suffisamment de pouvoirs pour auditer correctement les entreprises technologiques. Il avait été question au cours des sessions d’obtenir un accès permettant au régulateur d’examiner les algorithmes et d’exiger des modifications. Denham a déclaré qu’elle était capable de « regarder sous le capot » des entreprises technologiques dans le cadre du code de conception adapté à l’âge, qui exige que les sites Web et les applications prennent en compte « l’intérêt supérieur » de leurs enfants utilisateurs. Elle a déclaré que les pouvoirs de l’Ofcom en vertu du projet de loi devaient être « renforcés par des pouvoirs d’audit pour que le régulateur puisse regarder sous le capot ».

Actuellement, le projet de loi oblige les entreprises à soumettre des détails sur la manière dont leurs services pourraient exposer les utilisateurs à des contenus préjudiciables – et sur la manière dont elles combattront ce risque. Ces évaluations des risques éclaireront les codes de conduite des plates-formes que l’Ofcom appliquera, mais le sentiment au sein du comité est que le régulateur a besoin de plus de punch. Les mots forts de Dorries sur les algorithmes et la responsabilité pénale suggèrent qu’elle est d’accord.

Lutter contre les abus anonymes
L’ancien footballeur de Manchester United et de Leeds, Rio Ferdinand, a parlé de manière cinglante de l’incapacité à traiter les abus anonymes lors de sa comparution en septembre. Une interdiction totale des comptes et publications anonymes sur les réseaux sociaux n’est pas à venir, mais attendez-vous à une certaine forme d’action. Un récent sondage d’opinion a révélé que parmi ceux qui avaient subi des abus en ligne, 72 % provenaient de comptes anonymes.

Nettoyez Internet, un groupe de campagne appelant à plus de civilité et de respect en ligne, a appelé à des mesures contre les trolls anonymes dans sa soumission au comité, et à ce que le projet de loi oblige les plateformes à démontrer à l’Ofcom qu’elles ont des systèmes en place pour faire face à anonymat. Clean up the Internet a fait appel aux plateformes de médias sociaux pour donner aux utilisateurs la possibilité de bloquer de manière préventive toute interaction avec des comptes anonymes, ainsi que de rendre clairement visible le statut de vérification des utilisateurs. Le groupe a également suggéré aux utilisateurs anonymes d’enregistrer leur identité sur des plateformes, qui pourraient conserver ces informations sur le compte – et les révéler aux forces de l’ordre si nécessaire.

Si vous souhaitez lire la version complète de la newsletter, veuillez vous inscrire pour recevoir TechScape dans votre boîte de réception tous les mercredis.