Vert Cordel | Les villes intelligentes à travers le prisme des droits humains – dilemmes technologiques et éthiques | Commentaire

Les systèmes d’exploitation de la société subissent une transformation profonde, y compris un avenir qui approche à grands pas lorsque les puces informatiques seront presque nulles en coût et que les capteurs connectés seront largement déployés, alimentant la « datafication » exponentielle et l’Internet de toutes choses. Une autre caractéristique de la société changée est que, encore plus rapidement que les gouvernements, les entreprises technologiques sont capables de connaître notre âge, nos maladies, nos opinions politiques et religieuses, notre orientation et nos penchants sexuels, notre famille, nos amis, nos associés, nos ennemis, nos habitudes de consommation – conçu pour profiter des modèles commerciaux axés sur la publicité.

C’est dans ce contexte que nous devons réfléchir à ce que signifie être une ville intelligente. La réponse est une question de point de vue. Le concept techno-rationnel que je viens de décrire a un coût économique énorme, estimé à environ 1 600 milliards de dollars. Il s’agit d’un univers déshumanisant et illusoire pour la grande majorité des villes qui ne peuvent pas se permettre de fournir même des services de base bien plus que le coût d’acquisition et les dépenses récurrentes nécessaires aux infrastructures de la ville intelligente. Cela laisse présager la perpétuation et l’élargissement de la fracture numérique mondiale qui sépare les personnes et les communautés sur la base d’iniquités historiques.

INÉVITABLE

Est-ce inévitable ou sommes-nous capables d’une conception qui privilégie les préoccupations humanitaires sur le déterminisme technologique et le dogme transatlantique sur l’organisation de la société ?

Si nous partons d’un lieu d’équité et de justice, je dirais que la pauvreté sous toutes ses formes est au concept de ville intelligente, ce que le cancer est au corps. Une ville ne peut pas être intelligente si elle n’est pas humaine. Ce serait une ville sensible, pas intelligente, ou plus par euphémisme, une ville intelligente avec un résultat stupide. Cela ne veut pas dire que la technologie n’est pas d’un grand avantage stratégique, mais qu’elle n’est pas déterministe.

Parler de puces et de capteurs doit donc être subordonné à l’idée de rendre les citoyens «intelligents», j’entends par là des citoyens connaissant l’information numérique et médiatique.

Rappelons-nous la définition de l’UNESCO de la maîtrise des médias et de l’information : c’est « un ensemble composite de connaissances, de compétences, d’attitudes et de pratiques qui permettent aux individus d’accéder, d’analyser, d’évaluer de manière critique, d’interpréter, d’utiliser, de créer et de diffuser des informations et des médias. produits avec l’utilisation des moyens et outils existants sur une base créative, légale et éthique ».

Certes, c’est plus difficile qu’il n’y paraît. Le concept de littératie numérique devient particulièrement difficile car les systèmes d’exploitation d’intelligence artificielle qui sont déployés fonctionnent comme une boîte noire – opaque, évolutive, introuvable et comprise par très peu. C’est l’une des préoccupations éthiques les plus urgentes dans notre transition vers un monde dans lequel les gens développent des relations de confiance plus profondes et plus étroites avec des appareils « intelligents » contrôlés par l’intelligence artificielle.

Cela suggère la nécessité d’un cadre de « nouveaux/numériques éducation aux médias et à l’information », conçu pour inclure des compétences mises à jour et des connaissances pratiques de l’IA, la gestion et l’utilisation des mégadonnées, l’Internet des objets, l’éthique de l’IA, la gouvernance de l’IA, les droits des machines et d’autres technologies du quatrième âge industriel telles que la 3D, la réalité augmentée, la réalité virtuelle et le cloud. L’exposition et la compréhension de ces enjeux sont essentielles à la formation du citoyen numérique et à sa capacité à jouer pleinement son rôle dans la société, en particulier dans une ville intelligente.

Dans cet esprit, la Commission de la radiodiffusion travaille actuellement avec la Mona School of Business and Management, la Fondation Slashroots et l’UNESCO, pour établir un cadre de compétences en matière de médias numériques et de maîtrise de l’information pour la Jamaïque. Les résultats comprendront des outils pour évaluer et éventuellement certifier l’alphabétisation numérique, et des recommandations pour la création d’une politique nationale d’alphabétisation numérique qui comprendra la définition et le suivi d’objectifs en matière d’éducation, de formation, d’emploi, de sécurité numérique et d’éducation aux médias.

La Commission de la radiodiffusion a également été le fer de lance de l’Initiative d’IA des Caraïbes, qui est un projet de collaboration avec le Bureau multipays de l’UNESCO pour les Caraïbes et soutenu par le Programme Information pour tous de l’UNESCO (IFAP). Sous les auspices de l’Initiative d’IA des Caraïbes, nous avons développé la feuille de route de l’IA des Caraïbes qui sera proposée comme guide pour les petits États insulaires en développement des Caraïbes dans l’utilisation de l’IA pour soutenir leur transition vers des économies et des sociétés numériques. En savoir plus sur ai4caribbean.com.

En tant que petits États insulaires en développement, nous, dans les Caraïbes, ne pouvons pas nous permettre d’ignorer les leçons de l’histoire ancienne. L’auteur de Quatre cités perdues nous apprend que les dirigeants des cités antiques, comme leurs contemporains, « … veulent souvent investir dans de beaux spectacles », au détriment des besoins réels. Le récit de la ville intelligente comporte un risque similaire.

LA BONNE GOUVERNANCE

Je passerai ensuite au droit à la bonne gouvernance, qui découle des normes du droit international contemporain des droits de l’homme. Dans tout concept et conception d’une ville intelligente, nous devons tenir compte de ce que le secrétaire général de l’ONU décrit comme un « trouble du déficit de confiance » qui afflige le monde. Nous l’avons vu lors de l’émeute à Capitol Hill et maintenant avec des entreprises technologiques auxquelles on ne fait plus confiance pour tracer nos frontières sociales. Cette baisse notable de la confiance dans les institutions publiques, au fil du temps, si elle n’est pas contrôlée, sapera la base des valeurs partagées et de la tolérance dans la société.

Le dilemme est aggravé par un « vide conceptuel ». Dans l’ancien monde, le citoyen pouvait s’appuyer sur la Déclaration des droits de l’homme des Nations Unies (1948) pour exiger le respect de ses droits à la liberté de liberté, d’expression et de conscience. Mais ces droits n’ont jamais été envisagés pour la « personne virtuelle », phénomène rendu possible par Internet. La question centrale est maintenant de savoir si le nouveau « e-citoyen » peut insister sur ces droits au-delà des frontières électroniques et via des systèmes juridiques qui étaient destinés à des solutions localisées.

Quelle est la « nature » de cet e-citoyen, ses e-droits et la juridiction à laquelle l’e-gouvernement sera appliqué ? Quels droits contraindront la cité-État lorsque tout ce qu’il faut savoir sur un citoyen est accessible par voie électronique et à distance ? Comment devrions-nous répondre à la crainte réelle que les villes intelligentes étendent la capacité des entreprises technologiques à extraire de vastes quantités de données précieuses qui peuvent ensuite être utilisées à des fins de marketing ou même pour manipuler le comportement et les choix des gens ?

Ce ne sont pas seulement des choix technologiques, ils ont des implications profondes pour notre avenir et nous devons nous engager pleinement sur ces questions avant de plonger dans un « abîme technologique » dans la poursuite des villes intelligentes.

RECOMMANDATIONS

Je veux conclure avec deux recommandations précises. La première est que nous devrions explorer la mise en place de Data Trusts comme outil de gouvernance des données. J’entends par là que les gouvernements devraient introduire une législation obligeant les entreprises à accéder aux données du public et à les utiliser en négociant avec des fiducies de données qui représentent l’intérêt des personnes concernées en général ou dans des circonstances spécifiques. Il est temps pour nous d’accepter que si les données sont le nouveau pétrole, alors les personnes concernées devraient être les barons du pétrole.

Cette idée est préfigurée dans la feuille de route de l’IA des Caraïbes récemment rédigée qui appelle les îles des Caraïbes à gérer les actifs de données via des banques de données agrégées et une infrastructure régionale de gestion des données à trois niveaux pour capturer, classer, nettoyer, formater, stocker, analyser et archiver les données.

Je suggère également que la loi impose des responsabilités fiduciaires aux plateformes comme solution à l’asymétrie de l’information et au déséquilibre de pouvoir entre les plateformes, les gouvernements et les utilisateurs. On peut modéliser d’autres relations de pouvoir et de confiance comme avocat/client, médecin et patient, où le fiduciaire a l’obligation de protéger l’intérêt de la partie vulnérable.

Mon point plus large est que la législation, les politiques et les réglementations qui ont été conçues à une époque révolue sont désormais pour la plupart inadaptées pour soutenir une transition vers une société numérique. Nous avons besoin de nouveaux cadres, y compris des lois, politiques, directives et réglementations socio-technologiques et culturellement pertinents.

Il ne fait aucun doute que l’avenir sera différent, mais il n’est pas encore gravé dans le marbre. Il sera façonné par l’opportunité, la volatilité, l’incertitude, la complexité et l’ambiguïté. Nous avons été propulsés à un carrefour existentiel et devrons choisir, comme l’observent Carlos Moreira et David Ferguson dans leur livre, Le code transhumain, entre construire un avenir meilleur avec l’aide de la technologie ou construire un avenir avec une meilleure technologie aux dépens d’une grande partie de l’humanité.

Nous sommes confrontés à ces choix profonds et à ces décisions difficiles en sachant avec humilité que ce n’est pas la première fois dans l’histoire de l’humanité que l’innovation technologique a entraîné une transformation de la société, à grande échelle. Nous ne pouvons qu’espérer que nous choisirons judicieusement notre voie et que notre concept de « smartness » dans la conception des villes modernes sera tel que la ville intelligente est comme une marée qui soulève tous les navires.

– Cordel Green est vice-président du programme Information pour tous de l’UNESCO (IFAP) et directeur exécutif de la Broadcasting Commission of Jamaica. Cet article est adapté de sa présentation liminaire prononcée au Symposium international de l’IEEE sur la technologie et la société.