Elon Musk a tort d’appeler à une pause dans le développement de l’IA, prévient un nouveau rapport | Actualités scientifiques et techniques
Un rapport du Chartered Institute for IT du Royaume-Uni indique que l’IA pourrait être transformatrice pour le diagnostic médical, la science du climat et la productivité – et affirme que la réglementation plutôt que de restreindre son développement est la réponse aux préoccupations croissantes concernant son potentiel.
Par Tom Acres, journaliste technologique
jeudi 4 mai 2023 01:27, Royaume-Uni
Elon Musk a tort d’appeler à une pause mondiale dans le développement de l’IA, ce qui ferait le jeu des régimes voyous, a averti un nouveau rapport.
Le propriétaire de SpaceX, Tesla et Twitter était l’une des 1 000 personnes à mettre son nom sur une lettre disant l’humanité fait face à des « risques profonds » en raison du rythme d’avancement dans le domaine, mené par des systèmes comme OpenAI ChatGPT.
La lettre ouverte du Future of Life Institute indique que le développement devrait être suspendu dans le monde entier pendant six mois, alors que les gouvernements se demandent comment la technologie pourrait ou devrait être réglementée.
En savoir plus:
ChatGPT a aidé à écrire cet article – comment cela s’est-il passé ?
Appels à une pause dans la recherche sur l’IA
Mais dans un rapport publié jeudi, BCS, le Chartered Institute for IT, a déclaré que cela n’entraînerait qu’une « pause asymétrique » car les mauvais acteurs l’ignoreraient et saisiraient l’avantage.
L’humanité bénéficierait davantage de « garde-fous éthiques » autour de l’IA plutôt que d’un arrêt du développement, a ajouté BCS.
L’institut représente ceux qui travaillent dans l’informatique et l’informatique au Royaume-Uni et à l’étranger, avec plus de 70 000 membres, dont des universitaires et des personnalités de l’industrie.
Le directeur général Rashik Parmar a déclaré: « Nous ne pouvons pas être certains que tous les pays et entreprises ayant le pouvoir de développer l’IA obéiraient à une pause, alors que les récompenses pour avoir enfreint un embargo sont si riches. »
M. Parmar a déclaré que la technologie devait être aidée à « grandir de manière responsable », par exemple en l’intégrant à des campagnes d’éducation du public et en veillant à ce qu’elle soit clairement étiquetée chaque fois qu’elle est utilisée.
Le rapport BCS, intitulé Helping AI Grow Up – Without Pressing Pause « , a soutenu la proposition » légère » du gouvernement britannique sur la manière dont la technologie devrait être réglementée.
Un livre blanc, publié en mars, suggérait que l’IA soit testée dans un « bac à sable » réglementaire avant d’être lâchée, mais Michelle Donelan, secrétaire aux sciences et à la technologie, a déclaré que les tentatives d’imposer des réglementations plus strictes seraient rapidement obsolètes.
Cliquez pour vous abonner au Sky News Daily partout où vous obtenez vos podcasts
Le succès de ChatGPT et des outils de génération d’images comme Midjourney a accéléré une course aux armements en IA entre les géants de la technologie établis Microsoft et Googleavec l’ancien soutenir le logiciel d’OpenAI et son rival de longue date développer son propre chatbot Bard.
Bien qu’ils aient impressionné par leur capacité à réussir les examens, écrire des discourset résoudre des équations, les sceptiques ont averti qu’ils pourraient être utilisés pour répandre des informations erronées et aider les activités criminelles.
L’Italie a temporairement interdit ChatGPT pour des raisons de confidentialité des utilisateurstandis que les États-Unis et la Chine font partie des pays qui explorent les moyens de réglementer l’IA à mesure qu’elle devient de plus en plus puissante et accessible.
En savoir plus:
Qu’est-ce que GPT-4 et comment est-il amélioré ?
Évaluation de la réglementation britannique sur l’intelligence artificielle « light touch »
Ce chatbot remplacera-t-il les humains ?
Le rapport BCS, qui soutient que la technologie « générationnelle » pourrait être transformatrice pour le diagnostic médical, la science du climat et la productivité, vient après qu’un expert de premier plan connu sous le nom de le « Parrain de l’IA » averti de son potentiel.
L’informaticien britannique Geoffrey Hinton a quitté son emploi chez Google pour parler ouvertement de ses préoccupations, y compris la possibilité que l’IA puisse un jour déjouer les humains et rendre de nombreux emplois superflus.