MBIE empêche le personnel d’utiliser la technologie de l’IA
Le ministère des Entreprises, de l’Innovation et de l’Emploi a interdit au personnel d’utiliser des technologies d’intelligence artificielle telles que ChatGPT, citant des risques pour les données et la confidentialité.
Des mesures similaires ont été prises à l’étranger par un certain nombre de grandes banques et d’entreprises technologiques, dont Apple et Samsung.
La Nouvelle-Zélande n’a toujours pas de règles ou de lignes directrices à l’échelle du gouvernement pour l’utilisation de l’intelligence artificielle par les ministères et les agences.
Les problèmes de confidentialité invitent à continuer avec un avertissement de prudence
Des documents montrent qu’en mars, MBIE a bloqué l’accès du personnel à un certain nombre d’outils d’IA, dont ChatGPT d’OpenAI.
Le ministère craignait que le personnel ne mette des informations sensibles dans la technologie qui pourraient refaire surface plus tard.
MBIE a appuyé sur le bouton pause pendant qu’il détermine si la technologie peut être utilisée en toute sécurité.
Nikki Chamberlain, maître de conférences en droit à l’Université d’Auckland et experte en droit de l’IA, a déclaré que la prudence était prudente.
« C’est une nouvelle technologie et nous n’en connaissons pas encore les conséquences.
« Et seul le temps pourra dire si les informations que vous y mettez seront protégées et privées. »
En Nouvelle-Zélande, il n’y a pas de réglementation ou de législation spécifique à l’IA et les documents internes du MBIE indiquent qu’il n’y a « pas de règles ou de directives pour toutes les agences gouvernementales concernant l’utilisation du personnel [of] Outils d’IA ».
Un porte-parole du directeur du numérique du gouvernement au ministère de l’Intérieur a déclaré que le gouvernement travaillait sur des orientations pour les agences, qu’il s’attendait à avoir bientôt.
Il a déclaré que son propre personnel de la DIA n’avait pas été interdit d’utiliser des outils d’IA.
Le commissaire à la protection de la vie privée, Michael Webster, a déclaré qu’il appartenait aux agences gouvernementales et aux entreprises individuelles de décider si, et comment, elles utilisent l’IA.
« Et si les risques sont trop élevés, je m’attends à ce qu’ils ne donnent pas suite à cette proposition. »
Frith Tweedie du cabinet de conseil Simply Privacy a déclaré que le personnel avait besoin de conseils et de garanties.
« Je ne pense pas qu’il soit déraisonnable de faire une pause pendant que vous travaillez là-dessus, je pense que toutes les agences gouvernementales devraient prendre position sur ce qui est approprié et inapproprié.
« Et pour certains d’entre eux, une interdiction totale pourrait être appropriée pour ceux qui traitent des informations particulièrement sensibles. »
De nombreuses entreprises à l’étranger interdisent à leur personnel d’utiliser l’IA
ChatGPT est formé en étant alimenté par Internet et, en prédisant le mot suivant dans une séquence, il crache des réponses en phrases complètes aux questions.
Il contient des masses d’informations non vérifiées et il s’agit essentiellement d’une boîte verrouillée – une fois les informations introduites, il est pratiquement impossible d’en sortir à nouveau.
Le chien de garde de la vie privée du Canada a lancé une enquête sur OpenAI au sujet de sa technologie Chat GPT, et l’Italie a brièvement interdit l’utilisation du produit pour des raisons de confidentialité.
De nombreuses entreprises internationales ont interdit ou restreint l’utilisation de la technologie par le personnel, notamment Apple, Samsung, Amazon, JPMorgan Chase, Deutsche Bank et Goldman Sachs.
Nécessité d’une législation sur l’IA
Le mois dernier, OpenAI a resserré certains paramètres de confidentialité de ChatGPT, mais les ajustements sont ajoutés et les questions de confidentialité demeurent.
« Je recommande certainement aux organisations et aux individus … de faire attention, de désactiver définitivement l’historique des discussions, mais même ainsi, j’éviterais de saisir des informations confidentielles ou des informations personnelles », a déclaré Tweedie.
L’Europe a des lois sur la confidentialité beaucoup plus strictes et des sanctions beaucoup plus lourdes qu’Aotearoa.
Chamberlain a déclaré que la Nouvelle-Zélande avait besoin d’une législation couvrant l’IA.
« Jusqu’à ce que nous ayons des lois sur la réglementation de l’utilisation de l’IA et des informations détenues par l’IA, puis sur la manière dont ces informations peuvent être utilisées à l’avenir, nous devons simplement être très prudents. »
Entre-temps, à la fin du mois dernier, le commissaire à la protection de la vie privée a conseillé aux agences et aux entreprises d’utiliser la technologie.
Cela inclut le personnel qui se demande s’il est nécessaire et proportionné d’utiliser l’IA.
Il a déclaré que les entreprises et les agences gouvernementales devraient procéder à une évaluation de l’impact des risques sur la vie privée pour déterminer les zones de danger à éviter.
Il souhaite que les secteurs public et privé travaillent ensemble pour fournir des conseils sur la meilleure façon d’utiliser la technologie en toute sécurité.
Par Hamish Cardwell de rnz.co.nz