Interdiction de ChatGPT en Italie, un précédent pour le reste de l’Europe ?

Après que l’Italie est devenue le premier pays occidental à bloquer le chatbot avancé ChatGPT pour manque de transparence dans son utilisation des données, la question qui se pose en Europe est la suivante : qui suivra ?

La décision a déjà inspiré plusieurs pays voisins. « En l’espace de quelques jours, des spécialistes du monde entier et un pays, l’Italie, ont tenté de freiner la progression fulgurante de cette technologie aussi prodigieuse qu’inquiétante », écrit Le Parisien.

Plusieurs villes de France ont déjà entamé leurs propres recherches « pour évaluer les changements induits par ChatGPT et les conséquences de son utilisation dans le cadre de l’action locale », rapporte Ouest-France.

La ville de Montpellier souhaite interdire le logiciel ChatGPT au personnel municipal, par mesure de précaution, rapporte le journal. « Le logiciel ChatGPT devrait être interdit au sein des équipes municipales, par précaution et à titre conservatoire. L’adjoint en charge du numérique estime que son utilisation pourrait être préjudiciable. »

Selon la BBC, la commission irlandaise de protection des données assure le suivi auprès du régulateur italien pour comprendre les raisons de son action et « coordonnera son action avec toutes les autorités de protection des données de l’Union européenne (UE) » en ce qui concerne l’interdiction.

L’Information Commissioner’s Office, l’autorité indépendante de régulation des données au Royaume-Uni, a également déclaré à la BBC qu’elle « soutiendrait » les développements en matière d’intelligence artificielle (IA), mais qu’il était également prêt à « contester le non-respect » des lois sur la protection des données.

Le chatbot ChatGPT est déjà bloqué dans plusieurs pays comme la Chine, l’Iran, la Corée du Nord et la Russie. L’UE est en train de préparer l’Artificial Intelligence Act, une législation « visant à définir quelles IA sont susceptibles d’avoir des conséquences sociétales », explique Le Parisien. « Cette future loi devrait notamment permettre de lutter contre les biais racistes ou misogynes des algorithmes et logiciels d’intelligence artificielle générative (comme ChatGPT). » L’Artificial Intelligence Act envisage également de nommer un régulateur par pays en charge de l’IA.

Le cas italien

L’autorité italienne chargée de la protection des données a expliqué qu’elle interdisait ChatGPT et enquêtait sur ce logiciel en raison des problèmes de protection de la vie privée liés à ce modèle, créé par la start-up américaine OpenAI, une société soutenue par des milliards de dollars d’investissement de la part de Microsoft.

La décision « avec effet immédiat » annoncée par l’Autorité nationale italienne pour la protection des données personnelles a été prise parce que « le robot ChatGPT ne respecte pas la législation sur les données personnelles et ne dispose pas d’un système pour vérifier l’âge des utilisateurs mineurs », rapporte Le Point.

« La décision de l’agence, qui est indépendante du gouvernement, fait de l’Italie le premier pays occidental à prendre des mesures contre un chatbot alimenté par l’intelligence artificielle », écrit Reuters.

L’organisme de surveillance italien a déclaré que non seulement il bloquerait le chatbot d’OpenAI, mais qu’il examinerait également s’il était conforme au règlement général sur la protection des données de l’UE.

Protéger les mineurs

Elle ajoute que la nouvelle technologie « expose les mineurs à des réponses absolument inadaptées par rapport à leur degré de développement et de conscience ».

Le communiqué de presse de l’Autorité italienne explique en outre que le 20 mars, ChatGPT « a subi une perte de données concernant les conversations des utilisateurs et les informations relatives au paiement des abonnés au service payant ».

Il souligne également « l’absence de base juridique justifiant la collecte et le stockage massifs de données à caractère personnel dans le but d’“entraîner” les algorithmes qui sous-tendent le fonctionnement de la plateforme ».

Le chatbot ChatGPT a été dévoilé au public en novembre et a été rapidement adopté par des millions d’utilisateurs impressionnés par sa capacité à répondre clairement à des questions difficiles, à imiter des styles d’écriture, à rédiger des sonnets et des dissertations et même à réussir des examens. Le chatbot peut également être utilisé pour écrire du code informatique sans avoir de connaissances techniques.

L’engouement autour de ChatGPT

« Depuis son lancement l’année dernière, ChatGPT a déclenché un engouement pour la technologie, incitant les sociétés rivales à lancer des produits similaires et les entreprises à l’intégrer ou à intégrer des technologies similaires dans leurs applications et leurs produits », écrit Reuters.

OpenAI, qui a désactivé ChatGPT pour les utilisateurs italiens à la suite de la demande de l’agence, a déclaré vendredi qu’elle travaillait activement à la réduction de l’utilisation des données personnelles dans la formation de ses systèmes d’IA comme ChatGPT.

L’organisme de surveillance italien demande maintenant à OpenAI de « communiquer dans les 20 jours les mesures prises » pour remédier à cette situation, sous peine d’une amende de 20 millions d’euros ou d’un montant pouvant aller jusqu’à 4 % du chiffre d’affaires annuel mondial, selon Euronews.

Cette annonce intervient alors que l’agence de police européenne Europol a averti lundi que les criminels étaient prêts à tirer profit des chatbots d’IA tels que ChatGPT pour commettre des fraudes et d’autres cybercrimes.

De l’hameçonnage à la désinformation et aux logiciels malveillants, les capacités en évolution rapide des chatbots sont susceptibles d’être rapidement exploitées par ceux qui ont des intentions malveillantes, a averti Europol dans un rapport.

Article traduit de Forbes US – Auteure : Cecilia Rodriguez

<<< À lire également : Comment ChatGPT va révolutionner le monde du travail ? >>>