AGI – Arrêtez ChatGPT en Italie, a annoncé le PDG d’OpenAI, Sam Altman. “De toute évidence – écrit-il sur Twitter – nous nous en remettons au gouvernement italien et avons cessé d’offrir ChatGPT en Italie”. Altman affirme cependant que “nous pensons que nous respectons toutes les lois sur la confidentialité“. “L’Italie est l’un de mes pays préférés et j’ai hâte d’y retourner bientôt“, conclure.
Nous nous en remettons bien sûr au gouvernement italien et avons cessé d’offrir ChatGPT en Italie (bien que nous pensons que nous respectons toutes les lois sur la confidentialité).
L’Italie est l’un de mes pays préférés et j’ai hâte d’y retourner bientôt !
—Sam Altman (@sama) 31 mars 2023
La décision intervient après la position du Garant de la protection des données personnelles que “tant qu’il ne respecte pas la discipline de la vie privée”, a-t-il ordonné, avec effet immédiatla limitation temporaire du traitement des données des utilisateurs italiens vers OpenAI, la société américaine qui a développé et gère la plateforme. Dans le même temps, l’Autorité a ouvert une enquête.
ChatGPT, le plus connu des logiciels d’intelligence artificielle relationnelle capable de simuler et de traiter des conversations humaines, il avait subi le 20 mars une perte de données (violation de données) concernant les conversations des utilisateurs et des informations relatives au paiement des abonnés au service payant.
Dans la disposition, le garant de la confidentialité note “le manque d’information des utilisateurs et de toutes les parties intéressées dont les données sont collectées par OpenAI, mais surtout l’absence de base légale justifiant la collecte et le stockage massifs de données personnelles, dans le but de “former” les algorithmes sous-jacents au fonctionnement de la plateforme“.
Comme en témoignent les vérifications effectuées, explique le Garant, «les informations fournies par ChatGPT ne correspondent pas toujours aux données réelles, déterminant ainsi un traitement inexact des données personnelles“. Pas seulement: “bien que – selon les termes publiés par OpenAI – le service s’adresse aux personnes de plus de 13 ans”, l’Autorité souligne que “l’absence de tout filtre permettant de vérifier l’âge des utilisateurs expose les mineurs à des réponses absolument inadaptées par rapport à leur degré de développement et de conscience de soi ».
Les raisons du garant
“L’intelligence artificielle est une technologie aussi précieuse que potentiellement dangereuse. Je ne suis concerné que par l’anomiec’est-à-dire du développement en l’absence de règles”. C’est ce qu’a déclaré le garant de la vie privée Pasquale Stanzione dans une interview à La Repubblica.
L’apprentissage automatique ChatGPT peut générer des biais cognitifs car la base de données a deux ans et il y a donc des inexactitudes dans les réponses qu’elle fournit
“Heureusement, comme le démontre cette affaire – a poursuivi le Garant – une garantie cruciale réside précisément dans la réglementation de la protection des données et, lorsqu’il sera prêt, interviendra le règlement européen sur l’intelligence artificielle, dont la promulgation est plus urgente que jamais”.
Le Garant de la vie privée, entrant dans le fond de la disposition, a expliqué que “la collecte effectuée pour nous illégalement concerne, en plus de une énorme quantité d’informations acquis à partir du web, les données personnelles des utilisateurs. Probablement aussi ceux des mineurs, puisque ChatGPT n’a pas de système de filtrage de vérification de l’âge. Il prévient que le service est réservé aux personnes de plus de 13 ans, mais il ne contrôle pas qui y accède”.
“L’apprentissage automatique de ChatGPT – a souligné le Garant – de plus, n’est pas légitimé par des hypothèses légales et peut générer des biais cognitifs car la base de données a deux ans et il y a donc des inexactitudes dans les réponses que l’algorithme fournit”.
