La FTC enquête sur OpenAI et la sécurisation des données de son robot conversationnel ChatGPT.

L’agence américaine de protection des consommateurs, la FTC, enquête sur l’activité d’OpenAI, créateur de l’interface d’intelligence artificielle (IA) ChatGPT. En particulier la sécurisation des données mais aussi des contenus générés par le robot conversationnel.

La FTC, qui fait aussi office d’autorité de la concurrence, a envoyé à OpenAI une longue liste d’éléments qu’elle souhaite obtenir de la start-up de San Francisco, selon le document, publié par le Washington Post. Une procédure classique préalable à d’éventuelles poursuites ou un possible accord amiable.

Elle s’intéresse notamment à la sécurisation des données personnelles utilisées par la plateforme.

Informations divulguées

OpenAI a reconnu qu’une faille technique avait entraîné, fin mars, la divulgation d’informations relatives à certains utilisateurs de ses services, principalement leur adresse électronique et une partie de leurs données bancaires.

Par ailleurs, les demandes de la FTC font référence à des plaintes d’usagers, selon lesquels les modèles de langage d’OpenAI, dont fait partie ChatGPT, ont généré des réponses “fausses, trompeuses, méprisantes ou nocives” sur des individus. Sollicités par l’AFP, ni OpenAI ni la FTC n’ont donné suite dans l’immédiat.

Contenu erroné et fausses informations

La FTC interroge également OpenAI sur les dispositions prises pour prévenir la génération de contenu erroné et fausses informations par l’interface d’IA dite générative, c’est-à-dire capable de produire des réponses complètes à tout type de demande en langage courant.

L’agence de protection des consommateurs a déjà indiqué suivre de près le développement de l’IA générative, qui passionne et inquiète tout à la fois depuis le lancement de ChatGPT, en novembre dernier.

“Nous avons eu vent de signalements relatifs à la divulgation d’informations sensibles concernant une personne alors que la demande a été formulée par quelqu’un d’autre”, a indiqué jeudi la présidente de la FTC, Lina Khan, lors d’une audition au Congrès.

Elle a également fait état de “déclarations diffamatoires, complètement fausses” qui auraient été produites par des interfaces d’intelligence artificielle générative. “C’est ce type de tromperie qui nous inquiète.”

Côté concurrence, Mme Khan a déjà indiqué que son agence suivait de près la structuration de ce secteur pour éviter que des entreprises déjà établies ne brident la concurrence.

ats, afp