ChatGPT Creator lance un outil pour détecter le texte généré par l’IA, le qualifie de “non fiable”

La startup basée à San Francisco, qui a lancé ChatGPT en novembre et a récemment annoncé un partenariat pluriannuel de plusieurs milliards de dollars avec Microsoft Corp.

MSFT 2,10 %

, a publié mardi l’outil de détection. Il a déclaré dans un article de blog que l’outil a été conçu pour aider les gens à faire la distinction entre le texte écrit par un humain et une gamme de programmes d’intelligence artificielle, et pas seulement ChatGPT. OpenAI a déclaré que dans les évaluations, son nouvel outil a correctement identifié 26% du texte écrit par l’IA comme “probablement écrit par l’IA”. Il a déclaré que le classificateur avait également des faux positifs 9% du temps au cours desquels il étiquetait à tort le texte écrit par l’homme comme écrit par l’IA.

“Notre classificateur n’est pas fiable”, a déclaré la société, le qualifiant de “travail en cours”.

L’outil n’est pas assez bon en soi, bien qu’il puisse être utilisé pour compléter les méthodes sur lesquelles les éducateurs, les employeurs et d’autres s’appuient pour déterminer la source d’un texte, a déclaré OpenAI.

“Bien qu’il soit impossible de détecter de manière fiable tout le texte écrit par l’IA, nous pensons que de bons classificateurs peuvent éclairer les atténuations des fausses allégations selon lesquelles le texte généré par l’IA a été écrit par un humain”, a déclaré la société.

ChatGPT est devenu une sensation virale en raison de sa capacité à produire des essais, de la poésie, des scénarios et des argumentaires de vente à consonance humaine sur pratiquement n’importe quel sujet en quelques secondes.

Microsoft a investi dans OpenAI en 2019 et 2021 avant d’annoncer l’expansion majeure de son partenariat la semaine dernière, et a déclaré qu’il prévoyait d’intégrer la technologie de l’entreprise dans plusieurs de ses produits.

Peu de temps après la sortie de ChatGPT, la possibilité qu’il soit utilisé à mauvais escient pour faire des choses telles que la diffusion de fausses informations et l’écriture de spam est devenue évidente. Les écoles et les éducateurs ont également mis en garde contre la possibilité pour les étudiants de l’utiliser pour rédiger des essais ou d’autres travaux qui leur ont été confiés. En décembre, le logiciel a réussi les trois parties de l’examen américain de licence médicale dans le cadre d’une expérience de recherche.

Certaines écoles ont décidé d’interdire aux étudiants d’utiliser ChatGPT, tandis que d’autres tentent de l’adopter. Edward Tian, ​​un senior de l’Université de Princeton, a créé un logiciel appelé GPTZero pour essayer de reconnaître l’écriture générée par le logiciel.

OpenAI a déclaré avoir pensé aux écoles lors du développement de son dernier outil de classification. “Nous reconnaissons que l’identification du texte écrit par l’IA a été un point de discussion important entre les éducateurs, et il est tout aussi important de reconnaître les limites et les impacts des classificateurs de texte générés par l’IA dans la salle de classe”, a-t-il déclaré.

Les journalistes, les chercheurs et autres peuvent également utiliser l’outil pour détecter le contenu généré par l’IA, a déclaré la société.

OpenAI a déclaré que ChatGPT n’est toujours pas fiable sur les textes courts et que les textes plus longs sont parfois étiquetés de manière incorrecte. Il fonctionne “nettement moins bien” dans des langues autres que l’anglais et n’est “pas fiable” pour détecter l’utilisation de l’IA dans le code informatique.

Un autre problème est que l’outil ne peut pas facilement dire si une liste de faits – les capitales des États américains par exemple – a été écrite par une personne ou une IA, car la bonne réponse serait la même, a déclaré OpenAI. Le texte écrit par l’IA peut également être modifié pour échapper au classificateur, a déclaré la société.

Ces types de mises en garde soulèvent des questions sur les avantages de l’outil, a déclaré la société.

“Les classificateurs comme le nôtre peuvent être mis à jour et recyclés en fonction des attaques réussies”, a déclaré OpenAI. “Mais il n’est pas clair si la détection a un avantage à long terme.”

Avec les commentaires des utilisateurs, OpenAI espère améliorer l’outil. Il a déclaré avoir contacté des éducateurs américains pour discuter des capacités et des limites de ChatGPT.

“Ce sont des conversations importantes à avoir dans le cadre de notre mission qui consiste à déployer de grands modèles linguistiques en toute sécurité, en contact direct avec les communautés touchées”, a déclaré la société.

Écrivez à Sarah E. Needleman à [email protected]