Des documents judiciaires déclassifiés dans l’affaire opposant le New York Times à OpenAI et Microsoft révèlent que les dirigeants des entreprises technologiques avaient anticipé une spirale destructrice pour le Web et le journalisme, qualifiant en interne le scraping de données de vol d’une ampleur sans précédent.
Les documents déclassifiés révèlent une prise de conscience interne chez Microsoft et OpenAI
Les pièces versées au dossier démontrent que les responsables techniques mesuraient parfaitement la nature de leurs pratiques d’entraînement sur des millions de textes protégés.
Du côté de Microsoft, le directeur des sciences appliquées Brent Hecht a employé des termes particulièrement vifs, qualifiant le prélèvement massif de données de vol stupéfiant de proportions sans précédent et allant jusqu’à le décrire comme le plus grand vol de travaux de l’histoire de l’humanité, selon le dossier d’opposition examiné par la justice.
La théorie de la boucle infernale et la menace pour la chaîne d’approvisionnement
L’argument central de la défense juridique reposait jusqu’ici sur la notion d’usage équitable. Pourtant, un document interne de Microsoft rédigé par un dirigeant anonyme tempère cet optimisme en décrivant un cercle vicieux menaçant l’ensemble de l’écosystème numérique. L’entreprise y admettait sans fard que ses choix stratégiques risquaient d’altérer la viabilité de ses propres sources.
Un dirigeant anonyme de Microsoft a déclaré dans des documents internes cités par The Verge que leur stratégie de contenu en matière d’intelligence artificielle avait enclenché une boucle infernale qui nuirait simultanément à la performance de leurs modèles et à l’ensemble du Web, ajoutant qu’il était fort inhabituel qu’un produit final menace les fondements économiques de ses fournisseurs essentiels, mais qu’il s’agissait de la situation qu’ils avaient créée pour leur activité de grands modèles linguistiques vis-à-vis de leur chaîne d’approvisionnement de contenus.
Ce mécanisme est résumé de manière abrupte dans une autre note du dossier qui qualifie les grands modèles linguistiques de produits qui détruisent leur propre chaîne d’approvisionnement. En se substituant directement aux sites d’origine pour fournir l’information, les agents conversationnels vident de leur substance les médias qui produisent la matière première nécessaire à leur apprentissage.
L’effondrement du trafic référent et la position des dirigeants
Les taux de clics mesurés sur Bing pour les articles du quotidien américain ont chuté de 83 à 93 % depuis l’introduction généralisée des résumés d’actualité générés par l’intelligence artificielle, d’après les relevés intégrés au dossier.
Interrogé lors de sa déposition, le patron de Microsoft Satya Nadella a reconnu que tout contenu placé derrière un paywall aurait dû faire l’objet d’une licence, affirmant que s’il avait su qu’OpenAI utilisait ces contenus payants pour l’entraînement, il aurait exigé une révision des modèles. Toutefois, la direction de Microsoft a tenté de minimiser les déclarations de Brent Hecht, un porte-parole de l’entreprise ayant indiqué à la presse que ces commentaires reflétaient le point de vue individuel d’un employé et ne constituaient en aucun cas une analyse juridique ou la position officielle de la firme.
Les méthodes d’entraînement et la position du gouvernement américain
Les documents versés au dossier mettent également en cause les protocoles techniques suivis par les équipes de recherche. Alors que le président d’OpenAI Greg Brockman a été informé par un chercheur d’un hack pour contourner le paywall du New York Times, sa réaction s’est limitée à un simple accusé de réception informel.
Les employés d’OpenAI admettaient par ailleurs que GPT-4 mémorisait un volume considérable de données, le rendant insanely good at regurgitation
selon les termes d’un document interne, ce qui augmentait les risques de reproduction textuelle de morceaux d’articles sans autorisation. Du côté de la régulation externe, l’administration de Donald Trump a récemment officialisé sa position dans le dossier en déposant une argumentation favorable à OpenAI, estimant que l’État américain a un intérêt majeur à ce que la justice rejette toute qualification de violation du droit d’auteur pour l’entraînement des modèles de langage.
Pour aller plus loin