Actualités IBL | New York
OpenAI dévoilé qu’elle développe un outil capable de détecter 98 % des images générées par son système générateur de texte en image DALL-E 3. Le succès chute si les images sont altérées.
L’outil, appelé Gestionnaire de médiassera en place d’ici 2025. Actuellement, la société travaille avec les créateurs, les propriétaires de contenu et les régulateurs pour élaborer une norme.
Gestionnaire de médias semble être sa réponse aux critiques croissantes à l’égard de l’approche de développement de l’IA qui repose largement sur l’extraction de données accessibles au public sur le Web.
“Cela nécessitera des recherches de pointe en matière d’apprentissage automatique pour créer un tout premier outil de ce type pour nous aider à identifier les textes, images, audio et vidéos protégés par le droit d’auteur sur plusieurs sources et refléter les préférences des créateurs.” OpenAI a écrit dans un article de blog.
Récemment, huit journaux américains, dont le Chicago Tribune, a poursuivi OpenAI pour violation de propriété intellectuelle, accusant OpenAI d’avoir volé des articles pour former des modèles d’IA génératifs qu’il a ensuite commercialisés sans compenser ni créditer les publications sources.
L’année dernière, OpenAI a permis aux artistes de se désinscrire et de supprimer leur travail des ensembles de données que l’entreprise utilise pour entraîner ses modèles de génération d’images.
La société permet également aux propriétaires de sites Web d’indiquer via la norme robots.txt, qui donne des instructions sur les sites Web aux robots d’exploration du Web. OpenAI continue de conclure des accords de licence avec de grands propriétaires de contenu, notamment des organismes de presse, des bibliothèques multimédias et des sites de questions-réponses comme Stack Overflow. Certains créateurs de contenu affirment cependant qu’OpenAI n’est pas allé assez loin.
Un certain nombre de tiers ont créé des outils de désinscription pour l’IA générative. Startup Spawning AI, dont les partenaires incluent Stability AI et Hugging Face, propose une application qui identifie et suit les adresses IP des robots pour bloquer les tentatives de scraping. Steg.AI et Imatag aident les créateurs à établir la propriété de leurs images en appliquant des filigranes imperceptibles à l’œil humain. Nightshade, un projet de l’Université de Chicago, empoisonne les données d’image pour les rendre inutiles ou perturbatrices pour la formation des modèles d’IA.
.
2024-05-20 08:51:07
1716185230
#outil #OpenAI #détectera #les #images #générées #par #son #système #DALLE
