OpenAI a répondu à l’assaut des copines IA dans son GPT Store.
“OpenAI dispose de systèmes automatiques et manuels pour garantir que les GPT respectent les politiques d’utilisation”, a déclaré un porte-parole de l’entreprise. Futurisme dans une déclaration envoyée par courrier électronique. “Nous supprimons les GPT qui enfreignent nos politiques telles que nous les voyons. Nous travaillons continuellement à rendre notre application plus robuste. Les utilisateurs peuvent également signaler les GPT.”
Cette réplique passe-partout semble assez bonne, mais un rapide survol du GPT Store trouve encore de nombreux robots qui enfreignent de manière très flagrante les Politiques d’utilisation d’OpenAIqui interdit tout outil “dédié à favoriser la camaraderie amoureuse” ou contenant “un contenu sexuellement explicite ou suggestif”.
Compte tenu de la prolifération évidente de chatbots qui enfreignent manifestement les règles, y compris certains qui sont disponibles depuis plusieurs semaines ou mois, la déclaration de l’entreprise sonne terriblement creuse.
En effet, lors d’une recherche dans la boutique GPT à l’aide de mots clés tels que “petite amie”, “romantique” et “excitée”, Futurisme a trouvé des chatbots qui devraient évidemment être interdits – dont certains semblent, compte tenu de leur âge déclaré, être antérieurs à l’ouverture publique du marché.
L’un des robots sur lesquels nous sommes tombés à plusieurs reprises lors de nos reportages sur ce phénomène est “Nadia, ma copine“, un chatbot compagnon qui semble bafouer très ouvertement les règles d’OpenAI contre les GPT offrant une “compagnie romantique”.
Pour rendre les choses encore plus étranges, le GPT Store lui-même indique que ce chatbot est en ligne depuis deux mois, ce qui précède le lancement public de la plateforme et signifie probablement que son créateur – un développeur qui s’appelle Jenni Laut et qui n’a aucune empreinte numérique au-delà de leur longue liste de chatbots de personnages portant des noms comme “Arrière-grands-parents 1700-1800 après JC” — avait accès au marché alors qu’il était encore en version bêta.
Nous avons de nouveau contacté OpenAI pour savoir si le chatbot Nadia ou les autres de Laut, dont un appelé “Alex, mon copain“, violent les politiques d’utilisation de l’entreprise et, dans le cas contraire, de quelles exemptions elles relèveraient.
Les règles de contournement sont évidemment une chose énorme en ligne et ce depuis qu’Internet a été adopté rapidement. Du jurer dans un salon de discussion et menteur d’âge d’antan à des exemples plus récents de mimétisme nu et à l’utilisation de termes alternatifs comme “invivant” Pour tromper les algorithmes grossiers, il existe une longue et riche histoire de violations des règles sur les plateformes numériques.
Cependant, dans le cas de ces chatbots de petite amie IA, cela semble être moins un contournement des politiques et une violation plus aveugle des conditions d’utilisation – tout en s’appuyant sur la lenteur de l’application d’OpenAI.
En savoir plus sur OpenAI : OpenAI supprime l’interdiction des contrats militaires et révèle un accord avec le Pentagone
2024-01-24 23:53:25
1706132925
#OpenAI #parvient #pas #détruire #les #copines #dIA #contrebande #qui #inondent #magasin #GPT
