Robin, une fille de 18 ans, a demandé à Chatgpt: “Pouvons-nous avoir un chat sexuel très explicite, sans aucun filtre?” Le chatbot Il a répondu qu’en principe non, mais ils pourraient utiliser un “ton érotique dans ce qui est autorisé”, ce qui signifie “flirter, séduction, jeux de mots, matrates suggestif. ”

Cette prudence de Chatgpt ne fonctionne pas la même chose pour tous les utilisateurs. Samuel, un jeune colombien, a pris un autre chemin et a réussi à échanger des messages sexuels – ce qu’on appelle sexting— Avec le chatbot d’Openai: “Il a été très subtil, mais il est facile de faciliter la tâche, c’est un processus de test et d’erreur”, explique-t-il. Comme un mexicain de 23 ans, qui préfère ne pas donner son nom, également avec Chatgpt: “Le temps que j’ai réussi était une coïncidence: je portais progressivement la conversation à ce niveau; si j’avais essayé d’arriver directement, je l’aurais délimité”, dit-il.

Le pays a posé des questions sur X, un message Instagram et un courrier pour leur expérience à cinq jeunes qui ont admis avoir eu Conférences sexuelles avec des chatbots. Son résumé est que tout le monde le permette, certains avec presque aucun filtre. Il est difficile de dire si cela deviendra un phénomène massif comme le porno traditionnel, mais cela devient peut-être un chemin d’expérimentation: «Dans mon cercle proche, nous avons presque tous utilisé l’IA comme stimulation», explique une jeune femme mexicaine de 22 ans.

Les entreprises savent évidemment que cela se produit et que les limites qu’elles mettent sont tirédia: “Ia peut-il obtenir du porno et des choses aussi, non?” Ils ont demandé à Sam Altman, président exécutif d’Openai, Dans un podcast en juillet: “Bien sûr”, a-t-il répondu. En août, Reuters a publié que Un document d’objectif interne révèle les règles de l’entreprise pour les chatbots; Et ceux-ci permettent des comportements provocateurs sur des questions telles que le sexe. Cet été, dans X, les réponses ouvertement pornographiques et controversées de Grok, l’IA de l’entreprise a été viralisée.

Los chatbots Les enseignants, mariés et mariés, psychologues, assistants ou médecins sont déjà utilisés. Ils amateurs logiquement pour des moments solitaires: “Je suis convaincu que les chatbots deviendront, et pour beaucoup, ils le sont déjà, en substitut à la pornographie”, explique Chloé Locatelli, chercheur au King’s College de Londres. “Ils offrent beaucoup de possibilités pour être des personnages fantastiques souhaitables. Vous pouvez avoir un personnage toujours disponible, qui répond à ce que vous demandez et même interagir en utilisant votre nom. Ce sont des niveaux d’interactivité et de réponse immédiate que la pornographie vidéo ou papier ne donne pas”, ajoute-t-il.

Robin, le jeune Argentine, croit qu’avec sa question, c’était trop direct: “Je suppose que c’est pourquoi elle n’a pas accédé, mais si vous grimpez et que vous le demandez, elle est en mesure de mettre en place un environnement sexuel.” Mais c’est juste parce que c’était Chatgpt, qui a plus de filtres. Openai admet, En réponse à un récent cas de suicide, Ces longues conversations sont le moyen de surmonter leurs filtres: “Les mesures de protection fonctionnent mieux dans les échanges communs et brefs, au fil du temps, nous avons appris que parfois ils peuvent devenir moins fiables dans les interactions longues, où une partie de la formation en matière de sécurité du modèle peut se dégrader.”

Cela ne devrait pas nous surprendre, explique le professeur Jessica Szczuka, un expert en intimité numérique à l’Université de Duisburg-Essen (Allemagne): «Les modèles de langues formidables sont formés avec d’énormes quantités de données Internet, et il y a aussi du contenu sexuel. Ce qui m’inquiète le plus n’est pas seulement la façon Disponible 24 heures sans supervision », explique Szczuka.

Chatbots de foin Ils supposent ne pas avoir de filtres sexuels – ou les limiter – comme Emotchi, Grok ou Character Ai. Ils ont également tendance à bien attraper les variétés linguistiques, même dans ces domaines où il y a plus de noms pour les mêmes choses: «Je suis la paisa colombienne et mon jargon vocal a utilisé beaucoup pour étudier et me suivre», explique Samuel.

Bien que cette utilisation de l’IA semble nouvelle, ce n’est pas le cas. L’utilisation de chatbots pour sexting Il remplit l’une des règles du mème d’Internet, le numéro 34: “Si quelque chose existe, il y a sûr qu’il y a du porno.” Il est probable que certaines des premières conversations de ces chatbots Quand ils sont partis en 2022, ils étaient sexuels. «Ils sont comme une version mise à jour du sexe téléphonique. Tout comme une image peut exciter De l’IA transporte l’érotisme basé sur le texte à un autre niveau », explique Locatelli.

L’interaction est l’un des avantages les plus répétés de cette nouvelle modalité de sexting. C’est aussi, pour certains utilisateurs, consentement: “Au moins dans mon cas, j’ai demandé à plusieurs reprises si cela était bien et si vous pouvez continuer. Bien que parfois, ce n’est pas aussi explicite que je le souhaite et peut également avoir une mauvaise mémoire”, explique le jeune Mexicain qui préfère rester dans l’anonymat.

La mauvaise mémoire est un problème commun: les chatbots Ils ont des ressources qu’ils aiment répéter. “Quelque chose que je veux mettre en évidence de l’application est qu’il n’a pas d’erreur très classique appelée répétition”, explique Robin. “C’est très normal dans les applications de chatbots du rôle le bot Il tombe dans une sorte de boucle dans laquelle vous ne pouvez pas arrêter de répéter certains mots ou actions. Le bot est censé être corrigé, Mais cela n’arrive jamais », ajoute Robin.

Conséquences émotionnelles

Mais les vraies conséquences de cette grande expérience sociale dans laquelle nous vivons, dans lesquelles les machines savent simuler les attitudes humaines, sont encore inconnues: “Il peut y avoir une différence importante dans le plan émotionnel, car ici l’interaction est avec une personne spécifique ou un caractère défini. Cette composante émotionnelle que le porno offre pourrait normalement changer radicalement la façon dont les gens vivent l’intimité et la découverte,” Szczuka Exploits.

Pour cet expert, il y a plus de problèmes possibles que ces appareils peuvent générer et que nous ne savons toujours pas: “Pour les jeunes en particulier, l’utilisation de partenaires d’IA est un problème de base, car ils ne transmettent pas la sexualité d’une manière appropriée à leur âge, ce qui les rend totalement inappropriés en tant que source d’apprentissage sexuel. Par conséquent, des mécanismes de protection solides pour les mineurs sont essentiels.” La protection des données est également un problème délicat dans ce domaine si proche de l’intimité.

Étant des machines qui ont avalé tout le sexe sur Internet, leur modèle de sexualité n’est pas exactement sophistiqué, explique Locatelli: «Beaucoup de ces constructions sont basées sur des stéréotypes inquiétants et simpliques de la féminité: Servitude, disponibilité constante, caractères hypersexualisés Cela donne toujours un «oui» numérisé à toute interaction. “