Snapchat a récemment fourni des informations plus intéressantes mises à jour sur la création de son chatbot appelé My AI.
L’entreprise produit un outil alimenté par l’IA qui utilise la technologie d’OpenAI. Par conséquent, cela amènerait les abonnés de Snapchat + à poser davantage de requêtes au bot sur l’application et à obtenir des réponses sur les choses qu’ils adorent.
Tout semble être un processus de navigation fluide, du moins, pour la plupart. Mais lorsque la technologie de l’IA est impliquée, vous savez qu’il y aura des sourcils levés et des questions posées.
Cela inclut la façon dont l’outil détient le grand potentiel d’être utilisé à mauvais escient et c’est pourquoi il est à l’affût d’inclure plus de garanties et de fournir une plus grande protection en cours de route.
Comme l’a rapporté Snapchat, tant de personnes qui ont examiné son produit My AI ont aidé à identifier les garde-corps en place et ceux qui doivent être améliorés. Pour fournir plus d’informations à ce sujet, ils ont mené une série d’examens concernant les questions fréquemment posées et la façon dont certaines réponses utilisent un langage non conforme.
Un langage non conforme est simplement ce texte qui utilise des références explicites à des choses comme l’abus, la violence, le contenu sexuel, la consommation de drogue et le racisme, entre autres controverses. Et dans le cadre de la politique de l’entreprise, ils ne sont pas autorisés sur la plateforme.
Lors de l’inscription pour utiliser le service, les utilisateurs de l’application doivent accepter les termes et conditions décrits. Par conséquent, toute question posée par un utilisateur devant le chatbot serait examinée par la propre équipe de l’application.
Jusqu’à présent, la société a révélé comment une petite proportion des réponses My AI ont été générées et relevaient de cette étiquette non conforme. Pourtant, il continue de faire plus de recherches à cet égard et de développer des travaux conçus pour offrir une meilleure protection de l’application afin que les utilisateurs puissent bénéficier d’une expérience de recherche sûre et efficace tout en restant protégés des aspects négatifs de cette épreuve My AI.
Snap dit qu’il s’agit d’un processus d’apprentissage et espère améliorer l’ensemble de l’expérience de l’IA pour les utilisateurs. De plus, les données aideraient également à mettre en place un nouveau système qui limite l’utilisation abusive de l’outil My AI.
Avec l’ajout de la technologie de modération qui découle des créateurs de ChatGPT, il se sent confiant dans l’évaluation de la nature extrême du contenu préjudiciable. Et lorsque les choses tournent mal ou non selon les critères définis pour une expérience sûre, l’accès des utilisateurs à l’application serait restreint si une utilisation abusive était identifiée.
Mais ce n’est pas tout. La société semble avoir pour mission d’améliorer les réponses aux demandes abusives générées par les utilisateurs de la plateforme. De même, il espère inclure des données sur l’historique des interactions de My AI vers Family Center Tracking.
Cela permettrait aux parents d’évaluer si leurs plus jeunes communiquent bien et si oui, à quelle fréquence sur le chatbot.
Lire ensuite : Snapchat déploie de nouvelles informations affichant la diversité du contenu à travers ses histoires
