Jakarta (ANTARA) – Microsoft a bloqué un certain nombre de mots-clés de commande (rapide) dans l’application d’intelligence artificielle (IA) Copilot qui produit des images contenant des éléments violents, sexuels et autres éléments interdits.
Cette politique a été mise en œuvre après qu’un employé de Microsoft, Shane Jones, ait écrit à la Federal Trade Commission (FTC) pour lui faire part de plusieurs plaintes concernant la technologie d’intelligence artificielle générative de Microsoft.
“Nous continuons à surveiller, ajuster et créer des contrôles supplémentaires pour renforcer davantage nos filtres de sécurité et réduire les abus du système”, a déclaré Microsoft cité par Engadget samedi.
A lire aussi : Le bouton Copilot est le plus gros changement apporté au clavier Windows depuis 30 ans
A lire aussi : Microsoft propose un abonnement AI Copilot d’une valeur de 311 000 IDR
Lorsqu’un utilisateur tape une commande contenant le mot-clé “choix professionnel“, “quatre vingt“, ou “anti-avortement“, Copilot affichera un message indiquant que la commande a été bloquée. Copilot suspendra également les comptes des utilisateurs qui commettent des violations répétées de la politique.
Les utilisateurs qui demandent à générer des images d’enfants tenant des armes à feu ou d’autres images contenant des éléments similaires reçoivent également des avertissements indiquant que ces mots clés violent les politiques de Microsoft et les principes éthiques de Copilot.
Auparavant, Shane Jones avait prévenu Microsoft des images interdites qui pourraient être produites par Copilot.
En testant Copilot Designer depuis décembre dernier, il a découvert que l’application d’intelligence artificielle pouvait créer des images contenant des éléments interdits.
Par exemple, il a trouvé une commande avec le mot-clé “choix professionnel” peut conduire Copilot à produire des images montrant du contenu violent aux enfants.
Shane a écrit cette semaine à la FTC et au conseil d’administration de Microsoft à ce sujet.
A lire aussi : L’application IA de Microsoft « Copilot » est désormais disponible sur iOS
A lire également : Microsoft Copilot est disponible sous forme d’application de type ChatGPT sur Android
2024-03-09 15:05:30
1709992001
#Microsoft #bloque #commande #pour #générer #des #images #interdites #dans #Copilot
