Meta sous pression pour mieux détecter les fausses vidéos créées par IA durant les conflits
WASHINGTON – Meta est sous le feu des critiques pour ses méthodes de détection des "deepfakes", jugées insuffisantes face à la propagation rapide de la désinformation en période de conflit armé, comme la guerre en Iran. Le Conseil de surveillance de Meta, un organisme semi-indépendant chargé de guider les pratiques de modération de contenu de l’entreprise, appelle à une refonte de la manière dont le contenu généré par l’intelligence artificielle est identifié et étiqueté sur Facebook, Instagram et Threads.
L’appel à l’action fait suite à une enquête sur une fausse vidéo créée par IA, montrant des dégâts attribués à des bâtiments en Israël, qui avait été partagée sur les plateformes de Meta l’année dernière. Le Conseil souligne que ses recommandations sont d’autant plus pertinentes aujourd’hui, compte tenu des "escalades militaires massives" au Moyen-Orient. Il insiste sur l’importance d’un accès à une information précise et fiable pour la sécurité des populations, face au risque croissant d’utilisation d’outils d’IA pour diffuser de la désinformation.
Selon le Conseil de surveillance, le système actuel de Meta pour étiqueter le contenu IA repose trop sur l’auto-déclaration de l’utilisation de l’IA et sur des examens approfondis, ce qui ne correspond pas à la réalité de l’environnement en ligne actuel. L’enquête a également mis en évidence les difficultés liées à la prolifération de ce type de contenu sur différentes plateformes, la vidéo ayant initialement été diffusée sur TikTok avant d’apparaître sur Facebook, Instagram et X.
Le Conseil recommande à Meta d’améliorer ses règles existantes en matière de désinformation pour mieux cibler les deepfakes trompeurs, et d’établir une nouvelle norme communautaire spécifique au contenu généré par l’IA. L’entreprise est également invitée à développer de meilleurs outils de détection de l’IA, à être transparente sur les sanctions en cas de violation des règles relatives à l’IA, et à intensifier ses efforts d’étiquetage du contenu IA. Cela inclut l’ajout plus fréquent d’étiquettes "IA à haut risque" aux images et vidéos synthétiques, et l’amélioration de l’adoption de C2PA (Content Credentials), afin de rendre les informations sur le contenu généré par l’IA "clairement visibles et accessibles aux utilisateurs".
