IA : Des avatars numériques au service de la propagande ?
Paris, le 26 octobre 2023 – L’essor fulgurant des avatars générés par intelligence artificielle, initialement salué pour ses applications dans le service client, la formation et la création de contenu, soulève désormais de sérieuses inquiétudes quant à leur détournement à des fins de propagande politique.
La société Synthesia, l’un des leaders du marché, voit sa technologie utilisée pour diffuser des messages biaisés dans des pays où la liberté d’expression est limitée. des enquêtes récentes ont révélé que des avatars créés par Synthesia ont été employés dans des campagnes de propagande au Venezuela, en Chine et, plus récemment, au Burkina Faso.
Au Burkina Faso, un avatar représentant un jeune homme en chemise bleue a été diffusé dans une vidéo appelant au soutien du président Ibrahim Traoré, avec le slogan alarmant “La patrie ou la mort !”. L’individu a ensuite été identifié comme un acteur londonien ayant travaillé comme mannequin pour Synthesia, soulignant la facilité avec laquelle ces avatars peuvent être utilisés pour manipuler l’opinion publique.
Synthesia se défend en affirmant interdire l’utilisation de sa technologie pour la diffusion de fausses nouvelles ou de contenus assimilables à de l’actualité. L’entreprise assure également investir massivement dans des outils de modération et une équipe dédiée à l’éthique et à la sécurité de l’IA,représentant 10% de ses effectifs.
Un risque croissant et une régulation nécessaire
Cet incident met en lumière une problématique plus large : la vulnérabilité des technologies d’IA face aux manipulations politiques. Les “deepfakes” et les avatars synthétiques,de plus en plus réalistes,peuvent être utilisés pour créer des récits fallacieux,influencer les élections et déstabiliser des sociétés.
L’utilisation de l’IA pour la propagande n’est pas un phénomène nouveau.Les régimes autoritaires ont toujours cherché à contrôler l’information et à manipuler l’opinion publique. Cependant, l’IA offre de nouveaux outils puissants pour atteindre ces objectifs, avec une rapidité et une discrétion accrues.
Alors que le marché des avatars IA continue de croître,il devient impératif de mettre en place des réglementations claires et efficaces pour prévenir les abus. Cela passe par une meilleure traçabilité des contenus générés par IA, des mécanismes de vérification de l’authenticité et une sensibilisation accrue du public aux risques de manipulation.
L’affaire Synthesia est un signal d’alarme. Elle rappelle que l’innovation technologique doit s’accompagner d’une réflexion éthique approfondie et d’une vigilance constante pour protéger les valeurs démocratiques. Le développement de l’IA ne doit pas se faire au détriment de la vérité et de la liberté d’expression.
