2024-04-12 11:03:46
Bangalore, Inde – Début mars, une image réaliste générée par l’IA du Premier ministre indien Narendra Modi, baptisé Bhishma Pitamah de l’ancienne épopée hindoue Mahabharata, a été promue en tant que publicité politique sur Instagram.
Avec de longs cheveux gris ondulés, une marque en forme de soleil sur le front et un gilet pare-balles, l’image représente ce que les fans de Modi considèrent comme son rôle dans le monde d’aujourd’hui : une réincarnation du commandant suprême Bhishma qui a lutté contre les menaces étrangères.
Ce Image Instagramcréé par le site de droite Hokage Modi Sama et publié pour la première fois en 2023, a été présenté comme une publicité politique pendant deux jours en mars, recueillant plus de 35 000 impressions.
Un examen par Al Jazeera des données de la Meta Ad Library sur les publicités politiques en Inde au cours des trois derniers mois a révélé qu’entre le 27 février et le 21 mars, Hokage Modi Sama a fait la promotion de près de 50 images de Modi générées par l’IA, ce qui en fait le principal annonceur de Images Modi générées par l’IA sur Instagram.
La Meta Ad Library est une archive publique qui héberge une collection de publicités politiques diffusées sur ses plateformes, notamment Instagram et Facebook.
Le thème commun à toutes les images partagées par la poignée était la valorisation de Modi en tant que leader hindou. Les images populaires d’IA renforcées par des publications sponsorisées sur Hokage Modi Sama présentent Modi comme une réincarnation de Bhishmaun costume fils de Dieu, embrasser l’héritage hindou et le Roi de l’hindou Rashtra s’est installé sur son trône, récoltant des millions de likes et de vues. (L’Hindu Rashtra est l’idéologie controversée d’un régime indien à majorité hindoue, qui s’éloigne de son principe fondateur laïc.)
« À travers ces images, la tentative semble être de conférer à Modi à la fois une qualité de sage et de guerrier, qui créent toutes deux l’aura d’un leader politique infatigable, invincible, irréprochable et donc digne de notre loyauté incontestée. “, a déclaré à Al Jazeera Amogh Dar Sharma, maître de conférences à l’Université d’Oxford qui étudie les communications politiques.
Mais les publications de l’annonceur en ligne le plus prolifique des images d’IA de Modi montrent également les difficultés liées à l’application des règles liées à l’IA sur les réseaux sociaux, dans un contexte de craintes que les images manipulées soient exploitées à des fins de propagande parmi les électeurs qui ne comprennent peut-être pas pleinement l’ampleur de l’altération des photos et des photos. des mèmes auraient pu passer.
Meta est consciente d’une telle utilisation et avant une année électorale cruciale de 2024, elle a annoncé qu’à partir de Janvierles publicités politiques sur Instagram et Facebook créées à l’aide de l’intelligence artificielle (IA) devront en divulguer l’utilisation sous peine d’être interdites.
Au cours des 30 jours précédant le 29 mars, Hokage Modi Sama a dépensé 537 799 roupies indiennes (6 500 dollars) pour promouvoir 363 éléments de contenu politique, notamment des images et des vidéos sur sa page Instagram, selon Données de la bibliothèque de méta-annonces. Notre analyse montre que près de 14 % de toutes les publicités sponsorisées, soit 50 images, ont été générées par l’IA.
Toutes les publicités Hokage Modi Sama AI étaient des publications sponsorisées sur Instagram et la divulgation de l’utilisation de l’IA se faisait via des hashtags tels que #aiartwork, #midjourneyart, #midjourneyai et autres. Midjourney, auquel les hashtags semblent faire référence, est un programme d’intelligence artificielle générative populaire..
Mais Meta a déclaré à Al Jazeera que les hashtags ne constituent pas une divulgation acceptable pour une publicité créée ou modifiée numériquement. Dans les cas où les annonceurs doivent divulguer que leur contenu a été créé ou modifié numériquement, Meta ajoutera une étiquette indiquant « Créé numériquement » à côté de la clause de non-responsabilité « Payé par », y compris dans la bibliothèque publicitaire. De telles étiquettes ne sont actuellement pas présentes sur les publicités Hokage Modi Sama AI.
Meta n’a pas répondu à la question spécifique d’Al Jazeera de savoir si les publicités d’images photoréalistes de Modi violaient sa politique consistant à représenter une personne réelle faisant quelque chose qu’elle n’a pas fait, ou à décrire un événement réaliste qui ne s’est pas produit.
Au lieu de cela, Meta a pointé le journaliste d’Al Jazeera vers un article de blog de mars 2024 sur les exigences de divulgation de l’IA pour les annonceurs et sur la manière dont l’entreprise se prépare aux élections indiennes.
Prateek Waghre, directeur exécutif de l’Internet Freedom Foundation (IFF), basée en Inde, a déclaré à Al Jazeera que puisque ces publicités particulières sont étiquetées #aiart, il est nécessaire que les créateurs de contenu reconnaissent la tentative de renforcer les images de l’IA sous une forme ou une autre. de divulgation pour se conformer aux politiques récemment mises à jour de Meta exigeant la divulgation de l’IA.
L’IA utilisée pour promouvoir des « récits stratégiques »
Les campagnes électorales indiennes ont été le vecteur d’une lente diffusion d’images et de vidéos générées par l’IA, notamment par le biais de résurrections de dirigeants politiques décédés par l’IA et de leur utilisation comme illustration de campagne dans les comptes officiels des partis, comme l’a rapporté Al Jazeera plus tôt. Malgré la menace de désinformation électorale générée par l’IA, les deepfakes ne sont pas exclusivement utilisés pour tromper les électeurs. Au lieu de cela, l’IA générative est récupérée pour construire un récit.
“Bien que la désinformation soit sans aucun doute un problème sérieux qui requiert notre attention, elle détourne également l’attention des manières plus subliminales par lesquelles le contenu généré par l’IA peut contribuer à promouvoir les récits stratégiques des partis politiques”, a déclaré Sharma de l’Université d’Oxford à Al Jazeera, après avoir examiné l’IA. publicités illustrées.
« Ce n’est pas simplement que l’IA « trompe » les électeurs en leur faisant croire à quelque chose qui est manifestement faux ; l’IA permet plutôt de produire des contenus plus créatifs et pouvant s’appuyer sur des références culturelles plus innovantes – cela produit une propagande politique plus divertissante et donc plus partageable, ce qui permet une large diffusion », a-t-il ajouté.
Par exemple, l’image d’IA la plus populaire publiée par la page Hokage Modi Sama est la «Notre super-héros Safran». Il montre Modi portant un pyjama kurta safran, avec une cape fluide marchant sous le drapeau « Om », un symbole spirituel hindou. L’image d’IA compte près de deux millions de « j’aime » avec des commentaires tels que « Qui veut que l’Inde soit une nation hindoue ? » dans la section commentaires sur Instagram. La plupart des images présentent le Premier ministre indien comme un « sauveur », «Gardien vêtu de safran de l’avenir de l’Inde», «symbole de la renaissance hindoue” et plus.
Sharma a souligné que même si mythifier les dirigeants politiques ou les présenter dans des épopées hindoues n’est pas nouveau, l’IA permet de l’exécuter avec plus de finesse.
« Ces images de Narendra Modi générées par l’IA semblent être la dernière itération d’une stratégie de longue date du BJP visant à créer un culte sur le sujet. [Modi] en tant que leader sage et sagace », a déclaré Sharma.
Bien que les pages Instagram et Facebook de Hokage Modi Sama ne contiennent pas de clauses de non-responsabilité explicites sur une affiliation directe au Bharatiya Janata Party (BJP) de Modi, la page a un historique de publication de contenu pro-Hindutva et pro-BJP. Auparavant, la page avait gagné du terrain après avoir partagé un image du propriétaire de la plateforme de médias sociaux X, Elon Musk, en tant que moine hindou, avec la légende « Notre camarade Bhakt Elon », désignant Musk comme un nationaliste hindou.
Plusieurs tentatives pour contacter l’administrateur de Hokage Modi Sama ont échoué. Dans l’anime Naruto, « Hokage » est un titre prestigieux accordé à un chef de village, tandis que Sama est une façon respectueuse de dire « monsieur » en japonais, de sorte que la page signifie à peu près « Leader Modi Monsieur ». Le compte Instagram, qui compte 130 000 abonnés, vend désormais des produits tels que des T-shirts, des tasses à café et des agendas basés sur l’image de l’IA du super-héros safran.
À l’échelle mondiale, les images de l’IA ont été utilisées dans des campagnes politiques. En mars, les partisans de la campagne du candidat à la présidentielle américaine Donald Trump ont utilisé de fausses images d’IA le montrant posant avec des électeurs noirs à des fins de « sensibilisation stratégique » auprès de la communauté noire. En Argentine, deux candidats à la présidentielle ont utilisé des images générées par l’IA pour accroître leur popularité et attaquer leurs opposants. Et en Indonésie, le président élu Prabowo Subianto, dictateur militaire autrefois redouté, a utilisé les images de l’IA pour se faire passer pour un « grand-père câlin » pendant sa campagne électorale.
En Inde, à l’approche des élections dans l’État de Telangana en décembre 2023, l’agence de vérification des faits BOOM Live a rapporté que des images d’IA présentaient faussement le leader politique régional K Chandrashekar Rao lors du lancement d’un programme de repas gratuits pour les étudiants, auquel il n’a jamais assisté. .
Un examen par Al Jazeera de la Meta Ad Library de décembre 2023 a révélé que la page Mana Telangana partageait plusieurs fausses images d’IA sur Instagram et Facebook du chef de l’opposition indienne Rahul Gandhi du Parti du Congrès posant avec enfants et les agriculteurs. Les agriculteurs constituent un bloc électoral influent en Inde et ont fréquemment protesté contre les lois agricoles favorables au marché de Modi.
Il existe plusieurs fausses images d’IA sur Instagram et Facebook du chef de l’opposition indienne Rahul Gandhi du Parti du Congrès. [File: Altaf Hussain/Reuters]
La fausse image de Gandhi auprès des agriculteurs était accompagnée de la légende : « Rahul Gandhi sympathise avec les agriculteurs, promettant un soutien inébranlable et un engagement à répondre individuellement à leurs préoccupations. » La publication sponsorisée contenait les hashtags #aigenerated et #aiimages, indiquant qu’ils étaient générés par l’IA, et avait environ 7 000 impressions.
Ouest contre Sud global
Il existe également une disparité dans la manière dont les plateformes occidentales et du Sud abordent la tendance des images d’IA à l’approche des élections.
Par exemple, pour atténuer les abus potentiels des images d’IA avant les élections présidentielles américaines de novembre, le populaire générateur d’images d’IA Midjourney a interdit la création de fausses images du président Joe Biden et de Donald Trump en mars.
Mais aucune mesure de ce type n’a été prise en Inde, ce qui suscite « des inquiétudes quant à l’application équitable des politiques par les plateformes technologiques dans différentes régions », a déclaré à Al Jazeera Baybars Orsek, directeur général de Logically Facts. Logically Facts fait partie du programme tiers de vérification des faits de Meta et de l’alliance de lutte contre la désinformation en Inde.
Les tentatives d’Al Jazeera pour générer des images d’IA à mi-parcours de Modi et Gandhi se serrant la main ont été couronnées de succès, tandis que l’invite à générer une image de Modi et Trump se serrant la main a abouti à une notification « Invite interdite détectée ».
« Cette décision met en lumière les disparités dans la manière dont ces politiques de modération sont appliquées à l’échelle mondiale, en particulier dans le contexte des pays du Sud, y compris dans des pays comme l’Inde, qui se dirige vers les élections les plus importantes de l’année », a déclaré Orsek.
Al Jazeera a envoyé un e-mail à Midjourney au sujet de la disparité de modération et n’a pas encore reçu de réponse.
Cela ressemble à la façon dont les politiques des entreprises de médias sociaux telles que Facebook ou Twitter pour assurer la sécurité de leurs plateformes sont orientées vers l’Occident et négligent souvent les perspectives du Sud, a ajouté Waghre de l’IFF.
#Avant #les #élections #Inde #Instagram #renforce #les #images #Modi #qui #violent #les #règles #Élection #Inde2024
1712935711
