L’IA sème le doute : Sam Altman soupçonne une prolifération de bots pro-OpenAI sur les réseaux sociaux
San Francisco, Californie – Sam Altman, PDG d’OpenAI, a exprimé publiquement ses doutes quant à l’authenticité de l’engouement en ligne pour ses produits, notamment Codex, son service de programmation logicielle. L’alerte a été déclenchée par une observation frappante sur le subreddit r/Claudecode,où un flux constant d’utilisateurs annonçait un abandon massif de Claude d’Anthropic au profit de Codex.
“J’ai eu l’expérience la plus étrange en lisant ceci : je suppose que tout est faux / robots”, a déclaré Altman sur X (anciennement twitter), tout en reconnaissant la croissance réelle de Codex. Il suggère que plusieurs facteurs sont à l’œuvre : l’adoption par des utilisateurs réels de schémas de langage typiques des LLM (Large Language Models), une convergence des opinions en ligne, et potentiellement, une campagne coordonnée de bots.Altman pointe également du doigt les incitations économiques des plateformes sociales, où l’engagement génère des revenus, favorisant ainsi la diffusion de contenus, authentiques ou non. Il révèle également qu’OpenAI a elle-même été victime de “astroturfing” – une pratique consistant à créer une fausse impression de soutien populaire, souvent par le biais de comptes payés ou de robots.
Cette situation soulève une question cruciale : l’amélioration spectaculaire des LLM, capables de générer des textes de plus en plus convaincants, a-t-elle rendu la distinction entre l’humain et la machine plus floue, et a-t-elle exacerbé le problème des bots sur les réseaux sociaux ?
Un phénomène qui dépasse les réseaux sociaux
Ce constat n’est pas limité aux plateformes sociales. La capacité des LLM à produire des contenus de qualité a des implications bien plus larges, touchant des domaines aussi variés que l’éducation, le journalisme et même le système judiciaire.la prolifération de textes générés par l’IA pose des défis majeurs en termes de vérification des faits, d’intégrité de l’facts et de confiance dans les sources.
L’évolution de la guerre de l’information
L’utilisation de bots et de techniques de manipulation en ligne n’est pas nouvelle. Cependant, l’avènement de l’IA a introduit une nouvelle dimension à cette “guerre de l’information”. Les LLM permettent de créer des campagnes de désinformation plus sophistiquées et plus difficiles à détecter, rendant la lutte contre la manipulation en ligne plus ardue que jamais.
Vers une nouvelle ère de scepticisme ?
Les révélations de Sam Altman pourraient marquer le début d’une nouvelle ère de scepticisme envers les contenus en ligne. Les utilisateurs pourraient devenir plus méfiants face aux informations qu’ils rencontrent,et les plateformes sociales pourraient être contraintes de renforcer leurs mécanismes de détection et de lutte contre les bots. L’avenir de l’information en ligne dépendra de notre capacité à distinguer le vrai du faux dans un monde de plus en plus dominé par l’intelligence artificielle.
Sur le même sujet