ChatGPT se trompe : l’importance de la vérification à l’ère de l’IA
URGENT – Une anecdote personnelle révèle une faille troublante dans la fiabilité des intelligences artificielles comme ChatGPT. L’auteure Kathrin Passig a découvert que ChatGPT attribuait à tort des vers de poésie à une source incorrecte, les identifiant initialement comme provenant de Joachim Ringelnatz alors qu’ils étaient en réalité issus d’une chanson pour enfants de Fredl fesl.
Cette erreur, bien que mineure en apparence, a soulevé des inquiétudes quant à la confiance aveugle accordée à ces technologies. Passig souligne que si même des personnes travaillant dans le domaine de la connaissance et d’Internet acceptent les réponses de ChatGPT sans vérification, cela pourrait avoir des conséquences importantes.
L’incident a conduit Passig à une réflexion plus large sur les “hallucinations” de ChatGPT – sa tendance à inventer des informations – et sur la possibilité de corriger ce problème. Initialement sceptique, elle a constaté une amélioration notable avec les versions plus récentes de l’IA, notamment avec l’arrivée de GPT-5.
En octobre, ChatGPT a finalement reconnu l’origine correcte des vers, attribuant la citation à la chanson pour enfants “Un cheval à quatre pattes” de Fredl Fesl et Margit Sarholz. Bien que la source exacte du texte complet reste à confirmer, l’amélioration est indéniable.
L’ère de la désinformation et la nécessité de l’esprit critique
Cet épisode met en lumière un défi majeur de notre époque : la prolifération de la désinformation, amplifiée par la puissance de l’intelligence artificielle. Si les IA peuvent être des outils précieux pour accéder à l’facts, elles ne sont pas infaillibles.
Il est crucial de conserver un esprit critique et de vérifier les informations obtenues auprès de ces sources, même si elles semblent crédibles. La capacité à distinguer le vrai du faux est devenue une compétence essentielle dans un monde de plus en plus numérique.
L’histoire de Kathrin Passig est un rappel que la technologie, aussi avancée soit-elle, ne remplace pas la recherche, la pensée critique et la prudence. Elle souligne également l’importance de rester vigilant face aux progrès de l’IA et de comprendre ses limites.
