Le problème avec les faux détecteurs AI

Il y a ce rebondissement surprenant dans le débat sur les images falsifiées par l’IA : les détecteurs d’IA censés détecter les fausses images deviennent à leur tour un moyen de désinformation. Le nouveau site d’information technologique américain (d’ailleurs très intéressant) 404 attire l’attention sur une affaire qui a fait le tour après les massacres du Hamas en Israël : la prétendue image inquiétante d’un bébé brûlé par le Hamas a été considérée comme un faux. Beaucoup de gens le croyaient également – après tout, le site de détection “AI or Not” avait classé l’image comme un produit d’IA.

Le problème est que les détecteurs ne fonctionnent pas vraiment bien.

Internet regorge de ce genre d’outils, et nous n’avons aucune idée de leur fonctionnement exact ni de leur précision. On ne sait pas non plus ce que nous sommes censés retenir d’un système automatisé qui crache un chiffre suggérant qu’une image est fondamentalement aussi susceptible d’être une IA qu’elle ne l’est pas. Lorsqu’un système de boîte noire dont la précision est au mieux de 90 % suggère qu’une image a 52 % de chances d’être artificielle ou 52 % de chances d’être réelle, n’importe qui peut utiliser cet outil pour faire valoir n’importe quel argument.

Les experts ne trouvent aucune preuve que l’image ait été manipulée. La rumeur, propagée à l’origine par un seul grand compte X, s’est propagée dans l’atmosphère imprégnée de propagande des médias sociaux sur Internet et donc dans le monde.

L’idée est importante pour les discussions futures sur la désinformation automatisée : ce n’est pas seulement une image elle-même qui peut être manipulée. Son discrédit par un détecteur peut également être utilisé de manière manipulatrice pour qualifier l’autre partie de menteur. L’existence de l’IA n’est donc peut-être pas du tout le problème. Mais la conviction que toutes les manipulations imaginables sont possibles grâce à la technologie.