Combattre les fausses images générées par l’IA avec les bibliothèques JavaScript, par Kate Sills à QCon San Francisco

Lors de la récente conférence QCon San Francisco, Kate Sills a donné une conférence sur la lutte contre les fausses images générées par l’IA à l’aide des bibliothèques JavaScript existantes. Elle a préconisé l’utilisation d’un horodatage cryptographique pour garantir l’heure à laquelle les photos ont été prises et l’utilisation de signatures numériques pour vérifier que l’image a été réalisée par une source légitime. Elle a souligné que pour faire face au risque sociétal que représentent les images générées par l’IA, nous devons relever la barre de ce que nous attendons des images réelles et que nous, en tant qu’ingénieurs logiciels, devons construire des systèmes qui nous permettent de respecter cette barre haute.

La menace des images générées par l’IA

Le domaine des images générées par l’IA s’est considérablement amélioré au cours des dernières années. Ces outils sont devenus si précis qu’ils peuvent créer des images réalistes, ce qui rend difficile la distinction entre les images réelles et celles générées par l’IA. Malheureusement, cette capacité de l’IA à restituer des photos a conduit à un changement sociétal dans lequel nous ne pouvons plus compter sur les photos comme preuve solide de la vérité.

Cependant, Kate Sills suggère qu’il est possible de détecter des caractéristiques de l’IA dans les photos générées — c’est ce qu’elle appelle les « récits classiques ». Mais même cette approche n’échappe pas au problème du fait que l’IA continue de s’améliorer, ce qui signifie que ces indices finiront par disparaître. Cela aboutit à une course aux armements croissante entre la génération d’images et la technologie de détection.

Validation cryptographique de l’image

Outre l’examen de l’image réelle, les métadonnées contiennent également de nombreuses informations sur l’authenticité d’une image. On peut regarder l’horodatage, l’auteur, etc. Cependant, les métadonnées peuvent également être falsifiées, et il est possible de prendre les métadonnées d’une image valide et de les ajouter à une image générée par l’IA.

Sills dispose ainsi de deux solutions implémentables en Javascript : l’horodatage et la signature numérique. L’horodatage est un service qui horodatage une image soumise, fournissant la preuve que l’image existait avant un moment donné. Pour cela, Sills recommande d’utiliser le hachage cryptographique, qu’elle explique comme un résumé du contenu de l’image. Pour une implémentation efficace du hachage, elle suggère d’utiliser l’API de cryptographie Web et le package noble hashes.

Les signatures numériques sont utiles pour authentifier la source d’une image. La cryptographie à clé publique permet de signer une donnée de telle sorte que les données originales ne puissent pas être falsifiées. Dans ce cas, plusieurs éléments peuvent potentiellement être signés. Depuis l’heure et le lieu où la photo a été prise, jusqu’au contenu de la photo elle-même, de sorte qu’elle ne puisse pas être falsifiée. Il est même possible de coder l’existence de plusieurs images en publiant publiquement la racine d’un arbre dit de Merkle.

Construire des systèmes qui permettent aux images d’atteindre un niveau élevé

Enfin, Sills souligne la nécessité d’élever nos attentes à l’égard d’images réelles. Elle plaide pour une nouvelle norme selon laquelle toutes les images réelles doivent être horodatées, avoir des métadonnées crédibles et être étayées par des documents vérifiables, garantissant leur authenticité. Elle soutient que la seule mesure que nous pouvons prendre contre les fausses images générées est que nous, les développeurs, fournissions un moyen plus fiable et digne de confiance de traiter les images.