L’essor de l’IA générative, un terrain fertile pour les arnaques, alerte la FTC américaine
WASHINGTON (AP) – L’intelligence artificielle générative, incarnée par des outils comme ChatGPT, pourrait bien amplifier de manière exponentielle les fraudes et les escroqueries en ligne, a mis en garde mardi la Commission fédérale du commerce (FTC) américaine. Loin de se laisser déborder par cette nouvelle technologie, l’agence gouvernementale affirme disposer déjà des outils juridiques nécessaires pour sanctionner les abus.
Lina Khan, présidente de la FTC, a souligné devant les législateurs de la Chambre des représentants son inquiétude face à ce qu’elle qualifie de “turbocharge de la fraude et des escroqueries” rendue possible par ces outils. Ces derniers mois, l’IA a fait des bonds de géant, capable de générer des textes, des images, des audios et des vidéos d’un réalisme troublant. Si ces avancées ouvrent des perspectives créatives et professionnelles inédites, elles offrent également un terrain de jeu idéal aux fraudeurs, qui peuvent désormais usurper l’identité de personnes avec une facilité déconcertante.
Un exemple frappant de cette menace a été mis en lumière par CNN en mars dernier, avec une démonstration glaçante d’une fausse conversation téléphonique créée à l’aide d’une intelligence artificielle imitant la voix d’une mère. Voir la vidéo ici.
La FTC ne compte pas attendre que des règles spécifiques à l’IA soient adoptées pour agir. Les commissaires de l’agence insistent sur le fait que les lois existantes, notamment celles relatives aux pratiques commerciales déloyales et trompeuses, s’appliquent pleinement à l’IA. “Tout au long de l’histoire de la FTC, nous avons dû adapter notre application de la loi à l’évolution de la technologie”, a déclaré Rebecca Slaughter, commissaire de la FTC. “Notre obligation est de faire ce que nous avons toujours fait : appliquer les outils dont nous disposons à ces technologies changeantes, et de ne pas nous laisser intimider par l’idée qu’il s’agit d’une technologie nouvelle et révolutionnaire.”
Alvaro Bedoya, un autre commissaire, a précisé que les entreprises ne pourront pas se dédouaner de leurs responsabilités en invoquant l’opacité de leurs algorithmes. “Notre personnel a constamment affirmé que notre autorité en matière de pratiques déloyales et trompeuses s’applique, ainsi que nos lois sur les droits civiques, le crédit et l’égalité des chances”, a-t-il déclaré.
La FTC a déjà publié des guides détaillés à l’intention des entreprises d’IA et a récemment demandé à OpenAI, la société à l’origine de ChatGPT, de rendre des comptes sur les allégations de désinformation concernant les capacités et les limites de son outil.
L’enjeu est de taille. Selon un rapport de l’agence américaine de protection des consommateurs, les pertes financières liées aux fraudes en ligne ont atteint un niveau record de 8,8 milliards de dollars en 2022, soit une augmentation de plus de 50% par rapport à l’année précédente. L’essor de l’IA pourrait bien aggraver cette tendance, rendant la vigilance des consommateurs et l’action des autorités plus cruciales que jamais.
La FTC semble déterminée à relever ce défi, en affirmant clairement que l’innovation technologique ne doit pas se faire au détriment de la protection des consommateurs. L’avenir nous dira si cette approche proactive suffira à endiguer la vague de fraudes potentielles que l’IA générative pourrait déchaîner.