Le procureur général Campbell exhorte le Congrès à étudier l’IA et ses effets néfastes sur les enfants

BOSTON — Dans le cadre d’une coalition bipartite de 54 procureurs généraux, la procureure générale du Massachusetts, Andrea Joy Campbell, a aujourd’hui envoyé une lettre au Congrès pour demander une étude sur la manière dont l’intelligence artificielle (IA) peut et est utilisée pour exploiter et mettre en danger les enfants en générant du matériel pédopornographique. La coalition exhorte également le Congrès à proposer une législation qui protégerait les enfants de ces abus.

« Les changements rapides dans le domaine de l’IA peuvent apporter des bénéfices incroyables, mais posent également des risques sociétaux, en particulier pour nos enfants. » » a déclaré AG Campbell. « Je suis fier de rejoindre cette coalition bipartite appelant le Congrès à protéger les jeunes les plus susceptibles d’être victimes de préjudices et d’exploitation grâce au contenu généré par l’IA. Mon bureau continuera de protéger et de défendre le bien-être des enfants à travers le Commonwealth et le pays.

Comme indiqué dans la lettre, l’IA est déjà utilisée par de mauvais acteurs pour créer facilement du matériel pédopornographique d’une manière qui n’était pas possible auparavant et qui peut rendre les poursuites plus difficiles. Par exemple, les mauvais acteurs peuvent utiliser l’IA pour modifier numériquement l’image d’un véritable enfant (qui n’a pas été agressé sexuellement ou physiquement) afin de donner l’impression qu’ils sont victimes d’abus. De même, il peut être utilisé pour combiner des photographies d’enfants maltraités et non maltraités pour animer de nouvelles images sexualisées réalistes d’enfants qui n’existent pas. “Les outils d’IA peuvent créer rapidement et facilement des ‘deepfakes’ en étudiant de vraies photographies d’enfants maltraités pour générer de nouvelles images montrant ces enfants dans des positions sexuelles”, écrivent les procureurs généraux. “Il s’agit de superposer le visage d’une personne sur le corps d’une autre.” De telles pratiques mettent en danger les enfants et leurs familles, normalisent la maltraitance des enfants et alimentent le marché du matériel pédopornographique.

Le procureur général Campbell et la coalition exhortent le Congrès à former une commission chargée d’étudier spécifiquement comment l’IA peut être utilisée pour exploiter les enfants et à « agir pour dissuader et lutter contre l’exploitation des enfants, par exemple en élargissant les restrictions existantes sur les matériels d’abus sexuels sur des enfants pour couvrir explicitement l’IA. généré du matériel d’abus sexuel sur des enfants. La lettre poursuit : « Nous sommes engagés dans une course contre la montre pour protéger les enfants de notre pays des dangers de l’IA. En effet, les célèbres murs de la ville ont déjà été brisés. Il est maintenant temps d’agir.

La sécurité et le bien-être des jeunes sont une priorité pour AG Campbell, qui a continué de s’attaquer aux problèmes liés à la santé mentale des jeunes, au travail des enfants, aux méfaits des médias sociaux, à la haine dans les sports scolaires, aux inégalités en matière d’éducation et au vapotage des jeunes. Le bureau d’AG Campbell comprend une unité de justice pour enfants qui s’occupe de litiges et de travaux politiques dans ces domaines afin de faire progresser la justice et l’équité pour les jeunes du Massachusetts.

La lettre d’aujourd’hui est dirigée par le bureau du procureur général de Caroline du Sud et co-parrainée dans le cadre d’un effort bipartisan par les procureurs généraux du Mississippi, de la Caroline du Nord et de l’Oregon. Ils sont également rejoints par l’Alabama, l’Alaska, l’Arizona, l’Arkansas, la Californie, le Colorado, le Connecticut, le Delaware, le District de Columbia, la Floride, la Géorgie, Hawaï, l’Idaho, l’Illinois, l’Indiana, l’Iowa, le Kansas, le Kentucky, la Louisiane, le Maine, le Massachusetts et le Maryland. , Michigan, Minnesota, Missouri, Montana, Nebraska, Nevada, New Hampshire, New Jersey, Nouveau-Mexique, New York, Dakota du Nord, Îles Mariannes du Nord, Ohio, Oklahoma, Pennsylvanie, Porto Rico, Rhode Island, Dakota du Sud, Tennessee, Texas , Utah, Vermont, Îles Vierges, Virginie, Washington, Virginie occidentale, Wisconsin et Wyoming.

###