sécurité d’IA

Lundi, anthropique annoncé une approbation officielle de SB 53un projet de loi de Californie du sénateur de l’État Scott Wiener qui imposerait des exigences de transparence en première parole sur les plus grands développeurs de modèles d’IA du monde. L’approbation d’Anthropic marque une victoire rare et majeure pour SB 53, à un moment où de grands groupes technologiques comme CTA et Chambre de progrès font du lobbying contre le projet de loi.

«Bien que nous pensons que la sécurité de l’IA frontalière est mieux adressée au niveau fédéral au lieu d’un patchwork de réglementations de l’État, de puissantes progrès de l’IA n’attendront pas un consensus à Washington.» dit anthropic dans un article de blog. “La question n’est pas de savoir si nous avons besoin de la gouvernance de l’IA – il est de savoir si nous le développerons de façon réfléchie aujourd’hui ou de réactiver demain. SB 53 offre un chemin solide vers le premier.”

S’il est passé, SB 53 Il faudrait que les développeurs de modèles d’IA Frontier comme OpenAI, Anthropic, Google et XAI développent des cadres de sécurité, publient des rapports de sécurité publique et de sécurité avant de déployer des modèles d’IA puissants. Le projet de loi établirait également des protections de dénonciation auprès des employés qui présentent des problèmes de sécurité.

Le projet de loi se concentre spécifiquement sur la limitation des modèles d’IA de contribuer à des «risques catastrophiques», que le projet de loi définit comme le décès d’au moins 50 personnes ou plus d’un milliard de dollars de dommages et intérêts. Le SB 53 se concentre sur le côté extrême du risque d’IA – limiter les modèles d’IA d’être utilisés pour fournir une assistance de niveau expert dans la création d’armes biologiques, ou être utilisé dans les cyberattaques – plutôt que des préoccupations plus à court terme comme les profondeurs de l’IA ou la sycophancie.

Le Sénat de la Californie a approuvé une version antérieure de SB 53, mais doit encore organiser un vote final sur le projet de loi avant de pouvoir passer au bureau du gouverneur. Jusqu’à présent, le gouverneur Gavin Newsom est resté silencieux sur le projet de loi, bien qu’il ait opposé son veto au dernier projet de loi sur l’IA du sénateur Weiner, SB 1047, qui comprenait bon nombre des mêmes mesures.

Les projets de loi régulant les développeurs de modèles d’IA de la frontière ont été confrontés recul significatif De la Silicon Valley et de l’administration Trump, qui soutiennent tous deux que de tels efforts pourraient limiter l’innovation américaine dans la course contre la Chine. Des investisseurs comme Andreessen Horowitz et Y Combinator ont mené une partie du recul contre SB 1047et ces derniers mois, l’administration Trump a à plusieurs reprises menacé pour empêcher les États de passer complètement la réglementation de l’IA.

L’un des arguments les plus courants contre les factures de sécurité de l’IA est que les États devraient laisser la question aux gouvernements fédéraux. Le chef de la politique de l’IA d’Andreessen Horowitz, Matt Perault, et le directeur juridique, Jai Ramaswamy, ont publié un article de blog La semaine dernière, faisant valoir que bon nombre des projets de loi d’IA d’État d’aujourd’hui risquent de violer la clause du commerce de la Constitution – ce qui empêche les gouvernements des États d’adopter des lois qui dépassent leurs frontières et altèrent le commerce interétatique.

Cependant, le co-fondateur anthropique Jack Clark soutient dans un Publier sur x que l’industrie de la technologie construira de puissants systèmes d’IA dans les années à venir et que le gouvernement fédéral agit que le gouvernement fédéral agit.

“Nous avons longtemps dit que nous préférerions une norme fédérale”, a déclaré Clark. “Mais en l’absence de cela, cela crée un plan solide pour la gouvernance de l’IA qui ne peut être ignoré.”

Le directeur des affaires mondiales d’Openai, Chris Lehane, a envoyé un lettre Au gouverneur Newsom en août, faisant valoir qu’il ne devrait pas adopter de règlement sur l’IA qui expulserait les startups de la Californie – bien que la lettre n’ait pas mentionné SB 53 par son nom.

L’ancien chef de la recherche politique d’Openai, Miles Brundage, a déclaré dans un poste sur X que la lettre de Lehane était «remplie de déchets trompeurs sur la politique SB 53 et IA en général». Notamment, SB 53 vise à réguler uniquement les plus grandes sociétés d’IA au monde – en particulier celles qui ont généré un revenu brut de plus de 500 millions de dollars.

Malgré les critiques, les experts politiques affirment que le SB 53 est une approche plus modeste que les factures de sécurité de l’IA précédentes. Dean Ball, un chercheur principal à la Fondation for American Innovation et l’ancien conseiller politique de l’IA de la Maison Blanche, a déclaré en août article de blog qu’il croit que le SB 53 a maintenant de bonnes chances de devenir loi. Ball, qui a critiqué le SB 1047, a déclaré que les rédacteurs de SB 53 ont «montré le respect de la réalité technique», ainsi qu’une «mesure de la retenue législative».

Sénateur Wiener précédemment dit que SB 53 a été fortement influencé par un panel de politique experte Le gouverneur Newsom s’est convoqué – co-dirigé par le principal chercheur de Stanford et co-fondateur de World Labs, FEI-FEI LI – pour conseiller la Californie sur la façon de réglementer l’IA.

La plupart des laboratoires AI ont déjà une version de la politique de sécurité interne dont SB 53 a besoin. Openai, Google Deepmind et Anthropic publient régulièrement des rapports de sécurité pour leurs modèles. Cependant, ces entreprises ne sont liées à aucune lois pour le faire, et parfois elles se cacher leur engagements de sécurité auto-imposés. SB 53 vise à définir ces exigences en tant que loi.

Plus tôt en septembre, les législateurs de Californie modifié SB 53 pour supprimer une section du projet de loi qui aurait obligé les développeurs de modèles AI audités par des tiers. Les entreprises technologiques ont combattu ces types d’audits tiers dans d’autres batailles politiques de l’IA auparavant, faisant valoir qu’ils sont trop lourds.