L’IA hors de contrôle ? 22 pays et de nombreux géants de la technologie présentent des exigences de sécurité communes | Nouvelles

C’est un scénario de science-fiction bien connu selon lequel l’intelligence artificielle prend soudainement confiance en elle, revendique des droits ou même se retourne contre ses créateurs. Malgré le boom massif de l’IA, caractérisé par des progrès massifs, notamment au cours des 12 derniers mois, il ne faut certainement pas s’attendre à une révolte des ChatGPT, Siris ou autres assistants. Les risques se situent dans un tout autre contexte, car les « fantômes de l’IA numérique » sont loin d’être aussi neutres, objectifs et inviolables qu’on pourrait le penser – et la manière dont ils sont développés et entraînés est difficile à comprendre de l’extérieur. Le British National Cyber ​​​​Security Centre en possède un Catalogue des réclamations présenté, auquel se sont joints 22 autres pays – ainsi que de nombreuses grandes entreprises technologiques. Amazon, Google, IBM, Microsoft et OpenAI, entre autres, ont leur mot à dire, mais Apple est étrangement absent.

Objectifs de développement, de publication et d’exploitation
Il existe quatre objectifs essentiels dont le respect devrait garantir la sécurité des systèmes. Afin de comprendre la nature des applications d’IA développées, une bonne documentation est nécessaire dès le départ. Cela inclut l’ensemble du cycle du produit, de la conception à l’exploitation et à la maintenance des offres existantes. Les principaux points du document comprennent les piliers suivants :

• Conception sécurisée
• Développement sécurisé
• Publier en toute sécurité
• Collecte et entretien sécuritaires

La conception sécurisée comprend, par exemple, la création dès le départ d’analyses de risques sur les problèmes que pourrait poser l’approche choisie ou l’utilisation du service d’IA. Non seulement les développeurs, mais aussi les membres de l’équipe doivent comprendre sur quoi ils travaillent réellement. Une documentation précise des données, des modèles ou des procédures de cryptage utilisées est tout aussi importante que les procédures de vérification régulières.

Le NCSC souligne également la grande importance des infrastructures sécurisées et de la protection des modèles afin d’éviter toute influence indésirable de l’extérieur. Avec les applications d’IA notamment, il est particulièrement difficile de détecter les manipulations visant à pondérer l’information. Une surveillance continue des entrées et des sorties est essentielle.

Ça a l’air bien, mais…
Quoi qu’il en soit, il faut se réjouir lorsque des prises de position internationales et interentreprises sont élaborées sur des sujets aussi importants. Cependant, la question de savoir si les exigences et les engagements volontaires peuvent rester les mêmes reste discutable, car les développeurs consciencieux connaissent déjà les points mentionnés ci-dessus. Des conditions-cadres juridiques sont donc parfois même exigées par des entreprises et des chercheurs de renom. Au début de l’année, le Conseil d’éthique allemand a publié une évaluation détaillée de la situation intitulée “L’homme et la machine”, dans laquelle les différentes opportunités et risques ont été discutés sur 280 pages.