À la recherche à Séoul d’une barrière pour protéger le monde des risques de l’intelligence artificielle : “Nous devons garantir la sécurité pour protéger la démocratie”

La Corée du Sud accueillera son deuxième sommet sur la sécurité intelligence artificielle (IA), mise beaucoup sur sa place parmi les leaders de la révolution dans ce domaine. Elle dispose d’un écosystème d’innovation très propice à cela : plus de 1 500 entreprises technologiques, un demi-millier d’entre eux se sont concentrés sur les progrès de l’IA dans un pays qui est déjà une puissance mondiale dans le domaine des semi-conducteurs très demandés. Pour maintenir le rythme compétitif du secteur imposé par des géants comme les États-Unis, la Chine et le Japon, le président sud-coréen Yoon Suk Yeol a récemment promis un investissement de 9.400 milliards de wons (6,39 milliards d’euros) dans l’IA.

Le gouvernement Yoon, en plus de rechercher une position de leader mondial dans le domaine des puces de pointe, a également a lancé certaines réglementations autour de l’intelligence artificielle, comment interdire la publication de contrefaçons profondes générés par AI lors des dernières élections législatives de mars.

Le profil de la Corée du Sud en tant que puissance technologique consolidée a été déterminant pour que Séoul devienne l’hôte mardi et mercredi du deuxième sommet sur la sécurité de l’intelligence artificielle, un événement qu’elle organise avec le Royaume-Uni et auquel ils ont participé (la majorité par vidéoconférence ) des représentants de grandes entreprises d’IA, plusieurs dirigeants et ministres mondiaux, tous disposés à discuter de nouvelles barrières de protection pour une technologie qui transforme le monde.

Après que les gouvernements et les entreprises ont adopté la première ligne directrice mondiale sur la sécurité de l’IA en novembre dernier, lors du premier sommet de Bletchley (Royaume-Uni), la soi-disant “Déclaration de Séoul” lors d’une réunion virtuelle présidée par le Sud-Coréen Yoon et le Premier ministre britannique Rishi Sunak.

“Nous devons garantir la sécurité de l’IA pour protéger le bien-être et la démocratie de notre société”, » dit Yoon. Le président français Emmanuel Macron et la vice-présidente américaine Kamala Harris, ainsi que le propriétaire de X, Elon Musk, et Nick Clegg, président des affaires mondiales de Meta, ont également participé au sommet.

“Les 16 premières sociétés d’intelligence artificielle ont adhéré aux normes de sécurité volontaires présentées lors du sommet de Bletchley et a signé un nouvel engagement pour développer l’IA en toute sécurité“, tandis que les dirigeants ont convenu de construire un réseau d’instituts de sécurité soutenus par l’État pour faire progresser la recherche et les tests de la technologie”, a déclaré Sunak.

Comme l’a rapporté mercredi l’agence de presse sud-coréenne Yonhap, l’engagement de sécurité (appelé Séoul AI Business Commitment) comprend la publication de des cadres qui établissent comment les entreprises mesureront les risques de leurs modèles: Dans les cas extrêmes où ces risques sont très graves et ne peuvent être atténués, les entreprises devront « éteindre l’interrupteur » et arrêter de développer leurs modèles.

Les pays (l’Union européenne et 10 autres nations) se sont engagés à développer davantage d’instituts de sécurité de l’IA et rassembler des groupes soutenus par l’État pour partager des informations sur les risques, les capacités et les limites des modèles. L’accord indique également que ces groupes « surveilleront également les incidents de sécurité spécifiques à l’IA ».

En plus de X et Meta, Open AI, Google, Microsoft, Amazon, le sud-coréen Samsung, le chinois Zhipu et l’Institut d’innovation technologique des Émirats arabes unis ont également participé au sommet. “Ces engagements garantissent que les principales sociétés mondiales d’IA assurent transparence et responsabilité dans leurs projets visant à développer une IA sûre”, a souligné le premier Britanique.

Au cours de la deuxième journée du sommet, plusieurs ministres de la Transformation numérique, ainsi que des représentants du monde des affaires, ont tenu une réunion présidée par Michelle Donelan, secrétaire britannique à la Technologie. “Alors que le rythme de développement de l’IA s’accélère, nous devons suivre ce rythme pour garantir que la société dans son ensemble devienne résiliente face aux dangers posés par cette technologie”, a déclaré Donelan.

“Sept mois après la réunion de Bletchley, nous assistons à des avancées technologiques qui menacent de nombreuses vies, de la désinformation à la surveillance de masse et à la perspective d’armes autonomes mortelles”, a déclaré le secrétaire général de l’ONU, António Guterres, qui a appelé à la mise en place de barrières de sécurité universelles et à un dialogue régulier sur l’IA.

« Nous ne pouvons pas sombrer dans un avenir dystopique dans lequel le pouvoir de l’IA est contrôlé par quelques personnes ou, pire encore, par des algorithmes qui dépassent la compréhension humaine », a déclaré António Guterres. Le prochain sommet mondial se tiendra en France.

En mars dernier, l’Assemblée générale des Nations Unies a adopté sa première résolution sur l’intelligence artificielle, assurant qu’elle fournirait le soutien nécessaire pour garantir que « cette nouvelle technologie puissante profite à toutes les nations, respecte les droits de l’homme et soit sûre et digne de confiance ». Une avancée majeure a eu lieu au début du mois lorsque des responsables de la Chine et des États-Unis, les deux principales puissances en matière d’IA, se sont réunis pour la première fois à Genève pour discuter de la manière de gérer les risques de cette technologie et d’établir des normes communes pour la gérer.