Une « force pour le bien » ou pour un préjudice catastrophique ?

De nom du domaine rural du sud de l’Angleterre, Bletchley Park, sonne mystérieusement. Pendant la Seconde Guerre mondiale, plusieurs milliers d’officiers du renseignement militaire ont travaillé dans le complexe. Des mathématiciens et des informaticiens ont déchiffré le code Enigma des messages radio allemands. Alan Turing était ici un personnage clé. L’ancien manoir en briques, qui était alors le quartier général « top secret » des services secrets, existe toujours aujourd’hui. Un peu plus loin, derrière les barbelés, on aperçoit des casernes plates et grises, certaines aux vitres brisées, où siégeaient les décrypteurs.

Comme Enigma à l’époque, l’intelligence artificielle (IA) est désormais considérée comme un casse-tête difficile à résoudre. Et nombreux sont ceux qui craignent que des programmes informatiques ultra-intelligents puissent non seulement apporter de grands avantages, mais aussi causer de graves dommages.

Le gouvernement britannique a maintenant invité la population à un grand sommet à Bletchley Park, au nord de Londres. Des représentants gouvernementaux de 28 pays seront présents, la vice-présidente américaine Kamala Harris, la présidente de la Commission européenne Ursula von der Leyen et d’autres représentants gouvernementaux européens, mais aussi le vice-ministre chinois de la technologie Wu Zhaohui, le ministre indien de l’informatique Rajeev Chandrasekhar et des représentants gouvernementaux d’Arabie saoudite et du Nigeria. .

Course aux programmes d’IA les plus puissants

Dans un message vidéo adressé aux participants au sommet, le roi Charles a comparé la nouvelle technologie à la découverte de l’électricité ou à la division de l’atome. L’IA pourrait être une « force du bien », mais elle pourrait également mettre en danger les civilisations et les démocraties. Les experts voient les dangers possibles de la désinformation, de la manipulation électorale ou des cyberattaques.

Le fait que les Britanniques réunissent pour la première fois une très grande variété de nations avec des représentants politiques de haut rang et des dirigeants d’entreprises pour le sommet de l’IA est considéré comme un succès à Londres. La ministre des Sciences Michelle Donelan a parlé d’un « moment véritablement historique ». L’invité le plus éminent de l’industrie technologique était le multimilliardaire et propriétaire de Tesla, Elon Musk, impliqué dans la start-up d’IA xAI. Les dirigeants d’Open AI, société mère de ChatGPT, et de Deep Mind de Google sont également présents. La participation chinoise aux débats confidentiels de Bletchley Park sur les développements de l’IA a provoqué une certaine nervosité dans les cercles diplomatiques.

La course aux programmes d’IA les plus performants ne promet pas seulement un grand potentiel économique et des solutions aux problèmes humains, par exemple dans le domaine de la médecine ou de l’éducation. Cela pourrait également déclencher des tensions géopolitiques. Il serait d’autant plus important que des règles internationales concernant l’IA puissent être convenues. Le Premier ministre britannique Rishi Sunak s’est déjà joint à ceux qui réclamaient un organisme international sur les risques liés à l’IA, similaire au Conseil des Nations Unies sur les changements climatiques (GIEC). La Grande-Bretagne crée son propre institut pour la sécurité de l’IA.

« Risque existentiel pour l’humanité »

Mais la question de savoir si la conférence de Bletchley Park a réellement constitué une avancée majeure reste discutable. Le gouvernement de Londres a par avance minimisé les attentes. Un communiqué final de deux pages, la « Déclaration de Bletchley », a été publié mercredi. Le Premier ministre Sunak a parlé d’une « étape importante ». Les 28 nations participantes confirment qu’elles comprennent les risques et souhaitent les gérer « collectivement ».

L’IA offre d’énormes opportunités mondiales de prospérité et de paix. Mais l’IA pourrait aussi causer « des dommages graves, voire catastrophiques », intentionnellement ou non, précise le communiqué, dans la perspective de cyberattaques ou de désinformation. Les signataires prônent la coopération internationale et annoncent d’autres sommets sur la sécurité de l’IA. Cependant, le document ne contient pas d’approches plus concrètes en matière de réglementation internationale, voire mondiale.

Le ministre fédéral de la Numérisation, Volker Wissing, a ensuite déclaré qu’un environnement concurrentiel uniforme et des « conditions de concurrence équitables » étaient nécessaires. L’IA a une énorme influence sur la compétitivité de l’économie allemande. Il faut jouer devant. Wissing a appelé à une discussion coordonnée sur les risques. « Il ne devrait y avoir aucune concurrence pour obtenir la réglementation la plus stricte », a-t-il déclaré. L’Europe pourrait se coordonner étroitement avec les approches réglementaires américaines. Elle doit s’appuyer sur des valeurs telles que la transparence et la démocratie.

Des exigences particulièrement drastiques avaient déjà été formulées par un groupe d’experts chinois dirigé par l’éminent informaticien Andrew Yao, qui avait publié un sombre appel avant le sommet de Bletchley. L’IA a le potentiel de devenir un « risque pour l’existence de l’humanité » dans les décennies à venir. Ils ont donc appelé à la création d’une autorité de régulation internationale. Les systèmes d’IA les plus modernes devraient y être enregistrés et testés. Et ils devraient inclure un mécanisme « d’arrêt » pour les arrêter en cas d’urgence. L’industrie de l’IA devrait consacrer 30 % de son budget de recherche à la sécurité de l’IA, exige le groupe.

D’un autre côté, les lobbyistes des entreprises technologiques ont pris position avant le sommet de Bletchley et ont mis en garde contre une réglementation excessive et précipitée, qui menaçait d’étouffer la recherche et l’innovation. Nick Clegg, lobbyiste en chef de Meta, la société mère de Facebook, a mis en garde avant le sommet contre une réglementation excessive des technologies en développement rapide. Il voit une concurrence entre ceux qui peignent sur les murs les risques existentiels liés à l’IA. De sombres prophéties seraient publiées à bout de souffle. Cela a également été le cas pour les jeux vidéo, la radio et Internet. Il ne faut pas mettre la charrue avant les bœufs en matière de réglementation, a déclaré Clegg, ancien vice-Premier ministre britannique et actuel méta-lobbyiste. Vous devriez d’abord voir où sont allés les programmes d’IA, puis vous pourrez les contenir.