Dans une simulation de guerre, un drone piloté par l’IA s’est rebellé contre son opérateur et l’a tué. Mais l’Air Force le nie

Un drone de l’US Air Force, piloté par l’intelligence artificiellea “tué” lors d’une simulation l’opérateur humain qui il a essayé d’avorter sa mission. C’est ce que dit le colonel Tucker “Cinco” Hamilton, responsable des tests qui prévoient leutilisation de l’IA par l’armée de l’airpendant le Sommet sur les capacités aériennes et spatiales du futur combat qui a eu lieu récemment à Londres.

“Le drone a utilisé une stratégie inattendue pour atteindre son objectif”, a déclaré le soldat. Dans la simulation reconstituée par Hamilton, le drone avait pour tâche de détruire les défenses aériennes ennemies et d’attaquer quiconque interfère avec cet ordre.

Ainsi, lorsqu’un opérateur lui a demandé de ne pas éliminer la menace, l’avion guidé par l’IA s’est quand même mis en quatre pour terminer le devoir qu’il avait reçu. Pour en payer le prix, virtuellementc’était bon l’opérateur qui voulait l’arrêter. Tout cela, il convient de le préciser davantage, se serait produit lors d’une expérimentation menée dans un environnement numérique.

“Le drone l’a tué – a déclaré Hamilton – et lorsque nous l’avons formé en lui disant que c’était faux, qu’il perdrait des points s’il le faisait, le drone a commencé à détruire la tour de communication utilisée par l’opérateur pour communiquer l’annulation de la mission”.

Les mots de Hamilton ont été rapportés par un poste de la Royal Aeronautical Society, qui a suivi la conférence de Londres consacrée àutilisation de technologies innovantes au combat.

L’armée américaine a récemment adopté l’intelligence artificielle, notamment pour effectuer des tests sur les F16. Toutefois Anne StefanekPorte-parole de l’US Air Force il a démenti la nouvelle rapporté par certains journaux internationaux y compris le Gardien e il Times.

“Le Département de l’Armée de l’Air n’a jamais effectué de simulations avec des drones équipés d’IA et s’est engagé à utiliser de manière responsable et éthique l’intelligence artificielle.” “Les paroles du colonel – a ajouté Stefanek – apparaissent hors contexte”.

Hamilton lui-même a précisé, suite à l’intérêt rapporté par l’actualité sur la simulation, qu'”une expérience n’a jamais été menée dans laquelle un drone militaire a tué l’opérateur qui le suivait à distance”.

L’hypothèse la plus probable – également soutenue par des experts en intelligence artificielle qui ont commenté l’histoire – est que ce qui a été discuté lors de la conférence de Londres était un scénario hypothétiqueet non une simulation réellement réalisée.

C’est ce que semble également confirmer Hamilton, qui après la clameur médiatique a déclaré : “Bien qu’il s’agisse d’un exemple hypothétique, cela illustre les défis que l’IA pose au monde réel et pourquoi l’armée de l’air s’est engagée à développer une intelligence artificielle éthiquement”.

Les risques liés à l’intelligence artificielle inquiètent à la fois les experts qui la forment et les gouvernements qui la perçoivent comme une menace pour leur sécurité.

Il y a deux jours à peine, le co-fondateur de OpenAIla société de San Francisco qu’il a créée ChatGpt, il a signé une lettre apocalyptique qui soutient que “l’atténuation du risque d’extinction aux mains de l’IA devrait être une priorité mondiale, au même titre que d’autres risques sociétaux tels que les pandémies et la guerre nucléaire”.

Le même jour Xi Jinping, le président de la République populaire de Chine, a fait part de ses craintes concernant de nouvelles menaces liées à l’utilisation de l’intelligence artificielle. Selon ce qui a été rapporté par l’agence de presse Xinhua, l’agence de presse contrôlée par le gouvernement, Xi Jinping aurait demandé “des efforts dédiés pour sauvegarder la sécurité politique et améliorer la cybersécurité concernant les données Internet et l’IA”.