2023-06-04 11:33:21
Le discours sur l’intelligence artificielle est un peu biaisé, avec des résultats de recherche et des scénarios effrayants et à moitié cuits qui reçoivent une attention disproportionnée (ce qui est bien sûr un biais humain classique). En particulier, l’IA liée aux systèmes d’armes alimente l’imagination des gens – plus récemment cette semaine avec le canard qu’un drone aurait allumé son commandant et l’aurait attaqué. En fait, c’était une sorte d’expérience de pensée. J’ai écrit ici quel rôle ceux-ci jouent dans la partie étrange de la recherche sur l’IA.Ce texte de mes collègues Georg Mascolo et Andrian Kreye examine sobrement le complexe “IA dans l’armée” et montre les problèmes d’utilisation du logiciel Palantir que l’entreprise a présenté à les journalistes. Elle rassemble des données, interprète des images satellites, donne des conseils aux soldats, mais pas d’ordres. L’humain reste “dans la boucle”, lui seul peut donner l’ordre de tirer à la fin : L’IA militaire ne prend aucune décision, donc elle ne donne aucun ordre de tirer. La démo du champ de bataille suppose qu’un char est repéré sur le terrain. L’IA sonde la situation, examinant si l’une des unités d’artillerie ou un groupe de travail appelé “Team Omega” serait le mieux placé pour lancer une attaque. L’attention du public sur les développements de l’IA militaire est correcte – après tout, une autonomie mal utilisée ou a L’externalisation du contrôle des systèmes d’armes peut avoir des effets catastrophiques (où l’objection s’applique également ici que les personnes en temps de guerre prennent encore et encore des décisions avec les conséquences les plus brutales). Cependant, j’ai été étonné de la facilité avec laquelle l’histoire du drone a été partagée en fin de semaine, sans que les diffuseurs se rendent compte que l’histoire était irréaliste et “trop belle pour être vraie”. Une IA qui optimise les capacités des gens à critiquer les sources, ce serait quelque chose.L’article piqû fait le point sur les capacités de l’IA militaire et de surveillance, est clairement écrit et n’est pas alarmiste. C’est comme ça que ça doit être.
#Des #canards #des #ordres #tirer #LIA #part #guerre
1685922905
