UN Vidéo de CBS News rapporte que l’armée américaine “est en train de tester un avion de chasse F-16 autonome, et dans des combats aériens simulés, l’IA écrase déjà des pilotes humains entraînés”. Et ce n’est qu’un des nombreux systèmes automatisés en cours de développement, ce qui soulève des questions quant à savoir jusqu’où cette technologie devrait aller :
“Les personnes que nous avons rencontrées pour développer ces systèmes disent qu’elles n’essaient pas de remplacer les humains, mais simplement de rendre leur travail plus sûr. Mais un passage aux robots soldats pourrait changer la guerre de manière profonde, comme nous l’avons constaté lors d’une visite à Sikorsky Aircraft, l’entrepreneur militaire qui rend l’hélicoptère Blackhawk… Piloter le Blackhawk expérimental est aussi simple que de déplacer une carte.” [The experimental helicopter is literally controlled by taps on a tablet computer, says a representative from Sikorsky. “We call it operating, because you’re making suggestions. The machine really decides how to do it.”]
Le représentant de Sikorsky suggère que cela pourrait éviter un scénario “Blackhawk down” où davantage de soldats humains doivent être envoyés en danger pour tenter de sauver leurs camarades. Mais CBS l’appelle également “partie d’un effort plus large pour changer la façon dont les guerres sont menées, dirigé par DARPA, le laboratoire innovant du ministère de la Défense. Ils ont également développé des buggys tout-terrain autonomes, des véhicules sous-marins sans pilote et des essaims et des essaims de drones.”
Le journaliste de CBS demande ensuite au responsable du programme DARPA, Stuart Young, si nous nous dirigeons vers l’avenir avec Terminateur-comme des machines de combat. Sa réponse ? “Il y a toujours ces dilemmes que nous avons, mais il est clair que nos adversaires y pensent. Et une partie de ce que fait la DARPA est d’essayer d’empêcher la surprise technologique.” CBS s’est également entretenu avec l’ancien Ranger de l’armée Paul Scharre, qui a ensuite travaillé pour le ministère de la Défense sur les armes autonomes, qui a déclaré que les technologies commerciales déjà disponibles pourraient créer des armes autonomes aujourd’hui. “Tout ce qu’il faut, c’est quelques lignes de code pour simplement sortir l’humain de la boucle.”
“Scharre n’est pas que sombre et sombre. Il souligne que dans les combats entre nations, les robots soldats devront légalement respecter la loi de la guerre, et pourraient le faire mieux que les humains émotifs ou fatigués… Mais oui, Scharre s’inquiète de la mariage éventuel de robots avancés et d’une IA militaire qui devient plus intelligente et plus rapide que nous.”
Q : Donc, à ce moment-là, les humains seraient simplement exclus de la prise de décision. Il suffirait de faire confiance aux machines et de bien les programmer.
UN: Oui…
Q : Pensez-vous que les militaires devraient s’engager à tenir les humains au courant ?
UN: Je ne pense pas que ce soit viable. Si vous pouviez agiter une baguette magique et dire : « Nous allons arrêter la croissance de la technologie », il y a probablement des avantages à cela. Mais je ne pense pas que ce soit viable aujourd’hui… Un humain regardant une cible, disant “Ouais, c’est une cible viable”, appuyant sur un bouton à chaque fois ? Ce serait l’idéal. Je ne suis pas sûr que ce sera le cas.