Un rapport des Nations Unies a mis au jour un développement assez préoccupant avec la technologie.
Un quadricoptère KARGU-2 de construction turque a réussi à attaquer une personne sans qu’on lui ait dit de le faire.
L’engin volant armé « létal » a été utilisé lors d’affrontements entre les forces gouvernementales libyennes et une faction militaire dissidente dirigée par Khalifa Haftar de l’armée nationale libyenne en mars de l’année dernière.
Le drone a «chassé et engagé à distance» avec des soldats et des convois se battant pour Haftar, mais on ne sait pas immédiatement qui était en charge de l’appareil.
Alors que la personne tentait de battre en retraite, le drone a réussi à remplir son objectif sans personne derrière les commandes.
le Poste de New York signale que l’appareil peut être dirigé vers un individu ou un emplacement et exploser à l’impact. Cependant, dans cette circonstance, il fonctionnait en mode autonome « hautement efficace » avec l’intelligence artificielle.
Les Nations Unies ont recensé un rapport sur la situation bizarre et inquiétante.
Le document du Groupe d’experts du Conseil de sécurité de l’ONU sur la Libye a déclaré : « Les systèmes d’armes autonomes létaux ont été programmés pour attaquer des cibles sans nécessiter de connectivité de données entre l’opérateur et la munition : en effet, une véritable capacité « tirer, oublier et trouver ». »
Le rapport ne mentionne pas spécifiquement que l’attaque de drone a tué quelqu’un lors des affrontements de mars, mais cela l’implique fortement, selon Sciences en direct.
Le Kargu-2 se compose de quatre rotors et peut voler de manière autonome à des vitesses allant jusqu’à 72 km/h (45 mph). Il peut exploser avec une «ogive perforante ou destinée à tuer du personnel non armé».
On pense que c’est la première fois que des drones attaquent des humains sans instructions pour le faire.
Zachary Kallenborn, chercheur affilié au National Consortium for the Study of Terrorism and Responses to Terrorism de l’Université du Maryland, a déclaré à College Park Sciences en direct il s’agit d’une évolution inquiétante dans l’utilisation de drones tueurs mélangés à l’IA.
« Les armes autonomes en tant que concept ne sont pas si nouvelles. Les mines terrestres sont essentiellement de simples armes autonomes – vous marchez dessus et elles explosent », a-t-il déclaré.
« Ce qui est potentiellement nouveau ici, ce sont les armes autonomes intégrant l’intelligence artificielle.
« Les IA actuelles dépendent généralement fortement des données sur lesquelles elles sont entraînées. Une machine ne sait généralement pas ce qu’est un chat ou un chien à moins qu’elle ne soit alimentée en images de chats et de chiens et que vous lui disiez lesquels sont des chats et des chiens.
« Il y a donc un risque important d’erreur dans ces situations si ces données d’entraînement sont incomplètes ou si les choses ne sont pas aussi simples qu’elles le paraissent. soldat peut utiliser un râteau pour renverser une tourelle. »
Les autorités ont tenté de déterminer qui était censé utiliser le drone au moment de l’attaque. C’est pertinent parce qu’il y a un embargo sur les armes de l’ONU qui vise à empêcher des pays comme la Turquie de fournir des armes à la Libye.
.
