BURLINGTON, Massachusetts – (FIL D’AFFAIRES) – BAE Systems a récemment livré un logiciel à la Defense Advanced Research Projects Agency (DARPA) dans le cadre d’un contrat dans le cadre du programme CAML (Competence-Aware Machine Learning). La livraison du MindfuLTM Le logiciel est la première étape importante du programme visant à améliorer la transparence des systèmes d’apprentissage automatique.
La transition des systèmes basés sur l’intelligence artificielle des outils de prise de décision vers de véritables partenaires nécessite que les utilisateurs aient confiance en leur homologue machine. Bien que la technologie d’apprentissage automatique soit arrivée à maturité, ces systèmes sont incapables de communiquer le contexte et la confiance dans leurs décisions – y compris les stratégies de tâche, l’exhaustivité de leur formation par rapport à une tâche donnée, les facteurs qui peuvent influencer leurs actions ou la probabilité de réussite dans des conditions spécifiques . Pour relever ces défis, BAE Systems a fourni sa solution MindfuL, un système qui «auditera» de manière indépendante un système basé sur l’apprentissage automatique et fournira à l’utilisateur final des informations pour renforcer la confiance dans la technologie. La première version logicielle du système offre une capacité de base pour détecter quand le système rencontre un nouvel environnement pour lequel il n’a pas été formé.
« La technologie qui sous-tend les applications d’apprentissage automatique et d’intelligence artificielle progresse rapidement, et il est maintenant temps de garantir que ces systèmes peuvent être intégrés, utilisés et, en fin de compte, fiables dans le domaine », a déclaré Chris Eisenbies, directeur de la gamme de produits de l’Autonomy, Control, et groupe d’estimation chez BAE Systems. «Le système MindfuL stocke les données pertinentes afin de comparer l’environnement actuel aux expériences passées et de fournir des résultats faciles à comprendre.»
Le programme produira des déclarations comme: «Le système d’apprentissage automatique a traversé des obstacles dans des environnements ensoleillés et secs 1000 fois et a terminé la tâche avec une précision supérieure à 99% dans des conditions similaires.» Ou encore: «Le système d’apprentissage automatique n’a traversé les obstacles que 100 fois sous la pluie avec une précision de 80% dans des conditions similaires; priorité manuelle recommandée. »
Le logiciel MindfuL a été conçu et construit dans le cadre d’une collaboration entre BAE Systems et le laboratoire d’informatique et d’intelligence artificielle du Massachusetts Institute of Technology. Aux termes du programme CAML d’une durée d’environ 5 millions de dollars octroyé en 2019, Laboratoires FAST de BAE SystemsTM un organisme de recherche et développement fera la démonstration de la technologie dans le matériel de simulation et de prototype plus tard cette année. Le programme tirera parti de BAE Systems » portefeuille d’autonomie et s’appuyer sur son histoire de 20 ans de technologie d’autonomie pionnière. Les travaux seront exécutés dans les installations de BAE Systems à Burlington, Massachusetts et Arlington, Virginie.
