De la simulation à la réalité. L'armée de l'air des États-Unis a organisé, en septembre 2023, un combat aérien dans le monde réel opposant un avion de chasse F-16 biplace piloté par une intelligence artificielle (baptisé X-62A) et un pilote humain. L’avion-robot du constructeur Lockheed Martin avait bien un pilote humain dans le cockpit, en guise de sécurité, mais l'exercice était entièrement contrôlé par l'intelligence artificielle.
Quel a été le résultat du match ? Une victoire pour la sûreté de l’appareil, se réjouit la Darpa, l'agence du département de la Défense des États-Unis dédiée au développement de technologies de pointe. Car les pilotes de l’avion-robot n'auraient jamais eu à activer le commutateur de sécurité pendant les dogfights. «L’intégration d’une machine qui va contrôler un avion dans la vraie vie est un casse-tête, car la machine accède alors aux commandes de contrôle et peut le pousser au point de l’endommager», explique Bill Gray, pilote d’essai à l’US Air Force.
Le comportement suicidaire de l’IA lors de la première rencontre
Un combat aérien s’était déjà tenu entre l’homme et la machine en août 2020. Une IA, développée par le spécialiste américain de la défense Heron Systems, avait alors réalisé l’exploit de battre 5 points à 0 un pilote de l’armée de l’air américaine. La rencontre était alors entièrement simulée, le pilote humain possédant un casque de réalité virtuelle.
L’expérience avait dévoilé les difficultés à placer une IA aux commandes d’un véritable avion. La stratégie de la machine lors de la simulation reposait principalement sur le fait de charger l'ennemi, au risque d'une collision. Or, prendre le risque de perdre un avion à plusieurs millions de dollars n'est pas acceptable pour une armée. L’IA avait également tendance à pousser l'avion à ses limites (vitesses maximales ou minimales), ce qui représente un autre risque non négligeable de décrochage.
Une brique de sécurité a été ajoutée à l’IA
Les développeurs de l’IA ont donc ajouté une brique au programme baptisée Safety trips, permettant d’éviter les comportements à risque pour l’appareil dans la vraie vie. Au total, l'avion X-62A a effectué 21 vols d'essai à partir de la base aérienne d'Edwards, en Californie, au cours de trois périodes d'essai distinctes, entre décembre 2022 et septembre 2023. Durant ces tests, plus de 100 000 lignes de code auraient été modifiées, avant de passer au combat réel. Baptisée Vista (Variable-stability In-flight Simulator Test Aircraft), l'IA a été développée par le spécialiste de l’intelligence artificielle Shield AI, qui a racheté entre-temps le gagnant du match de 2020, Heron Systems.
Un avion autonome basé sur le machine learning
Mission lunaire Apollo, vol autonome d'un hélicoptère Black Hawk en 2021... Les vols en autonomie ne sont pas une nouveauté. Ces systèmes de vol reposent sur des règles de type : si telle condition est remplie, alors l’aéronef a le comportement suivant. «C’est un système très robuste dans de bonnes conditions», pointe Daniela Rus, directrice de recherche à l’institut du MIT.
La tâche se révèle néanmoins herculéenne dans le cas d'un combat aérien : impossible pour les développeurs d'anticiper toutes les situations possibles. L’avion X-62A intègre, lui, un système basé sur le machine learning. Ce système permet à la machine de prendre en compte son historique pour prendre de nouvelles décisions en fonction de la situation présente et future. «C’est un système extrêmement puissant dans un environnement et des situations où les conditions de vol fluctuent rapidement, compliquant la détermination claire et robuste de règles», explique Daniela Rus. Le système Vista de X-62A aurait peut-être plus de points communs avec AlphaGo, la machine de jeu de go, qu'avec le système d'hélicoptère autonome Alias.
