Permettre aux industriels d’intégrer les technologies modernes d’intelligence artificielle (IA) dans leurs applications, y compris les plus critiques. Voilà le cap du programme Confiance.ai, dont les partenaires ont présenté ce jeudi 7 mars, au ministère des Finances, les principaux résultats lors d’un événement ouvert à l’international et qui a rassemblé plus d’une centaine de personnes.
Lancé en janvier 2021 et se terminant en septembre prochain, ce programme de R&D monté « par les industriels et pour les industriels » comme l’a rappelé sur scène Bernhard Quendt, directeur technique de Thales, partait d’un constat résumé devant la presse par Juliette Mattioli, experte senior en IA chez Thales et directrice du comité du pilotage de Confiance.ai : « Beaucoup de preuves de concept d’applications de l’IA, en particulier dans les applications critiques, ne passaient pas à l'échelle industrielle faute d’une ingénierie adéquate pour les déployer en confiance, avec des garanties sur la robustesse et la fiabilité. »
Confiance.ai en chiffres
25 partenaires privés, dont 9 grands industriels fondateurs (Thales, Airbus, Renault, Valeo, Air Liquide, Safran, Sopra Steria, Naval Group et Atos)
17 partenaires académique dont 4 fondateurs (IRT SystemX, IRT Saint-Exupéry, CEA, Inria)
30 millions d’euros de budget
Les travaux menés pendant ces trois dernières années ont permis de lever ce verrou, se sont félicités les partenaires du programme. Leur réussite se matérialise d’abord par une méthodologie permettant de caractériser et qualifier la confiance d’un système utilisant des modèles d’IA entraînés sur des données (machine learning).
Conçue comme exhaustive, couvrant des données jusqu’à la cybersécurité en passant par les modèles et le système, cette méthodologie a nécessité d’élaborer un langage commun entre tous les métiers impliqués pour formaliser des « attributs de confiance » (propriétés à vérifier ou améliorer pour accroître la confiance) et définir un flux de travail, de la conception à la maintenance, pour garantir la confiance dans l’application développée.
Une méthodologie de bout en bout accessible
Cette méthodologie dite de bout en bout a été ouverte aux communautés scientifiques et industrielles, ont annoncé les partenaires. Elle est librement accessible sur https://bok.confiance.ai/, un site conçu pour offrir un accès personnalisé suivant le métier de l’utilisateur et le guider dans tous les processus.
L’autre grand résultat de Confiance.ai consiste en une soixantaine de composants logiciels intervenant dans le flux de travail défini par la méthodologie. S’ils sont tous présentés dans le site bok.confiance.ai, seule une moitié de ces outils, issus de l’open source, sont accessibles. La trentaine d’outils développés spécifiquement par Confiance.ai restant pour le moment fermés. L’ensemble, méthodologie comme outils logiciel, a été mis à l’épreuve des cas d’usages apportés par les industriels partenaires, de la vérification de soudures chez Renault au comptage de bouteilles de gaz par Air Liquide.
« Nous avons construit un bien commun numérique dont nous sommes fiers, s’est félicité Paul Labrogère, PDG de l’Institut de recherche technologique SystemX, mais ce n’est qu’un début : ce bien commun doit évoluer pour rester un outil à l’état de l’art ». Et être maintenu pour rester opérationnel. Le dirigeant compte sur cette mise en open source pour obtenir un effet de levier permettant de créer un large écosystème européen et un « standard de facto ». A cette fin, a-t-il annoncé, « nous projetons de créer une fondation à l’échelle européenne et internationale ».
Deep learning et IA générative pour la suite
Les partenaires de Confiance.ai envisagent aussi de reconduire leur collaboration à l’issue du programme, en septembre, a indiqué Loïc Cantat, responsable de l’équipe IA & Data Science de l’IRT SystemX et en charge du programme technique de Confiance.ai, interrogé en marge de l’événement. « L’objectif est d’enchaîner rapidement, sans gap », a-t-il précisé.
Et pour cause : l’IA générative propulsée sur le devant de la scène par ChatGPT fin novembre 2022 n’est pas encore passé sur le grill de Confiance.ai. Et même si la méthodologie et les outils développés permettent, selon Juliette Mattioli, de travailler avec du machine learning de type réseaux de neurones, du travail reste à faire pour pouvoir exploiter en confiance le deep learning dans des applications critiques comme l'aéronautique. « Nous ne savons pas encore le faire mais nous y arriverons, assure Emmanuelle Escorihuela, responsable de la transformation IA pour les systèmes chez Airbus. Et d’ajouter, montrant en creux les progrès réalisés : je ne l’aurai pas dit il y a deux ans, ni même il y a un an. »
