Après une première collaboration sur le thème de la robustesse et de l'équité, le programme Confiance.ai et ANITI ont signé le 12 septembre un partenariat stratégique sur l'intelligence artificielle (IA) de confiance. L'Institut interdisciplinaire d'intelligence artificielle (3IA) toulousain rejoint ainsi les 50 partenaires industriels et académiques de Confiance.ai pour industrialiser et intégrer de l'IA de confiance dans les futurs produits, services et systèmes critiques.
Le programme ambitionne d'utiliser les connaissances produites par ANITI autour de l'IA certifiable et hybride pour développer conjointement des solutions d'IA de confiance. L'objectif est ensuite de les intégrer dans un environnement logiciel afin de les industrialiser. « Nous nous réjouissons de ce partenariat entre deux initiatives soutenues par France 2030 dans le cadre de la Stratégie Nationale en IA. Il illustre notre action pour garantir un continuum entre recherche et industrie dans un domaine stratégique : l’éthique et la confiance dans l’intelligence artificielle », commente Bruno Bonnel, Secrétaire général pour l’investissement en charge de France 2030.
L'enjeu de l'IA de confiance
Confiance.ai a été lancé par 13 grands acteurs de l'industrie et de la recherche* le 1er juillet 2021. David Sadek, vice-président Recherche Technologie & Innovation en charge notamment de l'IA chez Thales, et à la tête de Confiance.ai, avait alors résumé l'enjeu du « Grand Défi » de l'IA de confiance lancé dans le cadre de la stratégie nationale en IA : « Quand il s'agit de recommander un film, une erreur de l'intelligence artificielle (IA) n'est pas dramatique. Mais quand l'IA est embarquée dans le système critique d'un avion ou préconise un médicament, on doit pouvoir lui faire confiance. »
Pour relever le défi, l’institut ANITI mise sur le développement d’une nouvelle génération d’IA dite hybride, associant de façon intégrée des techniques d’apprentissage automatique à partir de données (machine learning) et des modèles permettant d’exprimer des contraintes et d’effectuer des raisonnements logiques. Cette approche vise à apporter de meilleures garanties en termes de fiabilité, d’explicabilité et d’interprétabilité des résultats des algorithmes utilisés, tout en veillant à leur acceptabilité sociale et à leur viabilité économique.
*Air Liquide, Airbus, Atos, CEA, Inria, Naval Group, Renault, Safran, IRT Saint Exupery, Sopra Steria, IRT SystemX, Thales, Valeo
