-> Partir cas d’usage : à quoi ça sert
Souvent qualifiés de boîte noire, les algorithmes sont pourtant évalués. Comment les industriels mesurent la performance réelle des systèmes embarquant de l’IA et leur robustesse avant de les implémenter dans l’usine ? Souvent les solutions commerciales sont développées aves des bases de données publiques et fonctionnent mal avec les données réelles des industriels. Industriels qui ont aussi besoin d’ajouter des briques d’explicabilité pour comprendre le raisonnement de l’algorithme et/ou vérifier le résultat.
Chacun met en place sa propre méthodologie (Thales, Renault, SNCF Réseau, Suez). Et cela nécessite de combiner des compétences variées : métier + data scientist (pas toujours facile à trouver). En parallèle, des certifications émergent doucement avec des laboratoires comme le LNE qui se lancent sur le contrôle des IA et des start-up qui cherchent à se spécialiser dans ce domaine (Giskard).
Illustration Renault avec des exemples de contrôle qualité ; LNE avec leur plateforme d’évaluation hybride (physique et immersif) le LE.IA Immersion ; Suez sur le tri des déchets
Hors-texte – 1200 signes
L’AI act impose progressivement des normes
Data Act UE : Catena X
