Ce n’est pas toujours facile de rationnaliser et partager les outils d’intelligence artificielle (IA) conçus au sein d’une entreprise. Surtout lorsque, comme Veolia, est présente dans 57 pays avec un peu plus de 220000 salariés. Et que les avancées dans l’IA générative poussent les salariés à se tourner vers des agents pour les aider sur différentes tâches. L’entreprise française a donc lancé sa plateforme Veolia Secure GPT ouverte à l’ensemble des salariés depuis octobre 2023. Une façon de coordonner les développements pour d’éviter les doublons, mais aussi d'éviter les usages cachés de l’IA pouvant entraîner des failles de sécurité.
Plus de 250 assistants
L’objectif de Veolia Secure GPT est de «développer des fonctionnalités et les mettre à disposition des salariés à l'échelle de Veolia sans redévelopper plusieurs fois la même chose», explique le responsable de l’architecture et de l’ingénierie chez Veolia, Fouad Maach, à l’occasion de l’AWS Summit en avril. Sont par exemple disponibles des services de traduction, d'interrogation de documents ou de base de connaissances à grande échelle. Aujourd'hui, la plateforme référence plus de 250 assistants en production et plus de 60000 utilisateurs.
Veolia Secure GPT permet aux équipes IT et aussi métiers de créer facilement ces assistants. Pour développer ces outils, différents LLM sont recensés sur la plateforme. «Un LLM va permettre d’interagir avec son environnement, avec des bases de connaissances, avec des applications», détaille Fouad Maach. Veolia Secure GPT «fournit donc un choix très large de modèles, car il n'y a pas un seul modèle qui puisse répondre à tous les cas d'usage, et rapidement après leur sortie, pour éviter d’éventuels usages cachés», résume le responsable. Par exemple, lorsque de premiers modèles multimodaux – qui permettent d’interagir avec différents types de documents (image, vidéo, texte, PDF, audio, etc.) – sont apparus, Veolia les a ajoutés sur sa plateforme sans tarder.
Un outil d'analyse en masse des appels d'offres
Veolia est présent sur des secteurs variés comme l’eau, les déchets et l’énergie, mais avec des fonctions transverses comme les équipes marketing et commerciale. Il faut aider ces équipes à «consommer des bases techniques variées», comme le dit Fouad Maach, en leur fournissant des informations faciles à appréhender. D’où la création d’agents pour résumer les différentes bases de connaissances et cibler les informations importantes. Veolia Eau utilise par exemple cette plateforme pour «analyser en masse les appels d’offre, et aider à y répondre plus rapidement, explique Meriem Riadi directrice des systèmes d'information de Veolia Eau France. Une région teste aussi un outil pour réaliser un premier niveau de réponse automatique à ces appels d’offres.» Et une équipe travaille sur la mise au point d’un agent pour faciliter les réponses du service client.
«Avec Veolia Secure GPT il n’y a pas de risque de fuite de données, donc nous encourageons les collaborateurs à l’utiliser», ajoute Meriem Riadi. Cette division, comme les autres, mène un programme d’acculturation pour former les salariés et les aider à prendre en main les outils.
Un partenariat plus poussé avec Mistral AI
Veolia a aussi noué un partenariat avec la start-up française Mistral AI qui vient concurrencer l’américaine OpenAI en développant et commercialisant différents LLM. «Si nous évoluons de manière agnostique, en se tournant vers diverses solutions d’IA, nous sommes sensibles au sujet de la souveraineté ce qui nous amène à travailler avec des acteurs européens dès que nous le pouvons», explique Meriem Riadi à ce sujet. En l’occurrence les SLM pour Small Language Model, des modèles plus petits conçus pour s’exécuter sur des ordinateurs ou des appareils mobiles, ont notamment séduit Veolia. L’idée derrière ce partenariat est «de mettre l’IA au service du terrain, détaille Meriem Riadi, développer un agent conversationnel qui accède aux données d’exploitation d’une usine» pour favoriser son pilotage. Et rendre intelligentes toutes les usines.
