Un laboratoire de recherche sur l’intelligence artificielle (IA) voit le jour à Paris. Xavier Niel, Rodolphe Saadé et Eric Schmidt ont annoncé le 17 novembre financer à hauteur de 300 millions d’euros un laboratoire à but non lucratif dédié à la recherche ouverte en IA. Les patrons d’Iliad et de la CMA-CGM unissent leurs forcent avec celles de l'ancien patron de Google. Peut-être pourra-t-il convaincre d’autres donateurs de mettre au pot… Puisque les fondateurs invitent d’autres entités à les rejoindre pour financer les recherches sur le long terme. Ils espèrent concurrencer OpenAI, l'américain qui a propulsé l'IA générative sur la scène médiatique avec ChatGPT.
De la recherche ouverte pour Kyutai
«Kyutai est une fondation indépendante», précise Aude Durand, directrice générale adjointe d'Iliad holding en charge des projets d’intelligence artificielle. Elle doit se positionner entre la recherche publique, qui ne dispose pas forcément de moyens suffisants, et les laboratoires appartenant aux grands groupes américains ou chinois, largement financés. Meta a démarré en 2015 ses travaux autour de l’IA à Paris, suivi par Google en 2018 avec un centre pour explorer les futurs usages. Thales, EDF et Total ont regroupé leurs forces avec l’ouverture d’un laboratoire dont les travaux se concentrent sur le développement des technologies d'intelligence artificielle adaptées aux besoins des systèmes critiques industriels.
Kyutai cherche à se distinguer en faisant la part belle à la recherche ouverte et au partage des avancées avec le reste de l’écosystème. «L’ensemble des modèles entraînés et des méthodes d’entraînements feront l’objet de publications», détaille Aude Durand. Les six premiers chercheurs recrutés vont commencer par développer un grand modèle de langage (LLM), la brique initiale derrière l’IA générative. Dans leurs axes de recherche figurent aussi les modèles multimodaux – utilisant aussi bien le texte que l’image, la vidéo et l’audio – ainsi que la capacité d'un modèle à vérifier les informations avant de les transmettre. L’objectif est de parvenir à proposer un système qui puisse réaliser des tâches similaires à celles faites par les humains et pourquoi pas remplacer les modèles derrière de nombreuses plateformes et outils.
Kyutai bénéficie des capacités de calcul de Scaleway
D’autres chercheurs doivent venir renforcer l’équipe déjà nommée. A ce sujet, Aude Durand rappelle que l’équipe a vocation à «rester petite et efficace» tout en «formant de futurs experts dans le domaine, via le recrutement de stagiaires et l’encadrement de thèses». L’équipe est encadrée par un conseil scientifique composé de Yejin Choi (chercheuse sud-coréenne spécialisée dans le traitement du langage naturel et la vision par ordinateur), Yann Le Cun (chercheur français considéré comme l’un des pères de l’IA) et Bernhard Schölkopf (chercheur allemand spécialisé en apprentissage automatique).
Kyutai bénéficie des capacités de calcul de Scaleway, la filiale cloud d’Iliad. Cette dernière a acheté un supercalculateur Nvidia (un DGX SuperPOD équipé des systèmes NVIDIA DGX H100 spécialement conçus pour les tâches d'IA) installé dans un des datacenters d’Iliad en région parisienne. Un équipement grâce auquel il est possible d'entraîner quatre fois plus vite des modèles de langage qu'avec des calculateurs équipés de versions antérieures de cartes graphiques (GPU).
Si besoin, Kyutai pourra aussi s’offrir d’autres capacités de calcul grâce aux fonds dont il bénéficie. Tout en gardant en considération que les 300 millions d’euros de financement doivent lui permettre de poursuivre son activité pendant au moins quatre ans.
