Mistral AI a multiplié les recrutements depuis son lancement en avril 2023 et compte désormais 22 salariés. (Crédit : Mistral AI)
Le cercle des licornes françaises s'agrandit pour accueillir la start-up Mistral AI qui vient de réaliser un tour de table de 385 millions d'euros auprès d'investisseurs américains et français. Dans le même temps, la société née il y a moins d'un an a publié un grand modèle de langage Mixtral 8x7B qui dépasse le LLM de Meta Llama 70B dans plusieurs benchmarks.
Il y a quelques jours, la rumeur circulait à propos d'une potentielle levée de fonds pour la start-up française Mistral AI. La somme en jeu ? 450 millions d'euros, avec principalement des investisseurs américains. C'est désormais avéré. La jeune pousse a en effet annoncé ce dimanche avoir levé 385 millions d'euros. Ce second tour de financement, mené par le fonds californien Andreessen Horowitz, valorise donc Mistral AI à 1,86 milliard d'euros selon des sources financières et fait d'elle une licorne française. Parmi les investisseurs, figurent plusieurs géants technologiques américains, comme Salesforce, mais aussi Nvidia. BNP Paribas, ainsi que CMA CGM déjà présent lors du précédent tour de table. « Depuis la création de Mistral AI en mai, nous suivons une ambition claire : créer un champion européen à vocation mondiale dans l'intelligence artificielle (...) », a déclaré son co-fondateur et dirigeant, Arthur Mensch, cité dans le communiqué du groupe.
Désormais, la jeune pousse compte 22 salariés et poursuit ses recrutements. Elle propose aux entreprises des modèles de langage en open source alimentés par des données publiques. Elle vient d'ailleurs de publier un nouveau modèle appelé Mixtral 8x7B. La start-up définit ce modèle comme « un mélange clairsemé de modèles experts (SMoE) de haute qualité avec des pondérations ouvertes ». Sous licence Apache 2.0. Mixtral surpasse Llama 2 70B sur la plupart des benchmarks avec une inférence 6 fois plus rapide, ajoute-t-elle, avant de préciser que ce modèle constitue le meilleur « en termes de compromis coût/performance ». « En particulier, il correspond ou surpasse GPT3.5 sur la plupart des benchmarks standards », affirme Mistral AI. Dans le détail, ce modèle gère un contexte de 32 000 tokens, peut traiter l'anglais, le français, l'italien, l'allemand et l'espagnol et peut être affiné dans un modèle de suivi d'instructions qui atteint un score de 8,3 sur MT-Bench.
Un premier modèle publié en septembre
Fin septembre, elle a publié son premier grand modèle de langage, baptisé Mistral 7B, avec comme son nom l'indique, 7 milliards de paramètres. Les fondateurs Arthur Mensch, Guillaume Lample et Timothée Lacroix ont mis les bouchées doubles pour présenter ces premiers travaux. Le LLM est disponible en open source sous licence Apache 2.0. Il est possible de le télécharger directement (archive de 13,5 Go) ou de le déployer sur des instances de cloud public (AWS/GCP/Azure), ainsi que sur la plateforme Hugging Face.
En interne, Mistral 7B a fait l'objet de plusieurs benchmarks sur certains points : connaissance, raisonnement, compréhension, mathématiques, ... Et les résultats donnent un avantage à Mistral 7B en termes de précision. Même constat pour le modèle Mistral Instruct 7B entraîné pour le chat avec des datasets disponibles sur Hugging Face. Ce modèle « est une démonstration rapide que le modèle de base peut être facilement ajusté pour obtenir des performances convaincantes », souligne la start-up. Pour réaliser Mistral 7B, la jeune pousse a pu compter sur le soutien de CoreWeave, un fournisseur de cloud orienté IA avec des instances HGX H100 de Nvidia, mais aussi sur les ressources de l'équipe CINECA/EuroHPC, et en particulier les opérateurs de Leonardo (supercalculateur basé en Italie).
L'IA décolle en France
Depuis son lancement, Mistral AI a su s'attirer les faveurs des politiques et grands investisseurs français. Officiellement lancée le 28 avril 2023, Mistral AI avait fait la une de nombreux médias en juin en levant 105 millions d'euros après seulement quatre semaines d'existence, sans aucun produit disponible et au plus fort du ralentissement économique. Lors de ce premier tour de table, mené par le fonds américain Lightspeed Venture, nombre de patrons se sont intéressés à cette pépite : Xavier Niel, à l'origine du groupe Iliad, Rodolphe Saadé, dirigeant de CMA CGM, ainsi que l'ex-PDG de Google, Eric Schmidt. Trois personnalités qui ont récemment fait parler d'elles pour un autre investissement conséquence : le projet Kyutai.
Ce laboratoire de recherche doit faire décoller l'intelligence artificielle en France. Décrit comme le « premier laboratoire de recherche européen indépendant dédié à l'open science en IA », il est le fruit d'un rapprochement entre Iliad, CMA-CGM et Schmidt Futures, le fonds d'investissement ou « entreprise philanthropique » comme aime à le présenter Eric Schmidt, ancien CEO de Google. Le projet a ainsi bénéficié des généreuses contributions de chacune de ces entreprises à hauteur d'environ 100 millions d'euros et a vocation à fédérer d'autres investissements à l'avenir afin de grossir son enveloppe actuelle comprise entre 250 et 300 millions d'euros. L'organisation se démarque par ailleurs de nombreuses autres initiatives lancées ces derniers mois ; elle est « non-profit » (à but non lucratif).
Notons enfin que Mistral AI peut compter sur le gouvernement français via la personne de Cédric O, ancien secrétaire d'Etat au numérique qui joue un rôle de « conseiller cofondateur » auprès de la jeune pousse. Celui-ci peut donc défendre les intérêts de la start-up jusqu'au sommet de l'Etat, puisqu'il est aussi membre du comité interministériel sur l'IA générative créé en septembre par Elisabeth Borne.
Suivez-nous