Cette start-up spécialisée en IA lève 45 millions de dollars pour garantir la fiabilité des modèles d’IA

Avec la popularité de ChatGPT, les entreprises du monde entier intègrent l’IA générative dans leurs produits. Pourtant, selon Vikram Chatterji, un obstacle majeur freine encore leur adoption à grande échelle : les entreprises manquent de visibilité sur la fiabilité des outils une fois en service.

Un article de Richard Nieva pour Forbes US – traduit par Lisa Deleforterie

« Si vous ne réglez pas ce problème, vous restez bloqué dans une phase intermédiaire, avant la production finale », explique M. Chatterji, PDG de Galileo, une start-up spécialisée dans l’évaluation des modèles d’IA.

M. Chatterji aspire à ce que son entreprise soit celle qui parviendra à relever ce défi. Galileo collabore avec des clients comme Hewlett Packard, Comcast et Twilio pour tester leurs outils d’IA et garantir qu’ils ne produisent pas d’hallucinations (c’est-à-dire des réponses inventées) et qu’ils ne révèlent pas de données confidentielles. Mardi, la société a annoncé à Forbes avoir levé 45 millions de dollars en financement de série B, portant ainsi son total d’investissements à 68 millions de dollars depuis sa fondation il y a trois ans.

La start-up propose quatre solutions :

1. Fine Tune : conçu pour aider les entreprises clientes à adapter les modèles existants à leurs besoins spécifiques, comme l’intégration de données propriétaires.
2. Evaluate : qui permet aux entreprises de déterminer rapidement si un modèle est prêt pour le déploiement ou si des ajustements sont encore nécessaires.
3. Observe : une solution dédiée à la maintenance et aux tests en temps réel une fois le modèle en production.
4. Protect : qui atténue les risques de menaces, comme l’injection rapide, où des utilisateurs malveillants tentent de manipuler le modèle pour fausser les réponses ou révéler des informations sensibles.

En juillet, Galileo a également lancé Luna, son propre modèle linguistique conçu pour évaluer la performance d’autres modèles, en vérifiant l’exhaustivité des réponses, la protection des données et la détection des biais.

Cette annonce survient alors que les entreprises du monde entier s’efforcent d’améliorer leurs offres en matière d’IA. Toutefois, ces développements comportent des risques : les modèles d’IA peuvent faire des erreurs absurdes — comme Gemini de Google, qui a conseillé aux utilisateurs de préparer une pizza avec de la colle — ou provoquer des fuites de données sensibles, comme le code source interne de Samsung partagé sur ChatGPT l’année dernière, ce qui a poussé le géant de l’électronique à interdire à ses employés d’utiliser le chatbot. Galileo n’est pas la seule start-up spécialisée dans l’évaluation de l’IA sur le marché. La semaine dernière, sa concurrente Braintrust, qui compte parmi ses clients Stripe et Notion, a annoncé une levée de fonds de 36 millions de dollars en série A, menée par Andreessen Horowitz.

Vikram Chatterji et son cofondateur Yash Sheth sont d’anciens collègues chez Google, qu’ils ont rejoints à une semaine d’intervalle en 2013. M. Chatterji, chef de produit dans le domaine de l’IA, a récemment travaillé sur BERT, un modèle d’IA de Google conçu pour mieux comprendre les intentions des utilisateurs lors de leurs recherches. M. Sheth, aujourd’hui directeur de l’exploitation chez Galileo, était ingénieur et se spécialisait dans les outils de reconnaissance vocale de Google. Quant au troisième cofondateur, Atindriyo Sanyal, directeur technique de Galileo, il a précédemment occupé des postes d’ingénieur en IA chez Uber et Apple.

La levée de fonds de Galileo a été dirigée par Scale Venture Partners, avec le soutien de Premji Invest, une société de capital-risque indienne. D’autres investisseurs incluent les branches de capital-risque de Citibank et de la société de stockage de données Databricks, ainsi que Clem Delangue, fondateur de la start-up d’IA Hugging Face.

Andy Vitus, partenaire de Scale Venture Partners, a expliqué que les outils d’évaluation sont cruciaux pour les entreprises, car il prévoit que les modèles d’IA deviendront bientôt des représentants de la marque, notamment lorsque les entreprises commenceront à déployer des agents d’IA pour des tâches comme la réservation de voyages ou la prise de commandes pour les clients. Il souligne également que les entreprises doivent s’assurer que leurs modèles d’IA ne fassent aucune déclaration négative à propos de leurs marques ni ne fassent référence à des scandales passés.

« À terme, on s’attendra à ce que Siri, par exemple, évite de dire quoi que ce soit de négatif sur Apple », a déclaré M. Vitus, qui siège au conseil d’administration de Galileo suite à cet investissement. « Tout comme les employés ont des responsables, ces agents d’IA doivent également être encadrés. »

Jim Nottingham, vice-président senior des solutions informatiques avancées chez HP, a indiqué que l’entreprise utilisait les services de Galileo en interne pour ses propres outils d’IA, tout en les proposant également aux clients de l’AI Studio de HP, une suite d’outils par abonnement destinée à aider les développeurs dans la création de produits d’IA.

La levée de fonds de 45 millions de dollars de Galileo paraît modeste comparée aux financements spectaculaires récemment annoncés par d’autres entreprises d’IA. En début de mois, OpenAI a révélé avoir levé 6,6 milliards de dollars, le plus important tour de table jamais enregistré en capital-risque. L’entreprise xAI, fondée par Elon Musk, a également levé une somme impressionnante de 6 milliards de dollars plus tôt dans l’année. Même des acteurs moins connus, comme Groq, une start-up spécialisée dans les puces de nouvelle génération, ont réussi à lever 640 millions de dollars cet été.

Cependant, Galileo ne se consacre pas à la création de modèles d’IA de pointe exigeant des flottes de GPU (l’entreprise n’a pas formé ni perfectionné Luna à partir de zéro), ni au développement de nouvelles puces aux coûts de fabrication élevés. Par conséquent, M. Chatterji a expliqué que l’entreprise n’avait pas besoin d’une telle abondance de liquidités pour fonctionner. « Il est important de se limiter à la quantité de fonds dont on a véritablement besoin », a-t-il déclaré. « Et bâtir une entreprise durable sur le long terme. »

À lire également : Les lauréats des prix Nobel montrent comment l’IA façonne l’histoire