Blog

Jun 30, 2023

Modular obtient 100 millions de dollars pour créer des outils permettant d'optimiser et de créer des modèles d'IA

Modular, une startup créant une plateforme de développement et d'optimisation de systèmes d'IA, a levé 100 millions de dollars lors d'un cycle de financement mené par General Catalyst avec la participation de GV (Google Ventures), SV

Modular, une startup créant une plateforme de développement et d'optimisation de systèmes d'IA, a levé 100 millions de dollars lors d'un cycle de financement mené par General Catalyst avec la participation de GV (Google Ventures), SV Angel, Greylock et Factory.

Portant le total de Modular à 130 millions de dollars, les bénéfices seront consacrés à l'expansion du produit, au support matériel et à l'expansion du langage de programmation de Modular, a déclaré Mojo, PDG Chris Lattner.

"Parce que nous opérons dans un espace profondément technique qui nécessite une expertise hautement spécialisée, nous avons l'intention d'utiliser ce financement pour soutenir la croissance de notre équipe", a déclaré Lattner dans une interview par courrier électronique avec TechCrunch. "Ce financement ne sera pas principalement consacré au calcul de l'IA, mais plutôt à l'amélioration de nos produits de base et à leur évolution pour répondre à l'incroyable demande de nos clients."

Lattner, un ancien Googler, a cofondé Modular, basé à Palo Alto, en 2022 avec Tim Davis, un ancien collègue de Google dans la division de recherche Google Brain du géant de la technologie. Lattner et Davis ont estimé que l’IA était freinée par une infrastructure technique trop complexe et fragmentée, et ont fondé Modular en mettant l’accent sur la suppression de la complexité liée à la création et à la maintenance de systèmes d’IA à grande échelle.

Modular fournit un moteur qui tente d’améliorer les performances d’inférence des modèles d’IA sur les processeurs – et à partir de cette année, sur les GPU – tout en réalisant des économies. Compatible avec les environnements cloud existants, les frameworks d'apprentissage automatique comme TensorFlow de Google et PyTorch de Meta et même d'autres moteurs d'accélérateur d'IA, le moteur de Modular, actuellement en version fermée, permet aux développeurs d'importer des modèles formés et de les exécuter jusqu'à 7,5 fois plus rapidement que sur leurs frameworks natifs, Lattner réclamations.

L'autre produit phare de Modular, Mojo, est un langage de programmation qui vise à combiner la convivialité de Python avec des fonctionnalités telles que la mise en cache, les techniques de compilation adaptative et la métaprogrammation. Actuellement disponible en avant-première pour « des centaines » d’utilisateurs précoces, Modular prévoit de publier Mojo en disponibilité générale au début du mois prochain.

« Notre plateforme de développement permet à nos clients, ainsi qu'aux développeurs du monde entier, de défragmenter leurs piles technologiques d'IA, en poussant plus d'innovations en production plus rapidement et en tirant davantage de valeur de leur investissement dans l'IA », a déclaré Lattner. « Nous nous attaquons à la complexité qui ralentit aujourd'hui le développement de l'IA en résolvant les problèmes de fragmentation qui affectent la pile d'IA, en commençant par l'endroit où les logiciels d'IA rencontrent le matériel d'IA. »

Beaucoup d’ambition ? Peut-être. Mais rien de ce que propose Modular, qui emploie environ 70 employés, n’est hors du domaine du possible.

Deci, soutenue par Intel, fait partie des startups proposant des technologies permettant de rendre les modèles d'IA entraînés plus efficaces et performants. Un autre membre de cette catégorie est OctoML, qui optimise, évalue et regroupe automatiquement les modèles pour une gamme de matériels différents.

Quoi qu'il en soit, selon Lattner, la demande en matière d'IA approche rapidement des limites de la durabilité, ce qui rend extrêmement souhaitable toute technologie visant à réduire ses besoins en calcul. Les modèles d'IA générative en vogue aujourd'hui sont 10 à 100 fois plus grands que les modèles d'IA plus anciens, comme le souligne un article récent du Wall Street Journal, et une grande partie de l'infrastructure de cloud public n'a pas été conçue pour faire fonctionner ces systèmes - du moins pas du tout. cette échelle.

Cela a déjà eu un impact. Microsoft est confronté à une pénurie de matériel serveur nécessaire à l'exécution de l'IA, si grave qu'elle pourrait entraîner des interruptions de service, a averti la société dans un rapport sur les résultats. Pendant ce temps, l'appétit fulgurant pour le matériel d'inférence d'IA - principalement les GPU - a porté la capitalisation boursière du fournisseur de GPU Nvidia à 1 000 milliards de dollars. Mais Nvidia est devenu victime de son propre succès ; les puces d'IA les plus performantes de l'entreprise seraient épuisées jusqu'en 2024.

Pour ces raisons et d’autres, plus de la moitié des décideurs en matière d’IA dans les grandes entreprises déclarent être confrontés à des obstacles au déploiement des derniers outils d’IA, selon un sondage réalisé en 2023 par S&P Global.

« La puissance de calcul nécessaire aux programmes d'IA d'aujourd'hui est énorme et non viable dans le cadre du modèle actuel », a déclaré Lattner. « Nous constatons déjà des cas où la capacité de calcul n'est pas suffisante pour répondre à la demande. Les coûts montent en flèche et seules les grandes et puissantes entreprises technologiques disposent des ressources nécessaires pour créer ce type de solutions. Modular résout ce problème et permettra aux produits et services d’IA d’être alimentés d’une manière beaucoup plus abordable, durable et accessible à toute entreprise.