Red Hat, la société de logiciels open source appartenant à IBM, est acquérant Neural Magic, une startup qui optimise les modèles d’IA pour qu’ils s’exécutent plus rapidement sur les processeurs et les GPU de base.
Les termes de l’accord n’ont pas été divulgués.
Alex Matveev, chercheur au MIT, et Nir Shavit, professeur Nir Shavit, ont fondé Neural Magic, basé à Somerville, dans le Massachusetts, en 2018, inspirés par leurs travaux sur les moteurs d’exécution haute performance pour l’IA.
Le logiciel de Neural Magic vise à traiter les charges de travail de l’IA sur les processeurs et les GPU à des vitesses équivalentes à celles des puces d’IA spécialisées (par exemple, les TPU). En exécutant des modèles sur des processeurs prêts à l’emploi, qui ont généralement plus de mémoire disponible, les logiciels de l’entreprise peuvent réaliser ces gains de performances.
Les grandes entreprises technologiques comme AMD et une foule d’autres startups, dont NeuReality, Deci, CoCoPie, OctoML et DeepCube, proposent une sorte de logiciel d’optimisation de l’IA. Mais Neural Magic est l’un des rares à disposer d’une plate-forme gratuite et d’une collection d’outils open source pour la compléter.
Neural Magic avait jusqu’à présent réussi à lever 50 millions de dollars en capital-risque auprès de bailleurs de fonds comme Andreessen Horowitz, New Enterprise Associations, Amdocs, Comcast Ventures, Pillar VC et Ridgeline Ventures.
Matt Hicks, PDG de Red Hat, a déclaré que le travail de Neural Magic sur vLLM, un projet open source pour la diffusion de modèles, intéressait particulièrement Red Hat. Avec Neural Magic, la société open source bénéficie d’une pile « d’entreprise » basée sur vLLM qui permet aux clients d’optimiser et de déployer des modèles dans des environnements cloud, a déclaré M. Hick, avec un contrôle total de l’infrastructure et de la Sécurité.
Red Hat est déjà impliqué dans le projet vLLM, qu’il exploite pour exécuter des modèles dans des produits tels que Red Hat Enterprise Linux AI et Red Hat OpenShift AI. Selon M. Hick, grâce au travail combiné de Red Hat et de Neural Magic, ses partenaires d’infrastructure seront en mesure de mieux faire évoluer l’IA sur l’ensemble des plateformes, et ses partenaires fournisseurs de services intégrés bénéficieront d’une inférence et de performances plus robustes à intégrer à leurs offres.
« Les charges de travail d’IA doivent s’exécuter là où se trouvent les données des clients dans le cloud hybride. cela rend les plates-formes et les outils flexibles, standardisés et ouverts une nécessité, car ils permettent aux organisations de sélectionner les environnements, les ressources et les architectures qui correspondent le mieux à leurs besoins opérationnels et de données uniques », a déclaré M. Hicks dans un communiqué. « Nous sommes ravis de compléter notre portefeuille d’IA axé sur le cloud hybride avec l’innovation révolutionnaire de Neural Magic en matière d’IA, ce qui renforce notre volonté d’être non seulement le « Red Hat » de l’open source, mais aussi le « Red Hat » de l’IA.
L’acquisition de Neural Magic par Red Hat intervient alors que la société fait un certain nombre d’annonces liées à l’IA à KubeCon, la conférence annuelle sur l’informatique, à Salt Lake City cette semaine. Red Hat a également dévoilé Climatik, un outil développé en collaboration avec Intel, Bloomberg et IBM pour optimiser l’efficacité énergétique des centres de données, ainsi que de nouvelles versions de ses plates-formes de développement OpenShift AI et Device Edge.
À mesure que les demandes de puissance et les coûts de création et de déploiement de l’IA augmentent, les grands fournisseurs de technologie ont décidé de s’emparer des entreprises avec des produits qui pourraient aider à optimiser les algorithmes d’IA. En avril, Nvidia a acquis Run :ai, une société qui facilite la gestion et l’optimisation de leur infrastructure d’IA par les développeurs. Et en octobre 2020, Intel a racheté SigOpt, un spécialiste de l’optimisation de la modélisation.
