Samsung Electronics Co., le premier fabricant mondial de puces mémoire, fournira sa puce d'intelligence artificielle de nouvelle génération, Mach-1, d'une valeur pouvant atteindre 1 000 milliards de wons (752 millions de dollars), à Naver Corp. d'ici la fin de cette année.
Grâce à cet accord, Naver réduirait considérablement sa dépendance à l’égard de Nvidia Corp. pour ses besoins en puces IA.
La division commerciale System LSI de Samsung s'est mise d'accord avec Naver sur l'accord de fourniture et les deux sociétés sont en pourparlers finaux pour affiner le volume et les prix exacts, ont déclaré vendredi des sources proches du dossier.
Samsung, le géant sud-coréen de la technologie, espère vendre la puce Mach-1 AI à environ 5 millions de won (3 756 dollars) pièce et Naver souhaite recevoir entre 150 000 et 200 000 unités de l'accélérateur d'IA, ont indiqué des sources.
Naver, l'un des principaux géants coréens des plateformes en ligne, devrait utiliser des puces Mach-1 dans ses serveurs pour l'inférence de l'IA, en remplacement des puces achetées auprès de Nvidia.
Tirant parti de sa vente de puces Mach-1 à Naver comme tremplin, Samsung prévoit d’élargir sa clientèle aux grandes entreprises technologiques. Samsung est déjà en pourparlers d'approvisionnement avec Microsoft Corp. et Meta Platforms Inc. et les sociétés américaines ont manifesté leur intérêt, ont indiqué des sources.
Un accélérateur est un périphérique matériel à usage spécial qui utilise plusieurs puces conçues pour le traitement des données et l'informatique.
MACH-1, COMPÉTITIF EN TARIF, PERFORMANCE ET EFFICACITÉ
Kyung Kye-hyun, responsable de l'activité semi-conducteurs de Samsung, a déclaré mercredi lors de l'assemblée générale annuelle de la société que la puce Mach-1 AI était en cours de développement et qu'elle le serait. commencer la production en série d'un prototype d'ici la fin de l'année.
Mach-1 est un accélérateur d'IA sous la forme d'un système sur puce (SoC) qui réduit le goulot d'étranglement entre l'unité de traitement graphique (GPU) et les puces de mémoire à haute bande passante (HBM), selon Samsung.
Kyung a déclaré que Mach-1 est un produit spécifié pour s'adapter au modèle de transformateur.
« En utilisant plusieurs algorithmes, il peut réduire le phénomène de goulot d'étranglement qui se produit entre la mémoire et les puces GPU à un huitième de ce que nous observons aujourd'hui et améliorer l'efficacité énergétique de huit fois », a-t-il déclaré. « Cela permettra l'inférence de grands modèles de langage même avec une mémoire à faible consommation au lieu d'un HBM gourmand en énergie. »
Contrairement à l'accélérateur d'IA de Nvidia, composé de GPU et de puces HBM, Mach 1 a été conçu en combinant les processeurs propriétaires de Samsung et des puces DRAM basse consommation (LP).
Grâce à cette conception, Mach-1 présente moins de goulots d'étranglement en matière de données et consomme moins d'énergie que les produits Nvidia, selon des sources industrielles.
En outre, le prix de la puce Mach-1 représente un dixième de celui des produits Nvidia, ont-ils déclaré.
POUR SEVRER LA DÉPENDANCE DE NIVIDIA
Nvidia, la plus grande société de conception de puces et fournisseur de puces d'IA au monde, a enregistré une marge bénéficiaire d'exploitation de 62 % au cours du trimestre novembre-janvier. Quelque 18,8 milliards de dollars, soit 40 % de son chiffre d'affaires en matière de serveurs, provenaient des ventes de puces d'inférence d'IA l'année dernière.
Des sources ont déclaré que Naver utiliserait les puces Mach-1 de Samsung pour alimenter les serveurs de son service de cartographie AI, Naver Place. Une fourniture supplémentaire de puces Mach-1 à Naver est possible si le premier lot de produits présente de « bonnes performances », ont-ils déclaré.
Naver a réduit sa dépendance à l'égard de Nvidia pour les puces IA.
En octobre dernier, Naver remplacé le serveur basé sur GPU de Nvidia avec le serveur basé sur l'unité centrale (CPU) d'Intel Corp.
Le changement de serveur IA de Naver intervient alors que les entreprises mondiales de technologie de l'information sont de plus en plus mécontentes des hausses de prix des GPU de Nvidia et de la pénurie mondiale de ses GPU.
Pour Samsung, son accord avec Naver l'aiderait à rivaliser avec son rival SK Hynix Inc., l'acteur dominant dans le segment HBM avancé.
Kyung, directeur général de la division Device Solutions (DS) de Samsung, qui supervise son activité de puces, a déclaré qu'avec la puce Mach-1, Samsung vise pour rattraper SK Hynixqui a récemment commencé production en série de sa puce HBM de nouvelle génération.
HBM est devenu un élément essentiel du boom de l’IA, car il offre la vitesse de traitement plus rapide, indispensable, par rapport aux puces mémoire traditionnelles.
À la traîne sur le segment des puces HBM, Samsung a investi massivement dans HBM pour rivaliser avec SK Hynix et d'autres lecteurs de mémoire.
Le mois dernier, Samsung a annoncé avoir développé le HBM3E 12H, la première DRAM HBM3E à 12 piles du secteur et le produit HBM de la plus haute capacité à ce jour. Samsung a annoncé qu'il lancerait la production de masse de la puce au premier semestre de cette année.
Selon le cabinet d’études de marché Omdia, le marché mondial des accélérateurs d’IA d’inférence devrait passer de 6 milliards de dollars en 2023 à 143 milliards de dollars d’ici 2030.
Écrire à Jeong-Soo Hwang, Chae-Yeon Kim et Eui-Myung Park à hjs@hankyung.com In-Soo Nam a édité cet article.
