Une nouvelle puce accélère le traitement de l'IA générative à la périphérie pour exécuter les LLM plus rapidement

HSINCHU, 6 mai 2024 /PRNewswire/ — MédiaTek a dévoilé aujourd'hui le Dimensity 9300+, la dernière puce mobile phare du portefeuille Dimensity de MediaTek. Le Dimensity 9300+ offre des vitesses d'horloge accrues et est conçu pour accélérer le traitement de l'IA générative sur l'appareil, offrant une prise en charge plus large des LLM et d'autres améliorations de performances par rapport au Dimensity 9300.

« Le Dimensity 9300+ nous aidera à continuer à construire un riche écosystème d'applications d'IA générative grâce à la large prise en charge LLM de la puce et à la fusion LoRA sur l'appareil », a déclaré JC Hsu, vice-président senior d'entreprise chez MediaTek. « Pour améliorer ces expériences d'IA, le Dimensity 9300+ offre des performances impressionnantes et des améliorations pour accélérer l'inférence LLM, en exécutant les jetons beaucoup plus rapidement pour une meilleure expérience utilisateur.

Tirer parti d'une conception All-Big-Core avec 3^rd Processus TSMC 4 nm de génération, Dimensity 9300+ possède un cœur Arm Cortex-X4 fonctionnant jusqu'à 3,4 GHz, plus trois cœurs Cortex-X4 et quatre cœurs Cortex-A720. Le Dimensity 9300+ bénéficie également d'un traitement d'IA par rapport à la génération précédente grâce à la nouvelle technologie d'accélération de décodage spéculatif NeuroPilot de MediaTek dans le dernier moteur d'IA générative de l'entreprise. Le puissant moteur APU 790 AI permet à Dimensity 9300+ non seulement de prendre en charge les LLM avec 1B, 7Bet 13B paramètres, avec une évolutivité jusqu'à 33B, mais également exécuter des LLM rapidement et efficacement. Grâce à l'accélération du décodage spéculatif NeuroPilot, Dimensity 9300+ peut exécuter des LLM avec sept milliards de paramètres à 22 jetons par seconde, soit plus de 2 fois le taux des solutions concurrentes du marché de masse.

Dimensity 9300+ intègre un 2^sd moteur de raytracing matériel de dernière génération avec un GPU Arm Immortalis-G720, offrant aux joueurs des expériences de raytracing rapides à 60 FPS fluides, ainsi que des effets d'éclairage global de qualité console. La puce exploite également les dernières technologies HyperEngine de MediaTek pour faire passer le jeu au niveau supérieur. La technologie de jeu adaptative MediaTek (MAGT) offre une amélioration de l'efficacité énergétique lorsqu'elle est activée dans les titres de jeux populaires, contribuant ainsi à prolonger la durée de vie de la batterie et à garder les appareils au frais. De plus, la puce intègre le nouveau système d'observation de réseau (NOS) d'HyperEngine pour améliorer la concurrence double réseau WiFi/cellulaire et exploiter une technologie de prédiction de réseau précise. Lorsqu'il est activé, MediaTek NOS offre jusqu'à 10 % d'économies d'énergie et jusqu'à 25 % d'économies de données cellulaires.

Avec le FAI Imagiq 990 de MediaTek qui offre un traitement RAW 18 bits, Dimensity 9300+ permet aux utilisateurs de prendre des photos et des vidéos incroyables, même dans des environnements faiblement éclairés. Imagiq 990 dispose d'un moteur vidéo d'analyse sémantique IA intégré pour prendre en charge les fonctionnalités avancées de vidéographie IA, notamment la segmentation de 16 scènes avec capture vidéo en temps réel pour réduire le bruit, augmenter la luminosité et améliorer les couleurs. De plus, le Dimensity 9300+ intègre le MiraVision 990 de MediaTek, qui dispose de technologies avancées de moteur de profondeur d'IA pour améliorer le contenu des smartphones.

Dimensity 9300+ est idéal pour une large gamme d'applications d'IA, offrant :

• Prise en charge de LoRA Fusion et de NeuroPilot LoRA Fusion 2.0 sur l'appareil afin que les développeurs puissent rapidement commercialiser de nouvelles applications d'IA générative avec du texte, des images, de la musique et bien plus encore.
• Prise en charge des derniers LLM dont 01.AI Yi-Nano, Alibaba Cloud QwenBaichuan AI, ERNIE-3.5-SE, Google Gemini Nano et Meta Llama 2 et Llama 3.
• Délégation ExecuTorch pour l’inférence déployée sur l’écosystème sur l’appareil.

Pour fournir aux utilisateurs une connectivité rapide et fiable dans différents scénarios, Dimensity 9300+ comprend un modem 5G R16 conçu avec une connaissance de la situation par l'IA. Le modem prend en charge 4CC-CA Sub-6GHz avec une liaison descendante jusqu'à 7 Gbit/s.

Pour en savoir plus sur le portefeuille Dimensity de MediaTek, veuillez visiter : https://i.mediatek.com/mediatek-5g.

###

À propos de MediaTek inc.

MediaTek Incorporated (TWSE : 2454) est une société mondiale de semi-conducteurs sans usine qui permet de connecter près de 2 milliards d'appareils par an. Nous sommes un leader du marché dans le développement de systèmes sur puce (SoC) innovants pour les produits mobiles, de divertissement à domicile, de connectivité et d'IoT. Notre engagement envers l'innovation nous a positionné comme une force motrice du marché dans plusieurs domaines technologiques clés, notamment les technologies mobiles à haute efficacité énergétique, les solutions automobiles et une large gamme de produits multimédia avancés tels que les smartphones, les tablettes, les télévisions numériques, la 5G et les appareils à assistant vocal. (VAD) et les appareils portables. MediaTek permet et incite les gens à élargir leurs horizons et à atteindre leurs objectifs grâce à une technologie intelligente, plus facilement et plus efficacement que jamais. Nous travaillons avec les marques que vous aimez pour rendre la technologie de pointe accessible à tous, et c'est elle qui guide tout ce que nous faisons. Visite www.mediatek.com pour plus d'informations.

Bureau de presse MediaTek : [email protected] Kévin KeatingMédiaTek +1-206-321-7295 10188 Telesis CT #500, San Diego, Californie 92121, Etats-Unis

SOURCE MediaTek Inc.