Au MWC 2024, Qualcomm a enfin lancé son AI Hub pour offrir des expériences d'IA sur plusieurs appareils. Le fabricant américain de puces affirme que son moteur d’IA est suffisamment puissant pour offrir une informatique intelligente sur toutes les plateformes, des smartphones aux PC.
Qualcomm AI Hub dispose d'une bibliothèque de modèles d'IA entièrement optimisés que vous pouvez télécharger et exécuter localement sur votre appareil. Il prend également en charge de nombreux frameworks d'IA populaires tels que TensorFlow de Google et PyTorch de Meta AI, dans le cadre de Qualcomm AI Stack.
Qualcomm AI Hub a optimisé plus de 75 modèles d'IA
Qualcomm affirme que son AI Hub a plus de 75 modèles d'IA optimisés et prend en charge l'inférence IA jusqu'à 4 fois par rapport à la concurrence. Vous pouvez utiliser ces modèles d'IA pour diverses tâches, notamment la segmentation d'images, la génération d'images, la génération de texte, l'amélioration de la faible luminosité, la super-résolution, la reconnaissance vocale, etc. En tandem, Qualcomm AI Hub peut alimenter des modèles d’IA multimodaux capables de voir, d’entendre et de parler localement.
Le géant des puces a mentionné qu'il pouvait exécuter des modèles d'IA multimodaux avec 7B+ paramètres sur les appareils Android localement. Il peut exécuter des modèles comme LLaVa avec prise en charge de la sortie de texte, de parole et d'image. L'ensemble de la pile logicielle a été optimisé pour offrir les meilleures performances d'IA tout en consommant un minimum d'énergie. Puisque tout est fait localement, votre la vie privée est préservéeet il débloque également des expériences d’IA personnalisées.
Même sur les ordinateurs portables Windows exécutant le prochain chipset Snapdragon X Elite, vous pouvez saisir votre voix, ce qui permet de raisonner la parole et de générer une sortie en un rien de temps. Qualcomm a également utilisé une technique appelée LoRA (Low-Rank Adaptation) pour générer des images IA en utilisant Stable Diffusion localement sur l’appareil. Il peut exécuter le modèle de diffusion stable avec des paramètres 1B+.
Qualcomm contre Intel : performances du NPU
Pour prouver davantage la puissante capacité d'IA sur appareil du Snapdragon X Elite, Qualcomm a effectué un test de génération d'images sur GIMP à l'aide du plugin Stable Diffusion. L'ordinateur portable alimenté par Snapdragon X Elite a généré une image IA dans seulement 7,25 secondes tandis que le dernier processeur Intel Core UItra alimenté par x86 a pris 22,26 secondes.
Il est important de noter qu'Intel a lancé l'architecture Meteor Lake (alimentant les processeurs Core Ultra) avec diverses tuiles de calcul, dans lesquelles la tuile NPU (construite sur le nœud Intel 4) est conçue pour les tâches d'IA sur l'appareil. Malgré cela, le Snapdragon X Elite alimenté par ARM offre Performances de l'IA 3 fois supérieures, en grande partie parce que son NPU peut faire 45 TOPS à lui seul. Et lorsqu'il est combiné avec le CPU, le GPU et le NPU, il en résulte des performances de calcul allant jusqu'à 75 TOPS.
Enfin, Qualcomm s'efforce également d'apporter Expériences d'IA hybride où les tâches de traitement de l’IA sont réparties sur les ressources de calcul locales et cloud pour offrir de meilleures performances. Vous pouvez consulter Qualcomm AI Hub ici (visite).
Alors que pensez-vous de Qualcomm AI Hub ? Cela stimulera-t-il de nouvelles expériences d’IA générative sur les appareils ? Faites-nous savoir dans la section commentaire ci-dessous.
