Google LLC a partagé aujourd’hui les premiers détails d’une nouvelle itération de sa puce TPU pour exécuter des charges de travail d’intelligence artificielle qui font plus que doubler les performances de la génération précédente.

Le TPU de Google, ou Tensor Processor Unit, est un circuit intégré spécifique à une application conçu avec l’IA à l’esprit. Le nouveau modèle TPU que le géant de la recherche a détaillé aujourd’hui est la quatrième itération de la puce. Les troisième et deuxième itérations, qui ont également démontré des performances impressionnantes, sont accessibles aux entreprises via Google Cloud Platform.

Google affirme que le TPU de quatrième génération a démontré des performances moyennes 2,7 fois plus élevées que son prédécesseur de troisième génération. Le géant de la recherche a comparé les puces en mesurant la vitesse à laquelle ils ont formé cinq modèles d’IA populaires lors du récent concours de l’industrie MLPerf. Le TPU de quatrième génération a produit les meilleurs résultats lors de l’exécution du modèle Mask R-CNN, une IA de segmentation d’image pour des cas d’utilisation tels que la conduite autonome, qu’il a entraîné 3,7 fois plus rapidement que la puce précédente de Google.

Le saut de performance est le fruit de changements majeurs sous le capot. L’ingénieur Google Naveen Kumar détaillé dans un article de blog que la société a considérablement augmenté la bande passante mémoire du TPU, ou la vitesse à laquelle la puce récupère les données de la mémoire pour les traiter, et a amélioré sa capacité à effectuer des calculs spécialisés.

« Le TPU ASIC de quatrième génération de Google offre plus du double des TFLOP de multiplication matricielle du TPU v3 », a détaillé Kumar dans l’article. La multiplication matricielle est un type d’opération mathématique que les modèles AI utilisent pour traiter les données, tandis qu’un TFLOP est un billion d’opérations en virgule flottante par seconde. Pour la perspective, le TPU v3 de troisième génération avec lequel la nouvelle puce a été comparée peut gérer 420 billions d’opérations par seconde.

Kumar a écrit que les clients peuvent s’attendre à plus d’informations sur le nouveau TPU «bientôt». Il est fort possible que la puce finisse par atterrir dans Google Cloud étant donné que les deux TPU de la génération précédente sont déjà disponibles à la location sur la plate-forme. Cependant, les clients peuvent devoir attendre un peu: ExtremeTech signalé que le TPU de quatrième génération a été placé dans la catégorie recherche lors du concours MLPerf, ce qui signifie qu’il ne sera pas disponible dans le commerce avant au moins six mois.

Les améliorations de vitesse de la nouvelle puce sont particulièrement notables étant donné que la version de troisième génération qu’elle surpasse a aidé à battre plusieurs records au cours du même concours. Google a utilisé 4 090 TPU de troisième génération pour créer ce qu’il appelle le Le supercalculateur d’entraînement à l’IA le plus rapide au monde. Le système a établi de nouveaux records pour six des huit benchmarks MLPerf et formé quatre des modèles testés en moins de 30 secondes.

Image: Google