L’intelligence artificielle fait beaucoup de choses extrêmement bien, mais juste Comment il fait ces choses reste souvent flou – enveloppé par ce que l’on appelle désormais le problème de la «boîte noire». Cela est particulièrement vrai en PNL, où les chercheurs peuvent perdre beaucoup de temps à essayer de comprendre ce qui n’a pas fonctionné lorsque leurs modèles ne fonctionnent pas aussi bien que prévu. La semaine dernière, Google Research a publié un article traitant de ce problème avec une nouvelle plate-forme d’analyse open-source: l’outil d’interprétation du langage (LIT).

LIT est une boîte à outils et une interface utilisateur (UI) basée sur un navigateur pour la compréhension du modèle NLP. Il a cinq fonctions principales:

• Prend en charge l’explication locale, y compris les cartes de saillance, l’attention et les riches visualisations de la prédiction du modèle
• Prend en charge l’analyse agrégée, y compris les métriques, les espaces d’intégration et le découpage flexible
• Permet de basculer de manière transparente entre les éléments ci-dessus pour tester les hypothèses locales et valider sur un ensemble de données
• Permet d’ajouter de nouveaux points de données à tout moment et de visualiser immédiatement leur effet
• Permet de visualiser des comparaisons entre deux modèles ou deux points de données sur la même interface

L’interface utilisateur LIT est écrite en TypeScript et communique avec un backend Python qui héberge des modèles, des ensembles de données, des générateurs contrefactuels et d’autres composants d’interprétation. Compte tenu de l’évolution continue des modèles de PNL, les chercheurs de Google ont conçu le SAI avec cinq principes:

• Flexible pour prendre en charge un large éventail de tâches PNL, y compris la classification, seq2seq, la modélisation du langage et la prédiction structurée
• Extensible afin de pouvoir être reconfiguré et étendu pour les flux de travail nouvellement ajoutés
• Modulaire avec des composants indépendants portables à sélectionner en fonction des besoins particuliers
• Framework indépendant, fonctionne avec n’importe quel modèle pouvant fonctionner à partir de Python
• Facile à utiliser avec seulement une petite quantité de code requise

Les chercheurs de Google soulignent que leur outil d’évaluation interactif LIT n’est pas adapté au suivi du temps de formation ou à de grands ensembles de données.

Le papier L’outil d’interprétation du langage: visualisations et analyses extensibles et interactives pour les modèles PNL est sur arXiv. L’outil a été open-source sur Github.

Analyste: Reina Qi Wan | Éditeur: Michael Sarazen; Fangyu Cai

Rapport synchronisé | Une enquête sur les solutions d’intelligence artificielle en Chine en réponse à la pandémie COVID-19 – 87 études de cas de plus de 700 fournisseurs d’IA

Ce rapport offre un aperçu de la manière dont la Chine a exploité les technologies d’intelligence artificielle dans la bataille contre le COVID-19. Il est également disponible sur Kindle d’Amazon. Parallèlement à ce rapport, nous avons également introduit un base de données couvrant 1428 solutions d’intelligence artificielle supplémentaires à partir de 12 scénarios de pandémie.

Cliquez sur ici pour trouver plus de rapports de notre part.