«  »

Pour certaines personnes, le terme «boîte noire» évoque les appareils d’enregistrement dans les avions qui sont précieux pour les analyses post-mortem si l’impensable se produit. Pour d’autres, il évoque de petits théâtres peu équipés. Mais la boîte noire est aussi un terme important dans le monde de intelligence artificielle.

IA boîtes noires font référence à des systèmes d’IA dont le fonctionnement interne est invisible pour l’utilisateur. Vous pouvez leur donner une entrée et obtenir une sortie, mais vous ne pouvez pas examiner le code du système ou la logique qui a produit la sortie.

L’apprentissage automatique est le sous-ensemble dominant de l’intelligence artificielle. Il sous-tend les systèmes d’IA générative comme ChatGPT et DALL-E2.L’apprentissage automatique comporte trois composants : un algorithme ou un ensemble d’algorithmes, des données d’entraînement et un modèle. Un algorithme est un ensemble de procédures. Dans l’apprentissage automatique, un algorithme apprend à identifier des modèles après avoir été formé sur un grand nombre d’exemples – les données de formation. Une fois qu’un algorithme d’apprentissage automatique a été formé, le résultat est un modèle d’apprentissage automatique. Le modèle est ce que les gens utilisent.

Par exemple, un algorithme d’apprentissage automatique pourrait être conçu pour identifier des modèles dans les images, et les données d’entraînement pourraient être des images de chiens. Le modèle d’apprentissage automatique qui en résulterait serait un guetteur de chiens. Vous lui donneriez une image en entrée et vous obtiendriez en sortie si et où dans l’image un ensemble de pixels représente un chien.

N’importe lequel des trois composants d’un système d’apprentissage automatique peut être caché ou dans une boîte noire. Comme c’est souvent le cas, l’algorithme est connu du public, ce qui rend moins efficace sa mise dans une boîte noire. Ainsi, pour protéger leur propriété intellectuelle, les développeurs d’IA placent souvent le modèle dans une boîte noire. Une autre approche adoptée par les développeurs de logiciels consiste à masquer les données utilisées pour former le modèle – en d’autres termes, à placer les données de formation dans une boîte noire.

L’opposé d’une boîte noire est parfois appelé un boîte en verre. Une boîte en verre d’IA est un système dont les algorithmes, les données d’entraînement et le modèle sont tous accessibles à tous. Mais les chercheurs caractérisent parfois même certains de ces aspects comme une boîte noire.

C’est parce que les chercheurs ne comprends pas tout à fait comment les algorithmes d’apprentissage automatique, en particulier l’apprentissage en profondeur algorithmes, fonctionnent. Le domaine de IA explicable travaille à développer des algorithmes qui, bien que n’étant pas nécessairement une boîte de verre, peuvent être mieux compris par les humains.