J’ai compris l’IA a déclaré avoir développé une IA pour identifier et traiter les « hallucinations » ChatGPT pour les applications d’entreprise.

ChatGPT a pris d’assaut le monde de la technologie en montrant les capacités de l’IA générative, qui peut permettre aux gens ordinaires d’inciter l’IA à générer une grande variété de choses, des programmes informatiques aux chansons originales.

Certaines de ces créations sont remarquables. Mais la mauvaise chose à propos de ChatGPT est son taux d’erreur. Peter Relan, cofondateur de la startup d’IA conversationnelle Got It AI, a déclaré dans une interview avec VentureBeat que les chatbots pour l’IA conversationnelle sur les bases de connaissances d’entreprise ne peuvent pas se permettre de se tromper 15 à 20 % du temps. J’ai trouvé le taux d’erreur assez facilement en faisant quelques invites simples avec ChatGPT.

Relan appelle les mauvaises réponses de ChatGPT des « hallucinations ». Ainsi, sa propre entreprise a proposé le « vérificateur de vérité » pour identifier quand ChatGPT « hallucine » (génère des réponses fabriquées) en ce qui concerne la réponse aux questions d’un grand nombre d’articles ou de contenu dans une base de connaissances.

Il a déclaré que cette innovation permet de déployer des expériences de type ChatGPT sans risquer de fournir des réponses factuellement incorrectes aux utilisateurs ou aux employés. Les entreprises peuvent utiliser la combinaison de ChatGPT et du vérificateur de vérité pour déployer en toute confiance des IA conversationnelles qui exploitent des bases de connaissances étendues telles que celles utilisées dans le support client ou pour les requêtes de base de connaissances internes, a-t-il déclaré.

L’IA autonome de vérification de la vérité, dotée d’un domaine cible de contenu (par exemple, une grande base de connaissances ou une collection d’articles) utilise un système avancé d’IA basé sur le Large Language Model (LLM) pour s’entraîner de manière autonome sans intervention humaine spécifiquement pour une tâche : vérification de la vérité.

ChatGPT, fourni avec du contenu du même domaine de contenu, peut ensuite être utilisé pour répondre aux questions dans une boîte de dialogue de discussion à plusieurs tours, et chaque réponse est évaluée comme étant vraie avant d’être présentée à l’utilisateur. Chaque fois qu’une hallucination est détectée, la réponse n’est pas présentée à l’utilisateur ; à la place, une référence aux articles pertinents contenant la réponse est fournie, a déclaré Relan.

« Nous avons testé notre technologie avec un ensemble de données de plus de 1 000 articles dans plusieurs bases de connaissances différentes en utilisant des conversations à plusieurs tours avec des structures linguistiques complexes telles que la co-référence, les changements de contexte et de sujet », a déclaré Chandra Khatri, ancien chef d’équipe du prix Alexa et co -fondateur de Got It AI, dans un communiqué. « ChatGPT LLM a produit des réponses incorrectes pour environ 20 % des requêtes. L’IA autonome de vérification de la vérité a pu détecter 90 % des réponses inexactes. Nous avons également fourni au client une interface utilisateur simple pour l’IA de vérification de la vérité, afin de l’optimiser davantage pour identifier les inexactitudes restantes et éliminer pratiquement toutes les réponses inexactes.

Je suppose que cela signifie que vous pourriez avoir besoin de plus d’un vérificateur de vérité.

« Alors que nous nous attendons à ce qu’OpenAI, au fil du temps, résolve le problème des hallucinations dans ses modèles ChatGPT LLM de base pour les conversations » domaine ouvert « sur n’importe quel sujet sur Internet, notre technologie est une percée majeure dans l’IA conversationnelle autonome pour les domaines » connus « de contenu, comme les bases de connaissances d’entreprise », a déclaré Amol Kelkar, cofondateur de Got It AI, dans un communiqué. « Il ne s’agit pas d’une ingénierie rapide, d’un réglage fin ou simplement d’une couche d’interface utilisateur. Il s’agit d’un système d’IA basé sur LLM qui nous permet de fournir une IA conversationnelle évolutive, précise et fluide aux clients qui prévoient d’exploiter rapidement ChatGPT. La vérification de la véracité des réponses générées, de manière rentable, est la capacité clé qui comble l’écart entre un système de R&D et un système prêt pour l’entreprise.

« Il y a tout un référentiel de toutes les erreurs connues », a déclaré Relan. « Très grossièrement, le mot est qu’il est jusqu’à 20 %. C’est hallucinant et inventant des trucs.

Il a noté que ChatGPT est un domaine ouvert, où vous pouvez lui parler de tout. De Jules César à un problème de mathématiques en passant par les jeux. Il a absorbé Internet, mais seulement jusqu’en 2021. Got It AI n’essaie pas de revérifier tout cela. Mais il peut cibler un ensemble limité de contenus comme une base de connaissances d’entreprise.

« Nous réduisons donc la portée et la taille du problème », a déclaré Relan. « C’est la première chose. Nous avons maintenant un domaine que nous comprenons. La deuxième est de construire une IA. Ce n’est pas basé sur ChatGPT.

Cela peut être utilisé pour évaluer si les réponses de ChatGPT sont fausses ou non. Et c’est ce que Got It AI peut faire.

« Nous ne prétendons pas attraper des hallucinations pour Internet, comme tout ce qui pourrait être sur Internet », a-t-il déclaré.

Avec Got It AI, les réponses du chatbot sont d’abord filtrées par l’IA.

« Nous détectons qu’il s’agit d’une hallucination. Et nous vous donnons simplement une réponse », a déclaré Relan. « Nous pensons que nous pouvons obtenir une réduction de plus de 90 % des hallucinations dès la sortie de la boîte et la livrer. »

D’autres tentent également de résoudre les problèmes de précision. Mais Relan a déclaré qu’il n’était pas facile d’obtenir des chiffres de haute précision, compte tenu de l’ampleur du problème. Et il a dit : « Nous allons vous donner une interface utilisateur agréable pour que vous puissiez vérifier la réponse, au lieu de vous donner un tas de résultats de recherche. »

Produit et bêta privée

L’IA de vérification de la vérité de Got It AI est mise à disposition via son produit Autonomous Articlebot, qui exploite les mêmes LLM génératifs OpenAI utilisés par chatGPT. Articlebot de Got It AI, lorsqu’il pointe vers une base de connaissances ou un ensemble d’articles, ne nécessite aucune configuration pour s’entraîner sur le contenu cible et les utilisateurs peuvent commencer à le tester quelques minutes après s’être inscrits pour une IA conversationnelle contextuelle, multi-tours et de niveau entreprise applications d’assistance à la clientèle, d’assistance et d’assistance aux agents.

Got It AI accepte les demandes de renseignements sur sa version bêta fermée à www.got-it.ai.

Relan est un entrepreneur bien connu dont VousWeb L’incubateur a aidé à créer des startups telles que les sociétés de jeux mobiles OpenFeint et CrowdStar. Il a également aidé Discord, la plate-forme de chat de jeu populaire, à démarrer.

Got It AI est née d’une autre startup que Relan incubait depuis environ cinq ans, maintenant la nouvelle startup a été dévoilée cet été. Got It AI compte environ 40 personnes et a levé environ 15 millions de dollars à ce jour, en partie grâce au fonds de capital-risque de Relan.