Chaque prospectus d’introduction en bourse S-1 comprend une section énumérant toutes sortes de facteurs de risque expliquant pourquoi son action peut ne pas être un bon achat. Beaucoup d’entre eux sont des avertissements passe-partout, des mises en garde sur les performances financières ou des actes de guerre et de nature. Mais certains d’entre eux sont plus spécifiques à l’entreprise.

Avec ServiceTitan, une startup de services cloud qui a déposé documents publics relatifs à l’introduction en bourse avec la SEC lundi, nous pourrions assister à la naissance d’un nouvel avertissement passe-partout : les grands modèles de langage (LLM) qui aident à développer les affaires pourraient également entraîner des dommages.

ServiceTitan avait un facteur de risque de 1 150 mots sur la façon dont son utilisation de l’IA, en particulier de l’IA générative, pourrait avoir un impact négatif sur ses activités. Il a averti que le comportement hallucinatoire des LLM pourrait produire des informations « inexactes » et adopter des comportements « discriminatoires » ; ses LLM pourraient enfreindre le droit d’auteur ou la propriété intellectuelle d’autrui ; et l’utilisation des LLM signifie exposer davantage de données à des piratages et à des dommages potentiels. Là encore, s’il ne peut pas obtenir suffisamment de données, il se peut qu’il ne soit pas en mesure de continuer à proposer des produits d’IA ou à en créer de nouveaux. En plus de cela, l’entreprise met en garde contre le fait que ses employés ou sous-traitants pourraient éventuellement partager par erreur les données privées de ses clients avec des systèmes tiers, ce qui pourrait ensuite entraîner des failles de Sécurité, ou utiliser ces données pour former leurs modèles.

ServiceTitan prévient que son utilisation de l’IA pourrait un jour aller à l’encontre des questions sociales et éthiques. Ou que les futures réglementations pourraient lui coûter de l’argent.

ServiceTitan craint également de ne pas être en mesure d’embaucher les experts en IA dont il a besoin pour ses produits et, même s’il le peut, ce talent sera cher. ServiceTitan prévient que ses produits d’IA reposent sur des services tiers qu’il ne contrôle pas – et nomme spécifiquement Microsoft et OpenAI. Donc, s’ils deviennent indisponibles ou ont des problèmes, c’est aussi un risque.

Ces avertissements sont intéressants car ServiceTitan opère au carrefour des industries que GenAI, en particulier les agents d’IA pilotés par LLM, est censée dominer. ServiceTitan propose des logiciels pour les entreprises du secteur des services sur le terrain, principalement les petites entreprises, les entrepreneurs en construction, les professionnels du CVC, les paysagistes, etc. Son logiciel exécute des fonctions telles que le marketing, la gestion de la relation client, le support client et la comptabilité. (ServiceTitan a refusé de commenter davantage.)

Les agents d’IA marchent actuellement si furieusement vers tout ce qui concerne les ventes, le marketing et le CRM que le roi du marché du CRM, le PDG de Salesforce, Marc Benioff, a déclaré à fr.techtribune.netque son entreprise à elle seule pourrait avoir un milliard d’agents d’IA travaillant dans les entreprises des clients de Salesforce en un an.

ServiceTitan propose depuis au moins 2023 des services alimentés par l’IA, appelés Titan Intelligence. En octobre, il a également déployé une suite d’agents d’IA pour les ventes, le service client et les centres d’appels.

Mais les LLM ont été conçus pour étudier les mots, les images et les données et créer leurs propres versions des choses. C’est-à-dire qu’ils ont été conçus pour inventer des choses. Les scientifiques d’OpenAI sont occupés à se précipiter vers l’intelligence générale – imitant la capacité des humains à déduire encore mieux – ce qui signifie qu’ils travaillent sur une IA qu’ils espèrent être encore plus créative.

Bien sûr, la fiabilité du LLM pour une utilisation professionnelle est un problème qui devrait être résolu au fil du temps, car de plus en plus d’entreprises se spécialisent dans les agents où la fiabilité, et non la créativité, est essentielle. Mais il convient de noter que ceux qui vendent des bots d’IA aujourd’hui disent en fait la partie silencieuse à haute voix dans leur jargon juridique : à ce stade précoce, l’adoption de l’IA pourrait créer autant de problèmes qu’elle n’en résout.