Bard AI de Google est arrivé en retard dans le jeu après que ChatGPT d’OpenAI a pris d’assaut le monde et a rapidement intégré sa technologie à Microsoft Bing et à d’autres produits. Maintenant, un nouveau rapport cite des employés de Google qui estiment que la précipitation de l’entreprise à livrer sur l’IA a conduit à ignorer les préoccupations éthiques, alors que Bard lui-même est considéré comme « pire qu’inutile ».

Bloomberg cette semaine, a interrogé 18 employés de Google, actuels et/ou anciens, qui ont eu une interaction avec Bard, ainsi que partagé les résultats de la documentation interne relative à Bard.

Apparemment, la demande de Google aux employés de partager leurs commentaires sur Bard avant son lancement public a été en grande partie ignorée. Cela inclut des commentaires forts où Bard a été qualifié de « grincer des dents » et de « menteur pathologique » par les employés. Un autre commentaire a directement déclaré que Google ne devrait pas lancer Bard, en disant :

Bard est pire qu’inutile : s’il vous plaît, ne vous lancez pas

Un employé a partagé une expérience avec Bard avant son lancement où l’IA a été invitée à donner des instructions sur la façon d’atterrir un avion, mais a donné « régulièrement » des instructions qui conduiraient à un crash. Une autre expérience a vu une question sur les instructions de plongée, le Googler demandant en disant que les instructions données « entraîneraient probablement des blessures graves ou la mort ».

Mais, peut-être le plus inquiétant, c’est là que Bard a eu un impact sur les préoccupations éthiques. Bloomberg dit que les équipes de Google travaillant sur l’éthique de l’IA ont été « impuissance et démoralisées » et ont été « ordonnées de ne pas gêner ou d’essayer de tuer l’un des outils d’IA générative en développement ». En réponse, un porte-parole de Google a déclaré :

Nous continuons à investir dans les équipes qui travaillent à l’application de nos principes d’IA à notre technologie

Au crédit de Google, le produit de Bard destiné aux utilisateurs indique toujours extérieurement qu’il peut afficher des informations « inexactes » contrairement à ses concurrents. Mais, dans les coulisses, Jen Gennai, responsable de la gouvernance de Google AI, aurait annulé une évaluation des risques selon laquelle Bard n’était pas prêt pour le lancement, bien que Gennai ait déclaré que ce n’était pas uniquement sa décision.

En savoir plus sur Barde :