Dans la foulée des problèmes persistants concernant la façon dont les grandes technologies s’approprient les données des Individus et Entreprises dans la formation des services d’IA, une tempête se prépare parmi les utilisateurs de Slack contrariés par la façon dont la plateforme de chat appartenant à Salesforce va de l’avant avec sa vision de l’IA.

L’entreprise, comme beaucoup d’autres, exploite ses propres données utilisateur pour former certains de ses nouveaux services d’IA. Mais, il s’avère que si vous ne voulez pas que Slack utilise vos données, vous devez envoyer un e-mail à l’entreprise pour vous désinscrire.

Et les termes de cet engagement sont cachés dans ce qui semble être une politique de confidentialité obsolète et déroutante à laquelle personne ne prêtait attention. C’était le cas avec Slack, jusqu’à ce qu’une personne vexée publie à leur sujet sur un site communautaire extrêmement populaire auprès des développeurs, puis ce message est devenu viral… C’est ce qui s’est passé ici.

Tout a commencé hier soir, lorsque un message sur Hacker News a soulevé la question de la façon dont Slack entraîne ses services d’IA, par le biais d’un lien direct vers son Principes de confidentialité — aucun commentaire supplémentaire n’était nécessaire. Ce message a donné le coup d’envoi d’une conversation plus longue – et de ce qui semblait être une nouvelle pour les utilisateurs actuels de Slack – que Slack inscrit les utilisateurs par défaut à sa formation à l’IA et que vous devez envoyer un e-mail à une adresse spécifique pour vous désinscrire.

Ce fil de discussion de Hacker News a ensuite stimulé multiple conversations et questions sur Autres plateformes: Il existe un nouveau produit au nom générique appelé «IA Slack » qui permet aux utilisateurs de rechercher des réponses et de résumer des fils de conversation, entre autres choses, mais pourquoi cela n’est-il pas mentionné une seule fois par son nom sur cette page de principes de confidentialité de quelque manière que ce soit, même pour indiquer clairement si la politique de confidentialité s’y applique ? Et pourquoi Slack fait-il référence à la fois aux « modèles globaux » et aux « modèles d’IA » ?

Entre les gens qui ne savent pas où Slack applique ses principes de confidentialité de l’IA et les gens qui sont surpris et agacés à l’idée d’envoyer des e-mails pour se désinscrire – dans une entreprise qui fait grand cas de vanter que « vous contrôlez vos données » – Slack ne s’en sort pas bien.

Le choc est peut-être nouveau, mais les termes ne le sont pas. Selon les pages du Archives Internet, les conditions sont applicables depuis au moins septembre 2023. (Nous avons demandé à la société de confirmer.)

Conformément à la politique de confidentialité, Slack utilise les données des clients spécifiquement pour former des « modèles globaux », que Slack utilise pour alimenter les recommandations de canaux et d’emoji et les résultats de recherche. Slack nous indique que son utilisation des données a des limites spécifiques.

« Slack dispose de modèles d’apprentissage automatique au niveau de la plate-forme pour des éléments tels que les recommandations de canaux et d’emoji et les résultats de recherche. Nous ne construisons pas ou n’entraînons pas ces modèles de manière à ce qu’ils puissent apprendre, mémoriser ou être capables de reproduire une partie des données des clients », a déclaré un porte-parole de la société à fr.techtribune.net. Cependant, la politique ne semble pas aborder la portée globale et les plans plus larges de l’entreprise pour la formation des modèles d’IA.

Selon ses termes, Slack indique que si les clients choisissent de ne pas participer à l’entraînement des données, ils bénéficieront toujours des « modèles d’IA/ML formés à l’échelle mondiale » de l’entreprise. Mais encore une fois, dans ce cas, on ne sait pas pourquoi l’entreprise utilise les données des clients en premier lieu pour alimenter des fonctionnalités telles que les recommandations d’emoji.

La société a également déclaré qu’elle n’utilisait pas les données des clients pour former Slack AI.

« Slack AI est un module complémentaire acheté séparément qui utilise de grands modèles de langage (LLM) mais ne les forme pas sur les données des clients. Slack AI utilise des LLM hébergés directement dans l’infrastructure AWS de Slack, de sorte que les données des clients restent en interne et ne sont partagées avec aucun fournisseur de LLM. Cela garantit que les données des clients restent sous le contrôle de cette organisation et exclusivement pour son utilisation », a déclaré un porte-parole.

Une partie de la confusion sera probablement résolue le plus tôt possible. En réponse à une critique de Threads de l’ingénieur et écrivain Gergely Orosz, l’ingénieur Slack Aaron Maurer Concédé que l’entreprise doit mettre à jour la page pour refléter « comment ces principes de confidentialité jouent avec Slack AI ».

Maurer a ajouté que ces termes ont été écrits à l’époque où l’entreprise n’avait pas Slack AI, et que ces règles reflètent le travail de l’entreprise autour de la recherche et des recommandations. Il vaudra la peine d’examiner les termes des futures mises à jour, étant donné la confusion autour de ce que Slack fait actuellement avec son IA.

Les problèmes de Slack nous rappellent brutalement que, dans le monde en évolution rapide du développement de l’IA, la vie privée des utilisateurs ne doit pas être une réflexion après coup et que les conditions d’utilisation d’une entreprise doivent clairement préciser comment et quand les données sont utilisées ou non.

Vous avez un conseil d’actualité ? Contactez Ingrid en toute Sécurité sur Signal via ingrid.101 ou ici. (Pas de présentations de relations publiques, s’il vous plaît.)

Nous lançons une newsletter sur l’IA ! S’enregistrer ici pour commencer à le recevoir dans vos boîtes de réception le 5 juin.