Samsung a interdit la soi-disant « intelligence artificielle générative » après avoir découvert que les services étaient utilisés à mauvais escient par les employés de l’entreprise. L’utilisation de ces outils, y compris l’immensément populaire ChatGPTa été restreint par le géant technologique sud-coréen en raison des inquiétudes concernant la fuite de données sensibles sur ces plateformes.

Selon Bloomberg, la répression a été encouragée par une fuite accidentelle d’informations internes par un ingénieur qui l’a téléchargée sur ChatGPT le mois dernier. Bien que la gravité et les informations sur la fuite restent floues, la décision de Samsung d’interdire l’utilisation d’outils d’intelligence artificielle générative sensibilise aux préoccupations plus larges actuelles concernant la sécurité et la confidentialité de ces outils d’intelligence artificielle.

La fuite de données de Samsung et l’interdiction

Après une fuite accidentelle de code source interne sensible par un ingénieur Samsung qui a téléchargé les informations sur ChatGPT le mois dernier, Samsung Electronics a décidé qu’une interdiction de l’IA générative était le seul moyen pour l’entreprise de rester protégée et sécurisée à l’avenir.

L’interdiction de outils d’IA générative a été publié par un mémo de l’entreprise la semaine dernière au milieu des inquiétudes de Samsung selon lesquelles les données partagées sur les chatbots AI pourraient être stockées sur des serveurs appartenant par des sociétés concurrentes exploitant le service – telles que Microsoft, google-bard-chatbot/ »>Google et OpenAI – sans moyen facile d’y accéder et de le supprimer.

Samsung aurait également craint que les données sensibles partagées avec ChatGPT ne soient également partagées avec d’autres utilisateurs.

La société craint que les données partagées avec des outils d’IA génératifs tels que ChatGPT ne soient conservées, divulguées et partagées, car ces outils enregistrent l’historique de discussion des utilisateurs et utilisent les conversations pour former davantage ses modèles. Bien que la plate-forme permette aux utilisateurs de désactiver ce paramètre manuellement, il n’est pas clair si cette option s’applique rétroactivement aux anciens chats.

Préoccupations concernant la sécurité et la confidentialité des outils d’IA

Dans une enquête menée à l’échelle de l’entreprise Samsung le mois dernier, 65 % des personnes interrogées ont déclaré qu’elles étaient préoccupées par les risques de sécurité liés à l’utilisation de services d’IA générative – une démonstration poignante des inquiétudes croissantes concernant les capacités d’intelligence artificielle.

Les inquiétudes concernant la sécurité et la confidentialité des outils d’IA sont de plus en plus répandues. Plus tôt cette année, CNN signalé que la banque d’investissement américaine JPMorgan a également restreint l’utilisation de ChatGPT parmi son personnel, suivie par Interne du milieu des affaires annonçant qu’Amazon avait également averti les employés de ne pas Télécharger d’informations confidentielles sur ChatGPT.

Non seulement ChatGPT a été interdit dans des entreprises spécifiques, mais certains gouvernements sont allés plus loin et ont interdit complètement son utilisation à l’intérieur de ses frontières. Les pays qui ont interdit l’outil d’IA sont la Russie, la Chine, la Corée du Nord, la Syrie et l’Italie.

L’interdiction de Samsung sur l’IA générative intervient à la lumière de la démission du Dr Geoffrey Hinton de Google. Le « le parrain de l’IA » a quitté l’entreprise et a par la suite émis des avertissements sur les dangers croissants du domaine et des regrets concernant le rôle qu’il a joué dans le développement du secteur de l’intelligence artificielle.

Le Dr Hinton a admis qu’il trouvait les chatbots IA « assez effrayants ». « Tout de suite ils ne sont pas plus intelligents que nous, pour autant que je sache. Mais je pense qu’ils le seront bientôt »

« étant donné le rythme des progrès, nous nous attendons à ce que les choses s’améliorent assez rapidement. Nous devons donc nous en préoccuper », a-t-il déclaré.

Les inquiétudes du Dr Hinton sont venues après des inquiétudes plus larges dans le domaine affichées dans une lettre ouverte signée en mars par d’autres figures de proue du secteur telles que Steve Wozniak, Tristan Harris et Elon Musk faisant campagne pour que les développements de l’IA soient suspendus jusqu’à ce que des mesures de sécurité suffisantes aient été mises en place. lieu.

En effet, avec toutes les préoccupations mondiales entourant l’IA générative, il est clair que l’interdiction de ChatGPT par Samsung n’est en aucun cas sans fondement.

comment Samsung va-t-il aller de l’avant avec l’IA générative ?

Il devient un objectif essentiel pour les entreprises du monde entier de déterminer exactement comment les capacités d’IA générative peuvent s’intégrer dans leur entreprise de manière sûre et bénéfique. Cette tâche devient une course contre la montre car ces outils d’IA deviennent de plus en plus populaires, accessibles et, plus inquiétant, intellectuellement développés.

Les outils d’IA générative deviennent de plus en plus développés et intelligents au fil des jours. Bien que cela signifie que ces services pourraient être utilisés pour aider les entreprises de manière nouvelle et passionnante, cela signifie également qu’ils pourraient constituer une plus grande menace pour les entreprises si des règles suffisantes ne sont pas mises en place pour les réglementer.

Par exemple, les développeurs de logiciels de Goldman Sachs utilisent l’IA générative pour générer du code et de la gestion. La société de conseil Bain & Company a également annoncé plus tôt cette année qu’elle intégrait les outils génératifs d’OpenAI dans ses systèmes de gestion.

Mais comment Samsung va-t-il poursuivre son utilisation de l’IA générative à la lumière des récentes restrictions ?

CNBC rapporte que le géant de la technologie cherche toujours des moyens d’utiliser l’IA générative en toute sécurité pour améliorer la productivité et l’efficacité des employés malgré la récente interdiction.

Ainsi, seul le temps nous dira comment Samsung ira de l’avant avec ses plans sur la façon d’utiliser l’IA générative et son traitement d’outils tels que ChatGPT dans un monde de plus en plus façonné et façonné par les développements du secteur de l’intelligence artificielle.