Une patate chaude : Le Dr Timnit Gebru, l’ancienne chercheuse Google AI qui a été licenciée de l’entreprise en décembre 2020 après avoir tenté de dénoncer l’IA contraire à l’éthique, a une fois de plus mis en garde contre la direction que prend l’intelligence artificielle. Elle a déclaré qu’en raison de la « ruée vers l’or » actuelle de l’IA, les entreprises ne s’autoréglementeront que si elles subissent des pressions.

Le licenciement de Gebru de Google (la société affirme qu’elle a démissionné) en tant que co-responsable de son équipe d’IA éthique est intervenue après qu’elle a co-écrit un article universitaire qui mettait en garde contre les biais inhérents à l’IA. Gebru a déclaré que les cadres supérieurs de Google avaient exigé que le journal soit retiré, ou que son nom et ceux de ses collègues en soient retirés. Gebru a refusé les demandes et le journal a finalement conduit à son départ. La décision a provoqué l’indignation des travailleurs de Google et a été l’un des incidents qui ont conduit 225 employés à former un syndicat.

Gebru a parlé de ses expériences à Le gardien. Elle a également mis en garde contre la course actuelle entre les entreprises pour introduire des systèmes d’IA meilleurs et plus puissants. « Cela ressemble à une ruée vers l’or », déclare Gebru. « En fait, c’est une ruée vers l’or. Et beaucoup de gens qui gagnent de l’argent ne sont pas vraiment au milieu de ça. Mais ce sont les humains qui décident si tout cela doit être fait ou non. Nous devons nous rappeler que nous avoir l’agence pour le faire. »

Le spécialiste de l’IA a ajouté que la ruée vers la première entreprise d’intelligence artificielle signifie que beaucoup ignorent les précautions de sécurité. « À moins qu’il n’y ait une pression extérieure pour faire quelque chose de différent, les entreprises ne vont pas simplement s’autoréguler », a déclaré Gebru. « Nous avons besoin de réglementation et nous avons besoin de quelque chose de mieux qu’un simple objectif de profit. »

Il est juste de dire que 2023 devient l’année où l’IA décolle vraiment. Mais la technologie apporte avec elle beaucoup de peurs. Les pertes d’emplois sont un domaine particulièrement controversé, d’autant plus que Wendy’s, IBM et Bluefocus Intelligent Communications Group ont annoncé leur intention de remplacer les emplois humains par des IA. Ces systèmes sont également souvent utilisés pour remplacer les postes RH, ce que la plupart des gens ne veulent pas voir.

Au-delà des pertes d’emplois, d’autres partagent les craintes de Gebru quant à la direction que pourrait prendre l’IA sans réglementation. Warren Buffett a comparé son avancement au développement de la bombe atomique, et plus des deux tiers des Américains pensent qu’elle pourrait menacer la civilisation.

Geoffrey Hinton, connu comme le parrain de l’IA, a récemment quitté Google en raison des risques liés à la technologie émergente de l’intelligence artificielle. Il a averti qu’à mesure que les entreprises tirent parti de systèmes d’IA plus puissants, elles deviennent de plus en plus dangereuses. Même le PDG d’OpenAI, Sam Altman, a appelé à plus de réglementation, bien que certains disent que ce plaidoyer ne vise qu’à étouffer l’innovation et à aider son entreprise à rester au top plutôt que pour le bien de l’humanité.

Titre : Tech Crunch