Les gouvernements doivent restreindre le pouvoir des entreprises technologiques et augmenter le pouvoir des travailleurs afin de protéger les gens contre les utilisations dangereuses de l’intelligence artificielle, a déclaré l’ancien chef de l’éthique de l’IA de Google, Timnit Gebru. audience au Parlement européen mardi.
« Quand on lui a demandé quelles réglementations devaient être en place », a-t-elle déclaré, « je dis que la première chose qui nous protégerait des utilisations dangereuses de l’IA est de limiter le pouvoir des entreprises qui la développent et d’augmenter le pouvoir de ceux qui parlent contre non seulement les méfaits de l’IA, mais aussi les pratiques des entreprises technologiques. »
Gebru a déclaré qu’un bon exemple était l’État de Californie Silence No More Act, ce qui rend illégal pour les entreprises d’empêcher les employés de dénoncer le harcèlement ou la discrimination. « Je pense que cela doit être universel. Je pense que les entreprises doivent avoir des sanctions beaucoup plus sévères pour toute violation de l’une de ces lois, comme les énormes activités antisyndicales agressives que nous voyons par Amazon », a-t-elle poursuivi.
L’UE négocie la première loi au monde sur l’IA, la Loi sur l’IA, qui impose des restrictions sur les utilisations de l’IA les plus susceptibles de causer des dommages. Député italien S&D Brando Benifei, le négociateur principal du projet de loi, a demandé que la loi sur l’IA prévoie un mécanisme de recours pour les dommages causés par l’IA et une plus grande implication des syndicats.
Gebru est un chercheur de premier plan en éthique de l’IA, dont les travaux se concentrent sur la lutte contre les préjugés. Chez Google, elle a codirigé l’équipe d’éthique de l’IA de l’entreprise. Gebru a déclaré qu’elle avait été licenciée l’année dernière à la suite d’un désaccord sur un article qu’elle avait écrit sur les méfaits des grands modèles linguistiques. Google a déclaré qu’elle avait démissionné et qu’elle travaille depuis à lancer son propre institut de recherche indépendant sur l’IA.
Les entreprises technologiques et le secteur militaire sont parmi les plus gros dépensiers dans le développement de la technologie de l’IA. Gebru a déclaré que pour « arrêter le cycle » des dommages causés par l’IA, les gouvernements doivent investir dans d’autres communautés qui développent des technologies d’IA.
« Contrairement à la rhétorique de la guerre froide sur la course aux armements – c’est vraiment ce qui étouffe l’innovation, car certaines personnes construisent des technologies nuisibles et d’autres sont constamment en retard parce qu’elles essaient d’empêcher la construction de cette technologie nuisible, » a déclaré Gebru.
« Nous ne pouvons changer que lorsque nous avons modifié la structure des incitations », a-t-elle ajouté. « Pouvons-nous voir une technologie qui donne la priorité au bien-être des citoyens, plutôt qu’une course pour trouver comment tuer plus de personnes plus efficacement, ou faire le plus d’argent pour une poignée d’entreprises dans le monde ? »
