Mustafa Suleyman, co-fondateur de DeepMind, a quitté Google après sept ans au cours desquels l’opération britannique pionnière a fait des percées dans l’intelligence artificielle, mais a eu du mal à garantir que sa technologie serait utilisée de manière éthique par son géant américain propriétaire.

Suleyman était l’un des trois fondateurs de DeepMind, qui a été créée au Royaume-Uni en 2010 et était acheté par Google en 2014 pour 500 millions de dollars. Jeudi, il a quitté l’entreprise pour devenir associé de la société de capital-risque de la Silicon Valley Greylock, après un mandat parfois controversé qui comprenait des plaintes du personnel concernant un style de gestion agressif.

La division DeepMind a cherché à fonctionner à bout de bras de son propriétaire, en maintenant une philosophie de recherche qui l’a isolé des pressions commerciales et en essayant de proposer une structure de gouvernance pour sa puissante IA.

La première tentative de DeepMind de créer un comité d’éthique indépendant sur l’IA pour superviser son travail a mis du temps à décoller, et la société a ensuite tenté en vain de créer une structure juridique qui lui donnerait plus d’indépendance au sein de Google.

S’exprimant dans un entretien enregistré avec le partenaire de Greylock Reid Hoffman qui a été publié jeudi, Suleyman a déclaré: «Nous avons fait beaucoup d’erreurs dans la façon dont nous avons tenté de mettre en place le tableau, et je ne suis pas sûr que nous puissions dire que c’était définitivement un succès, mais je Je crois que l’expérimentation radicale est essentielle ici.

« Nous avons expérimenté différents conseils de surveillance, avec différentes chartes éthiques, avec des types de recherche », a-t-il ajouté.

Mais il a déclaré à propos des efforts plus larges de l’industrie technologique dans ce domaine : « Je pense vraiment que nous ne sommes pas vraiment près de résoudre ce problème de la façon dont nous concevons les plates-formes technologiques, les logiciels et bien sûr l’IA comme si cela se produisait avec les gens, et où les gens ont une influence significative sur la façon dont cela arrive dans leur monde et n’arrive pas seulement aux gens.

Google lui-même a lutté comment introduire des freins et contrepoids dans son développement de l’IA. Son plan pour un comité d’éthique indépendant de l’IA a sombré sur les protestations du personnel contre la composition du corps et les deux responsables de l’éthique de l’IA de l’entreprise a quitté l’entreprise au milieu des récriminations sur sa gestion de leur travail.

Suleyman a perdu certaines de ses responsabilités après des plaintes de travailleurs de DeepMind concernant son style de gestion, et il a déménagé à prendre une position au siège de Google en Californie.

Répondant aux plaintes du personnel, il a déclaré: «J’ai vraiment foiré. J’étais très exigeant et assez implacable. Il a ajouté qu’il avait fixé des «attentes assez déraisonnables» qui avaient conduit à «un environnement très difficile pour certaines personnes. Je reste très désolé de l’impact que cela a causé aux gens et du mal que les gens ont ressenti là-bas.

DeepMind, qui est dirigé par le co-fondateur Demis Hassabisa consolidé sa réputation comme l’un des leaders de l’apprentissage en profondeur en 2016 lorsque l’un de ses systèmes a battu le champion du monde à le jeu de société Go.

Ses recherches de 2020 utilisant l’IA pour prédire comment les protéines se replient sous différentes formes a été annoncée comme une percée qui pourrait conduire à des avancées dans des domaines tels que la découverte de médicaments.