OpenAI a annoncé la nomination d’une nouvelle personne au sein de son conseil d’administration : Zico Kolter.

Kolter, professeur et directeur du département d’apprentissage automatique à Carnegie Mellon, concentre principalement ses recherches sur la Sécurité de l’IA. Cela fait de lui un « directeur technique inestimable pour [OpenAI’s] gouvernance », écrit OpenAI dans un post sur son blog.

La sécurité de l’IA est un problème majeur pour l’entreprise. La nomination de Kolter intervient quelques mois après que plusieurs dirigeants et employés éminents d’OpenAI axés sur la sécurité, dont le cofondateur Ilya Sutskever, ont quitté l’entreprise. Plusieurs de ces démissions sont venues de l’ancienne équipe de « Superalignement » de Sutskever, qui se concentrait sur les moyens de gouverner les systèmes d’IA « superintelligents », mais qui, selon une source, s’est vu refuser l’accès aux ressources informatiques promises à l’origine.

Kolter rejoindra également le comité de sûreté et de sécurité du conseil d’administration d’OpenAI aux côtés des directeurs Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman, du PDG Sam Altman et des experts techniques d’OpenAI. Le comité est chargé de faire des recommandations sur les décisions de sûreté et de sécurité pour tous les projets OpenAI – mais, comme nous l’avons noté dans un article en mai, il est composé principalement d’initiés, ce qui a soulevé des questions parmi les experts sur son efficacité.

Le président du conseil d’administration d’OpenAI, M. Taylor, a déclaré dans un communiqué : « Zico ajoute une compréhension technique approfondie et une perspective en matière de sécurité et de robustesse de l’IA, ce qui nous aidera à garantir que l’intelligence artificielle générale profite à l’ensemble de l’humanité. »

Kolter, ancien scientifique en chef des données chez C3.ai, a obtenu son doctorat en informatique à l’Université de Stanford en 2010, suivi d’une bourse postdoctorale au MIT de 2010 à 2012. Ses recherches visent notamment à démontrer le potentiel de contournement des mesures de protection existantes de l’IA grâce à des techniques d’optimisation automatisées.

Habitué des collaborations industrielles, Kolter est actuellement « expert en chef » chez Bosch et conseiller technique en chef de la start-up d’IA Gray Swan.