Un bot d’intelligence artificielle conçu pour répondre à des questions éthiques a fini par apprendre certains traits problématiques des humains.

Ask Delphi a été créé par l’Allen Institute for AI dans l’espoir qu’il puisse répondre aux énigmes les plus délicates de la vie.

Le logiciel était censé permettre à un utilisateur de lui poser une question comme « est-ce qu’un meurtre est mauvais » et il répondrait avec la solution la plus éthique.

Afin de comprendre les fondements de l’éthique de l’humanité, il a parcouru de nombreuses sources Internet, y compris la plate-forme de crowdsourcing Mechanical Turk, qui, comme Étourdi rapports, est une compilation de 1,7 million d’exemples de jugements éthiques de personnes.

Mais, l’IA s’est également enseignée en parcourant des pages Reddit comme Am I The A**hole pour comprendre une approche plus nuancée de certains dilemmes.

Malheureusement, il semble que cette énorme quantité de lecture ait fini par fausser la compréhension du bot de ce qui est bien et de ce qui ne l’est pas.

Bien qu’il ait pu souligner que les hommes et les femmes étaient égaux, les choses ont pris une tournure gênante lorsqu’il a été interrogé sur la race et la sexualité.

Vice rapporte Ask Delphi a déclaré qu’être hétéro ou un homme blanc est «plus acceptable moralement» qu’être gay ou une femme noire.

Il a également suggéré que le génocide est acceptable « si cela rend tout le monde heureux » et que l’alcool au volant est acceptable si personne n’est blessé. Le logiciel a également fait des déclarations intenses comme l’avortement est un meurtre et être pauvre est mauvais.

Mar Hicks, professeur d’histoire à l’Illinois Tech, a expliqué à Carte mère que vous pourriez essentiellement duper l’IA si vous posiez la question d’une manière spécifique.

« Selon la façon dont vous formulez votre requête, vous pouvez faire en sorte que le système convienne que tout est éthique, y compris des crimes de guerre, des meurtres prémédités et d’autres actions et comportements clairement contraires à l’éthique », a-t-elle déclaré.

Vous pouvez le tester vous-même ici, cependant, il convient de souligner que le logiciel est un travail en cours.

Le personnel de Mechanical Turk doit examiner chaque décision éthique de Ask Delphi et trois d’entre eux décident si elle est correcte.

L’Institut Allen pour l’IA a répondu aux conclusions éthiques maladroites, l’écriture: « La société d’aujourd’hui est inégale et biaisée. C’est un problème courant avec les systèmes d’IA, comme de nombreux chercheurs l’ont fait valoir, car les systèmes d’IA sont formés sur des données historiques ou présentes et n’ont aucun moyen de façonner l’avenir de la société, seuls les humains le peuvent.

« Ce que les systèmes d’IA comme Delphi peuvent faire, cependant, c’est d’apprendre ce qui est actuellement mal, socialement inacceptable ou biaisé, et être utilisé en conjonction avec d’autres systèmes d’IA plus problématiques (pour) aider à éviter ce contenu problématique. »

Le logiciel a été mis à jour plusieurs fois depuis son lancement et certains des problèmes éthiques les plus problématiques ont été corrigés.