Une patate chaude : Dans des nouvelles qui illustrent vraiment l’époque dans laquelle nous vivons, Amnesty International a été critiquée pour avoir publié des images générées par l’IA des violations des droits humains qui ont eu lieu lors des manifestations de 2021 en Colombie.
Pour commémorer le 2e anniversaire des manifestations contre les hausses d’impôts imposées par le gouvernement colombien au plus fort de Covid-19, le groupe international de défense des droits humains a publié sur Twitter des images d’incidents qui semblent avoir eu lieu à l’époque, dont l’un des La police colombienne emmenant un manifestant sous-titré « Pourquoi la police colombienne a besoin d’une réforme globale ».
Mais l’image contient de nombreux signes révélateurs qu’une IA l’a créée, le plus évident étant les visages des gens, qui ont l’aspect étrange et déformé que les IA ont tendance à cracher. Le gardien note que le drapeau colombien porté par le manifestant a également les couleurs dans le mauvais ordre et que l’uniforme de la police est obsolète.
Amnesty a inclus un texte dans le tweet indiquant qu’une IA a généré les images. L’organisation a déclaré que même si elle avait utilisé des photographies réelles des manifestations dans des rapports précédents, elle avait choisi d’utiliser des images générées par l’IA dans ce cas pour protéger l’identité des manifestants. Un porte-parole a déclaré que certains des manifestants étaient toujours la cible de poursuites par les autorités colombiennes pour leur implication.
« L’intention était que cette œuvre d’art serve d’exemple symbolique qui souligne la peur que beaucoup de victimes ressentent encore à l’idée de dénoncer publiquement la répression qu’elles ont subie », a déclaré le porte-parole.
Malgré les bonnes intentions derrière le message et la note incluse indiquant qu’une machine les a créées, Amnesty International a supprimé les images car elle ne « veut pas que les critiques concernant l’utilisation d’images générées par l’IA détournent l’attention du message principal à l’appui des victimes et leurs appels à la justice en Colombie », a déclaré Erika Guevara Rosas, directrice pour les Amériques à Amnesty. « Mais nous prenons les critiques au sérieux et souhaitons poursuivre l’engagement pour nous assurer que nous comprenons mieux les implications et notre rôle pour résoudre les dilemmes éthiques posés par l’utilisation d’une telle technologie. »
Juancho Torres, un photojournaliste basé à Bogotá, a déclaré que l’utilisation des images de l’IA de cette manière était une insulte à tous les photojournalistes qui se mettent en danger pour couvrir les manifestations.
L’utilisation d’images générées par l’IA reste controversée, même lorsque les entreprises n’essaient pas de le cacher. Prime Matter, l’éditeur derrière le prochain remake de System Shock, a reçu de nombreuses critiques pour avoir utilisé Midjourney pour créer une image de l’antagoniste du jeu Shodan dans un tweet. De nombreuses réponses se sont plaintes que l’utilisation d’une IA pour générer une image enlève des emplois aux vrais artistes, et la plupart de ce qui est généré est plagié à partir du travail des autres.
