google a publié jeudi de nouvelles directives pour les développeurs qui créent des applications d’IA distribuées via Google Play, dans l’espoir de réduire le contenu inapproprié et autrement interdit. La société affirme que les applications offrant des fonctionnalités d’IA devront empêcher la génération de contenu restreint – qui comprend du contenu sexuel, de la violence et plus encore – et devront offrir aux utilisateurs un moyen de signaler le contenu offensant qu’ils trouvent. En outre, Google affirme que les développeurs doivent « tester rigoureusement » leurs outils et modèles d’IA, pour s’assurer qu’ils respectent la Sécurité et la vie privée des utilisateurs.
Il sévit également contre les applications dont le matériel marketing promeut des cas d’utilisation inappropriés, comme les applications qui déshabillent les gens ou créent des images de nu non consensuelles. Si le texte publicitaire indique que l’application est capable de faire ce genre de chose, elle peut être bannie de Google Play, que l’application soit réellement capable de le faire ou non.
Les directives font suite à un fléau croissant d’applications de déshabillage d’IA qui se sont commercialisées sur les médias sociaux ces derniers mois. Un rapport d’avril de 404 Media, par exemple, a révélé qu’Instagram hébergeait des publicités pour apple-removes-nonconsensual-ai-nude-apps-following-404-media-investigation/ »>des applications qui prétendaient utiliser l’IA pour générer des nus deepfake. Une application s’est commercialisée en utilisant une photo de Kim Kardashian et le slogan « Déshabillez n’importe quelle fille gratuitement ». Apple et Google ont retiré les applications de leurs magasins d’applications respectifs, mais le problème est toujours répandu.
Les écoles à travers les États-Unis signalent des problèmes avec Étudiants passager autour Des nus deepfake d’autres étudiants (et parfois enseignant) pour l’intimidation et le harcèlement, ainsi que d’autres types de android-developer/answer/9878810?sjid=7620414853943169535-NC »>inapproprié Contenu IA. Le mois dernier, un deepfake raciste d’un directeur d’école a dirigé à une arrestation à Baltimore. Pire encore, le problème est encore plus affectant les élèves des collèges, dans certains cas.
Google affirme que ses politiques aideront à empêcher les applications de Google Play qui présentent du contenu généré par l’IA qui peut être inapproprié ou nuisible aux utilisateurs. Il indique que sa politique existante en matière de contenu généré par l’IA permet de vérifier ses exigences en matière d’approbation des applications sur Google Play. La société affirme que les applications d’IA ne peuvent pas permettre la génération de contenu restreint et doivent également donner aux utilisateurs un moyen de signaler une infraction et un contenu inapproprié, ainsi que de surveiller et de hiérarchiser ces commentaires. Ce dernier point est particulièrement important dans les applications où les interactions des utilisateurs « façonnent le contenu et l’expérience », explique Google, comme les applications où les modèles populaires sont mieux classés ou plus en évidence, peut-être.
Les développeurs ne peuvent pas non plus annoncer que leur application enfreint les règles de Google Play, selon Google Exigences relatives à la promotion d’applications. S’il annonce un cas d’utilisation inapproprié, l’application peut être démarrée de l’App Store.
En outre, les développeurs sont également responsables de la protection de leurs applications contre les invites qui pourraient manipuler leurs fonctionnalités d’IA pour créer du contenu nuisible et offensant. Google affirme que les développeurs peuvent utiliser son Tests fermés pour partager les premières versions de leurs applications avec les utilisateurs afin d’obtenir des commentaires. La société suggère fortement aux développeurs non seulement de tester avant le lancement, mais aussi de documenter ces tests, car Google pourrait demander à les revoir à l’avenir.
L’entreprise publie également d’autres ressources et meilleures pratiques, comme son Guide People + AI, qui vise à aider les développeurs à créer des applications d’IA.
