Bumble demande à ses utilisateurs de l’aider à garder l’application de rencontre exempte de profils générés par l’IA. Mardi, la société a introduit une nouvelle option de signalement qui permet aux membres de signaler des profils s’ils soupçonnent quelqu’un d’utiliser des photos et des vidéos générées par l’IA.

Désormais, lorsqu’un utilisateur souhaite signaler un profil, il peut choisir « Faux profil », puis sélectionner l’option « Utilisation de photos ou de vidéos générées par l’IA ». D’autres options de signalement incluent le contenu inapproprié, les utilisateurs mineurs, les escroqueries et l’utilisation des photos de quelqu’un d’autre, entre autres.

La nouvelle option de signalement de Bumble arrive à un moment où, malheureusement, Photos générées par l’IA sur les applications de rencontres sont courantes et sont souvent utilisées pour arnaquer ou tromper les autres. D’un simple clic, vous pouvez faire croire à des correspondances que vous possédez un yacht et que vous avez des abdominaux ciselés. Bumble espère que la nouvelle option de signalement aidera à dissuader les gens d’être malhonnêtes en utilisant l’IA.

« Une partie essentielle de la création d’un espace pour établir des liens significatifs est de supprimer tout élément trompeur ou dangereux », a déclaré la vice-présidente des produits de Bumble, Risa Stein, dans une déclaration à TechCrunch. « Nous nous engageons à améliorer continuellement notre technologie pour nous assurer que Bumble est un environnement de rencontre sûr et fiable. En introduisant cette nouvelle option de signalement, nous pouvons mieux comprendre comment les mauvais acteurs et les faux profils utilisent l’IA de manière hypocrite, afin que notre communauté se sente en confiance pour établir des liens.

La nouvelle option de signalement fait suite au lancement par Bumble d’un outil d’IA appelé « Deception Detector », qui utilise l’IA et la modération humaine pour détecter et supprimer les faux profils, les spammeurs et les escrocs. Depuis le lancement de la fonctionnalité en février, Bumble affirme que les signalements de spam, d’escroqueries et de faux profils par les membres ont diminué de 45 %. Bumble dispose également d’un outil « Private Detector » alimenté par l’IA qui floute automatiquement les photos nues.

Alors que Bumble se bat contre les profils générés par l’IA, la fondatrice de l’entreprise, Whitney Wolfe Herd, a quelques idées intéressantes pour la technologie. Au cours d’une interview, Herd a déclaré que l’avenir des rencontres en ligne pourrait être où des « concierges de rencontres » ou des assistants d’IA se rendent à des centaines de rendez-vous en votre nom pour trouver le match parfait. Nous ne savons pas combien de personnes seront d’accord avec cette idée, mais à chacun la sienne.