Spectrum Labs a créé une IA en langage naturel qui peut analyser le texte en ligne pour détecter un comportement toxique. Et maintenant, il a compris comment identifier un comportement en ligne sain et le récompenser.

La société de Miami a lancé sa toute première IA de comportement sain en partenariat avec Laboratoires Ensemble‘ IMVU, l’une des plus grandes plates-formes de jeux sociaux au monde – ou, comme nous les appelons ces jours-ci, une plate-forme métaverse. (Il s’avère qu’ils se sont rencontrés lors de notre événement GamesBeat Summit 2022 en avril et ont commencé ce partenariat). Il s’avère que l’incitation au jeu positif peut conduire à un meilleur retour sur investissement, a déclaré Justin Davis, PDG de Laboratoires de spectredans une interview avec GamesBeat.

Avec 80% des joueurs en ligne américains ayant subi du harcèlementcette intégration amplifie l’IA de modération de contenu existante, qui supprime le contenu toxique, en créant la capacité de reconnaître et de récompenser les comportements pro-sociaux des utilisateurs.

Depuis la mise en œuvre de l’IA de modération du contenu toxique de Spectrum Labs, Together Labs a obtenu des résultats directionnels positifs en comparant la rétention dans les salles modérées et non modérées, a déclaré Maura Welch, vice-présidente du marketing chez Together Labs, dans un e-mail à GamesBeat.

« Nous sommes connus comme l’entreprise qui a déployé l’IA dans le but de détecter les éléments vraiment mauvais sur la plate-forme », a déclaré Davis. « Et il faut beaucoup d’investissements en R&D pour détecter un comportement donné dans une langue donnée jusqu’à un certain niveau de normes acceptables afin qu’un client puisse non seulement apprendre des données qui en sont créées, mais vraiment prendre des mesures contre les utilisateurs dans un de manière évolutive. »

Davis a déclaré qu’avec l’aide de Spectrum Labs, Together Labs a pu bénéficier d’une augmentation considérable de la rétention des utilisateurs.

« Nous venons de faire un très bon travail en déployant notre technologie d’une manière qui stimule l’engagement et la rétention des utilisateurs », a déclaré Davis. « Comme vous le savez, les coûts d’acquisition de clients n’ont jamais été aussi élevés, la demande d’attention des gens n’a jamais été aussi élevée. Et donc, une fois que vous avez quelqu’un sur votre plate-forme, vous devez faire un très bon travail pour vous assurer qu’il a une excellente première expérience sur cette plate-forme. Et si vous faites du bon travail avec cette première visite par utilisateur, ils sont généralement six fois plus susceptibles de revenir. »

Cela revient à bénéficier des revenus et sert à éliminer les utilisateurs toxiques.

« Mais vous ne construisez pas une communauté positive ou saine simplement en supprimant le mauvais », a déclaré Davis. « Nous avons commencé à réfléchir à Los Angeles sur la façon dont nous prenons cette technologie et l’appliquons pour identifier non pas les mauvais comportements et les mauvais utilisateurs, mais pour identifier les bonnes personnes. »

Les premiers résultats montrent que le revenu moyen par utilisateur payant (ARPPU) était 12 % plus élevé pour des utilisateurs spécifiques qui étaient protégés contre les discours toxiques, a déclaré Davis. Les deux sociétés estiment que la combinaison de l’IA de modération de contenu toxique avec la capacité de reconnaître également le comportement positif des utilisateurs se traduira par un meilleur engagement, une meilleure rétention et des revenus dès la première fois.

« Alors que la prochaine génération de jeux devient plus immersive, une plus grande partie de l’expérience de jeu concerne les interactions entre les joueurs, c’est là que le leadership en IA en langage naturel peut aider à façonner de meilleures expériences utilisateur », a déclaré Davis. «Auparavant, la confiance et la sécurité consistaient uniquement à supprimer les contenus toxiques et les mauvais acteurs, mais il s’agit maintenant de façonner les expériences des joueurs pour créer de la résilience et favoriser la rétention. Les interactions des utilisateurs ont un impact sur l’expérience utilisateur, ce qui a un impact sur les revenus. »

Spectrum Labs a déclaré qu’il utilise l’IA contextuelle en langage naturel la plus avancée pour aider les plateformes à faire évoluer la modération de contenu sur les plateformes de jeu en détectant et en agissant sur les comportements toxiques et les utilisateurs à travers le contenu textuel et audio dans n’importe quelle langue.

Avec le nouveau produit Healthy Behavior AI, les plates-formes de jeu mettront en œuvre une nouvelle approche pour fidéliser davantage de nouveaux utilisateurs et accroître l’engagement des joueurs actuels en activant leurs joueurs les plus utiles, a déclaré Davis.

« C’est quelque chose d’excitant. Je veux dire, c’est ce que tout le monde veut en ce moment », a déclaré Davis.

Together Labs fait partie des clients pilotes testant et fournissant des commentaires sur l’IA comportementale saine. Leur portefeuille comprend les leaders du métaverse IMVU, WithMe et MetaJuice.

« La mission de notre entreprise est de permettre aux gens de se connecter dans le métaverse et nous sommes profondément investis dans l’innovation en matière de communication sociale », a déclaré Welch. « Uniquement, nous nous concentrons sur la promotion de relations humaines basées sur la science de l’amitié. Nos plateformes ont intégré des récompenses, des niveaux et des incitations qui libèrent la positivité, les expériences sociales et le partage dont les gens ont besoin pour une connexion authentique et amusante. En engageant nos joueurs les plus sympathiques et les plus serviables à l’aide de l’IA comportementale saine de Spectrum Labs, nous sommes impatients d’améliorer les expériences des utilisateurs tout en augmentant la rétention, l’engagement et les revenus.

De la rétention et des revenus plus élevés à l’absence de toxicité et à la conception de la positivité dans le gameplay, les décideurs de la suite c, les vice-présidents, les gestionnaires et les utilisateurs finaux bénéficieront tous de l’activation de Healthy Behavior AI, a déclaré Spectrum Labs.

Après le déploiement des jeux, la société prévoit d’étendre son IA de comportement sain pour inclure une suite complète de fonctionnalités pour les médias sociaux et les entreprises d’apprentissage en ligne, entre autres, a déclaré Davis.

Spectrum Labs compte environ 50 personnes maintenant. Comprendre la parole textuelle va être essentiel pour les développeurs qui créent des applications métavers, a déclaré Davis.

Davis a déclaré qu’il n’y avait pas eu beaucoup de recherches sur l’encouragement des bons comportements. La plupart se concentraient sur l’identification des discours de haine, du harcèlement et des spams. Mais Spectrum Labs a trouvé quelques points communs, tels que le rapport ou une bonne conversation dans les deux sens.

Il y a aussi la communication sur l’enseignement et les invitations. Ces choses conduisent généralement à une bonne expérience pour les joueurs. Les joueurs peuvent trouver des mentors et s’impliquer davantage dans le jeu ou la plateforme. Et le troisième point commun est l’encouragement et le cheerleading. Cela peut être aussi simple qu’un high five.

« Ces trois comportements sains sont assez cohérents sur toutes les plateformes », a déclaré Davis. « Maintenant, nous recherchons plus intentionnellement les bonnes choses afin de pouvoir construire ces communautés plus brillantes, plus saines et plus résilientes. »

Davis est convaincu qu’il existe un lien entre l’encouragement d’un comportement sain et de meilleurs résultats financiers.

Davis a déclaré que la société se concentre maintenant sur l’analyse de texte, mais qu’avec le temps, elle ajoutera également l’analyse vocale. Spectrum Labs filtre tout ce qui est écrit sur une plate-forme. Désormais, l’entreprise analyse tous les discours textuels sur une plate-forme et détermine comment récompenser les partenaires.

« Vous pouvez avoir une vue plus complète du bien et du mal, de ce qui se passe sur la plate-forme », a déclaré Davis.

L’expérience Together Labs

Welch a déclaré que Together Labs a étudié de nombreux systèmes disponibles et Spectrum Labs s’est démarqué comme comprenant vraiment la façon d’améliorer la modération grâce au filtrage intelligent des discussions.

IMVU dessert principalement un groupe démographique de 18 à 24 ans.

« Notre objectif est d’améliorer la modération et la sécurité sans contrecarrer le discours normal, décontracté et non toxique », a déclaré Welch. « Spectrum Labs a travaillé de manière proactive avec nous, exécutant un échantillon de nos données à travers leurs filtres d’IA, ce qui nous a aidés à gagner en confiance dans la technologie. L’ajout d’IMVU à l’ensemble de données croissant que Spectrum Labs utilise pour améliorer et faire évoluer son IA profite à nos deux entreprises. Et surtout, nos missions sont alignées : les deux entreprises se concentrent sur la création d’environnements en ligne plus performants pour la connexion humaine. »

Welch a déclaré que le tissu social et la façon dont les gens établissent des liens déterminent le succès ou l’échec dans le métaverse ou dans tout environnement en ligne. Et fondamentalement, un comportement toxique sape la connexion humaine. Le problème que les entreprises tentent de résoudre est de savoir comment créer des environnements en ligne qui sont bons pour les humains.

Mais les médias sociaux d’aujourd’hui consistent davantage à faire défiler passivement du contenu conçu pour les clics et les vues, et moins à être réellement sociaux ensemble. Nous passons tous plus de temps en ligne et nous avons été témoins de la solitude, de la polarisation et de la toxicité que les médias « sociaux » peuvent apporter, a déclaré Welch. Pour réduire la toxicité dans les environnements en ligne, nous devons concevoir pour la connexion, a-t-elle ajouté.
« Nous savons grâce à la science de l’amitié que, pour nouer des liens, vous devez passer du temps, vous amuser ensemble et révéler quelque chose sur vous-même. Et la base… le must-have… c’est qu’il doit être positif », a déclaré Welch. « La science nous dit que nous avons besoin de cinq points positifs pour surmonter une expérience négative. Alors que seule une minorité d’utilisateurs sont toxiques, ces quelques-uns peuvent affecter négativement de nombreuses personnes. À l’inverse, un comportement sain et accueillant peut avoir un impact positif.

Elle a ajouté: « Cela semble simple… mais la façon dont cela se déroule est complexe. C’est une science sociale, pas une science dure. Et c’est là que l’IA en langage naturel peut nous aider à identifier et à atténuer les discours toxiques et, avec ce dernier développement, nous aider à reconnaître et à récompenser les comportements pro-sociaux. »

J’ai demandé comment Together Labs utilise le renforcement positif.

Welch a déclaré que, sur IMVU, les moteurs de la positivité se trouvent dans la communauté elle-même et qu’elle les récompense et les encourage de multiples façons.

« Les créateurs conçoivent des choses et des expériences incroyables et s’encadrent mutuellement. Nous leur fournissons des moyens de se connecter les uns aux autres et de se faire un public dans la communauté », a déclaré Welch. « Nous avons 25 000 accueilleurs bénévoles qui créent des premières expériences positives pour les utilisateurs et augmentent la fidélisation. Nous récompensons les greeters qui réussissent avec des badges qui confèrent un statut dans la communauté, ainsi que des éléments numériques uniques. Les hôtes sont nos utilisateurs qui brisent la glace et gardent l’environnement positif lorsqu’ils ouvrent une salle aux gens. Nous fournissons des outils pour les aider à garder un environnement positif, comme le pouvoir de désactiver et de démarrer les utilisateurs toxiques. »

Together Labs a également WithMe, un nouveau métaverse maintenant en version bêta ouverte sur l’App Store, et il utilise un système Kudos. Les utilisateurs peuvent féliciter chaque jour les autres pour être de bons coéquipiers ou pour être amicaux. Recevoir ces félicitations renforce la réputation et le statut dans la communauté.

« Nous savons, grâce à la science de l’amitié, que faire ensemble différents types d’expériences est important pour la connexion », a déclaré Welch. « Sur WithMe, nos salles d’évasion sont conçues pour accélérer la confiance lorsque les utilisateurs les résolvent ensemble. Les jeux côte à côte, tels que les jeux-questionnaires, sont connus pour développer la connexion. Et nous fournissons des brise-glace en regardant des vidéos ou en dessinant ensemble. »