Voici une question pour vous : comment vous assurez-vous de garder une trace du temps passé sur Internet de votre enfant sans envahir sa vie privée ? Enfants pourrait avoir une réponse pour vous avec son logiciel ProtectMe. ProtectMe n’est pas seulement un logiciel de nounou, alertant les parents du mauvais comportement de leur propre enfant. Il reconnaît également les signes de harcèlement entrant.

Le programme utilise l’intelligence artificielle pour surveiller les comportements alarmants entre les enfants dans plus de 120 jeux. ProtectMe recherche spécifiquement le contexte ; il peut faire la différence entre un coup ludique et une menace réelle.

À la fin de chaque semaine, le logiciel génère un rapport pour les parents. Ce rapport les alerte de tout comportement inquiétant de – ou envers – leur enfant.

Ça sonne bien, en théorie. Mais j’avais quelques questions sur les détails. J’ai donc parlé au patron de Kidas, Ron Curbs, du fonctionnement exact du logiciel et de sa future évolution.

Comment ça marche actuellement

JeuxBeat: ProtectMe est-il limité au chat vocal uniquement ?

Ron Curbs: Le logiciel ProtectMe fournit à la fois une surveillance vocale et textuelle. Il sait quand s’allumer et s’éteindre en fonction du moment où les jeux ou les applications de communication telles que Discord sont activés et désactivés.

JeuxBeat: Est-ce réservé aux utilisateurs ? Autrement dit, l’objectif principal de ProtectMe est-il d’observer le discours sortant de l’enfant, et non le discours entrant ?

Bordures: ProtectMe a la capacité de comprendre la communication à la fois interne et externe, ce qui signifie que nous savons si un enfant a été exposé, par exemple, à la cyberintimidation, en tant que victime, auteur ou témoin. Pour des raisons de confidentialité et de conformité, nous ne fournissons pas d’étiquettes de joueur, de détails personnels ou de transcriptions aux parents ou aux tuteurs. Ce n’est que dans les circonstances les plus graves que nous offrirons un contexte supplémentaire, par exemple s’il existe un potentiel évident de traite ou si l’enfant prévoyait de rencontrer un étranger en personne, entre autres circonstances critiques.

JeuxBeat: Le logiciel peut-il gérer le fractionnement audio ? Si un microphone est branché via un mixeur audio ou passe par un cordon audio numérique, ProtectMe peut-il détecter que l’option Windows par défaut n’est pas utilisée et l’ajuster en conséquence ?

Bordures: Kidas prend en charge le fractionnement audio ; dans certains cas, nous analysons plus de huit canaux à la fois. Notre technologie peut faire la différence entre les données pertinentes et l’audio de fond que nous pouvons ignorer.

Le contexte compte

JeuxBeat: ProtectMe peut-il faire la différence entre un enfant disant activement quelque chose à quelqu’un et lisant quelque chose à haute voix ? Entre un autre utilisateur qui parle et une cinématique vocale ?

Bordures: Ce qui est nouveau dans notre technologie, c’est qu’elle comprend le contexte comme faisant partie du jeu et va au-delà du traitement du langage et de la reconnaissance des mots-clés. Nous savons tous que le trash talk fait partie de l’expérience de jeu ; Cependant, la différence de ProtectMe est que, parce que notre logiciel d’IA a été testé dans des milliers de scénarios, il est capable de répondre correctement à chaque fois et de déchiffrer si une interaction représente une menace directe ou un langage grossier de bonne humeur.

C’est assez incroyable et quelque chose que personne d’autre sur le marché n’offre. Nous savons également que, généralement, ce à quoi il convient d’exposer un enfant de 7 ans est très différent de celui d’un enfant de 14 ans, et donc avec les conseils de psychologues pour enfants et d’experts en cyberintimidation, nous fournissons une menace différente scores de gravité et recommandations en fonction de l’âge. Si quelqu’un utilise un changeur de voix ou un enregistrement, nous écouterons le contexte et les mots prononcés, et non la profondeur ou la hauteur des mots prononcés.

La confidentialité est toujours importante

JeuxBeat: ProtectMe peut-il reconnaître les voix répétées ? Si un enfant fait régulièrement équipe avec quelqu’un qui est régulièrement signalé comme harceleur vocal, Kidas avertit-il les parents de la personne avec qui leur enfant traîne ?

Bordures: Non, nous sommes incroyablement vigilants en ce qui concerne les lois sur la confidentialité et la sécurité. Nous encourageons les parents qui subissent des menaces répétées à poursuivre la discussion au sein de leur famille. Étant donné que ces sujets peuvent être incroyablement difficiles à aborder pour les parents, nous fournissons des recommandations personnalisées sur la manière dont ils peuvent parler à leurs enfants de ce qui s’est passé.

JeuxBeat: ProtectMe suit-il et/ou fournit-il des mises à jour au fil du temps pour les parents ? Par exemple : si ProtectMe signale un enfant 5 fois en une semaine et le signale aux parents, et que la semaine suivante, ProtectMe signale un enfant 3 fois, le parent est-il alerté du meilleur comportement ?

Bordures: Nous suivons les changements d’une semaine à l’autre, mais pas tout à fait comme ça. Nos rapports commencent par un système général de notation par couleur pour catégoriser la gravité des menaces détectées cette semaine :

Rouge : action immédiate requise ; Les menaces les plus préoccupantes telles que le contact avec un pédophile.
Orange : Action requise ; Pour les menaces telles que l’intimidation.

Jaune : A noter ; Comportement dont vous devriez être conscient, comme parler de détritus adapté à l’âge.

Vert : Rien concernant : aucune indication de menaces préoccupantes trouvées.

Nos rapports contiennent des recommandations basées sur le score de gravité global et sur la menace détectée. Lorsque nous constatons une exposition répétée aux mêmes menaces, une séquence de recommandations uniques basées sur les menaces historiques détectées est fournie.

À partir de là, nous fournissons également le temps passé à jouer aux analyses. Ceux-ci montrent quels jeux ont été le plus joués, combien d’heures ont été jouées chaque jour et au total pour la semaine, comment cela se compare à la semaine dernière et comment le temps total passé à jouer se compare à tous les joueurs ProtectMe. Nous sommes des défenseurs du temps d’écran et voulons garder le jeu sûr et amusant ; cependant, les parents nous ont dit qu’ils ne savent jamais à quel point leurs enfants jouent réellement et comment cela se compare aux autres joueurs. Alors maintenant, ils ont encore plus de perspicacité que sans le logiciel.

À quoi ressemble l’avenir

JeuxBeat: ProtectMe pourra-t-il un jour surveiller le harcèlement spécifique à un jeu ? (par exemple : un utilisateur qui spamme des fonctions de chat prédéfinies dans Rocket League, comme « quelle sauvegarde ! » ; encore et encore, pour se moquer d’un joueur)

Bordures: Il ne s’agit pas d’une offre actuelle, cependant, nous prévoyons d’étendre ce que notre analyse examine, y compris le harcèlement spécifique au jeu. Par exemple, dans le cadre de notre partenariat avec Overwolf, nous utilisons les API d’Overwolf pour accéder à des événements spécifiques au jeu afin de détecter ces situations.

JeuxBeat: Un suivi plus approfondi est-il prévu à l’avenir pour ProtectMe ? (par exemple, sachets de thé, sprays de contre-attaque, etc.)

Bordures: Bien que nous nous concentrions actuellement sur les chats audio et textuels, la détection d’autres événements toxiques qui n’impliquent pas de communication entre pairs, tels que le teabagging et le smurfing, font définitivement partie de notre feuille de route.

Nous nous sommes également associés à certains des plus grands studios de jeux et fabricants d’équipements de jeu pour leur apporter des solutions personnalisées adaptées à leur technologie, leurs scénarios et leurs défis uniques.