Roblox s'apprête à franchir une étape majeure et controversée dans sa politique de modération. Dans un effort pour renforcer la sécurité des mineurs, la plateforme a révélé qu'elle imposera bientôt une estimation de l'âge par intelligence artificielle comme condition sine qua non pour accéder aux fonctionnalités de chat.
Dès le mois de décembre, ce dispositif sera progressivement déployé,
obligeant les utilisateurs du monde entier à se soumettre à ce processus s'ils souhaitent interagir avec d'autres joueurs. Si l'intention de protéger les plus jeunes est louable, la méthode employée, impliquant l'analyse biométrique des visages, soulève déjà une vague d'inquiétude au sein de la communauté.
Une réponse drastique aux critiques sur la sécurité infantile
La décision de Roblox Corporation ne survient pas dans un vide juridique ou médiatique. Depuis plus d'un an,
l'entreprise est sous le feu des projecteurs, faisant l'objet d'une surveillance accrue et de
plusieurs poursuites judiciaires significatives. Les critiques, souvent virulentes,
accusent la plateforme de ne pas en faire assez pour protéger sa jeune audience. La réputation du jeu a été particulièrement ébranlée par des allégations qualifiant l'écosystème de terrain fertile pour des prédateurs en ligne.
La situation a atteint un point critique lorsque le journaliste d'investigation Chris Hansen a publié un documentaire accablant, mettant en lumière les failles systémiques de la modération. C'est dans ce climat de défiance que Roblox tente de redorer son blason avec ce que l'entreprise qualifie de nouvelle «
norme de sécurité ».
L'IA Persona aux commandes : comment fonctionne le scan ?
Le cœur de cette nouvelle mesure repose sur une technologie externe. L'estimation de l'âge sera confiée à une plateforme soutenue par l'intelligence artificielle nommée
Persona. Le processus est simple mais intrusif : les utilisateurs devront télécharger une photo d'eux-mêmes. Cette image sera ensuite analysée par les algorithmes de l'IA pour déterminer l'âge biologique de l'utilisateur et le placer dans une catégorie restreinte.
Ce système débutera son déploiement en Australie, en Nouvelle-Zélande et aux Pays-Bas dès le mois prochain. Cependant, le calendrier s'accélère rapidement :
d'ici janvier, le reste du monde sera concerné. Il est crucial de noter que si cette vérification est techniquement «
optionnelle », elle devient de facto obligatoire pour quiconque souhaite utiliser la fonction fondamentale du chat sur
Roblox.
Des tranches d'âge cloisonnées pour limiter les interactions
L'objectif affiché par
Roblox est de créer des silos étanches basés sur la maturité des joueurs. En collaboration avec des experts du développement de l'enfant, la plateforme a défini des limites strictes. Une fois l'analyse faciale terminée, ou via une vérification d'identité classique, l'utilisateur se voit assigner un groupe :
- Moins de 9 ans,
- 9-12 ans,
- 13-15 ans,
- 16-17 ans,
- 18-20 ans,
- ou 21 et plus.
La règle d'or est la suivante :
les utilisateurs ne pourront discuter qu'avec des personnes de leur propre groupe d'âge ou de groupes très similaires.
Dans un communiqué récent, Roblox détaille cette vision :
Nous débloquons le chat et les expériences adaptées à l'âge pour nos utilisateurs en leur demandant de compléter une vérification d'âge via l'Estimation Faciale de l'Âge ou la vérification d'identité.
Une fois la vérification terminée, les utilisateurs ne seront autorisés à discuter qu'avec d'autres personnes de groupes d'âge similaires, à moins qu'ils ne deviennent des Connexions de Confiance avec des personnes qu'ils connaissent.
Pour illustrer ce fonctionnement, Roblox présente deux exemples concrets :
- Elisa (âge estimé à 12 ans) :
- Elle pourra discuter uniquement avec des utilisateurs de 15 ans ou moins. Tout utilisateur de 16 ans ou plus sera techniquement bloqué et ne pourra ni initier ni participer à un chat avec elle.
- Marcus (âge estimé à 18 ans) :
- Il aura accès aux discussions avec les utilisateurs de 16 ans et plus. Il conserve la possibilité d'ajouter un frère ou une sœur plus jeune en tant que "Connexion de Confiance", mais uniquement si ce dernier a au moins 13 ans.
Entre protection nécessaire et dérive biométrique
Si Roblox revendique le déploiement de plus de
145 nouvelles innovations de sécurité pour cette seule année, le scepticisme demeure palpable chez les observateurs et les parents. Cette dernière évolution cristallise une inquiétude moderne majeure :
la normalisation de la collecte de données biométriques chez les mineurs.
Demander à des millions d'enfants et d'adolescents d'envoyer leur photo à une intelligence artificielle tierce pour pouvoir simplement discuter avec leurs amis marque un tournant. La crainte ne porte pas tant sur l'efficacité du filtrage, qui pourrait effectivement réduire les risques de prédation, que sur la confidentialité des données et l'habituation des jeunes utilisateurs à la surveillance algorithmique.
Reste à voir si cette barrière technologique rassurera les parents ou si elle poussera les joueurs vers d'autres plateformes moins contraignantes.
commentaire (1)
C nul si on a un visage enfantin