L'étrange vision du PDG de Roblox sur la sécurité des mineurs interpelle

L'exercice de communication devait servir à présenter les nouvelles fonctionnalités de sécurité de Roblox, notamment le scan facial pour la vérification de l'âge. Pourtant, l'intervention de David Baszucki, cofondateur et PDG de l'entreprise, dans le podcast Hard Fork du New York Times, a rapidement tourné au malaise. Ce qui devait être une démonstration de force technologique s'est transformé en une séquence de relations publiques particulièrement ardue, révélant un décalage certain entre les inquiétudes des parents et la philosophie de l'entreprise.

Une « opportunité » plutôt qu'un problème

Le point de bascule de l'entretien est survenu lorsque les journalistes Casey Newton et Kevin Roose ont abordé la question épineuse des prédateurs sexuels sur la plateforme. Au lieu d'adopter le ton grave et contrit habituel en pareille circonstance, Baszucki a offert une réponse qui a fait sourciller de nombreux observateurs. Il a décrit la situation comme un dilemme comportant du bon et du mauvais.

Nous ne voyons pas cela nécessairement juste comme un problème, mais aussi comme une opportunité. Comment permettre aux jeunes de construire, de communiquer et de passer du temps ensemble ? Comment bâtir l'avenir de la communication en même temps ?

Cette déclaration, tentant de lier la sécurité des enfants à l'innovation technologique, semble ignorer la gravité des accusations portées contre la plateforme. Le PDG a rappelé avec une certaine nostalgie les débuts de l'entreprise, il y a près de 19 ans, lorsque les quatre fondateurs modéraient eux-mêmes les contenus dans une petite pièce. Aujourd'hui, face à l'immensité de la tâche, Roblox mise tout sur « les dernières technologies », c'est-à-dire l'estimation de l'âge par reconnaissance faciale et l'intelligence artificielle.

L'intelligence artificielle comme bouclier unique

Pour Baszucki, la solution réside presque exclusivement dans l'automatisation. Il affirme que les filtres textuels et l'IA s'améliorent constamment pour bloquer les tentatives de contournement et le partage d'informations personnelles. Cependant, lorsque les journalistes ont évoqué le rapport accablant de Hindenburg Research d'octobre 2024, accusant Roblox de négliger la sécurité au profit des bénéfices, le dirigeant a botté en touche. Il a préféré souligner que le fonds activiste avait cessé ses activités, esquivant le fond du problème.

C'est vraiment intéressant, car je pense que nous plongeons dans une situation où nous devenons meilleurs, meilleurs, meilleurs. […] Est-il préférable d'avoir des systèmes d'IA qui examinent chaque image, chaque texte, ou de continuer à faire cela manuellement ?

L'ambiance de l'interview est devenue étrange lorsque Baszucki, visiblement agité mais niant toute frustration, a cru percevoir un soutien de la part des journalistes, allant jusqu'à suggérer des « high-fives » virtuels pour leur supposé alignement avec la stratégie de l'entreprise. Il a même demandé s'il s'agissait d'une « interview furtive » où les hôtes soutenaient secrètement Roblox.

Des paris en ligne pour les enfants ?

Comme pour couronner cet échange surréaliste, la conversation a dévié vers une idée hypothétique lancée par l'un des journalistes : un marché de prédiction au sein de Roblox où les enfants parieraient leur monnaie virtuelle, les Robux. Alors que l'idée était présentée comme terrible par son auteur, Baszucki l'a qualifiée de « brillante ».

Je pense en fait que c'est une idée brillante si elle peut être réalisée de manière éducative et légale. [...] Je serais un grand fan de ça.

Alors que Roblox fait face à des poursuites judiciaires dans des États comme le Texas et la Floride pour manquement à la sécurité des mineurs, cette interview risque de ne pas rassurer les familles. La défense acharnée de l'IA et la minimisation des risques humains peignent le portrait d'une entreprise focalisée sur la croissance technologique, parfois au détriment de la réalité du terrain.