Denuncias de explotación laboral, apuestas camufladas y pedófilos infiltrados: por qué Roblox está en el punto de mira
Roblox es un colorido mundo online que busca ser un punto de encuentro para jóvenes, en el que pueden programar sus propias experiencias interactivas o disfrutar de las generadas por otros usuarios, con los que también es posible relacionarse. La diferencia con otras propuestas igualmente exitosas como Minecraft, donde creatividad y comunidad se dan la mano, radica en que las mecánicas de juego varían en cada universo y en que existe mayor personalización. Sobre el papel suena a prometedor terreno de juego, pero diversas denuncias afirman que la plataforma es también “un coto de caza perfecto para pederastas”, según las palabras de la fiscal general de Luisiana, Liz Murrill.
Precisamente la Fiscalía de Luisiana presentó varias demandas contra el gigante del entretenimiento. En Estados Unidos varios juzgados tienen causas abiertas relacionadas con la presencia de depredadores sexuales en el portal. En España, la Fiscalía de Lleida está rastreando posible corrupción de menores en todo el territorio nacional, mientras que la Agencia Española de Protección de Datos amplió la investigación que tiene en marcha sobre el tratamiento que hace de los datos de los jóvenes, para comprobar si sus mecanismos de verificación son eficientes.
Para entrar a Roblox basta con crear un usuario nuevo. Sin necesidad de comprobar la edad es posible acceder a miles de experiencias de toda índole. Para las consideradas como “maduras” hay que demostrar ser mayor de 13 mediante un sistema de verificación con IA que requiere mostrar el rostro en cámara, y que a partir de enero será requisito obligatorio para acceder a las funciones de comunicación. Moverse por la interfaz resulta intuitivo, es fácil de instalar, en principio no hay que pagar nada y su estética recuerda a Lego. Estos ingredientes hicieron que la compañía tenga más de 85 millones de usuarios activos al día —aunque Hindenburg Research asegura que estaban inflando las estadísticas—, teniendo un 39 % de ellos menos de 13 años de acuerdo con Takeaway Reality.
La edad mínima para acceder a Instagram o TikTok es precisamente 13. En Roblox, esa barrera desciende hasta los 5 años. Por eso, los jóvenes acuden desde edades tempranas al portal a divertirse y socializar. Los cinco menores entrevistados para este reportaje comentan que empezaron a jugar pronto y que llevan haciéndolo desde entonces. La posibilidad de probar experiencias variadas es uno de los atractivos que destacan, así como el poder singularizar sus avatares. Pero, frente a esta cara más amable, subyacen problemas que ponen en peligro a sus usuarios y que, lejos de ser nuevos, llevan discutiéndose mucho tiempo.
En 2018, una madre denunció en Facebook que habían agredido sexualmente al avatar de su hija. Entonces, la conversación giró alrededor de la violencia online, pero un año antes el youtuber Ruben Sim ya había expuesto en su canal el comportamiento depredador de algunos adultos. Otras figuras han seguido su camino, como el influencer Schlep, quien, tras publicar varios vídeos en los que se hacía pasar por un menor para desenmascarar a pederastas, ha sido baneado por incumplir los términos de servicio del portal. Pero fue el reportaje de Bloomberg profundizando sobre la presencia de agresores sexuales en la plataforma el que hizo saltar todas las alarmas.
“Que haya incidencias no es nuevo, porque esto ocurre a través de los chats, y suele aparecer también en redes sociales como Instagram o TikTok”, explica a este medio la Dra. María Salmerón, presidenta de la Sociedad Española de Medicina de la Adolescencia. “A las consultas vienen padres por dolores de cabeza o problemas para dormir de sus hijos que vemos que ocurren porque en Roblox se enfrentan a contenidos que les incitan a las autolesiones, les cuestionan su sexualidad o les invitan a mandar fotos desnudos, y sí hemos detectado una agrupación y aumento de casos”, aclara.
Violencia virtual, consecuencias reales
Roblox es consciente de que existe un problema, pues en 2024 reportó más de 24.000 incidentes de explotación infantil en su plataforma al Centro Nacional para Niños Desaparecidos y Explotados, la organización estadounidense que ofrece ayuda a las víctimas y familias de niños perdidos, recuperados o víctimas de explotación sexual. La cifra fue bastante más elevada que los 13.000 reportes internos del año previo, según Games Industry. Matt Dolman, del bufete Dolman Law Group, comentaba en una entrevista con Wired que están llevando 300 casos de pederastia, siendo el 60% de sus clientes niñas. Los bufetes Stinar Gould Grieco & Hensley y Milberg representan a otras 400 presuntas víctimas. Por su parte, la empresa de inversiones Hindenburg Research asegura que la plataforma expone a los menores a “grooming, pornografía, contenido violento y lenguaje abusivo”.
La demanda interpuesta por la Fiscalía de Luisiana alude a que algunas de las experiencias que se pueden encontrar tienen nombres como “Escape to Epstein Island” (“Escape a la isla Epstein”), en alusión al depredador sexual Jeffrey Epstein. Buceando por Roblox, en la actualidad no es tan sencillo dar con esta clase de títulos, pero hay muchas experiencias destinadas a charlar, estar de fiesta o socializar en las que es fácil encontrar a usuarios preguntando a otros por su edad o detalles personales e intentando ligar.
Del mismo modo, hay que mencionar la existencia de los condo games, espacios en los que se queda para simular relaciones sexuales a los que se accede mediante canales externos. Un representante de Roblox explica a este diario que son conscientes de que “hay personas malintencionadas que tratarán de eludir las normas”, pero que “se tratan de una minoría” y disponen de “herramientas eficaces para detectar y eliminar estos juegos a través de una combinación de tecnología de aprendizaje automático y la intervención manual de un equipo de moderadores expertos”. Insiste en que “es muy raro que los usuarios se encuentren con ese contenido en la plataforma”, ya que cuentan con “filtros para evitar buscar contenido inapropiado”. A pesar de ello, es sencillo llegar a comunidades en Telegram o Discord a través de las cuales acceder a dichas experiencias eróticas, que muchas veces están creadas y gestionadas por menores, como expuso el youtuber trixt0r en su canal mediante entrevistas a varios desarrolladores.
Cómo proteger a los menores que juegan
“Conocí a gente que se hacía pasar por un niño. Sentía que esa persona trataba de manipularme y usaba unos términos algo raros, pero yo entonces era muy pequeña” comenta Lucía [nombre ficticio], una joven jugadora que detectó comportamientos extraños en Roblox. Para Marina [nombre ficticio] la experiencia ha sido diferente: “no he sentido que alguien con quien me haya encontrado se haya hecho pasar por niño, pero sí gente con intenciones de robar o aprovecharse de mí”, expresa. Su madre añade que su hija “aprendió a poner en duda lo que dicen en el juego y actuar en consecuencia” y que, antes de que comenzara a jugar, estuvieron “hablando de lo que podía encontrar”. “Le dije que me preguntara cada cosa con la que le surgieran dudas o temor”, relata, algo que la joven ha cumplido. La progenitora destaca que también ha encontrado gente que comparte sus intereses, pero que “ahora solo se relaciona con amigos ya consolidados”.
Todos los jugadores entrevistados para este artículo son menores y suelen jugar con amigos cercanos. Carmen [nombre ficticio] es una adolescente que asegura que la plataforma es “segura si se usa con cuidado o bajo control parental”, pero se ríe al ser preguntada por esta herramienta, porque ella misma no la ha utilizado nunca, ya que afirma que siempre juega a lo mismo y que sus padres lo saben. No es la única: ninguno de los entrevistados utiliza los controles parentales que ofrece la plataforma. Mario [nombre ficticio] explica que “hay que tener cuidado con la gente con la que se interactúa”, consciente de que existen algunos riesgos online. Sus padres confían en que su hijo “sabe perfectamente los peligros de Internet”, sobre todo el riesgo que supone tener conversaciones fuera de la propia aplicación de Roblox, porque, mientras que la plataforma censura el lenguaje inapropiado, los enlaces a sitios externos e información personal como direcciones o teléfonos, otros espacios donde se reúnen las comunidades de jugadores, como Discord, no cuentan con este filtro. La Dra. María Salmerón añade que, “igual que cuando salen a la calle es importante saber dónde van a estar y con quién van a ir sus hijos, en el mundo digital es igual”. Por eso anima a los progenitores a probar estos servicios “durante un tiempo y ver qué posibles riesgos entrañan”.
Construyendo experiencias y no videojuegos
Roblox nace con la idea de que los videojuegos eran el futuro del software educacional, pero sus creadores, Erik Cassel y David Brent Baszucki, pronto se dieron cuenta de que los menores usaban ese lenguaje tan sencillo más para jugar que para aprender. En 2006 la empresa adopta su nombre actual y empieza a crecer como un portal recreativo destinado a que los chavales desarrollen sus propias experiencias. Usan este término, experiencias, en lugar de videojuegos para no dar la sensación de que se nutren del músculo creativo de los usuarios. Pero la realidad es que las ganancias de la compañía, valorada en la actualidad en 90.000 millones de dólares, derivan en gran medida de las creaciones de los jugadores.
No hay que perder de vista que Roblox no es un videojuego per se, sino una plataforma que los aglutina. Por tanto, anima a que cualquier persona desarrolle accesorios para los avatares o experiencias que incluyen microtransacciones, de modo que otros jugadores puedan pagar por estos elementos. De cada venta, la compañía se queda un elevado porcentaje, mientras que los creadores ganan alrededor de un 30% del valor del producto que han diseñado. Al preguntarle por esta cuestión, el representante de Roblox habla de que “es una forma de expresión creativa” y de que “para algunos es un hobby”, pero “para otros se puede convertir en una carrera”. Destaca que, las personas “inscritas en el programa DevEx”, que permite intercambiar la moneda del juego por divisa real, “tienen en su mayoría más de 18”. También, que “la edad media de los desarrolladores con mayores ingresos ronda los 25 años”. Pero esto ignora que cualquier usuario que supere los 13 puede pagar por campañas publicitarias para promocionar sus creaciones, algo que incentiva la propia compañía. También, que hay menores trabajando para creadores, adultos o no, para los cuales realizan tareas a cambio de la moneda del juego, Robux, o dinero real, como exploró The Guardian. Dado que se suelen organizar en espacios externos como Discord, no existe regulación en dichas comunidades de desarrollo.
En 2021, People Make Games publicó un completo reportaje en el que abordaban la explotación laboral infantil en Roblox. En él señalaban que la empresa se queda con porcentajes muy elevados de cada transacción y que el cambio de la moneda in game sale peor cuando te pagan tu parte que cuando la cambias para comprar. Quintin Smith, guionista y presentador del documental, expresa en una entrevista para elDiario.es que no sabe “qué implica para el desarrollo psicológico de un niño que sus primeros trabajos sean todos en un espacio no regulado que no cuenta con los controles que deben implementarse para evitar la explotación laboral”, pero que está “seguro” de que “no es bueno para su autoestima o, lo que es peor, para el tipo de gerente en el que se convertirá cuando tenga empleados”. La Dra. María Salmerón señala que entre los adolescentes que diseñan experiencias existe el problema de que los “sistemas de recompensa inmediata activan la zona dopaminérgica, lo que implica que ”son adictivos“ a través de mecanismos como ”el hecho de tener monedas, de poder comprar mejoras para el juego o de que haya macroencuentros a horas intempestivas entre semana“.
El planteamiento de Roblox y su foco en la personalización mediante la compra de mejoras es otra de las fuentes de beneficios. De los menores entrevistados, solo Carmen aseguraba no haber invertido nada, aunque tiene gente de su entorno cercano que se ha dejado “mucho dinero”, y algunos a los que incluso han robado tras hackear sus cuentas. Muchas marcas aprovechan este espacio virtual para promocionarse mediante el diseño de experiencias propias, por ejemplo, Mattel ofrece colaboraciones exclusivas para algunos de sus productos, como las muñecas Monster High. Y, desde hace unos meses, Roblox permite realizar compras físicas en sus entornos online y ganar recompensas por visionar anuncios de 30 segundos.
Esto refuerza la idea de que funciona como un centro comercial, uno en el que también hay experiencias con dinámicas parecidas a las de los juegos de apuestas. Porque, evitando la denominación de videojuego, en Roblox esquivan las regulaciones de los juegos de azar. “Prohibimos simulaciones y apuestas reales en la plataforma, donde no se puede intercambiar dinero real, Robux ni artículos de valor dentro del juego en relación con ninguna actividad relacionada con las apuestas”, matiza su portavoz. Sin embargo, en su universo online existen cientos de experiencias que imitan la ambientación y mecánicas de los casinos.
El futuro incierto de ‘Roblox’
Después de que 51 personas musulmanas fueran asesinadas en las mezquitas neozelandesas de Christchurch, en Roblox aparecieron experiencias que recreaban estos atentados. Del mismo modo, existen zonas de roleplay nazi amparadas en ser obras sobre la II Guerra Mundial, donde de manera lo suficiente sutil como para evitar el banneo se emplea simbología fascista, por ejemplo, alterando los colores de la bandera o la forma de la esvástica. Desde la compañía aseguran que tienen “una política estricta que prohíbe contenidos o comportamientos que inciten, aprueben, apoyen, glorifiquen o promuevan el extremismo” y que lo gestionan mediante el uso de tecnologías como la IA y otras herramientas automatizadas, pero también con investigadores.
Pero no parece tan eficaz en el caso del franquismo, pues no es complicado dar con obras cuya portada son imágenes del Valle de los Caídos o que recrean la Guerra Civil o la dictadura desde el ensalzamiento. Asimismo, existen perfiles en redes sociales como TikTok que suben vídeos de su paso por Roblox con escenas que titulan “franquista invade Marruecos para que no vengan los moros” o “[nombre del personaje] ahoga penas en alcohol recordando los mejores momentos del caudillo”.
La falta de regulación online ha llevado a que algunos entornos se conviertan en espacios en los que grupos extremistas se organizan. En estas comunidades virtuales han crecido grupos violentos que abusan de menores como la organización neonazi 764. Aunque no es algo exclusivo de Roblox, pues la Agencia de Seguridad Nacional estadounidense investigaba las comunidades de World of Warcraft y Second Life para detectar grupos terroristas por estar sus chats menos controlados que las apps de mensajería instantánea o las redes sociales.
No hay que perder de vista que en los mundos virtuales se socializa de verdad, algo que los convierte en lugares de expresión. De ahí que Roblox haya habido protestas en contra del Servicio de Control de Inmigración y Aduanas estadounidense y concentraciones a favor de Palestina, muchas de las cuales fueron cerradas por la propia plataforma. Nada de lo que ocurre en ella es nueva, pues Habbo Hotel, videojuego que cumple 25 años, sufrió crisis parecidas: el título finés fue pionero en las microtransacciones que cambiaban dinero real por la moneda del juego, tuvo polémicas tras acciones reaccionarias de trolls y, en 2012, tras una investigación de Channel 4, se desveló la existencia de chats sexuales en los que se acosaba a menores, lo que supuso el principio de su decadencia.
“Literalmente cualquier videojuego online dirigido a niños se convertirá en un foco de abusos si se le deja. Por desgracia, para obtener beneficios, estas empresas deben gestionar sus entornos digitales a una escala que hace que la moderación constante resulte inviable por su elevado coste”, explica Quintin Smith, quien compara la situación con “un negocio de parques infantiles que tiene un solo cuidador para supervisar a cientos de niños para poder obtener beneficios”. Para hacer frente al problema, Roblox ha tomado nuevas medidas de seguridad en el último año, como implementar las conexiones de confianza, que permiten seleccionar usuarios concretos para chatear sin filtro. Y, a partir de enero, el sistema de chat volverá a cambiar, pues estará basado en la edad estimada por el reconocimiento facial precisamente para limitar la comunicación entre menores y adultos.
Cualquier videojuego online dirigido a niños se convertirá en un foco de abusos si se le deja. Por desgracia, para obtener beneficios, estas empresas deben gestionar sus entornos digitales a una escala que hace que la moderación constante resulte inviable por su elevado coste
Pero la normativa presente hasta el momento trata a los mayores de 13 años como si fuesen adultos y, aunque prohíbe compartir imágenes, vídeos o información confidencial en sus chats, los usuarios son capaces de saltarse estas restricciones a través de modificar el lenguaje empleado y de trasladar la conversación a otras plataformas menos reguladas. Por eso, la Dra. María Salmerón recuerda que, para proteger a los menores, “los padres no tienen que estar alerta solo en los juegos, sino en cualquier servicio digital que tenga servicios de chats privados, pues es ahí donde ocurren los problemas.”
Respecto a Roblox, mientras la Unión Europea estudia si Instagram y Facebook incumplen la obligación de proporcionar a sus usuarios mecanismos sencillos para notificar contenido ilegal, parece que las denuncias lo mantendrán en el punto de mira. Su CEO, David Baszucki, expresaba en una entrevista reciente con la BBC que quiere que sea “el futuro de la comunicación”. Quizá se trunquen estas ambiciones y corra la misma suerte que Habbo Hotel ahora que la seguridad en la plataforma está en entredicho o, quizá, el poder acumulado en estos años permita que aquel proyecto nacido como educativo siga en activo a pesar de los riesgos que puede entrañar para sus jóvenes jugadores.
0