Roblox y su problema con la pederastia

Con 78 millones de usuarios activos diarios en la actualidad, Roblox se ha convertido en una red social para las generaciones más jóvenes. Cada segundo, según Roblox, procesa más de 50.000 mensajes de chat a través de sus protocolos de moderación que son una combinación de tecnología de inteligencia artificial y de trabajadores humanos que, según la compañía, escanea todo el contenido del usuario, incluidos el audio y el texto.

Roblox tiene alrededor de 3.000 moderadores, menos que TikTok, que tiene tres veces el número de usuarios diarios, pero donde trabajan 40.000 moderadores.

A diferencia de otras aplicaciones de redes sociales de mercado masivo que bloquean a los niños menores de 13 años o los derivan a versiones más infantiles, Roblox fue hecho para niños y más del 40% de sus usuarios son preadolescentes.

Según datos recopilados por Bloomberg Businessweek, desde 2018, la policía en los Estados Unidos ha arrestado al menos a dos docenas de personas acusadas de secuestrar o abusar de las víctimas que habían conocido o manipulado usando Roblox. Algunos ya estaban en los registros de delincuentes sexuales o habían sido acusados de abusar de menores. También había un ayudante del sheriff, un maestro de tercer curso de primaria y una enfermera. Solo en los últimos 13 meses ha habido siete arrestos, incluidos los de un hombre en Florida acusado de intentar secuestrar a una adolescente con la que jugaba en Roblox, un hombre acusado de secuestrar a una niña de 11 años de Nueva Jersey que conoció en la plataforma, y un hombre de California que supuestamente abusó de un niño que también había conocido en Roblox. Estos depredadores estaban usando Robux (moneda virtual de Roblox) para animar a los niños a enviar fotografías o a desarrollar relaciones con ellos que se trasladaron a otras plataformas online y finalmente al mundo físico.

El director de seguridad de Roblox, Matt Kaufman, dice que la seguridad y el civismo son “fundamentales” para la empresa. Señala que los sistemas de moderación de la plataforma escanean todos los chat y otros contenidos digitales. Esos sistemas, que pueden intervenir en menos de un minuto, son aún más restrictivos para los niños menores de 13 años.

Kaufman rechaza la idea de que Roblox tiene un problema sistémico con el peligro infantil y describe el problema como general en toda la industria. “Decenas de millones de personas de todas las edades tienen una experiencia segura y positiva en Roblox todos los días”, dice.

Sin embargo, varias personas que han trabajado para Kaufman dicen que Roblox está fallando en su batalla contra los depredadores. En entrevistas con más de 20 empleados y exempleados, incluidos moderadores, ingenieros y gerentes de seguridad que solicitaron el anonimato debido a acuerdos de confidencialidad o al temor a represalias de la empresa, dijeron repetidamente que, si bien la seguridad infantil podría estar en el centro de la empresa, vigilar la plataforma y a sus 13 millones de juegos es una tarea imposible. Una moderadora dice que su equipo recibe cientos de informes relacionados con la seguridad infantil todos los días, demasiados para que su equipo los aclare.

Roblox fue hecho para niños y más del 40% de sus usuarios son preadolescentes. R.O.

Crecimiento frente a seguridad

La política de proteger a los niños será más complicada a medida que la compañía se esfuerce por alcanzar el objetivo del cofundador y director ejecutivo David Baszucki de tener mil millones de usuarios diarios, más de 10 veces el número actual. Ocho trabajadores actuales y anteriores de confianza y seguridad dicen que el crecimiento de usuarios en Roblox tiene prioridad sobre la seguridad infantil. Describen que las peticiones para más recursos no se responden, lo que resulta en una acumulación de informes de incidentes y llevó a la salida de un gerente que se fue después de que las promesas de implementar personal adicional no se cumplieran.

Otros dicen que las características que recomendaron para proteger mejor a los niños, como los avisos de seguridad emergentes, fueron rechazadas y que la configuración de seguridad para, por ejemplo, garantizar que los usuarios no hablen con extraños, se desactivaron por defecto.

Y aunque la compañía dice que depende cada vez más de la IA para la moderación y esos sistemas están mejorando todo el tiempo, algunos empleados dicen que la tecnología aún no es capaz de detectar signos sutiles de acoso.

La mayoría de los trabajadores de seguridad entrevistados por Businessweek dicen que es más difícil perseguir a pedófilos en Roblox que en otras plataformas en línea, porque cada usuario es una colección anónima de píxeles. Es lo que pasa al crear algo para niños: no se pueden pedir nombres reales, direcciones de correo electrónico o números de teléfono al registrarte. Eso protege la privacidad de los niños, pero también la de los depredadores.