María Abellán Hernández, Universidad de Murcia; José María Herranz de la Casa, Universidad de Castilla-La Mancha y Pavel Sidorenko Bautista, UNIR - Universidad Internacional de La Rioja

Las nuevas generaciones, especialmente los alfas –nacidos entre 2010 y 2024-2025–, socializan de manera diferente. Los videojuegos con un alto nivel de interacción son clave para las relaciones de estas generaciones digitales. Uno de los espacios con mayor interacción entre estos jóvenes es Roblox.

En este metaverso, aproximadamente el 60 % de los usuarios tienen entre 9 y 16 años. Y, con más de 80 millones de usuarios globales, solo en España, es el espacio digital preferido de los niños con edades comprendidas entre los 4 y 15 años. Esto lo convierte en un entorno especialmente sensible al acoso y la pederastia. En un momento de gran relevancia de las plataformas multijugador, ¿puede la inteligencia artificial garantizar interacciones saludables entre usuarios?

¿Qué es Roblox y qué problemas expone?

Roblox es una plataforma multijugador en que sus usuarios pueden crear objetos, construcciones, escenarios, personajes… Desde parkour a mazmorras, Roblox ofrece infinidad de posibilidades lúdicas amenizadas por interacciones entre pares. Sin embargo, esta plataforma ha sido noticia recientemente por los peligros que acechan más que por su posible valor para fomentar la diversidad y la creatividad.

Roblox es un “ecosistema online” donde los usuarios crean libremente experiencias en forma de minijuegos. Pero sus herramientas ofrecen también la posibilidad de crear entornos inseguros. Si no se regula adecuadamente, los contenidos inadecuados pueden ser consumidos por menores.

Por ejemplo, incluye juegos de condominio o condos, donde el contenido sexual se explicita mostrando avatares desnudos o simulando que practican sexo. Los condos consiguen eludir los sistemas de control de la plataforma porque son difundidos en otros espacios como Discord o TikTok. Además, habitualmente proponen entrar en casitas (condominio) con habitaciones y piscinas donde se esconde el alto contenido sexual.

Condos: el lado oscuro

El problema de los condos es que pueden ser espacios donde los depredadores sexuales acechen a los menores. Recientemente, el youtuber Schelp –que ya había sido víctima de acoso en la plataforma– ha sido bloqueado en Roblox, a pesar de su lucha contra los depredadores sexuales en la plataforma.

Según Roblox, Schelp violó su política de privacidad al hacerse pasar por menor, invitando a los presuntos depredadores a otras plataformas. De esta manera, podía tener conversaciones sexualmente explícitas con ellos y dejarlos expuestos. Exactamente, la misma estrategia de interacción que estos emplean en Roblox.

El fenómeno del grooming

Allá donde haya jóvenes sin control aparente, pueden surgir riesgos de grooming o acoso online por parte de pederastas. La práctica del grooming consiste en que el adulto interactúa con el menor ganando su confianza. Entonces, le solicita imágenes, vídeos o interacciones sexuales que pueden llegar a encuentros físicos.

Aunque parece algo aislado, el fenómeno es más recurrente de lo que se piensa. Datos internacionales revelan que los acosadores (groomers) suelen ser personas socialmente adaptadas, con edad entre los 28 y 35 años. El impacto psicológico del grooming entre sus víctimas lo convierte en uno de los mayores riesgos que las plataformas encaran.

Control parental e inteligencia artificial

La mayoría de los juegos como Roblox tienen controles parentales que permiten limitar el chat con desconocidos. Pero esto no implica que se puede erradicar el riesgo al 100 %. Sin embargo, la empresa propietaria de la plataforma encuentra en estas fórmulas una manera de escabullir su responsabilidad. Es cierto que, si se siguen las recomendaciones de ciberseguridad, se puede disfrutar sin peligros. Más importante incluso es la alfabetización digital de menores y sus padres y educadores, para aprender a identificar y actuar ante los riesgos del grooming.

Otra herramienta que podría ser útil es la inteligencia artificial como aliada en la lucha contra el grooming. Ya existen aplicaciones con modelos de procesamiento del lenguaje y aprendizaje profundo que identifican expresiones de odio en redes sociales y en otros ámbitos digitales como medios de comunicación. En este sentido, destacan el proyecto HATEMEDIA, de la Universidad Internacional de La Rioja, y el trabajo del grupo SINAI, de la Universidad de Jaén, que se enfoca específicamente en expresiones ofensivas en X.

Bots vigilantes

Por otro lado, el avance en integración de modelos de aprendizaje automático en entornos de juego sugiere que los NPC –del inglés Non Player Character, personajes virtuales que actúan movidos por un sistema de inteligencia artificial– podrían servir para identificar prácticas inadecuadas. Esto ya ocurre en Alien: Isolation, donde el personaje del Xenomorfo “aprende” del comportamiento del jugador.

Por su parte, Meta anunció que incorporará su modelo de IA, Llama, a los NPC en su metaverso, Horizon Worlds. Y NVIDIA está trabajando en un desarrollo similar a partir del concepto de ‘Neo-NPC’. Esto nos llevará a hacernos nuevas preguntas: ¿cómo diferenciar si un avatar es una IA o un usuario humano? ¿Qué nivel de libre albedrío tendrán estos bots generativos en su integración con avatares virtuales? ¿Puede la IA integrada en bots y NPC ser una aliada para frenar el acoso en el mundo digital?

Mientras, Mo Gawdat, exdirectivo de Google, vaticina que entramos en un período distópico que durará hasta 2027. Cuando la IA se haga con el control total de internet, las empresas desarrolladoras de estas plataformas estarán obligadas a un mayor grado de compromiso y responsabilidad.

María Abellán Hernández, Profesora de Comunicación, Universidad de Murcia; José María Herranz de la Casa, Profesor titular de Periodismo, Universidad de Castilla-La Mancha y Pavel Sidorenko Bautista, Profesor Titular de la Facultad de Ciencias de la Educación y Humanidades, UNIR - Universidad Internacional de La Rioja

Este artículo fue publicado originalmente en The Conversation. Lea el original.