Una herramienta de inteligencia artificial detecta señales de acoso sexual en Roblox, la plataforma que usan 123 millones de niños cada día

Roblox Corporation anunció el 19 de agosto de 2026 la liberación de tres modelos de inteligencia artificial dedicados a la detección temprana de riesgos para menores en entornos digitales, una decisión que impacta a millones de usuarios y plantea un nuevo estándar de protección en la industria global del entretenimiento online. La iniciativa busca frenar el grooming, la solicitud de datos personales y las conversaciones de voz inseguras, según el comunicado oficial de la empresa.

De acuerdo con información de Fox News y el portal institucional de Roblox, la compañía puso estos modelos a disposición de la Robust Open Online Safety Tools (ROOST), una comunidad de colaboración tecnológica integrada por actores como Google, OpenAI y Discord. Esta acción facilita que otras plataformas accedan a soluciones avanzadas en protección infantil, en respuesta a la creciente preocupación por la seguridad en línea.

La decisión se produce en un momento de escrutinio regulatorio sobre Roblox en Estados Unidos. El Senado estadounidense inició una investigación tras reportarse 65.381 casos de presunta explotación sexual infantil en la plataforma durante 2025, el doble que en 2024, según registros oficiales y reportes recogidos por Fox News y el foro de desarrolladores de la compañía.

¿Qué modelos de inteligencia artificial ha liberado Roblox para la seguridad infantil?

Roblox ha abierto tres modelos principales de inteligencia artificial que abordan distintos aspectos de la seguridad digital para menores:

1. Clasificador de Información Personal Identificable (PII Classifier): Este sistema identifica intentos de compartir o solicitar datos personales, como números de teléfono, correos electrónicos y nombres de usuario de redes sociales. También detecta estrategias para evadir filtros, incluyendo errores intencionados y fragmentación de mensajes. La versión 2.0 amplió el soporte a 189 idiomas y elevó el índice F1 de precisión del 63,41% al 90,52%, según el comunicado de Roblox.
2. Roblox Sentinel: Diseñada para detectar signos tempranos de grooming o peligro infantil antes de que las conversaciones se vuelvan explícitas. Este modelo compara patrones de chat con ejemplos de interacciones seguras y peligrosas. Durante los 12 meses previos al 7 de agosto de 2026, Sentinel permitió identificar el 70% de los casos de peligro infantil reportados en la plataforma.
3. Clasificador de seguridad de voz: Analiza en tiempo real las conversaciones por voz para detectar infracciones a las políticas de Roblox, como lenguaje inapropiado o solicitudes de información personal. El sistema puede suspender temporalmente el acceso al chat de voz y, en casos graves, imponer sanciones adicionales. La versión 3 abarca 30 idiomas y ocho categorías de violaciones, con un recall del 61% y una tasa de falsos positivos del 1%.

¿Qué es la comunidad ROOST y qué otras empresas participan?

La Robust Open Online Safety Tools (ROOST) es una comunidad tecnológica que promueve la colaboración en el desarrollo de sistemas de seguridad digital abiertos. Fundada en 2025 con la participación de Google, OpenAI, Discord y Roblox, la comunidad facilita el acceso de empresas y organizaciones a modelos avanzados de inteligencia artificial para la moderación de contenido y la protección de menores.

El objetivo de ROOST es que plataformas con recursos limitados adopten y adapten estos modelos, permitiendo elevar el estándar de seguridad en todo el ecosistema digital. Roblox indicó en su comunicado que “compartir tecnología de seguridad puede permitir que más servicios accedan a herramientas diseñadas para detectar señales de advertencia similares”, aunque cada empresa debe ajustar los modelos a sus propias necesidades y contexto.

¿Por qué Roblox decide abrir su tecnología de seguridad?

La apertura de los modelos de seguridad responde a dos factores principales. Por un lado, la necesidad de proteger a una base de usuarios predominantemente menor de edad, dado que, según datos de Roblox, el 75% de sus usuarios verificados son menores de 18 años y existen 123 millones de usuarios activos diarios en el segundo trimestre de 2026. Por otro, el aumento de incidentes y la presión regulatoria internacional.

El Senado de Estados Unidos exigió recientemente a la empresa la conservación de documentos internos sobre seguridad infantil, tras la duplicación de reportes de explotación en 2025. El plazo para la entrega de esta información vence el 31 de agosto de 2026, según el foro de desarrolladores de la compañía.

¿Cómo funcionan los controles parentales y la segmentación por edades en Roblox?

Roblox ha implementado controles parentales y segmentación de cuentas por edades, diferenciando niveles de acceso y comunicación según la edad del usuario. Las cuentas “Kids” (de 5 a 8 años) y “Select” (de 9 a 15 años) cuentan con filtros de chat y restricciones específicas en juegos y funciones sociales. Los padres pueden ajustar estos parámetros mediante configuraciones personalizables, lo que les permite limitar a quiénes pueden contactar sus hijos o qué tipo de contenido pueden ver.

La empresa recomienda revisar estos controles de manera conjunta con los menores para asegurar su eficacia y ajustar los niveles de protección a las necesidades particulares de cada familia.

¿Cuáles son los principales riesgos que enfrentan los menores en Roblox?

La plataforma enfrenta desafíos asociados a grooming, solicitudes de información personal y migración de conversaciones a aplicaciones externas con menor supervisión. Fox News informó sobre un caso en Nebraska donde un adulto contactó a dos menores en Roblox y luego continuó la conversación en Snapchat, lo que derivó en una investigación policial por abuso. Estas situaciones motivaron el refuerzo de los sistemas de inteligencia artificial y la colaboración con otras plataformas.

Entre los riesgos identificados se encuentran:

• Solicitudes de datos personales a través de mensajes privados o voz.
• Invitaciones para trasladar la conversación fuera de Roblox, donde las protecciones son menores.
• Lenguaje inapropiado, amenazas o acoso en chats de texto y voz.
• Intentos de evadir los filtros mediante variaciones ortográficas o fragmentación de mensajes.

¿Qué limitaciones reconocen los desarrolladores y los estudios independientes?

Aunque los modelos de inteligencia artificial mejoran la capacidad de detección de riesgos, tanto Roblox como estudios independientes advierten sobre limitaciones. Investigadores externos analizaron más de dos millones de mensajes de chat y hallaron ejemplos de grooming, acoso y compartición de información sensible que el sistema no filtró. Según el comunicado de Roblox, “incluso un modelo sofisticado de inteligencia artificial puede no detectar todas las conversaciones peligrosas”.

Por esta razón, la empresa recomienda a los padres mantener una comunicación abierta con sus hijos y enseñarles a reportar cualquier situación incómoda, además de utilizar las herramientas de bloqueo y reporte integradas en la plataforma.

¿Cómo impacta esta medida en el sector tecnológico y en la seguridad infantil en línea?

La decisión de Roblox de abrir sus modelos de inteligencia artificial para seguridad infantil puede influir en el desarrollo de políticas y tecnologías similares en otras plataformas digitales. La comunidad ROOST permite que empresas con menos recursos técnicos accedan y adapten modelos avanzados, lo que podría elevar el estándar de protección para millones de menores en todo el mundo.

Esta iniciativa también contribuye a la transparencia y colaboración entre empresas tecnológicas, reguladores e investigadores, quienes pueden revisar, probar y mejorar los modelos abiertos para enfrentar amenazas en evolución.

¿Qué deben hacer los padres y tutores para proteger a los menores en Roblox?

Roblox y organismos especializados recomiendan a padres y tutores:

• Tratar como señal de alerta cualquier solicitud para trasladar una conversación fuera de la plataforma.
• Establecer reglas claras sobre la compartición de información personal.
• Revisar y ajustar periódicamente los controles parentales y configuraciones de privacidad.
• Dialogar con los menores sobre los riesgos y cómo reportar conductas inapropiadas.
• Supervisar tanto las interacciones por texto como por voz, y enseñar a los menores a bloquear y reportar usuarios sospechosos.

De acuerdo con datos de la compañía, la colaboración de los padres y la educación digital en el hogar siguen siendo un complemento clave para la protección tecnológica ofrecida por los sistemas de inteligencia artificial.

¿Qué se puede esperar tras el lanzamiento de los nuevos modelos de seguridad?

La integración de estos modelos refuerza la capacidad de Roblox para vigilar conductas de riesgo y proteger a menores en línea, mientras ofrece soluciones accesibles para otras plataformas. Las autoridades estadounidenses mantienen la supervisión sobre la eficacia de estos mecanismos, y la comunidad tecnológica observa el impacto de la apertura del código en la seguridad infantil en internet. El avance permitirá adaptar y mejorar los sistemas frente a amenazas en constante evolución, según lo informado por la empresa y los organismos involucrados.