La plataforma de juegos en línea Roblox anunció la incorporación de inteligencia artificial para reformular en tiempo real los mensajes del chat que contengan lenguaje inapropiado o insultos, una medida que busca mantener la fluidez de las conversaciones sin recurrir a los tradicionales bloqueos con símbolos.
El nuevo sistema, denominado real-time chat rephrasing, sustituye las cadenas de caracteres como “####” por versiones editadas del mensaje original, permitiendo que los jugadores sigan comunicándose de manera clara durante las partidas.
De los bloqueos a mensajes legibles
Hasta ahora, el filtro de Roblox respondía a las palabrotas y expresiones prohibidas reemplazando el texto completo por signos de número, lo que dificultaba el seguimiento de las conversaciones dentro del juego. Con la nueva función, si un usuario escribe “Hurry TF up!”, el sistema lo transformará automáticamente en “Hurry up!”, manteniendo la intención de la frase pero eliminando el contenido ofensivo.
Según explicó Rajiv Bhatia, vicepresidente de producto de usuario y descubrimiento de Roblox, el objetivo de esta innovación es “mantener la civilidad reescribiendo el lenguaje y reemplazando las señales de alto por palabras reales”. Bhatia señaló que el chat es central para la interacción y coordinación entre jugadores, por lo que la reescritura ayuda a que las conversaciones sigan siendo comprensibles y apropiadas.
Resultados y antecedentes de la moderación en Roblox
La reescritura en tiempo real se suma a otras herramientas implementadas por Roblox en los últimos años para mejorar la convivencia en la plataforma. En mayo de 2025, la empresa introdujo alertas en tiempo real que advierten a los usuarios cuando sus mensajes pueden infringir las normas, invitándolos a reconsiderar su redacción antes de enviar el texto. Estas notificaciones y los “timeouts” o pausas temporales lograron reducir en un 5% los mensajes filtrados y en un 6% las consecuencias derivadas de reportes por abuso.
No obstante, el sistema anterior presentaba el problema de que los mensajes bloqueados se convertían en cadenas de símbolos, lo que afectaba la continuidad de la comunicación durante las partidas. Con el nuevo enfoque, los jugadores reciben una notificación si su texto fue reformulado, pero la conversación no se interrumpe ni se vuelve incomprensible.
Reglas y alcance del nuevo sistema
Roblox aclaró que la función de reescritura no representa un cambio en sus políticas de cumplimiento: los mensajes que violan las normas siguen considerándose infracciones, y los usuarios que insistan en utilizar lenguaje prohibido continuarán enfrentando sanciones. “Cuando reformulamos un mensaje que viola nuestra política, sigue siendo una infracción y se aplican las mismas reglas”, enfatizó Bhatia.
La herramienta de reescritura solo está disponible en chats entre usuarios con verificación de edad y dentro de grupos etarios similares. Además, es compatible con todos los idiomas soportados por el sistema de traducción automática de Roblox, lo que amplía su alcance a nivel global. El desarrollo de la función contó con la colaboración del Teen Council, un grupo de adolescentes consultados por la compañía para entender mejor la dinámica de comunicación entre jóvenes en la plataforma.
Fortalecimiento de la moderación basada en IA
Como parte de la actualización, Roblox también está mejorando su sistema de filtros para detectar intentos de eludir la moderación, incluyendo el uso de leetspeak, una variante del lenguaje donde se sustituyen letras por números o símbolos. Este esfuerzo se enmarca en una tendencia creciente en la industria del videojuego, donde cada vez más empresas recurren a la inteligencia artificial para moderar el comportamiento de los jugadores en espacios multijugador.
En 2024, Activision reportó que más de dos millones de cuentas fueron marcadas por chats disruptivos tras implementar su sistema de moderación ToxMod, que utiliza IA en títulos como Call of Duty. Roblox, por su parte, lanzó en febrero de 2024 un sistema de traducción automática en tiempo real que permite la comunicación entre jugadores en más de 16 idiomas.
Un enfoque en la convivencia y la seguridad
Roblox reconoce que el nuevo sistema de reescritura no será perfecto en todos los casos y continuará afinando la herramienta en función del aprendizaje y la retroalimentación de la comunidad. “Nuestro objetivo final es que los usuarios puedan colaborar y conectarse de forma divertida y respetuosa”, concluyó Bhatia.
La incorporación de IA para reformular mensajes en tiempo real marca un paso relevante en la evolución de las plataformas sociales y de juego en línea, donde la convivencia y la seguridad digital se han convertido en prioridades clave.