La plataforma de juegos en línea Roblox anunció la incorporación de inteligencia artificial para reformular en tiempo real los mensajes del chat que contengan lenguaje inapropiado o insultos, una medida que busca mantener la fluidez de las conversaciones sin recurrir a los tradicionales bloqueos con símbolos.
El nuevo sistema, denominado real-time chat rephrasing, sustituye las cadenas de caracteres como “####” por versiones editadas del mensaje original, permitiendo que los jugadores sigan comunicándose de manera clara durante las partidas.
PUBLICIDAD
De los bloqueos a mensajes legibles
Hasta ahora, el filtro de Roblox respondía a las palabrotas y expresiones prohibidas reemplazando el texto completo por signos de número, lo que dificultaba el seguimiento de las conversaciones dentro del juego. Con la nueva función, si un usuario escribe “Hurry TF up!”, el sistema lo transformará automáticamente en “Hurry up!”, manteniendo la intención de la frase pero eliminando el contenido ofensivo.
Según explicó Rajiv Bhatia, vicepresidente de producto de usuario y descubrimiento de Roblox, el objetivo de esta innovación es “mantener la civilidad reescribiendo el lenguaje y reemplazando las señales de alto por palabras reales”. Bhatia señaló que el chat es central para la interacción y coordinación entre jugadores, por lo que la reescritura ayuda a que las conversaciones sigan siendo comprensibles y apropiadas.
PUBLICIDAD
Resultados y antecedentes de la moderación en Roblox
La reescritura en tiempo real se suma a otras herramientas implementadas por Roblox en los últimos años para mejorar la convivencia en la plataforma. En mayo de 2025, la empresa introdujo alertas en tiempo real que advierten a los usuarios cuando sus mensajes pueden infringir las normas, invitándolos a reconsiderar su redacción antes de enviar el texto. Estas notificaciones y los “timeouts” o pausas temporales lograron reducir en un 5% los mensajes filtrados y en un 6% las consecuencias derivadas de reportes por abuso.
No obstante, el sistema anterior presentaba el problema de que los mensajes bloqueados se convertían en cadenas de símbolos, lo que afectaba la continuidad de la comunicación durante las partidas. Con el nuevo enfoque, los jugadores reciben una notificación si su texto fue reformulado, pero la conversación no se interrumpe ni se vuelve incomprensible.
PUBLICIDAD
Reglas y alcance del nuevo sistema
Roblox aclaró que la función de reescritura no representa un cambio en sus políticas de cumplimiento: los mensajes que violan las normas siguen considerándose infracciones, y los usuarios que insistan en utilizar lenguaje prohibido continuarán enfrentando sanciones. “Cuando reformulamos un mensaje que viola nuestra política, sigue siendo una infracción y se aplican las mismas reglas”, enfatizó Bhatia.
La herramienta de reescritura solo está disponible en chats entre usuarios con verificación de edad y dentro de grupos etarios similares. Además, es compatible con todos los idiomas soportados por el sistema de traducción automática de Roblox, lo que amplía su alcance a nivel global. El desarrollo de la función contó con la colaboración del Teen Council, un grupo de adolescentes consultados por la compañía para entender mejor la dinámica de comunicación entre jóvenes en la plataforma.
PUBLICIDAD
Fortalecimiento de la moderación basada en IA
Como parte de la actualización, Roblox también está mejorando su sistema de filtros para detectar intentos de eludir la moderación, incluyendo el uso de leetspeak, una variante del lenguaje donde se sustituyen letras por números o símbolos. Este esfuerzo se enmarca en una tendencia creciente en la industria del videojuego, donde cada vez más empresas recurren a la inteligencia artificial para moderar el comportamiento de los jugadores en espacios multijugador.
En 2024, Activision reportó que más de dos millones de cuentas fueron marcadas por chats disruptivos tras implementar su sistema de moderación ToxMod, que utiliza IA en títulos como Call of Duty. Roblox, por su parte, lanzó en febrero de 2024 un sistema de traducción automática en tiempo real que permite la comunicación entre jugadores en más de 16 idiomas.
PUBLICIDAD
Un enfoque en la convivencia y la seguridad
Roblox reconoce que el nuevo sistema de reescritura no será perfecto en todos los casos y continuará afinando la herramienta en función del aprendizaje y la retroalimentación de la comunidad. “Nuestro objetivo final es que los usuarios puedan colaborar y conectarse de forma divertida y respetuosa”, concluyó Bhatia.
La incorporación de IA para reformular mensajes en tiempo real marca un paso relevante en la evolución de las plataformas sociales y de juego en línea, donde la convivencia y la seguridad digital se han convertido en prioridades clave.
PUBLICIDAD
PUBLICIDAD
PUBLICIDAD
Últimas Noticias
Apple prepara en iOS 27 una función para pasar tu número de un iPhone a otro sin cambiar la SIM
La opción mantendría la línea lista en dos teléfonos mediante una tarjeta virtual adicional, aunque solo uno tendría llamadas, mensajes y conexión móvil
Escritores denuncian reclamos erróneos en los pagos del acuerdo de Anthropic por derechos de autor
Autores aseguran que varias compañías intentan cobrar compensaciones vinculadas con obras cuyos permisos contractuales ya habían regresado a sus creadores antes de la fecha establecida por el tribunal
Nokia 1100 sigue vivo en 2026: así es el nuevo celular con una batería que dura hasta 40 días
El nuevo dispositivo de de la marca también tiene la opción de cargar otros teléfonos con un botón
Criptomonedas: cuál es su precio en el mercado este lunes 7 de septiembre
Las monedas digitales han tenido alzas y bajas en las últimas horas
Bill Gates proyecta un futuro con IA accesible para todos pero advierte sobre los peligros del cambio tecnológico
El cofundador de Microsoft aclaró que el cambio no apunta a sustituir a los profesionales, sino a extender su alcance
