Roblox reformulará los mensajes con lenguaje inapropiado en los chats mediante IA para mantener la cordialidad

“Date prisa” será la versión reformulada de expresiones ofensivas como “Hurry TF up!”, según el nuevo sistema de chat en Roblox, que sustituye insultos por alternativas respetuosas a fin de conservar tanto el sentido del mensaje como la armonía durante el juego. La reciente iniciativa de la plataforma, reportada por Europa Press mediante la publicación de un comunicado de Roblox en su blog oficial, anunció la implementación de una herramienta basada en inteligencia artificial (IA) capaz de transformar en segundos textos inapropiados por mensajes aceptables en el contexto de la comunidad.

Europa Press detalló que Roblox tradicionalmente ha aplicado sistemas automáticos de filtrado en sus chats para bloquear el lenguaje que infringe las normas de conducta. Hasta la fecha, este método consistía en reemplazar palabras prohibidas con cadenas de símbolos de almohadilla (‘####’), lo que generaba que muchas conversaciones se volvieran difíciles de seguir. El nuevo sistema de IA evita esa interrupción: reformula automáticamente las frases que contienen palabras ofensivas, eliminando el elemento conflictivo y conservando la intención principal del usuario, lo que permite que el diálogo continúe de manera fluida.

Rajiv Bhatia, vicepresidente de Producto de Usuario y Descubrimiento en Roblox, destacó en el comunicado la relevancia de este “enfoque”, que tiende a reducir instancias de fricción en la experiencia de chat dentro de la plataforma y mantiene al mismo tiempo los estándares orientados a una convivencia civilizada. Según la empresa, cada vez que un mensaje sea modificado por este nuevo sistema, el grupo recibirá una notificación informando la acción y detallando que la causa fue la violación de las políticas de comunicación de Roblox.

La función se ha diseñado con ciertas restricciones: de acuerdo con la información divulgada por Europa Press, solo estará habilitada en chats en los que los usuarios tengan controles de edad similares, para limitar el alcance e impacto de las intervenciones automáticas. La compañía confirmó que esta herramienta cuenta con soporte para todos los idiomas actualmente disponibles a través de la tecnología de traducción automática incorporada en Roblox, lo que amplía su cobertura a comunidades internacionales.

Además, la compañía comunicó la introducción de mejoras en los filtros destinados a identificar intentos más creativos y sofisticados de eludir las medidas de seguridad. Entre las prácticas que busca contrarrestar se encuentra el ‘leet-speak’, un método extendido por usuarios donde se sustituyen letras por números o símbolos visualmente similares para burlar los mecanismos automáticos. Roblox informó por medio de Europa Press que la mejora de estas capacidades de detección ha resultado en una reducción de hasta 20 veces en los casos de falsos negativos relacionados con la solicitud o divulgación de información personal como números de teléfono o nombres de usuario de redes sociales.

Roblox señaló que las nuevas medidas se inscriben en un enfoque preventivo frente a conductas que puedan vulnerar la seguridad y convivencia entre sus miembros, en un entorno donde la comunicación efectiva y la coordinación en los juegos requieren espacios seguros. La empresa sostenía previamente métodos automáticos para intervenir mensajes problemáticos, pero la versión asistida por IA se presenta como una evolución orientada a lograr una experiencia más natural y menos disruptiva en los chats.

La empresa expuso su objetivo de mantener “la civilidad” en la comunidad y el flujo adecuado en las conversaciones, sin promover la censura absoluta ni las interrupciones que desafían la comprensión conjunta durante las partidas. La reforma en el mecanismo, según publicó Europa Press, apunta tanto a reducir la presencia de lenguaje dañino como a facilitar la colaboración y la convivencia digital.

Las normas de uso de Roblox prohíben expresamente el aprovechamiento de los canales de chat para fines que contravengan la convivencia aceptada en la comunidad, reforzando con esta innovación la vigilancia sobre expresiones inadecuadas y la circulación ilícita de datos personales. La plataforma prevé la expansión gradual de estas herramientas y monitorea los resultados obtenidos para valorar nuevas adaptaciones.

Por medio de esta actualización, Roblox busca responder al desafío recurrente de sus usuarios que, mediante variantes del lenguaje y combinaciones alternativas de caracteres, intentan divulgar contenido nocivo o saltar las restricciones establecidas. Europa Press subrayó la relevancia de los sistemas automáticos y el papel de la inteligencia artificial en mantener ambientes digitales orientados al respeto y la seguridad, como objetivo central de la propuesta anunciada por la compañía.