Musubi Labs ha presentado un modelo de decisión de código abierto y pequeño tamaño diseñado para la moderación de contenido en tiempo real en base a las políticas de las plataformas, con capacidad para adaptar los cambios de inmediato.
PolicyLM-1.7B ha sido diseñado para ayudar a los equipos de Confianza y Seguridad que necesitan actuar rápidamente ante un mensaje problemático, ya sea en chats, mensajes directos, salas de juegos e, incluso, nombres de usuario, especialmente en plataformas que gestionan más de un millón de mensajes al día.
PUBLICIDAD
Lo que hace este modelo es leer las políticas de la plataforma con cada mensaje, sin generar texto, y ofrecer un juicio binario (0 o 1) sobre la pertenencia de la infracción a cada una de las categorías (preestablecidas o personalizadas) de daño, como se explica en un comunicado.
Con ello, ofrece una herramienta a los moderadores humanos para que puedan actuar con rapidez antes de que la conversación avance, con capacidad, además, para adoptar de manera inmediata los cambios recientes hechos en las políticas.
El modelo está basado en la arquitectura BidirLM-1.7B-Embedding (derivada de Qwen3-1.7B) y al ser de pequeño tamaño (1.700 millones de parámetros) les idóneo para analizar y etiquetar contenido a gran escala. Puede ejecutarse en ordenadores portátiles o en una GPU de 24GB, y ofrece una respuesta en 35 milisegundos de media por mensaje corto en una GPU L4.
PUBLICIDAD
Los pesos de PolicyLM-1.7B se ha publicado en Hugging Face y en Baseten.
Últimas Noticias
Sociedad civil pide el rechazo del borrador de la COP por abrir la puerta a los fósiles
Jordania suspende la Navidad en las calles por luto y precaución tras el ataque de Karak
El voto latinoamericano podría ser decisivo en España con un resultado electoral ajustado
Abre la sesión de clausura de la COP31 con escasas posibilidades de un pacto de consenso
Los trajes del rey Juan Carlos, a la venta desde 70 euros en el Rastrillo Nuevo Futuro
