Musubi Labs presenta un modelo pequeño y abierto para la moderación de mensajes en tiempo real

Musubi Labs ha presentado un modelo de decisión de código abierto y pequeño tamaño diseñado para la moderación de contenido en tiempo real en base a las políticas de las plataformas, con capacidad para adaptar los cambios de inmediato.

PolicyLM-1.7B ha sido diseñado para ayudar a los equipos de Confianza y Seguridad que necesitan actuar rápidamente ante un mensaje problemático, ya sea en chats, mensajes directos, salas de juegos e, incluso, nombres de usuario, especialmente en plataformas que gestionan más de un millón de mensajes al día.

Lo que hace este modelo es leer las políticas de la plataforma con cada mensaje, sin generar texto, y ofrecer un juicio binario (0 o 1) sobre la pertenencia de la infracción a cada una de las categorías (preestablecidas o personalizadas) de daño, como se explica en un comunicado.

Con ello, ofrece una herramienta a los moderadores humanos para que puedan actuar con rapidez antes de que la conversación avance, con capacidad, además, para adoptar de manera inmediata los cambios recientes hechos en las políticas.

El modelo está basado en la arquitectura BidirLM-1.7B-Embedding (derivada de Qwen3-1.7B) y al ser de pequeño tamaño (1.700 millones de parámetros) les idóneo para analizar y etiquetar contenido a gran escala. Puede ejecutarse en ordenadores portátiles o en una GPU de 24GB, y ofrece una respuesta en 35 milisegundos de media por mensaje corto en una GPU L4.

Los pesos de PolicyLM-1.7B se ha publicado en Hugging Face y en Baseten.