La IA de Discord se equivoca y banea a usuarios por imágenes inofensivas

Miles de usuarios de Discord fueron afectados por un error en el sistema de moderación basado en inteligencia artificial de la plataforma, que resultó en la suspensión equivocada de cuentas tras compartir imágenes completamente inofensivas.

Desde mayo de 2026, el sistema de seguridad automatizado de Discord comenzó a suspender cuentas tras identificar erróneamente imágenes que incluían patrones de cuadrícula, como tableros de ajedrez, texturas de videojuegos e incluso fondos transparentes blancos o grises. Según The Verge, más de 8.000 usuarios recibieron baneos por publicar este tipo de contenidos.

De acuerdo con datos proporcionados por la propia empresa en X, solo durante el último fin de semana antes de la detección del fallo, otros 200 usuarios sufrieron suspensiones similares.

Discord explicó que su sistema de moderación compara automáticamente las imágenes subidas contra bases de datos de material dañino conocido, y aunque un equipo humano revisa el contenido antes de tomar medidas, un fallo permitió que el sistema prohibiera cuentas de forma inmediata. El error, según la compañía, impedía que las cuentas revisadas y liberadas fueran restauradas correctamente.

La causa del error y las respuestas de Discord

La empresa reconoció públicamente la falla: “Tuvimos un bug”, admitió Discord. El problema, que afectó a unos 8.200 usuarios desde mayo, consistía en que las cuentas exoneradas durante las revisiones no se reactivaban debidamente, lo que resultó en prohibiciones silenciosas y sin notificación clara a los usuarios. En un comunicado, la compañía expresó: “Sabemos que esto no es una explicación satisfactoria si se trató de tu cuenta. Deberíamos haberlo detectado antes”.

La compañía aseguró que está trabajando en nuevas salvaguardas para impedir que este tipo de baneos “silenciosos” ocurra nuevamente y evitar que el sistema de seguridad penalice a usuarios que no violan las normas de la plataforma. Además, Discord afirmó que todos los usuarios afectados están en proceso de ser restablecidos.

El reto de la moderación automática en plataformas digitales

El incidente subraya los desafíos crecientes que enfrentan las plataformas al depender de sistemas automatizados basados en inteligencia artificial para identificar material ilegal o abusivo a gran escala. Los sistemas de detección suelen emplear algoritmos que buscan similitud con patrones de contenidos previamente catalogados como nocivos, pero esta metodología puede generar falsos positivos, como en el caso de imágenes con cuadrículas.

En redes sociales como X y Reddit, usuarios denunciaron suspensiones permanentes simplemente por subir imágenes con patrones de cuadrícula. Algunos especularon que el sistema de moderación de Discord endureció la detección de estos patrones, ya que en ocasiones han servido para ocultar imágenes inapropiadas ante los algoritmos. Esta sensibilidad aumentada llevó a que contenidos inocuos fueran tratados como material prohibido.

Impacto social y precedentes en otras plataformas

La reacción de la comunidad no se hizo esperar. Muchos usuarios manifestaron su frustración y preocupación por el impacto de las suspensiones automáticas en sus actividades diarias.

Algunos resaltaron que perder una cuenta en Discord puede ser devastador, especialmente para quienes dependen de la plataforma para el trabajo, comunidades de videojuegos o relaciones sociales a distancia. Una de las voces en X expresó: “Perder una cuenta de Discord de forma tan injusta puede ser extremadamente devastador y afectar gravemente a los usuarios, y cada día millones de usuarios son afectados por baneos erróneos de la IA. Esto debe detenerse”.

El caso de Discord no es aislado. Otras plataformas, como Instagram, Facebook Groups y Tumblr, también han enfrentado problemas similares vinculados a la moderación automatizada. En 2023, usuarios informaron suspensiones inexplicables que atribuyeron a errores de los sistemas de inteligencia artificial, aunque empresas como Meta nunca confirmaron oficialmente si la causa era la automatización.

El Consejo de Supervisión de Meta actualmente impulsa una mayor transparencia en este aspecto. El fenómeno evidencia la necesidad de perfeccionar los mecanismos de moderación automática y establecer vías claras de apelación y revisión para los usuarios afectados.