Qué ocurrió cuando Meta utilizó la IA para bloquear cuentas en Facebook e Instagram

La notificación hizo que Camille Hanson despertara sobresaltada una noche el pasado marzo. Sus cuentas de Facebook e Instagram, con casi un millón de seguidores y donde gestionaba con su marido un negocio de clases de inglés a hablantes no nativos, habían sido marcadas para ser eliminadas. Meta afirmó que había infringido las normas de la comunidad en materia de fraude y engaño.

"Solo soy una maestra de inglés", recuerda haber pensado Hanson de 40 años. Las acusaciones de fraude y engaño la dejaron desconcertada. "¿Qué estoy haciendo mal?", se preguntó.

La notificación indicaba que podía presentar una apelación, así que dio clic al botón para iniciar el proceso. Una semana más tarde, recibió otra notificación: la apelación había sido denegada.

"Toda tu información se eliminará de forma permanente", decía la respuesta de Meta. "No puedes solicitar otra revisión de esta decisión".

Es como tener "un negocio físico real y que alguien de la nada simplemente cierra tu oficina o local", explicó el marido de Hanson, Calvin de 42 años, en una entrevista desde su hogar en Portugal.

Lo que les ocurrió a los Hanson fue un caso de inteligencia artificial que salió mal. Esta tecnología se encarga cada vez más de decidir qué cuentas infringen las normas de contenido de Meta, al mismo tiempo que gestiona las apelaciones de dichas decisiones. Para sumar incluso más angustia a los afectados, a menudo resulta difícil para usuarios como los Hanson ponerse en contacto con alguien de la empresa para averiguar qué hacer.

En marzo, Meta anunció planes para otorgar más poder a los bots de IA a la hora de decidir qué cuentas bloquear o qué imágenes perjudiciales eliminar. Meses más tarde, la empresa despidió a miles de empleados, incluidos los que realizaban esas tareas.

Los usuarios se están organizando en línea y más de 60.000 han firmado recientemente una solicitud en la que piden a Meta que facilite más información sobre la suspensión de cuentas y permita que sean humanos los que revisen las apelaciones. Varias comunidades de Reddit y otros sitios han recibido una avalancha de quejas de usuarios de Meta sobre la IA de la empresa.

Daniel Roberts, portavoz de Meta, argumentó en contra de que la IA fuera peor que los humanos a la hora de gestionar cuentas y afirmó que las nuevas herramientas de moderación de IA de la empresa cometen errores 13 por ciento menos que los empleados humanos y detectan un 10 por ciento más de infracciones. De las cinco cuentas que The New York Times señaló a Meta, todas habían sido bloqueadas por las antiguas herramientas de moderación de IA de la empresa, según Roberts.

"Estamos comprometidos a cometer menos errores en la aplicación de las normas, así como a ayudar a las personas a proteger sus cuentas y la IA está cumpliendo con ambos objetivos", afirmó.

Meta se ha enfrentado a varios casos en los que la IA ha fallado. En mayo, unos jáqueres se aprovecharon del chatbot de atención al cliente de IA para atacar 34.000 cuentas de Instagram, incluida una antigua cuenta de la Casa Blanca de Barack Obama. Ese mismo mes, los empleados se rebelaron contra un programa que rastreaba sus movimientos en el teclado para entrenar a la IA; Meta suspendió la iniciativa.

La semana pasada, 26 antiguos empleados de Meta afirmaron en una demanda que la empresa los había despedido utilizando un algoritmo de IA que los seleccionaba por tener discapacidades. Un portavoz de Meta señaló que "la gestión de la fuerza laboral y las decisiones organizativas estaban y siguen a cargo de humanos, no de la IA".

People Over Platforms, un grupo de defensa de los usuarios que ofrece servicios de recuperación de cuentas, creó este año una petición en línea para obligar a Meta a cambiar sus políticas de moderación de cuentas. Meta acusó a muchos de los firmantes de compartir material de explotación infantil --una acusación que, según los usuarios, era como echar sal en la herida-- y después, bloqueó sus cuentas.

El año pasado, esa fue la acusación que Meta formuló contra Athenia Rodney, propietaria de JuneteenthNY, un grupo que conmemora el fin de la esclavitud en Estados Unidos, cuando la empresa bloqueó todas sus cuentas personales y profesionales en Facebook e Instagram.

"Nuestra tecnología ha detectado que tu cuenta, o la actividad en ella, no cumple con nuestras normas", decía el aviso de Meta. "Como resultado, nuestra tecnología ha tomado medidas".

Rodney afirmó que no entendía el razonamiento de Meta, ya que el contenido de su grupo es "apto para toda la familia". Tras el bloqueo de sus cuentas, revisó minuciosamente los archivos fotográficos de JuneteenthNY en busca de posibles publicaciones que pudieran haber activado los bots de IA, pero no encontró nada.

Entonces, Rodney recordó que poco antes de que Meta cancelara sus cuentas, la empresa le había alertado de inicios de sesión sospechosos desde Seattle y Singapur, a pesar de que ella vive en Atlanta. Era una señal de que habían jaqueado sus cuentas. Bloquearon seis de sus cuentas de Instagram y Facebook, personales y de diferentes negocios.

Para recuperar esas cuentas, Rodney explicó que había enviado documentos de identificación; presentado reclamaciones ante el Better Business Bureau y la Comisión Federal de Comercio; se había puesto en contacto con las oficinas estatales de protección al consumidor y había enviado mensajes a empleados de Meta a través de LinkedIn. Nada funcionó.

Desde entonces, JuneteenthNY ha tenido que convencer a los patrocinadores de que es una organización legítima que lleva casi dos décadas en activo.

"Nuestros patrocinadores visitan nuestra página en las redes sociales para confirmar que somos una organización legítima, que llevamos 17 años haciendo esto", explicó Rodney. "Así que ahora, cuando van a nuestra cuenta y ven que solo tenemos 500 seguidores, piensan: 'No han estado haciendo esto, son unos estafadores'".

Después de que el Times señalara las cinco cuentas bloqueadas a Meta, la empresa afirmó que había investigado y descubierto que dos eran fruto de ataques informáticos y que una se debía a una razón legítima. Las cuentas jaqueadas se bloquearon con razón porque los jáqueres infringieron las políticas de seguridad infantil, según Meta.

A continuación, Meta restableció las dos cuentas jaqueadas, incluida la cuenta JuneteenthNY de Rodney. Dos de las cinco cuentas señaladas habían sido bloqueadas por error, incluida las de los Hanson, según la empresa.

Roberto Suárez, un influente de Instagram que había conseguido más de 500.000 seguidores antes de que le bloquearan la cuenta este año, fue uno de los que recibió un correo electrónico de Meta en el que se le informaba que su cuenta había sido restablecida, junto con sus fotos, seguidores, mensajes y más. Empezó a publicar contenido de nuevo para sus seguidores, que llevaban meses sin saber nada de él.

Unas semanas más tarde, Meta le envió otro correo electrónico. "Tu cuenta ha sido suspendida", decía, alegando que había infringido las leyes de derechos de autor con su contenido. "Si no tomas medidas, tu cuenta quedará desactivada de forma permanente".

Suárez negó haber infringido ningún derecho de autor. Poco después de que el Times le preguntara por la nueva suspensión, su cuenta quedó restablecida.

Hanson también recibió un correo electrónico de Meta en el que se le informaba que su cuenta había sido restablecida. "Hemos revisado tu cuenta y hemos constatado que la actividad en ella cumple con nuestras normas comunitarias sobre fraude y engaño, así que puedes volver a usar Instagram", decía el mensaje. "Lamentamos haber cometido este error".

Camille Hanson es grabada por su marido, Calvin Hanson, para su negocio de clases de inglés a hablantes no nativos en Viana do Castelo, Portugal, el 21 de junio de 2026. (Daniel Rodrigues/The New York Times)

Athenia Rodney, que dirige JuneteenthNY, un grupo que conmemora el fin de la esclavitud en EE. UU., en Brooklyn, el 24 de junio de 2026. (Elias Williams/The New York Times)