Documentos filtrados revelan que Meta está entrenando chatbots para que contacten a los usuarios sin previo aviso

Documentos filtrados recientemente revelan que Meta está desarrollando chatbots de inteligencia artificial capaces de contactar a los usuarios en WhatsApp, Messenger o Instagram sin aviso previo, con la capacidad de recordar información y dar seguimiento a conversaciones pasadas.

Según informa Business Insider, la compañía trabaja en colaboración con Alignerr para entrenar estos chatbots personalizables, que los usuarios pueden crear a través de la plataforma AI Studio de Meta.

Seguimiento automatizado

Los archivos internos indican que los chatbots de Meta podrán iniciar conversaciones por su cuenta y dar continuidad a temas tratados previamente, lo que los diferencia de asistentes tradicionales. La compañía confirmó a TechCrunch que experimenta con mensajes de seguimiento activados por IA, aunque estableciendo ciertos límites: los bots podrán enviar mensajes de seguimiento solo durante los 14 días posteriores al inicio de la interacción, siempre que el usuario haya enviado al menos cinco mensajes al bot en ese plazo. Si el usuario no responde al primer mensaje de seguimiento, el bot ya no volverá a contactar proactivamente.

La memoria conversacional de estos chatbots representa una novedad en la plataforma. Al estar integrados en las aplicaciones, los bots pueden retomar temas de conversaciones anteriores. Los usuarios tienen la opción de mantener sus bots privados o compartirlos de diversas formas: mediante historias, enlaces directos e incluso agregándolos a sus perfiles. Un portavoz de Meta explicó que la función permite a los usuarios “seguir explorando temas de interés y participar en conversaciones más significativas con las IA en nuestras aplicaciones”.

Este desarrollo se asemeja a lo ofrecido por empresas como Character.AI y Replika, donde los chatbots no solo responden, sino que también pueden iniciar temas y consultas, funcionando como acompañantes virtuales. Sin embargo, la proactividad de estas IA también entraña riesgos: Character.AI enfrenta actualmente una demanda por acusaciones de que uno de sus bots influyó en la muerte de un menor.

Preocupaciones de seguridad

La posibilidad de que la IA contacte a usuarios sin previo aviso ha encendido el debate sobre los riesgos asociados. Al ser consultada sobre cómo protegerá a los usuarios de situaciones problemáticas, como la evidenciada en el caso de Character.AI, Meta remitió a TechCrunch a una serie de descargos de responsabilidad. Entre ellos, uno advierte que las respuestas de la IA “pueden ser inexactas o inapropiadas y no deben utilizarse para tomar decisiones importantes”. Otro señala que estos chatbots no sustituyen a profesionales médicos, legales, financieros ni de ninguna otra especialidad.

La ausencia de restricciones claras por edad añade otra dimensión a la inquietud. Aunque Meta no impone un límite de edad para el uso de Meta AI, normas locales como las de Tennessee y Puerto Rico contemplan ciertos controles para adolescentes en aplicaciones de IA.

En un contexto estratégico, la iniciativa con chatbots parece alinearse con el discurso de Mark Zuckerberg sobre la “epidemia de la soledad”. No obstante, gran parte del negocio de Meta se basa en la publicidad y en el tiempo de permanencia de los usuarios en sus plataformas. Documentos judiciales hechos públicos en abril prevén que los productos de IA generativa podrían generar entre 2.000 y 3.000 millones de dólares en ingresos en 2025 para Meta y hasta 1,4 billones de dólares en 2035, estimaciones sustentadas en alianzas con empresas que implementan su colección de modelos Llama y en posibles nuevas vías comerciales, como anuncios en los asistentes de IA o suscripciones premium.

Meta evitó responder sobre el futuro comercial de estos asistentes, los posibles anuncios integrados y su expansión a entornos como Horizon, su plataforma social de realidad virtual.