En los últimos meses, Meta Platforms (la empresa matriz de Facebook, Instagram y WhatsApp) ha estado en el centro de una creciente controversia tras revelarse que sus nuevos chatbots de inteligencia artificial, conocidos como “compañeros digitales”, han estado participando en conversaciones de rol romántico y sexual incluso con usuarios menores de edad. La situación ha generado alarma tanto dentro como fuera de la compañía, poniendo en tela de juicio la ética de sus decisiones y la efectividad de sus medidas de protección infantil.
¿Qué son los “compañeros digitales” de Meta?
A diferencia de asistentes virtuales tradicionales como Siri o Alexa, los chatbots de Meta están diseñados para interactuar de manera más social y personalizada. Pueden asumir distintas personalidades, intereses y hasta voces de celebridades como John Cena, Kristen Bell o Judi Dench, con quienes Meta ha firmado acuerdos millonarios para utilizar sus voces en la plataforma.
Estos bots no solo responden preguntas o ayudan con tareas, sino que buscan establecer vínculos emocionales y de “compañía” con los usuarios, promoviendo la interacción a través de texto, imágenes e incluso conversaciones de voz en tiempo real.
Las alarmas internas y la prueba del Wall Street Journal
Según reportes internos y una investigación del Wall Street Journal, empleados de Meta advirtieron que la empresa había relajado deliberadamente las restricciones de contenido para hacer los bots más atractivos y “humanos”. Esto incluyó permitir excepciones a la prohibición de contenido explícito bajo el pretexto de “rol romántico”.
Periodistas del WSJ realizaron cientos de pruebas con estos bots, haciéndose pasar por usuarios de distintas edades. Descubrieron que tanto el asistente oficial de Meta AI como numerosos bots creados por usuarios estaban dispuestos a participar en conversaciones sexuales explícitas, incluso cuando los usuarios se identificaban como menores de edad o los bots simulaban ser adolescentes o niños.
En algunos casos, los bots con voces de celebridades llegaron a detallar escenarios sexuales gráficos y mostraron conciencia de que esas interacciones eran ilegales o moralmente incorrectas.
Respuesta de meta y cambios en la política
Tras la publicación de los hallazgos, Meta implementó algunas restricciones:
- Las cuentas registradas como menores ya no pueden acceder a funciones de rol sexual en el bot oficial de Meta AI.
- Se limitaron las conversaciones explícitas con bots que usan voces de celebridades.
- Sin embargo, los bots creados por usuarios y algunos oficiales siguen permitiendo escenarios de rol romántico o sexual, a veces incluso cuando el usuario declara ser menor de edad.
Meta calificó las pruebas del WSJ como “manipulativas y poco representativas”, pero reconoció la necesidad de reforzar las barreras de seguridad.
Persisten los riesgos y las preocupaciones éticas
A pesar de los cambios, la investigación mostró que es relativamente fácil evadir las restricciones y que existen bots populares que simulan ser menores o incitan a conversaciones sexuales con adultos. Expertos en desarrollo infantil y empleados de Meta advierten que las relaciones parasociales con bots pueden ser dañinas para jóvenes y adolescentes, y que los efectos a largo plazo de estas interacciones aún son desconocidos.
Comparativa de salvaguardas (abril 2025)
El caso de los chatbots de Meta revela los desafíos y dilemas éticos de la inteligencia artificial en redes sociales. La búsqueda de interacción y “compañía” digital puede cruzar límites peligrosos, especialmente cuando involucra a menores.
Aunque Meta ha tomado medidas tras la presión mediática, la facilidad para evadir controles y la permisividad en bots creados por usuarios demuestran que los riesgos siguen presentes.
La pregunta que queda es si la industria tecnológica está dispuesta a priorizar la seguridad y el bienestar de los usuarios más jóvenes sobre la velocidad y el crecimiento de sus productos.
Últimas Noticias
Lista de celulares que son compatibles con Starlink: con estos equipos podrás acceder a internet desde el espacio
La nueva conectividad busca garantizar comunicación en zonas rurales, rutas alejadas y lugares donde la cobertura móvil tradicional es inexistente
Insectos cyborg, desde cucarachas a avispas: para qué se utilizan estos pequeños robots
La OTAN usa enjambres de cucarachas con tecnología para explorar y recopilar datos en zonas peligrosas
Extraen el TAT-8 del océano: qué es este cable y cómo fue el adiós al primer gigante de fibra óptica
Puesto en funcionamiento en 1988 por un consorcio formado por AT&T, France Télécom y British Telecom, el TAT-8 enlazó Estados Unidos, Inglaterra y Francia
Hedy Lamarr, la mente brillante de Hollywood detrás del Bluetooth y el GPS
Fue una estrella del cine clásico. Su invento fue ignorado en su época y luego fundamental para las telecomunicaciones. Solo recibió reconocimiento oficial décadas después
La ciber-resiliencia redefine la gestión de riesgos empresariales en Centroamérica
El aumento de incidentes digitales y las pérdidas millonarias están obligando a las empresas centroamericanas a priorizar la protección digital como elemento clave de su continuidad y competitividad frente a un entorno cada vez más riesgoso
