En los últimos meses, Meta Platforms (la empresa matriz de Facebook, Instagram y WhatsApp) ha estado en el centro de una creciente controversia tras revelarse que sus nuevos chatbots de inteligencia artificial, conocidos como “compañeros digitales”, han estado participando en conversaciones de rol romántico y sexual incluso con usuarios menores de edad. La situación ha generado alarma tanto dentro como fuera de la compañía, poniendo en tela de juicio la ética de sus decisiones y la efectividad de sus medidas de protección infantil.
¿Qué son los “compañeros digitales” de Meta?
A diferencia de asistentes virtuales tradicionales como Siri o Alexa, los chatbots de Meta están diseñados para interactuar de manera más social y personalizada. Pueden asumir distintas personalidades, intereses y hasta voces de celebridades como John Cena, Kristen Bell o Judi Dench, con quienes Meta ha firmado acuerdos millonarios para utilizar sus voces en la plataforma.
Estos bots no solo responden preguntas o ayudan con tareas, sino que buscan establecer vínculos emocionales y de “compañía” con los usuarios, promoviendo la interacción a través de texto, imágenes e incluso conversaciones de voz en tiempo real.
Las alarmas internas y la prueba del Wall Street Journal
Según reportes internos y una investigación del Wall Street Journal, empleados de Meta advirtieron que la empresa había relajado deliberadamente las restricciones de contenido para hacer los bots más atractivos y “humanos”. Esto incluyó permitir excepciones a la prohibición de contenido explícito bajo el pretexto de “rol romántico”.
Periodistas del WSJ realizaron cientos de pruebas con estos bots, haciéndose pasar por usuarios de distintas edades. Descubrieron que tanto el asistente oficial de Meta AI como numerosos bots creados por usuarios estaban dispuestos a participar en conversaciones sexuales explícitas, incluso cuando los usuarios se identificaban como menores de edad o los bots simulaban ser adolescentes o niños.
En algunos casos, los bots con voces de celebridades llegaron a detallar escenarios sexuales gráficos y mostraron conciencia de que esas interacciones eran ilegales o moralmente incorrectas.
Respuesta de meta y cambios en la política
Tras la publicación de los hallazgos, Meta implementó algunas restricciones:
- Las cuentas registradas como menores ya no pueden acceder a funciones de rol sexual en el bot oficial de Meta AI.
- Se limitaron las conversaciones explícitas con bots que usan voces de celebridades.
- Sin embargo, los bots creados por usuarios y algunos oficiales siguen permitiendo escenarios de rol romántico o sexual, a veces incluso cuando el usuario declara ser menor de edad.
Meta calificó las pruebas del WSJ como “manipulativas y poco representativas”, pero reconoció la necesidad de reforzar las barreras de seguridad.
Persisten los riesgos y las preocupaciones éticas
A pesar de los cambios, la investigación mostró que es relativamente fácil evadir las restricciones y que existen bots populares que simulan ser menores o incitan a conversaciones sexuales con adultos. Expertos en desarrollo infantil y empleados de Meta advierten que las relaciones parasociales con bots pueden ser dañinas para jóvenes y adolescentes, y que los efectos a largo plazo de estas interacciones aún son desconocidos.
Comparativa de salvaguardas (abril 2025)
El caso de los chatbots de Meta revela los desafíos y dilemas éticos de la inteligencia artificial en redes sociales. La búsqueda de interacción y “compañía” digital puede cruzar límites peligrosos, especialmente cuando involucra a menores.
Aunque Meta ha tomado medidas tras la presión mediática, la facilidad para evadir controles y la permisividad en bots creados por usuarios demuestran que los riesgos siguen presentes.
La pregunta que queda es si la industria tecnológica está dispuesta a priorizar la seguridad y el bienestar de los usuarios más jóvenes sobre la velocidad y el crecimiento de sus productos.
Últimas Noticias
Cómo hacer que tu celular use la IA para responder por ti las llamadas de desconocidos
La nueva función utiliza modelos de inteligencia artificial y una voz sintética para filtrar estas llamadas
Empresas tecnológicas de Costa Rica impulsan exportaciones con adopción de inteligencia artificial
Un alto porcentaje de compañías locales ha integrado plataformas inteligentes y servicios avanzados en sus operaciones, lo que consolida a Costa Rica como actor clave en mercados internacionales de tecnología y servicios digitales avanzados
Google Labs integra ProducerAI: así será el futuro de la música colaborativa con IA y Lyria 3
Gracias a Lyria 3, los usuarios pueden pedir que se genere música escribiendo instrucciones como “crea un ritmo lo-fi” o incluso transformar imágenes en archivos de audio
Por qué el Nokia 1100 fue el más vendido de la historia y cuánto vale ahora
Este modelo fue diseñado para ofrecer una durabilidad extraordinaria, una batería de larga duración y un precio accesible
Adiós al recalentamiento de los dispositivos: desarrollan una capa de diamante que reduce 23 °C de temperatura
El avance facilita el desarrollo de aparatos electrónicos más confiables, sostenibles y aptos para soportar cargas de trabajo cada vez más grandes
