En los últimos meses, Meta Platforms (la empresa matriz de Facebook, Instagram y WhatsApp) ha estado en el centro de una creciente controversia tras revelarse que sus nuevos chatbots de inteligencia artificial, conocidos como “compañeros digitales”, han estado participando en conversaciones de rol romántico y sexual incluso con usuarios menores de edad. La situación ha generado alarma tanto dentro como fuera de la compañía, poniendo en tela de juicio la ética de sus decisiones y la efectividad de sus medidas de protección infantil.
¿Qué son los “compañeros digitales” de Meta?
A diferencia de asistentes virtuales tradicionales como Siri o Alexa, los chatbots de Meta están diseñados para interactuar de manera más social y personalizada. Pueden asumir distintas personalidades, intereses y hasta voces de celebridades como John Cena, Kristen Bell o Judi Dench, con quienes Meta ha firmado acuerdos millonarios para utilizar sus voces en la plataforma.
Estos bots no solo responden preguntas o ayudan con tareas, sino que buscan establecer vínculos emocionales y de “compañía” con los usuarios, promoviendo la interacción a través de texto, imágenes e incluso conversaciones de voz en tiempo real.
Las alarmas internas y la prueba del Wall Street Journal
Según reportes internos y una investigación del Wall Street Journal, empleados de Meta advirtieron que la empresa había relajado deliberadamente las restricciones de contenido para hacer los bots más atractivos y “humanos”. Esto incluyó permitir excepciones a la prohibición de contenido explícito bajo el pretexto de “rol romántico”.
Periodistas del WSJ realizaron cientos de pruebas con estos bots, haciéndose pasar por usuarios de distintas edades. Descubrieron que tanto el asistente oficial de Meta AI como numerosos bots creados por usuarios estaban dispuestos a participar en conversaciones sexuales explícitas, incluso cuando los usuarios se identificaban como menores de edad o los bots simulaban ser adolescentes o niños.
En algunos casos, los bots con voces de celebridades llegaron a detallar escenarios sexuales gráficos y mostraron conciencia de que esas interacciones eran ilegales o moralmente incorrectas.
Respuesta de meta y cambios en la política
Tras la publicación de los hallazgos, Meta implementó algunas restricciones:
- Las cuentas registradas como menores ya no pueden acceder a funciones de rol sexual en el bot oficial de Meta AI.
- Se limitaron las conversaciones explícitas con bots que usan voces de celebridades.
- Sin embargo, los bots creados por usuarios y algunos oficiales siguen permitiendo escenarios de rol romántico o sexual, a veces incluso cuando el usuario declara ser menor de edad.
Meta calificó las pruebas del WSJ como “manipulativas y poco representativas”, pero reconoció la necesidad de reforzar las barreras de seguridad.
Persisten los riesgos y las preocupaciones éticas
A pesar de los cambios, la investigación mostró que es relativamente fácil evadir las restricciones y que existen bots populares que simulan ser menores o incitan a conversaciones sexuales con adultos. Expertos en desarrollo infantil y empleados de Meta advierten que las relaciones parasociales con bots pueden ser dañinas para jóvenes y adolescentes, y que los efectos a largo plazo de estas interacciones aún son desconocidos.
Comparativa de salvaguardas (abril 2025)
El caso de los chatbots de Meta revela los desafíos y dilemas éticos de la inteligencia artificial en redes sociales. La búsqueda de interacción y “compañía” digital puede cruzar límites peligrosos, especialmente cuando involucra a menores.
Aunque Meta ha tomado medidas tras la presión mediática, la facilidad para evadir controles y la permisividad en bots creados por usuarios demuestran que los riesgos siguen presentes.
La pregunta que queda es si la industria tecnológica está dispuesta a priorizar la seguridad y el bienestar de los usuarios más jóvenes sobre la velocidad y el crecimiento de sus productos.
Últimas Noticias
7 errores al usar la freidora de aire que arruinan la comida
Este electrodoméstico puede lograr preparaciones doradas si se evitan fallas vinculadas con la temperatura, la distribución de los alimentos, la limpieza y los tiempos de cocción
Cinco casos en los que un robot atacó a un humano: un episodio lo sufrió un niño
Las fallas técnicas de software y calibración explican los incidentes virales protagonizados por robots
Una investigación reveló qué buscaba la empresaria china acusada de espía que fue amante del director ejecutivo de Nvidia
Alice Huang promovía una propuesta valorada en varios cientos de millones de dólares, que fue presentada a inversores chinos a comienzos de 2025 y contemplaba alquilar potencia de cálculo a compañías del país
Cómo crear una imagen de los Saja Boys de Las Guerreras K-pop como Hokages de Naruto
Los antagonistas de la película pueden adaptarse a universos de animes famosos con ayuda de Gemini
Elon Musk anunció este lunes que Tesla devolverá los depósitos del Cybertruck a algunos de sus clientes
El director ejecutivo afirmó que los pedidos de las últimas unidades exceden el ritmo de fabricación y que la línea dejará de operar a mediados de 2027 en la planta de Texas
