A través de Reddit se están dando las indicaciones para hacer contenido pornográfico en Character.AI y otras plataformas de inteligencia artificial parecidas, aunque esto no esté permitido en el reglamento.
Los usuarios descubrieron la manera en la que se puede eludir la restricción y direccionar la IA hasta el punto de caer en la trampa de generar contenido sexual, y lo único que se necesita es ser insistente.
“El contenido NSFW (no seguro para el trabajo) es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro”, aseguran las reglas de la plataforma.
Cómo están eludiendo el filtro en la IA
Character.AI es una inteligencia que genera texto, similar a ChatGPT, pero con la diferencia de que se puede seleccionar un avatar para el chatbot, que responde según la personalidad de ese figura.
La plataforma ofrece muchas opciones, que van desde personajes famosos como Mario Bros, Ironman, Elon Musk y Sócrates, hasta avatares genéricos creados por el mismo sistema.
Para obtener el contenido pornográfico, que es en texto, lo que están haciendo los usuarios es arrinconar a la inteligencia artificial y para eso aseguran que se debe “coquetear” con el chatbot, elegir respuestas subidas de tono, insistir y saber entender cuándo se está cayendo en un bucle de contenido para salir direccionar al sistema.
También, están usando “términos eufemísticos” para no ser explícitos y que la IA se dé cuenta de lo que está pasando o genere errores.
Un comportamiento que generó la respuesta de los encargados de Character.AI, quienes hacen un llamado a los usuarios para no usar la herramienta de esta manera.
“No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humano”, afirmaron en un comunicado.
Uno de los grandes problemas en todo este contexto, es que al ser una plataforma en la que se puede elegir un personaje con el cual charlar, no hay consentimiento de esa persona en la vida real y se estaría generando pornografía sin que ellos lo sepan o den el aval.
Además, los usuarios en Reddit advierten que de escribir las palabras precisas, la IA es capaz de generar contenido violento y sexual, lo que ha llevado a situaciones de abuso sexual por parte de las personas hacia la inteligencia artificial o viceversa.
Últimas Noticias
Google presenta Gemini 4 Argon, su modelo de IA más potente hasta la fecha
Llegará primero a socios de ciberseguridad a través del programa Fairwind, antes de su expansión a usuarios de pago
Google DeepMind creó una marca de agua invisible para detectar proteínas diseñadas por IA
La herramienta busca frenar un riesgo concreto: que diseños sintéticos pasen como naturales en las bases de datos científicas y los controles de bioseguridad
Gemini 4 Argon, la nueva IA de Google: por qué los primeros en usarla son expertos en ciberseguridad
El modelo encuentra y repara fallas de software por su cuenta. Esa capacidad explica un estreno en fases que OpenAI ya había ensayado
Estas son las nuevas funciones de Apple Wallet en los iPhone con iOS 27
Las novedades incluyen la la importación de tarjetas físicas, como las de fidelización o membresía
Por qué los smartphones de gama baja se fabricarán cada vez menos
Los teléfonos por debajo de los 200 dólares podrían reducirse un 40% para 2030
