A través de Reddit se están dando las indicaciones para hacer contenido pornográfico en Character.AI y otras plataformas de inteligencia artificial parecidas, aunque esto no esté permitido en el reglamento.
Los usuarios descubrieron la manera en la que se puede eludir la restricción y direccionar la IA hasta el punto de caer en la trampa de generar contenido sexual, y lo único que se necesita es ser insistente.
“El contenido NSFW (no seguro para el trabajo) es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro”, aseguran las reglas de la plataforma.
Cómo están eludiendo el filtro en la IA
Character.AI es una inteligencia que genera texto, similar a ChatGPT, pero con la diferencia de que se puede seleccionar un avatar para el chatbot, que responde según la personalidad de ese figura.
La plataforma ofrece muchas opciones, que van desde personajes famosos como Mario Bros, Ironman, Elon Musk y Sócrates, hasta avatares genéricos creados por el mismo sistema.
Para obtener el contenido pornográfico, que es en texto, lo que están haciendo los usuarios es arrinconar a la inteligencia artificial y para eso aseguran que se debe “coquetear” con el chatbot, elegir respuestas subidas de tono, insistir y saber entender cuándo se está cayendo en un bucle de contenido para salir direccionar al sistema.
También, están usando “términos eufemísticos” para no ser explícitos y que la IA se dé cuenta de lo que está pasando o genere errores.
Un comportamiento que generó la respuesta de los encargados de Character.AI, quienes hacen un llamado a los usuarios para no usar la herramienta de esta manera.
“No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humano”, afirmaron en un comunicado.
Uno de los grandes problemas en todo este contexto, es que al ser una plataforma en la que se puede elegir un personaje con el cual charlar, no hay consentimiento de esa persona en la vida real y se estaría generando pornografía sin que ellos lo sepan o den el aval.
Además, los usuarios en Reddit advierten que de escribir las palabras precisas, la IA es capaz de generar contenido violento y sexual, lo que ha llevado a situaciones de abuso sexual por parte de las personas hacia la inteligencia artificial o viceversa.
Últimas Noticias
¿Adiós a los billetes? La revolución digital que está haciendo desaparecer el efectivo en América Latina
La adopción de plataformas flexibles, inteligencia de datos y liderazgo estratégico permite a las instituciones escalar operaciones y responder a la demanda de servicios
¿Móvil sin espacio? Cómo vaciar las 3 papeleras “ocultas” de tu celular para liberar gigas
Eliminar archivos innecesarios en la galería, Google Fotos y WhatsApp es esencial para mantener el dispositivo rápido, evitar bloqueos y aprovechar al máximo la memoria interna
El robot humanoide que trabaja sin descanso 24 horas al día y cambia su propia batería
El modelo Walker S2 pretende dar solución uno de los obstáculos más críticos en las plantas de producción: la fatiga de los trabajadores
Criptomonedas: cotización de las principales divisas digitales
El bitcoin, una de las principales monedas digitales, tuvo un cambio de 1,78% en el último día
El uso de pantallas invade la primera infancia: el 72% de los bebés ya interactúa con dispositivos digitales a diario
Un informe británico difundido por The Independent advirtió sobre la temprana incorporación de tecnología en la vida cotidiana, señaló diferencias según la estructura familiar y analizó posibles efectos en rutinas claves del desarrollo y el entorno de crianza
