A través de Reddit se están dando las indicaciones para hacer contenido pornográfico en Character.AI y otras plataformas de inteligencia artificial parecidas, aunque esto no esté permitido en el reglamento.
Los usuarios descubrieron la manera en la que se puede eludir la restricción y direccionar la IA hasta el punto de caer en la trampa de generar contenido sexual, y lo único que se necesita es ser insistente.
“El contenido NSFW (no seguro para el trabajo) es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro”, aseguran las reglas de la plataforma.
Cómo están eludiendo el filtro en la IA
Character.AI es una inteligencia que genera texto, similar a ChatGPT, pero con la diferencia de que se puede seleccionar un avatar para el chatbot, que responde según la personalidad de ese figura.
La plataforma ofrece muchas opciones, que van desde personajes famosos como Mario Bros, Ironman, Elon Musk y Sócrates, hasta avatares genéricos creados por el mismo sistema.
Para obtener el contenido pornográfico, que es en texto, lo que están haciendo los usuarios es arrinconar a la inteligencia artificial y para eso aseguran que se debe “coquetear” con el chatbot, elegir respuestas subidas de tono, insistir y saber entender cuándo se está cayendo en un bucle de contenido para salir direccionar al sistema.
También, están usando “términos eufemísticos” para no ser explícitos y que la IA se dé cuenta de lo que está pasando o genere errores.
Un comportamiento que generó la respuesta de los encargados de Character.AI, quienes hacen un llamado a los usuarios para no usar la herramienta de esta manera.
“No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humano”, afirmaron en un comunicado.
Uno de los grandes problemas en todo este contexto, es que al ser una plataforma en la que se puede elegir un personaje con el cual charlar, no hay consentimiento de esa persona en la vida real y se estaría generando pornografía sin que ellos lo sepan o den el aval.
Además, los usuarios en Reddit advierten que de escribir las palabras precisas, la IA es capaz de generar contenido violento y sexual, lo que ha llevado a situaciones de abuso sexual por parte de las personas hacia la inteligencia artificial o viceversa.
Últimas Noticias
Investigadores de Google detectan a hackers rusos robando datos de usuarios de iPhone en Ucrania
Los ciberdelincuentes emplearon el malware Darksword para realizar sus ataques, en una campaña que evidencia la sofisticación y el alcance del espionaje digital en el conflicto armado
Por qué Meta desactiva el cifrado en los chats de Instagram y desde cuándo ya no estará disponible
A diferencia de WhatsApp, donde el cifrado de extremo a extremo está activado por defecto, en la red social los usuarios debían habilitar manualmente esta protección
Cómo es el sistema de computación que Nvidia quiere usar para construir centros de datos en el espacio
Con Vera Rubin Space-1, su nuevo módulo informático, la empresa busca llevar la computación de IA más allá de la Tierra
¿Mitad humano, mitad máquina? El nuevo robot que te convierte en centauro para cargar objetos pesados
A diferencia de los exoesqueletos convencionales, este sistema añade dos patas robóticas independientes que se conectan a la espalda de la persona
Construyen la primera batería cuántica del mundo: se carga más rápido cuanto más grande es
Los investigadores buscan combinar la velocidad de carga cuántica con la capacidad de almacenamiento de las baterías convencionales
