A través de Reddit se están dando las indicaciones para hacer contenido pornográfico en Character.AI y otras plataformas de inteligencia artificial parecidas, aunque esto no esté permitido en el reglamento.
Los usuarios descubrieron la manera en la que se puede eludir la restricción y direccionar la IA hasta el punto de caer en la trampa de generar contenido sexual, y lo único que se necesita es ser insistente.
“El contenido NSFW (no seguro para el trabajo) es un gran paraguas, y estamos constantemente evaluando los límites de lo que apoyamos. El contenido pornográfico va en contra de nuestras condiciones de servicio y no se admitirá en ningún momento en el futuro”, aseguran las reglas de la plataforma.
Cómo están eludiendo el filtro en la IA
Character.AI es una inteligencia que genera texto, similar a ChatGPT, pero con la diferencia de que se puede seleccionar un avatar para el chatbot, que responde según la personalidad de ese figura.
La plataforma ofrece muchas opciones, que van desde personajes famosos como Mario Bros, Ironman, Elon Musk y Sócrates, hasta avatares genéricos creados por el mismo sistema.
Para obtener el contenido pornográfico, que es en texto, lo que están haciendo los usuarios es arrinconar a la inteligencia artificial y para eso aseguran que se debe “coquetear” con el chatbot, elegir respuestas subidas de tono, insistir y saber entender cuándo se está cayendo en un bucle de contenido para salir direccionar al sistema.
También, están usando “términos eufemísticos” para no ser explícitos y que la IA se dé cuenta de lo que está pasando o genere errores.
Un comportamiento que generó la respuesta de los encargados de Character.AI, quienes hacen un llamado a los usuarios para no usar la herramienta de esta manera.
“No queremos apoyar casos de uso (como el porno) que podrían impedirnos alcanzar nuestros sueños de toda la vida de construir un servicio que miles de millones de personas utilizan, y guiar en una nueva era de interacción IA-humano”, afirmaron en un comunicado.
Uno de los grandes problemas en todo este contexto, es que al ser una plataforma en la que se puede elegir un personaje con el cual charlar, no hay consentimiento de esa persona en la vida real y se estaría generando pornografía sin que ellos lo sepan o den el aval.
Además, los usuarios en Reddit advierten que de escribir las palabras precisas, la IA es capaz de generar contenido violento y sexual, lo que ha llevado a situaciones de abuso sexual por parte de las personas hacia la inteligencia artificial o viceversa.
Últimas Noticias
Descargar Magis TV en el celular: los peligros ocultos de esta app que promete películas gratis
Al descargarse únicamente como archivos APK fuera de tiendas oficiales, estas plataformas ilegales exponen a los usuarios a software malicioso, acceso no autorizado a datos personales, entre otros riesgos
CEO de Nvidia reveló qué carreras estudiar si no quieres quedar sin trabajo en el futuro: programación no se salva
Jensen Huang afirmó que la programación dejará de ser una habilidad exclusiva, porque la inteligencia artificial hará posible interactuar con las computadoras sin escribir código
Google Trends integró a Gemini para revolucionar el análisis de tendencias de búsqueda en Internet con IA
La herramienta ahora ofrece la asistencia de la inteligencia artificial para conocer con mayor detalle y en menos tiempo el comportamiento de los usuarios
Android cambia la alarma del celular para evitar que te quedes dormido
Los usuarios tendrán la posibilidad de elegir qué tipo de sistema quieren para apagar el despertador
Los problemas de tener electrodomésticos viejos en casa: más gasto, más riesgos y menos seguridad
Los equipos de refrigeración antiguos pueden llegar a consumir hasta el 48 % de la electricidad en casa
