¿Qué consecuencias tiene el problema de la IA en el sector editorial para autores y lectores?

Otoño pasado, Antonio Bricio, un consultor de ingeniería que vive en Guadalajara, México, terminó el borrador de su primera novela, un thriller de ciencia ficción sobre una conspiración gubernamental para ocultar la historia del primer contacto de la humanidad con refugiados alienígenas.

Tras enviar su manuscrito a 20 agentes literarios y recibir una serie de rechazos, dedicó varios meses a revisarlo con la esperanza de conseguir algún día un editor.

Ahora, Bricio teme que el ya exigente proceso de obtener un contrato editorial como autor debutante se haya vuelto aún más complicado. Le preocupa que agentes y editoriales eviten arriesgarse con autores desconocidos por temor a que el libro haya sido escrito con inteligencia artificial.

El pánico y la paranoia en torno a los libros generados con IA se dispararon el mes pasado, cuando la importante editorial Hachette decidió cancelar el lanzamiento de una novela de terror, Shy Girl, de Mia Ballard, en Estados Unidos, tras encontrar indicios de que había sido producida parcialmente con IA. Hachette también retiró el libro en el Reino Unido, donde lo había publicado el año anterior después de que Ballard lo autopublicara originalmente.

Cuando Bricio se enteró de la cancelación de la novela en redes sociales, sintió un vuelco en el estómago. Afirma que no usa IA para escribir, salvo para traducir ocasionalmente alguna palabra o frase suelta del español al inglés, idioma en el que también es fluido, utilizando el traductor IA DeepL. Pero se preguntó qué diría un detector de IA sobre su propio trabajo.

Pagó una suscripción a Originality.ai y subió un capítulo de su novela. El detector aseguró con un 100 por ciento de certeza que había utilizado IA de alguna manera.

Bricio buscó las frases que habían activado el detector, eliminó algunas oraciones y volvió a probar. Esta vez, el programa indicó que estaba 100 por ciento seguro de que lo había escrito un humano. Finalmente, Bricio conversó con un representante del servicio al cliente, quien le indicó que si recibía resultados que señalaban erróneamente su obra como generada por IA, podría necesitar otro modelo del programa.

El ir y venir solo dejó a Bricio más intranquilo. Los informes de Originality.ai sobre su borrador, que compartió con The Times, mostraron que añadir o eliminar apenas unas pocas frases producía resultados completamente diferentes.

“¿Qué pasará si los editores o agentes empiezan a usar estas herramientas de IA con todos?”, se preguntó Bricio. “A partir de ahora, todos vamos a andar con pies de plomo”.

Mientras la industria editorial busca cómo afrontar la irrupción de la IA en casi todos los aspectos del negocio, parece haber poco consenso sobre qué pueden o deben hacer las editoriales para regular el uso de esta tecnología por parte de los autores. Muchos coinciden en que la situación actual es insostenible.

Cada vez más escritores enfrentan sospechas infundadas sobre el uso de IA. Otros utilizan IA sin declararlo. Muchos lectores se sienten confundidos y recelosos, sin saber si los libros que leen fueron escritos por un humano o por una máquina.

Varios autores autoeditados han sido señalados por el uso evidente de IA y criticados por lectores y otros escritores. Pero la controversia de “Shy Girl” podría marcar un punto de inflexión para todo el sector editorial.

Tras la cancelación de la novela, muchos lectores y autores cuestionaron cómo una editorial importante no detectó señales de escritura generada por IA. Usuarios de Goodreads y Reddit llevaban meses señalando lo que consideraban evidencias claras de lenguaje de chatbot. El escándalo llevó a algunos lectores a preguntarse cuánto examinan las editoriales las obras que adquieren.

“Estamos llegando a una era de desconfianza, sin una forma sencilla de demostrar la veracidad de tu propia escritura”, dijo Andrea Bartz, autora de thrillers y demandante principal en la demanda colectiva de autores contra Anthropic, que acordó un pago de 1.500 millones de dólares.

Bartz puso recientemente algunos de sus propios textos en Ace, un verificador de IA, y se sorprendió cuando el programa etiquetó su trabajo como 82 por ciento generado por IA. El programa luego le ofreció una solución: “¿Quieres humanizar tu texto?”

Cuando Bartz contó su experiencia en Substack, decenas de escritores participaron en la conversación. “Supongo que eso pasa cuando tus libros fueron robados para programar la IA”, comentó la novelista Rene Denfeld, quien señaló que un detector de IA también había determinado erróneamente que parte de su escritura era generada por IA.

“Tiene que ser un llamado de atención para la industria”, opinó Jane Friedman, consultora editorial.

La mayoría de las grandes editoriales no tienen reglas claras sobre el uso de IA por parte de los autores y se basan en la confianza y la expectativa de transparencia. Pero ante la multiplicidad de formas en que la IA se integra en la creación de libros, desde la investigación hasta la edición y la redacción de frases, reina la confusión sobre qué usos cruzan la línea, y crece el temor de que la escritura con IA pueda sortear a los editores profesionales.

Cuando Rachel Louise Atkin, quien reseña libros en Goodreads, Instagram y TikTok para miles de seguidores, supo de “Shy Girl” en redes sociales, pensó que era un libro que le encantaría: una historia de terror feminista intrigante y retorcida. Lo leyó en un día y lo recomendó ampliamente. Se sorprendió al saber que lo habían retirado por indicios de uso de IA.

“Si supiera con certeza que algo fue escrito con IA, lo habría evitado”, afirmó. “Creo que deberíamos poder elegir si queremos leer algo escrito con IA o no”.

La influencer literaria Stacy Smith encontró “Shy Girl” en NetGalley, un sitio donde los lectores pueden acceder a libros antes de su publicación, y le dio una reseña de cinco estrellas en Goodreads. También se sintió decepcionada al enterarse de las acusaciones.

“Leería libros escritos con IA, pero me gustaría saber que fueron escritos por IA”, comentó. “Lo que duele es la falta de honestidad”.

Mientras tanto, los autores suelen sentirse amenazados desde todos los frentes. El número de libros publicados cada año, incluidos los escritos con IA, crece sin parar y dificulta que los escritores encuentren público en un mercado saturado y fragmentado. Además, quienes no usan IA sienten ahora la presión de probar que su trabajo es humano, sin grandes opciones más allá de transmitir en vivo mientras escriben.

Algunos autores están añadiendo un logotipo a sus libros y sitios web que indica “escrito por un humano”. La certificación, ofrecida por Authors Guild, permite a los autores declarar que escribieron sus libros sin IA para generar o modificar sustancialmente el texto. Aunque el gremio no verifica de forma independiente las declaraciones de los autores, quienes infrinjan las condiciones del logo pueden ser demandados por violación de marca registrada.

A.M. Dunnewin, autora autoeditada de novelas de terror, se registró para la certificación y puso el símbolo en su sitio web. “Pensé que tal vez ese certificado podría ser un salvavidas, para que la gente sepa que es mi trabajo”.

Sarina Bowen, autora que ha publicado tanto de forma independiente como con grandes editoriales, fue acusada de usar IA para crear la portada de una de sus novelas. Fue una acusación que pudo refutar fácilmente: la novela se publicó años antes de que la IA generativa se popularizara. Ahora, sin embargo, le preocupa el arte de portada que obtiene en línea —una práctica común entre los autores autoeditados— y si el artista pudo haber usado tecnología para producirla.

“No sé hacia dónde vamos, pero ese momento en que me acusaron de tener una portada hecha con IA fue realmente desalentador”, señaló. “Todos los que publicamos libros estamos en un mundo donde no podemos estar seguros del origen de nuestro contenido”.

Los lectores que eligieron “Shy Girl” fueron de los primeros en detectar señales de generación por IA en sus páginas, y claramente no les gustó. Algunos autores consideran eso alentador.

“Si van a gastar dinero en un libro, quieren que salga del cerebro y el corazón del autor y no de una computadora que ha robado la mente del escritor”, dijo Laura Taylor Namey, autora de literatura juvenil. “Aplaudo eso”.

Otros temen que más libros generados por IA pasen inadvertidos. Y a medida que la tecnología avanza, las señales típicas del lenguaje de chatbot podrían desaparecer.

“No quiero que llegue el día en que los lectores no puedan distinguir la diferencia”, afirmó Bowen.

Fuente: The New York Time