Debate ético tras un libro de filosofía creado con IA: ¿quién es el verdadero autor de ‘Hipnocracia’?

En 2024 apareció en Amazon un libro firmado por un supuesto pensador chino llamado Jianwei Xun. Titulado ‘Hipnocracia: Trump, Musk y la nueva arquitectura de la realidad’, la obra se convirtió en un éxito comercial que captó la atención de lectores y académicos que desconocían al autor.

Sin embargo, recientemente se reveló que Jianwei Xun no existe. Según informó la periodista Sabina Minardi en la revista italiana L’Espresso, el filósofo chino es una invención del editor y ensayista italiano Andrea Colamedici, quien redactó y estructuró el libro junto con ChatGPT de OpenAI y Claude de Anthropic, dos modelos de inteligencia artificial.

La revelación, surgida tras el intento de Minardi de contactar al autor para una entrevista, provocó un debate sobre los límites de la creación filosófica en el contexto de las nuevas tecnologías.

El argumento principal de la obra gira en torno al concepto de “hipnocracia”, entendido como un nuevo régimen simbólico basado en la multiplicación de narrativas que afectan la percepción colectiva. El libro fue citado en artículos académicos, debatido en conferencias internacionales y traducido al inglés, francés y español.

Colamedici, quien figura como traductor del libro en su versión italiana, reconoció en declaraciones a La Nación de Argentina que su intención fue “crear una demostración práctica, un metaexperimento que encarnara los mismos procesos que la obra analiza”.

En declaraciones posteriores a El País de España, amplió su argumento: “La intención de ‘Hipnocracia’ fue crear un experimento filosófico y una performance artística con la que resaltar los riesgos y peligros de usar la inteligencia artificial. No quería engañar al lector, el propósito era académico”.

Sin embargo, la construcción del autor ficticio no fue advertida en las primeras ediciones del libro, lo cual ha generado cuestionamientos jurídicos y éticos. El Reglamento Europeo de Inteligencia Artificial, aprobado por el Parlamento Europeo en marzo de 2024, exige que los contenidos generados con IA sean claramente etiquetados.

En su formato original, ‘Hipnocracia’ no informaba que el texto había sido coescrito con tecnologías automatizadas. Según la normativa, esta omisión puede constituir una infracción grave.

Colamedici sostiene que dejó “huellas” dentro del propio texto. Menciona como ejemplo el primer capítulo del libro, que relata el caso ficticio de un grupo de académicos que inventan un autor para difundir una obra apócrifa, el cual califica como una pista autorreferencial.

El editor también afirma que su objetivo no era obtener beneficios comerciales. “Si se hubiera llamado Andrea Colamedici, habría vendido más de lo que se ha vendido, pero te habría hecho pensar menos”, explicó.

En la versión en español publicada por la editorial Rosamerón, se ha añadido una nota que detalla el proceso de creación de la obra y explica la identidad mixta detrás del nombre Jianwei Xun.

Por su parte, la editorial francesa que participa en la distribución internacional ha tomado medidas similares. La página web que presentaba a Xun como “un filósofo radicado en Berlín experto en teoría crítica y estudios digitales” ha sido modificada, aunque todavía mantiene un correo de contacto para entrevistas y apariciones públicas.

Frente a las críticas por la falta de transparencia, Colamedici ha insistido en que el carácter ficticio del autor formaba parte del experimento. “Nunca se había considerado la idea de ocultar todo esto. Pero si lo hubiera revelado de inmediato, no habría podido mostrar de forma práctica lo que significa la hipnocracia”, sostuvo.

El experimento, según él, no busca sustituir la creación filosófica, sino explorar cómo puede ampliarse en diálogo con sistemas artificiales. “‘Hipnocracia’ no está escrito por la inteligencia artificial. Está escrito a través de un uso específico de la inteligencia artificial que tiene que ver con la construcción de un sistema que ponga en diálogo a las inteligencias artificiales entre sí”, declaró.