Escribió un libro sobre la verdad en tiempos de la IA… con citas inventadas por la IA

Steven Rosenbaum, autor de 'The Future of Truth', dijo que había iniciado su propia investigación después de que este diario lo contactara para preguntarle sobre los pasajes en cuestión.

El autor de un libro de no ficción sobre los efectos de la inteligencia artificial en la verdad reconoció el lunes que había incluido numerosas citas inventadas o mal atribuidas, generadas por la IA.

El autor, Steven Rosenbaum, cuyo libro The Future of Truth salió este mes con mucha promoción, incorporó más de media decena de citas falsas o mal atribuidas en secciones del libro revisadas por The New York Times.

El Times preguntó a Rosenbaum sobre las citas el domingo y el lunes. El lunes por la noche, Rosenbaum reconoció en un comunicado que el libro contenía "un puñado de citas incorrectamente atribuidas o sintéticas" y dijo que había iniciado su propia investigación.

Rosenbaum afirmó que la inclusión de las citas incorrectas había sido un accidente y que no tenía "ninguna intención de inventar puntos de vista" cuando escribió el libro.

"Como revelé en los agradecimientos del libro, utilicé las herramientas de IA ChatGPT y Claude durante el proceso de investigación, redacción y edición", dijo Rosenbaum en el comunicado. "Eso no excusa estos errores, de los que asumo toda la responsabilidad. Ahora estoy trabajando con los editores para revisar a fondo y corregir rápidamente los pasajes afectados; cualquier edición futura estará corregida".

Th Future of Truth fue publicado por un sello de BenBella Books y distribuido por Simon and Schuster. BenBella Books, que opera independientemente de Simon and Schuster, no respondió a una solicitud de comentarios. Simon y Schuster declinaron hacer comentarios.

Rosenbaum es un conocido organizador de encuentros en la industria de los medios de comunicación. Es director ejecutivo del Sustainable Media Center, una organización sin fines de lucro que, según su declaración de misión, se dedica a dar a "una nueva generación de consumidores de medios" y creadores "la propiedad de sus vidas, cada vez más centradas en los medios". El centro ha reunido a personalidades de los medios y la tecnología en encuentros presenciales y entrevistas en línea.

El libro ha atraído mucha atención, y un fragmento se publicó en la revista Wired. Tiene reseñas promocionales de periodistas destacados como Taylor Lorenz, Michael Wolff y Nicholas Thompson, director ejecutivo de The Atlantic. El prólogo fue escrito por Maria Ressa, periodista y Premio Nobel de la Paz conocida por su escrutinio de Rodrigo Duterte, expresidente de Filipinas.

El auge de la inteligencia artificial ha despertado entre las editoriales el temor a publicar accidentalmente libros de autores que utilicen indebidamente texto generado por la IA. Este año, Hachette canceló una novela de terror que estaba por ser publicada en medio de acusaciones de que la autora había usado IA para esbozar el libro.

El libro de Rosenbaum contiene numerosas citas que son correctas, pero las citas mal atribuidas e inventadas están dispersas por todas partes.

Una de las citas se atribuye a Kara Swisher, una destacada periodista especializada en tecnología, en un capítulo sobre las mentiras de la IA. "El modelo lingüístico de IA más sofisticado es como un espejo", señala el libro que escribió Swisher. "Nos devuelve un reflejo de nuestra propia moralidad, pulida y bien formulada, pero en última instancia vacía tras la superficie. No se rige por las leyes de Asimov ni por ningún marco ético, se rige por los patrones de sus datos de entrenamiento y los objetivos fijados por sus creadores".

Cuando se le preguntó sobre la cita, Swisher dijo en un mensaje de texto que ella "nunca" dijo eso y añadió que parece que la cita la había inventado una IA y no Rosenbaum.

"También parece que soy supertiesa, según ChatGPT", dijo Swisher.

Un capítulo sobre los efectos de las redes sociales y los videos falsos en los adolescentes atribuye dos citas al libro La vida secreta del cerebro: Cómo se construyen las emociones, de Lisa Feldman Barrett, profesora de psicología de la Universidad Northeastern.

"Las emociones no solo son reacciones a la verdad, son la forma en que construimos la verdad", dice la cita de Barrett que aparece en el libro. "Cuando los jóvenes dicen que algo 'se siente verdadero', están describiendo un sofisticado proceso de construcción de significados que integra señales emocionales y sociales".

Barrett dijo en un correo electrónico al Times que las citas "no aparecen en el libro y además están mal".

"Yo nunca diría 'las emociones no solo son reacciones a la verdad'; no son reacciones, y, en la ciencia, 'verdad' es un concepto complicado que tiendo a evitar", apuntó Barrett. "Tampoco diría nunca que 'las señales emocionales y sociales' están integradas; no hay señales emocionales o sociales, per se. Hay señales, y el cerebro crea su significado como emocional o social".

Algunas partes del libro contienen citas auténticas atribuidas incorrectamente, o citas que son una mezcla de afirmaciones reales y falsas. En un capítulo se cita Artificial Unintelligence, un libro de Meredith Broussard, profesora de la Universidad de Nueva York. La cita es auténtica, pero no apareció en Artificial Unintelligence: fue algo que Broussard dijo en 2023 en una entrevista con Marketplace Tech, un programa de radio.

"Parece que se trata de una alucinación de la IA o de una cita mal atribuida", dijo Broussard.

Un capítulo sobre la posibilidad de un "mundo posverdad" exacerbado por el auge de la inteligencia artificial cita a Lee McIntyre, investigador del Centro de Filosofía e Historia de la Ciencia de la Universidad de Boston. El libro cita a McIntrye describiendo los esfuerzos por socavar la verdad como "'una forma de supremacía ideológica', en la que la falsedad se utiliza estratégicamente, 'no para desinformar, sino para desplazar a la verdad como valor social'".

Aunque la primera parte de esa cita es precisa, McIntyre afirmó que él no había dicho la segunda parte textualmente. Todas las ideas de las citas señaladas por el Times, dijo, son "coherentes con mi trabajo".

"Es la parte del 'valor social' la que me parece extraña", dijo McIntyre en un correo electrónico al Times. "Se podría decir eso de mi trabajo, sin las comillas, y creo que estaría bien. Simplemente, que yo sepa, nunca he utilizado esa frase".

En su declaración, Rosenbaum dijo que si este episodio "sirve de advertencia sobre los riesgos de la investigación y la verificación asistidas por IA, para eso escribí el libro".

"De hecho, estos errores de IA no restan valor a las cuestiones más amplias que plantea el libro sobre la verdad, la confianza y la IA y su impacto en la sociedad, la democracia y la labor editorial", añadió.

Benjamin Mullin reporta para el Times sobre las grandes empresas que están detrás de las noticias y el entretenimiento. Ponte en contacto con él de forma segura en Signal en el +1 530-961-3223 o en benjamin.mullin@nytimes.com.