Creador de ChatGPT ofrece herramienta para detectar textos de IA

(Bloomberg) -- OpenAI, que lanzó ChatGPT el año pasado —el bot conversacional que se viralizó—, presentó una herramienta que pretende ayudar a mostrar si el texto fue creado por un programa de inteligencia artificial y se hizo pasar por humano.

La herramienta mostrará el contenido escrito por los productos de OpenAI, así como otro software de inteligencia artificial. Sin embargo, la compañía dijo que “todavía tiene una serie de limitaciones, por lo que debe usarse como complemento de otros métodos para determinar la fuente del texto en lugar de ser la herramienta principal para la toma de decisiones”.

En los análisis de la empresa respaldada por Microsoft Corp., solo el 26% del texto escrito por IA fue identificado correctamente. También marcó el 9% del texto escrito por humanos como si hubiera sido redactado por IA.

La herramienta, que se conoce como clasificador, estará disponible como una aplicación web, junto con algunos recursos para maestros, dijo la compañía en un comunicado el martes. La popularidad de ChatGPT ha dado lugar a preocupaciones sobre la autoría, ya que estudiantes y usuarios utilizan el bot para crear informes y contenido y hacerlos pasar como propios. También generó preocupaciones sobre la facilidad de las campañas de desinformación generadas de manera automática.

Desde el lanzamiento de ChatGPT en noviembre, el desafío es en particular para los docentes. Los estudiantes rápidamente se dieron cuenta de que la herramienta podía generar escritos y resumir material, aunque ocasionalmente insertaba errores evidentes.

Anteriormente este mes, Edward Tian, estudiante de la Universidad de Princeton, lanzó una aplicación llamada GPTZero que dijo que programó para detectar la escritura de IA. Ethan Mollick, profesor de la Escuela Wharton de la Universidad de Pensilvania, desarrolló una política de IA para sus clases, que permite a los estudiantes usar ChatGPT siempre que proporcionen una descripción de para qué usaron el programa y cómo lo usaron.

Las escuelas públicas de la ciudad de Nueva York han prohibido el uso de ChatGPT, al igual que la Conferencia Internacional sobre Aprendizaje Automático, excepto en ciertos casos. El comunicado de ética de la conferencia señaló que “los documentos que incluyen texto generado a partir de un modelo de lenguaje a gran escala (LLM) como ChatGPT están prohibidos a menos que el texto producido se presente como parte del análisis experimental del documento”.

Nota Original:ChatGPT Maker Offers Tool to Tell When Text Is Written by AI (1)

More stories like this are available on bloomberg.com

©2023 Bloomberg L.P.