Anthropic añade las citas en Claude para verificar la información que ofrece y reducir las alucinaciones

Anthropic ha incorporado la posibilidad de incluir citas que posteriormente referirá el modelo Claude en sus respuestas, una forma de reforzar la información que ofrece y de reducir las alucinaciones.

Las citas son una forma de verificar las fuentes que utiliza Claude para generar sus respuestas. Esta novedad, disponible a través de la API de Anthropic, permitirá al modelo "proporcionar referencias detalladas a las frases y pasajes exactos que utiliza para generar respuestas, lo que genera resultados más verificables y confiables".

Como explica Anthropic en su blog oficial, las citas pueden ayudar a identificar los puntos clave en los resúmenes de textos y a ofrecer respuestas más detalladas a preguntas complejas.

Los desarrolladores deben, primero, facilitar la modelo la fuente documental original y su contexto, para que pueda analizarlo y dividirlo en frases y párrafos, y mostrar estas citas en las respuestas. "El texto citado hará referencia a los documentos fuente para minimizar las alucinaciones", añade la compañía.

Las citas están disponibles en los modelos Claude 3.5 Sonnet y Claude 3.5 Haiku en la API de Anthropic y en Vertex AI de Google Cloud.