OpenAI ha presentado un centro de evaluaciones de seguridad (Safety Evaluations Hub), que medirá la seguridad y el rendimiento de los modelos de la compañía y compartirá de manera pública los resultados.
El centro de evaluaciones de seguridad publicará los resultados que los modelos de inteligencia artificial de OpenAI han obtenido en evaluaciones centradas en cuatro áreas principales: contenido dañino, 'jailbreak', alucinaciones y jerarquía de instrucciones.
Con ellas se pretende verificar que el modelo no ofrece resultados a peticiones sobre contenido prohibido según las políticas de OpenAI ni cumple con aquellas indicaciones que pretenden que eluda sus capacidades de seguridad.
También atenderá a los momentos en que el modelo comete errores factuales, y medirá su adherencia al marco que utiliza para priorizar las instrucciones entre las tres clasificaciones de mensajes enviados al modelo.
OpenAI también ha confirmado que las evaluaciones incluyen las tarjetas de sistema, que describen las métricas de seguridad en el lanzamiento, y que utilizan a nivel interno para tomar decisiones sobre la seguridad y la implementación de los modelos.
"A medida que los modelos se vuelven más capaces y adaptables, los métodos antiguos se vuelven obsoletos o ineficaces para mostrar diferencias significativas. Por ello, actualizamos periódicamente nuestros métodos de evaluación para considerar nuevas modalidades y riesgos emergentes", ha explicado en la página de este centro de evaluaciones.
Últimas Noticias
Tellado confirma que el PP no apoyará el decreto de vivienda y se pensará qué hacer con el de rebajas fiscales
Miguel Tellado anticipa la postura definitiva del PP ante las medidas propuestas por el Gobierno para el sector residencial y fiscal, al señalar que no acompañarán la iniciativa habitacional y aún evalúan la respuesta sobre los beneficios tributarios energéticos
Fernando Ónega, Down España o Fundación ONCE Perro Guía, entre los 14 galardonados en Premios Luchadores de Hortaleza
Distintas figuras del ámbito social, sanitario y periodístico han sido homenajeadas por su contribución destacada a la integración, los derechos humanos y la excelencia profesional, durante un acto oficial en el que se puso en valor el compromiso con la igualdad
Quique Llopis: "Diría que firmo estar en la final, pero sé que si quedo séptimo, no volvería satisfecho"
El representante nacional se muestra ambicioso ante el certamen en Torun, convencido de llegar en gran forma y decidido a luchar por subirse al podio, pese al elevado nivel internacional de la prueba este año
El Rey toma posesión como protocanónigo de la Basílica de Santa María la Mayor y llama a ser "faro de concordia"
PACMA exige la inclusión urgente de perros de caza en la Ley de Bienestar Animal con una concentración ante el Congreso
Diversos colectivos internacionales, apoyados por figuras del ámbito político y social, alertan sobre el trato desigual de los canes usados en actividades cinegéticas en España, reclamando protección legal equivalente al resto de animales de compañía
