OpenAI adquiere Promptfoo para proteger los despligues empresariales de agentes de IA en OpenAI Frontier

El equipo detrás de la plataforma Promptfoo se incorporará a OpenAI tras el cierre de la compra, lo que dará acceso a empresas a herramientas avanzadas para el monitoreo, la documentación de pruebas y el cumplimiento de normativas sobre inteligencia artificial. Según informó Europa Press, la adquisición, aún sujeta a condiciones de cierre habituales, permitirá integrar la tecnología de Promptfoo directamente en OpenAI Frontier, la plataforma de OpenAI diseñada para que las empresas puedan desarrollar, poner en marcha y administrar agentes de inteligencia artificial en entornos productivos.

La integración de Promptfoo aportará mecanismos automáticos para detectar vulnerabilidades de seguridad en sistemas de IA en las primeras fases de desarrollo y durante la operación en empresas, detalló Europa Press. En palabras del cofundador y director ejecutivo de Promptfoo, Ian Webster, “estas capacidades se han vuelto más importantes que nunca, a medida que los agentes de IA se conectan más a datos y sistemas reales”. Promptfoo cuenta con una plataforma capaz de señalar y corregir debilidades en aplicaciones de IA antes de su despliegue operativo.

Con este avance, las empresas que utilicen OpenAI Frontier podrán acceder a nuevas pruebas de seguridad diseñadas para identificar amenazas como las inyecciones rápidas y las filtraciones de información sensible, según explicó el medio Europa Press. Estas herramientas se añadirán a los flujos de trabajo empresariales, lo que permitirá anticipar y resolver riesgos relacionados con el uso de agentes automatizados en tareas críticas. Además, los reportes automáticos facilitarán la documentación de cada proceso, el seguimiento de cambios y la alineación con políticas vigentes de gobernanza, gestión de riesgos y requisitos de cumplimiento específicos para la inteligencia artificial.

El director de Tecnología de Aplicaciones B2B de OpenAI, Srinivas Narayanan, destacó en declaraciones recogidas por Europa Press que “Promptfoo aporta una profunda experiencia en ingeniería para evaluar, proteger y probar sistemas de IA a escala empresarial. Su trabajo ayuda a las empresas a implementar aplicaciones de IA seguras y fiables”. A través de la integración, las capacidades de Promptfoo se pondrán a disposición de los usuarios de OpenAI Frontier para fortalecer la protección y supervisión de los agentes implementados.

Además, el medio Europa Press consignó que el cierre de la operación dependerá del cumplimiento de ciertas condiciones habituales en acuerdos de adquisición, aunque ambas compañías anticipan que, una vez formalizado, la tecnología y el equipo de Promptfoo comenzarán a operar bajo el paraguas de OpenAI. Se espera que esta suma fortalezca la posición de OpenAI en la oferta de soluciones seguras y reguladas para empresas que emplean inteligencia artificial en aplicaciones que tienen contacto directo con datos empresariales y sistemas críticos.

El reporte de Europa Press resaltó que la función de Promptfoo abarca desde la identificación temprana de vulnerabilidades hasta la provisión de informes detallados que facilitan la monitorización y la adaptación a nuevas exigencias legales y normativas. Los servicios se enfocan en dotar a las empresas de una infraestructura robusta para la gestión del ciclo de vida de agentes de IA, haciendo más ágil el cumplimiento de las expectativas de gobernanza y reduciendo riesgos en la operación diaria.

De este modo, OpenAI Frontier recibirá capacidades avanzadas de prueba y verificación de seguridad para agentes de IA, facilitando tanto la prevención como la resolución de incidencias de ciberseguridad en el entorno empresarial. La incorporación de Promptfoo apunta a responder a la creciente preocupación por la exposición de sistemas de inteligencia artificial a amenazas externas y la necesidad de alineamiento con normativas regulatorias internacionales en materia de privacidad y seguridad de datos.

Según especificó Europa Press, los informes generados por la plataforma ayudarán a las organizaciones a mantener un registro exhaustivo de las pruebas realizadas, evidenciar la gestión de riesgos y acreditar un nivel de cumplimiento en línea con los marcos de referencia internacionales para la utilización responsable de la inteligencia artificial. Tanto OpenAI como Promptfoo ven esta integración como un paso decisivo para quienes buscan automatizar procesos empresariales asegurando la protección de datos y la integridad de los sistemas.