La tecnológica OpenAI ha dado cuenta sobre la adquisición de Promptfoo, una startup especializada en seguridad de inteligencia artificial, con el objetivo de reforzar la protección y fiabilidad de sus agentes autónomos. Tras la operación, cuyos términos económicos no han trascendido, la compañía integrará la tecnología de la firma en OpenAI Frontier, su plataforma para desplegar agentes de IA en entornos corporativos.
La operación responde al creciente interés por los agentes de inteligencia artificial capaces de ejecutar tareas digitales de forma autónoma, una tecnología que promete mejoras significativas en productividad, pero que también plantea nuevos riesgos de seguridad y uso malicioso.
Promptfoo, fundada en 2024 por Ian Webster y Michael D’Angelo, desarrolla herramientas que permiten detectar vulnerabilidades en modelos de lenguaje y sistemas basados en IA. Sus soluciones incluyen una interfaz y librerías de código abierto diseñadas para realizar pruebas de seguridad, simulaciones de ataques y evaluaciones de comportamiento en sistemas de inteligencia artificial.
Seguridad para la nueva generación de agentes
La tecnología de Promptfoo permitirá a OpenAI incorporar procesos automatizados de una práctica conocida como red teaming, que consiste en simular ataques para identificar debilidades en los sistemas antes de que puedan ser explotadas por actores maliciosos. Además, facilitará la evaluación de flujos de trabajo basados en agentes y la supervisión continua de riesgos y cumplimiento normativo.
Según la compañía, las herramientas de Promptfoo ya están presentes en más del 25% de las empresas de la lista Fortune 500, lo que refleja el creciente interés del sector empresarial por garantizar la seguridad y fiabilidad de las aplicaciones basadas en inteligencia artificial.
