OpenAI는 기업이 개발 단계에서 AI 시스템의 취약점을 식별하고 대응할 수 있도록 돕는 AI 보안 플랫폼 Promptfoo를 인수합니다. 인수가 완료되면 Promptfoo의 기술은 AI 협업 에이전트를 구축하고 운영하는 플랫폼인 OpenAI Frontier 에 기본 기능으로 통합될 예정입니다.
많은 기업이 실제 업무에 AI 협업 에이전트를 도입하면서 평가, 보안, 컴플라이언스는 AI 시스템 운영의 핵심 요소로 자리잡았습니다. 기업은 에이전트의 동작을 체계적으로 테스트하고 배포 전에 위험을 식별해야 하며 감독과 거버넌스, 책임 소재를 뒷받침할 수 있도록 장기적으로 명확한 기록을 유지해야 합니다.
이안 웹스터와 마이클 디안젤로가 이끄는 Promptfoo 팀은 Fortune 500 기업의 25% 이상이 신뢰하는 강력한 도구 모음을 구축했으며, LLM 애플리케이션을 평가하고 레드팀 테스트를 수행하는 데 널리 사용되는 오픈소스(새 창에서 열기) CLI와 라이브러리도 개발했습니다. OpenAI는 Promptfoo와 협력해 오픈소스 프로젝트를 계속 발전시키고 OpenAI Frontier에 통합된 엔터프라이즈 기능도 강화해 나갈 예정입니다.
“Promptfoo는 엔터프라이즈 환경에서 AI 시스템을 평가, 보호, 테스트하는 데 필요한 깊은 엔지니어링 전문성을 보유하고 있습니다. 이들의 기술은 기업이 안전하고 신뢰할 수 있는 AI 애플리케이션을 배포하도록 돕습니다. 이러한 역량을 OpenAI Frontier에 통합하게 되어 기대가 큽니다.”
OpenAI Frontier에서 에이전트를 구축하는 기업을 위해 다음과 같은 핵심 기능이 도입됩니다.
- 플랫폼에 보안 및 안전 테스트 기능 통합: 자동화된 보안 테스트와 레드팀 기능을 Frontier 플랫폼에 기본 요소로 통합합니다. 이를 통해 프롬프트 인젝션, 탈옥 시도, 데이터 유출, 도구 오용, 정책을 벗어난 에이전트 행동 같은 위험을 식별하고 대응할 수 있습니다.
- 개발 워크플로에 보안 및 평가 통합: Frontier를 개발 워크플로와 긴밀하게 연동해 에이전트 위험을 더 이른 단계에서 식별하고 조사하며 대응할 수 있도록 하고, 보안을 기업 AI 시스템의 개발과 운영 전반에 핵심 요소로 통합합니다.
- 감독 및 책임성: 통합 보고 기능과 추적 기능을 통해 조직이 테스트 결과를 문서화하고 시간에 따른 변화를 모니터링하며 AI에 대한 거버넌스, 위험 관리, 컴플라이언스 요구 사항을 충족하도록 지원합니다.
“Promptfoo는 개발자들에게 AI 시스템을 실질적으로 보호할 수 있는 방법이 필요하다는 문제의식에서 시작되었습니다. AI 에이전트가 실제 데이터와 시스템에 더 많이 연결될수록 이를 보호하고 검증하는 일은 그 어느 때보다 어렵고 중요해지고 있습니다. OpenAI와 함께하게 되면서 이 작업을 더욱 빠르게 추진할 수 있게 되었습니다. 실제 환경에서 AI 시스템을 구축하는 팀을 위해 한층 강화된 보안과 안전, 거버넌스 역량을 제공할 수 있을 것으로 기대됩니다.”
Promptfoo 팀과 함께 이루어 나갈 기술 혁신을 기대하며 OpenAI는 앞으로도 기업이 안전하고 신뢰할 수 있는 AI를 배포하는 데 필요한 도구를 계속 발전시켜 나가겠습니다.
인수의 종결은 통상적인 거래 종결 조건을 전제로 합니다.
