Block이 OpenAI 기술로 AI 기반 보안을 구축하는 방법

Square, Cash App, Afterpay를 운영하는 Block의 보안팀은 OpenAI Defense Factory를 활용합니다. 이를 통해 AI는 사람이 일하는 팀으로는 감당할 수 없는 규모로 취약점 발견, 탐지, 대응을 수행합니다. Block은 OpenAI Daybreak를 비롯한 AI 시스템으로 몇 주씩 걸리던 작업을 단 몇 시간 만에 처리하고 있습니다.

Block 보안팀은 코드 생성부터 보안 운영까지, 업무 전반에 AI를 책임감 있게 도입하는 데 주력해 왔습니다. 제임스 네테스하임(James Nettesheim) 최고정보보호책임자는 이렇게 말합니다. “핵심은 업무 규모가 커져도 함께할 수 있는 새로운 동료를 얻는다는 점입니다.” “단계마다 일일이 지정해야 했던 기존 자동화와는 다릅니다. 특수한 상황의 모호한 문제도 프롬프트로 제시하고 함께 풀어갈 수 있습니다.”

소프트웨어 버그를 검토하거나 로그를 분석하는 작업에는 며칠에서 몇 주가 걸리곤 했습니다. 이제는 사람이 모든 결과를 검증하는 절차를 유지하면서도 훨씬 짧은 시간에 이러한 작업을 끝낼 수 있습니다.

예를 들어 탐지 조정의 경우, 각 조사에서 쿼리를 통해 확보한 원시 근거 자료를 저장합니다. 덕분에 이제 팀은 제안된 탐지 변경안을 7개월치 운영 환경 텔레메트리에 적용해 재검증하는 작업을 한 시간 안에 마칠 수 있습니다. 이전에는 수백 건의 과거 사례를 일일이 다시 조회해야 했습니다. 시간이 너무 많이 들어 실제로는 거의 하지 못하는 작업이었습니다.

어떤 작업에 어떤 모델을 사용할지도 더욱 세심하게 선택하게 되었습니다. 그는 “예전에는 최신 모델을 썼지만, 이제는 그럴 필요가 없습니다”라고 말합니다. “작업에 따라 서로 다른 모델을 선택하는 법을 배워 왔습니다.” Block의 보안 하네스는 Daybreak를 기반으로 구축되어 작업을 적합한 모델에 배정하도록 돕습니다. 사람이 작업을 넘겨받거나 에이전트가 서로의 작업을 검증할 수 있는 연결 지점도 마련되어 있습니다. 팀은 내부 벤치마크와 실제 환경의 성과를 기준으로 이러한 시스템을 지속적으로 평가하고 필요에 따라 접근 방식을 조정합니다. 사람의 검토를 거치는 것이 책임 있는 선택일 때는 해당 작업을 사람에게 넘깁니다.

자동 분류 시스템을 도입한 결과, 더 많은 작업을 더 빠르게 처리하게 되었습니다. Block 보안팀의 분류 처리량은 50% 늘었고, 위협 정보 수집과 조사도 50% 증가했습니다. 여기에 완전히 새로운 자율 위협 헌팅 기능까지 갖추게 되었습니다. 네테스하임은 말합니다. “이 시스템은 분기마다 분석가가 약 1,100시간 동안 수행할 분량의 조사를 처리합니다. 이제 모든 경보에 대해 관련된 모든 요소를 빠짐없이 심층 조사하기 때문입니다. 우리 시스템은 모든 경보를 마치 그날 접수된 유일한 경보인 것처럼 다룹니다.”

기존 스캔 도구는 개별 취약점을 따로 탐지하지만, Block 보안팀은 Daybreak를 통해 훨씬 더 깊이 파악할 수 있습니다. 모델은 공격 패턴에 대한 가설을 세우고 일련의 공격을 처음부터 끝까지 이어지는 침해 경로로 연결하도록 도와, 수년간 존재했을 수도 있는 취약점까지 찾아냅니다.

한 사례에서는 노트북 한 대에서 발생한 경보가 그 자체로는 사소한 정책 위반처럼 보였습니다. 하지만 상호 검토 과정에서 모델은 증거에 우연히 드러난 지표를 추적하고 이를 Block의 신원 로그와 연계해 훨씬 더 광범위한 문제를 발견했습니다. “흔한 엔드포인트 경보 하나가 공격 캠페인을 무력화하는 계기가 되었습니다. 어느 도구도 단독으로는 그런 연관성을 찾아내지 못합니다. 두 제품의 로그를 함께 살펴봐야만 그 징후가 드러납니다.” 제임스의 설명입니다.

최근 레드팀 테스트 훈련에서도 Daybreak의 도움을 받았습니다. 내부 시스템에 대한 몇 가지 힌트만 받은 모델은 약 두 시간 만에 SQL 인젝션, 권한 상승, 거점 확보, 자격 증명 열거, 다른 시스템으로의 이동을 잇는 전체 공격 경로를 구성했습니다. 레드팀 테스트 담당자가 직접 했다면 보통 며칠이 걸렸을 작업입니다. 최근 레드팀 테스트 훈련에서는 취약점 개요를 제출한 뒤 패치 제안이 자동으로 생성되기까지 18분이 걸렸습니다.

취약점 발견은 이를 수정할 수 있어야 비로소 가치가 있습니다. 네테스하임은 팀이 모든 발견 사항에 적용하는 절차를 설명합니다. 코드에서 문제가 있는 위치와 담당자를 파악한 뒤 해결에 나섭니다. “패치를 제안하고, 악용 가능성을 확인한 다음, 문제가 해결되었는지 검증합니다. 이 과정에 사람이 참여해 방향을 잡고 코드 변경 사항을 배포합니다.”

에이전트는 기술적 역량을 갖추고 있지만, 조직의 맥락이나 과거 결정의 근거까지 알고 있지는 않습니다. 이러한 맥락과 전략은 사람이 제공합니다. 바로 이 지점에서 그의 팀이 검토자로 참여합니다. 네테스하임은 AI의 판단력이 실무에서 입증되면 “허용하는 위험 수준을 서서히 높여 더 민감한 시스템에도 활용할 것”이라고 말합니다.

• 탐지 변경안을 7개월치 텔레메트리에 적용해 재검증하는 데 1시간 미만 소요.

• 최근 레드팀 테스트 훈련에서 취약점 개요 제출부터 패치 제안 자동 생성까지 18분 소요.

• 오탐 분류에 들던 분석가 작업 시간을 분기당 약 600시간 절약.

• 분기당 분석가 작업 시간 기준 약 1,100시간 분량의 조사 완료.

• 분류 처리량 50% 증가.

• 위협 정보 수집 및 조사 50% 증가.

탐지 및 대응 업무에서만 오탐 분류에 들던 분석가 작업 시간을 분기당 약 600시간 절약했습니다. 이렇게 확보한 시간 덕분에 팀은 더 심층적인 조사와 책임감 있는 자동화 확대에 더 많은 시간을 쓰고 있습니다.

공격 속도가 빨라지고 AI 모델이 계속 발전하는 가운데, 네테스하임은 취약점이 애초에 발생하는 것부터 줄일 기회가 있다고 봅니다. 그렇게 되면 보안팀은 패치에 드는 시간을 줄이고 예방적이고 전략적인 업무에 더 많은 시간을 할애할 수 있습니다.

그는 말합니다. “OpenAI는 누구나 이러한 첨단 기능을 활용할 수 있게 함으로써 방어자가 우위를 점하도록 판도를 바꾸고 있습니다.” “지금까지는 대체로 대형 기술 기업과 정부만이 이런 기능을 활용할 수 있었습니다. 하지만 이제는 핵심 인프라 운영 기관, 학교, 소규모 기업을 비롯해 누구나 이 기술을 활용해 네트워크를 방어할 수 있습니다.”