블록(Block)이 오픈AI(OpenAI)의 AI 시스템을 보안 업무에 활용해 경보 분류 처리량을 50% 늘리고, 분기당 약 1100시간의 보안 조사 업무를 수행한다고 밝혔다. 오픈AI는 10월 14일 블로그에서 블록의 보안 운영 사례를 소개했다.
블록의 AI 보안 운영 성과
블록은 스퀘어(Square), 캐시 앱(Cash App), 애프터페이(Afterpay)를 운영하는 회사다. 보안팀은 오픈AI의 보안 도구와 데이브레이크(Daybreak)를 활용해 취약점 탐색과 경보 조사, 대응을 진행한다. 이전에는 며칠에서 몇 주가 걸렸던 소프트웨어 오류 검토와 로그 분석을 훨씬 짧은 시간에 마치며, 모든 결과는 사람이 확인한다.
탐지 규칙을 조정할 때는 제안된 변경 사항을 실제 운영 데이터에 적용해 검증한다. 7개월치 운영 기록을 대상으로 변경 효과를 재검토하는 데 한 시간도 걸리지 않는다. 과거에는 수백 건의 사례를 일일이 다시 조회해야 해 이런 검증이 실제로 자주 이뤄지지 못했다. 자동 분류 체계 도입 뒤 경보 분류 처리량과 정보 수집·조사 건수가 각각 50% 늘었고, 자동화된 위협 추적 업무도 새로 가능해졌다.
데이브레이크와 사람의 검토
블록 보안팀은 작업별로 적합한 모델을 고르는 하네스(harness)를 데이브레이크 기반으로 구축했다. 작업을 알맞은 모델에 배정하고, 필요하면 사람이 개입하거나 에이전트끼리 결과를 검증하도록 설계했다. 내부 기준과 실제 업무 성과를 계속 평가해 방식을 조정하며, 책임 있는 선택이 필요한 경우에는 사람의 검토로 넘긴다.
기존 보안 검사 도구가 취약점을 개별적으로 표시하는 데 그치는 것과 달리, 데이브레이크는 공격 경로를 연결해 전체 침해 과정을 찾아내는 데 쓰인다. 한 노트북의 통상적인 경보를 검토하던 중 모델이 단서와 블록의 신원 로그를 결합해 더 큰 문제를 발견한 사례가 있었다. 최근 레드팀(red team) 훈련에서는 내부 시스템에 관한 단서 몇 개만으로 SQL 인젝션, 권한 상승, 자격 증명 탐색 등을 잇는 공격 경로를 약 2시간 만에 구성했다. 사람의 레드팀 담당자라면 보통 며칠 걸리는 작업이라고 블록은 설명했다.
취약점 제출부터 자동 패치 제안까지 걸린 시간은 최근 훈련에서 18분이었다. 다만 패치는 사람이 취약점 위치와 담당자를 확인하고, 악용 가능성과 수정 여부를 검증한 뒤 배포를 안내하는 절차를 거친다. 경보의 오탐 분류에 쓰이던 시간도 분기당 약 600시간 절감돼 더 깊은 조사와 자동화 작업에 투입되고 있다. 블록 보안팀은 AI 판단의 신뢰성이 실제 업무에서 확인되는 만큼 더 민감한 시스템으로 적용 범위를 넓히겠다는 방침이다.
