팔로알토 네트웍스(Palo Alto Networks)의 위협 연구팀 유닛42(Unit 42)가 AI를 활용하면 저숙련 해커인 이른바 ‘스크립트 키디’도 국가 지원 공격그룹에 맞먹는 도구와 역량을 갖출 수 있다고 경고했다. 지디넷(ZDNet)은 8월 28일 유닛42의 브리핑을 인용해 AI가 사이버 공격의 속도와 범위를 바꾸고 있다고 보도했다.
유닛42는 지난 4월 출시한 ‘프런티어 AI 디펜스(Frontier AI Defense)’ 서비스를 통해 위협 인텔리전스와 위협 텔레메트리, 프런티어 AI(frontier AI) 모델을 결합해 기업 고객의 보안 문제를 분석하고 있다. 연구팀은 내부 시험에서 3주 만에 통상 1~2년에 해당하는 침투 테스트를 수행했고, 고객 환경에서 수십개의 취약점을 찾아냈다고 설명했다.
AI를 이용한 취약점 탐색과 검증 속도가 공격자에게도 적용될 경우, 고도로 숙련되고 자금력이 있는 범죄조직뿐 아니라 기술 수준이 낮은 집단까지 큰 위협이 될 수 있다는 분석이다. 전통적으로 스크립트 키디와 핵티비스트는 다른 사람이 만든 도구와 스크립트에 의존했지만, AI가 분석과 역공학, 공격 도구 개발을 대신하면 별도의 기술 습득 없이도 공격 능력을 확대할 수 있다는 것이다.
셰러드 디그리포(Sherrod DeGrippo) 유닛42 위협 인텔리전스 부문 부사장은 사회적·정치적 목적을 가진 집단이 AI를 통해 국가 지원 공격그룹과 같은 도구와 정교함을 갖추게 됐다고 말했다. 그는 도구를 사용할 줄 아는 사람들에게 이전에는 없던 강력한 수단이 제공됐다며, 저숙련 공격자도 과거보다 훨씬 크고 나은 역량을 갖추게 될 것이라고 설명했다.
유닛42는 AI가 사이버 보안의 ‘전력 승수’로 작용한다고 평가했다. 과거에는 공격자가 피싱 문구 개선, 언어 번역, 랜섬웨어 협상 등 공격 과정 일부에 대규모 언어 모델(LLM)을 활용했다면, 이제는 취약점 발견부터 악성코드 개발, 사회공학, 권한 상승, 데이터 탈취까지 전 과정에 AI가 개입할 수 있다는 분석이다. 완전한 에이전트형(agentic) 랜섬웨어 공격으로 추정되는 ‘제이드퍼퍼(JadePuffer)’가 사례로 제시됐다.
샘 루빈(Sam Rubin) 유닛42 컨설팅·위협 인텔리전스 부문 수석부사장은 AI가 정보 보안과 침해 사이의 상대적 균형을 깨고 있다고 말했다. 유닛42의 작업에서는 AI가 취약점을 식별하고 악용한 뒤 권한을 확대하고 데이터를 훔치는 데 10시간이 걸렸는데, 기존에는 침투 테스트팀이 약 2주에 걸쳐 수행할 작업이라고 덧붙였다.
디그리포 부사장은 AI와 관련 도구의 공개 접근성이 높아지면 공격 주체와 출처를 추적하기도 더 어려워질 수 있다고 밝혔다. 과거 고용주나 거래 상대방에 불만을 품은 개인처럼 기존에는 크게 우려하지 않았던 집단도 악성 활동을 수행할 역량을 갖출 수 있다는 설명이다. 그는 AI가 사이버 위협과 방어를 계속 바꾸는 만큼 모든 상황을 미리 대비하기는 어렵지만, 조직이 이런 변화가 진행되는 시기를 통과해야 한다고 말했다.