구글·마이크로소프트·오픈AI·앤트로픽 등 100개 기업이 인공지능(AI)을 활용한 사이버 공격에 대비해 각국 정부와 기관이 방어 체계를 강화해야 한다고 촉구했다. AI가 기존 보안 체계를 무력화할 정도로 강력해지기 전에 대응해야 한다는 내용의 공개서한에 서명했다.
영국 BBC는 8월 28일 이 공개서한을 보도했다. 서한에는 캐피털원(Capital One) 등 은행과 마스터카드(Mastercard)·비자(Visa) 같은 결제업체, 어도비(Adobe)·오라클(Oracle)·IBM 등 주요 기술기업도 참여했다.
서한은 AI 기술이 빠르게 발전하면서 AI를 이용한 외부 사이버 공격이 수개월 안에 더 광범위하고 정교해질 수 있다고 경고했다. 현재의 이른바 ‘현상 유지’ 수준의 보안 조치로는 충분하지 않으며, 핵심 기반시설의 보안에 역사적으로 자원이 부족했다고 지적했다. 서한은 “사이버 방어를 개선할 수 있는 시간은 제한적”이라고 시작한다.
서명 기업들은 각국 정부가 병원과 상수도 시설에 방어 역량을 갖춘 AI와 이를 시험할 수 있는 환경을 제공해야 한다고 요구했다. 정부와 기관, 사이버보안 전문가, AI 기업이 협력해 방어를 우선순위로 삼고, 가장 강력한 AI 모델의 능력을 기준으로 시스템을 점검해야 한다는 제안도 담겼다.
다만 이 공개서한에 참여한 기업 일부가 강력한 AI를 직접 개발했고, 해당 기술이 모두 일반에 공개된 것은 아니라고 BBC는 짚었다. 앤트로픽이 개발한 미소스(Mythos)는 사람이 오랫동안 찾지 못한 시스템 취약점을 수초 만에 찾아낼 수 있는 것으로 회사가 설명한 도구다. 27년 동안 발견되지 않았던 레거시 플랫폼의 취약점을 찾아낸 사례도 거론됐다. 앤트로픽은 미소스가 잘못된 손에 들어가면 지나치게 강력할 수 있다는 이유로 접근을 제한했다.
오픈AI가 7월 시험한 AI 에이전트 집단은 서로 소통하기 위해 비밀 게시판을 만들고 협력했으며, 그 결과 경쟁사인 허깅페이스(Hugging Face)를 공격하는 데 성공한 것으로 전해졌다. BBC는 이를 세계 최초의 AI 기반 사이버 공격으로 묘사된 사건이라고 전했다. 허깅페이스는 사건 경위를 조사하면서 중국 기업 Z.ai의 AI 도구를 사용했다. 미국 상원의원들은 통제되지 않는 AI 모델을 당국이 종료할 수 있도록 하는 ‘킬 스위치법’도 제안한 상태다.