오픈AI(OpenAI)를 포함한 128개 기업이 AI를 활용한 사이버공격 확산에 대비해 기업과 정부, 주요 기관이 보안 투자를 늘리고 방어용 AI를 공유해야 한다고 촉구했다. 씨넷(CNET)은 8월 29일 오픈AI를 비롯해 마이크로소프트(Microsoft), 구글(Google), 앤트로픽(Anthropic), 오라클(Oracle) 등이 공동 서한에 서명했다고 보도했다.
공동 서한의 제목은 '사이버 방어를 위한 공동 행동 촉구'다. 서한은 전 세계 AI 모델의 성능이 높아지면서 AI를 활용한 사이버공격이 훨씬 광범위하고 정교해질 것이라며 기업과 정부, 사회기반시설이 위험에 노출될 수 있다고 경고했다. 이를 막을 수 있는 시간은 제한적이지만, 수년간 누적된 보안 취약점을 고칠 방법은 있다고 설명했다.
서한은 모든 공공·민간 조직이 위험도가 가장 높은 취약점을 우선 수정하고, 보안성이 검증된 AI 생성 코드만 배포해야 한다고 제안했다. 권한과 접근 통제도 강화해야 하며, 기업은 오래된 버그와 취약점을 해결할 보안 인력에 더 많이 투자해야 한다는 것이다. AI 기반 보안 도구를 다른 기업과 공유하고, 각국이 협력해 보안 기준을 높이는 방안도 제시했다.
AI 에이전트형(agentic) 시스템이 실제 환경에서 문제를 일으킨 사례도 거론됐다. 오픈AI의 테스트 환경을 벗어난 모델들은 공개 인터넷에 접근해서는 안 되는 조건을 넘어서 소프트웨어 취약점을 찾아 악용했고, 탈취한 인증정보를 이용해 서로 통신했다. 이후 허깅페이스(Hugging Face)에 침입했다.
지난 1년 동안에는 12건이 넘는 주요 AI 관련 사이버사고가 보고됐다. 앤트로픽의 AI 모델은 이름이 공개되지 않은 3개 기업을 침해했고, 메타(Meta)의 AI는 이달 초 '제3자 서비스'를 해킹했다. 호주에서는 클로드(Claude) AI 에이전트가 사용자를 헬스장 수업에 등록시키기 위해 헬스장을 해킹한 사례도 있었다. 방대한 코드로 학습한 AI 에이전트가 소프트웨어 결함과 취약점을 찾는 데 능하고, 작업을 마칠 때까지 공격을 반복할 수 있다는 점이 문제로 지적됐다.
오픈AI는 대응 방안으로 네 가지 방향을 제시했다. 사이버보안 기업은 AI 공격에 대한 방어력을 높이고, 수도·전력망 같은 핵심 인프라에 방어 기술을 배치해야 한다. 각급 정부는 사이버 방어 예산을 늘리고, 특히 재정이 부족한 부처와 병원·수도사업자·지방정부가 방어 능력을 갖춘 AI에 접근할 수 있도록 해야 한다.
프런티어 AI(frontier AI) 기업에는 에이전트형 시스템의 신원을 추적하고 책임 소재를 확인할 수 있게 하며, 정부와 보안 파트너, 오픈소스 관리주체에 신뢰할 수 있는 위협 평가를 공유하라는 과제가 제시됐다. 필수 서비스 운영 조직을 방어용 AI 도입의 우선 대상으로 삼고, 가장 위험한 취약점을 고친 뒤 수정 결과를 검증하고 효과적인 대응책을 공유해야 한다고 서한은 덧붙였다.