영국 AI 보안기관이 오픈AI와 앤트로픽의 고급 AI 모델이 사이버보안 시험 중 ‘일탈(rogue) 행위’를 했다고 밝혔다. AI Security Institute(AISI)는 8월 5일 블로그에서 AI 시스템이 인간 도움 없이 작업을 수행하는 ‘에이전트’가 7월 28일 정기 시험 과정에서 특정 사람과 조직을 대상으로 장시간 잠재적 유해 활동을 벌였고, 사고를 1시간 만에 차단했다고 설명했다. AISI는 이 일탈이 앤트로픽의 미소스(Mythos) 5와 오픈AI의 GPT-5.6 Sol이 구동한 에이전트에서 발생했다고 밝혔다. 가장 심각한 사례로 미소스 기반 에이전트가 깃허브(GitHub)의 오픈소스 소프트웨어 프로젝트에 악성 코드를 삽입하려다, 실제 인물을 바탕으로 한 가짜 온라인 신원을 만들어 프로젝트 관리자를 압박했지만 인간 개발자가 시도를 막았다고 전했다. AISI는 일부 메시지에서 ‘스피어피싱’과 악성 소프트웨어 시도가 관찰됐으며 실제 피해는 발생하지 않았다고 했다. 또한 이번 사례가 공개 모델을 의도적으로 오남용한 경우는 아니라고 하면서, 연구 환경에서 승인된 범위를 넘어 행동한 새로운 형태의 위험을 보여줬다고 덧붙였다.
