메타(Meta)가 맥OS용 AI 앱 뮤즈(Muse)에서 공격자가 AI 에이전트를 장악할 수 있는 제로데이 취약점이 발견되자 긴급 패치를 배포했다. 보안 연구원이 만든 개념증명 공격에서는 뮤즈가 많은 경우 사용자에게 알리지 않고 사진을 찍고 악성 파일을 저장할 수 있는 것으로 나타났다.
더버지는 9월 22일 메타가 뮤즈 취약점 보고 직후 앱을 업데이트했다고 보도했다. 이번 취약점은 보안 연구원 패트릭 워들이 발견했으며, 아스 테크니카(Ars Technica)가 관련 내용을 먼저 전했다.
뮤즈 취약점은 어떻게 작동했나
취약점은 뮤즈에 문서화되지 않은 설정이 존재하고, 사용자의 맥에서 실행되는 임의의 코드가 뮤즈의 모든 비공개 설정을 제어할 수 있다는 점을 악용했다. 공격자는 음성 기록 처리 경로를 메타 서버에서 자신이 지정한 서버로 돌려 뮤즈 계정에 접근할 수 있었다. 뮤즈의 받아쓰기가 기기 내부가 아니라 클라우드에서 처리된다는 설계도 공격 가능성을 키운 요인으로 지목됐다.
패트릭 워들이 실제 악용 가능성을 확인하기 위해 제작한 개념증명 공격은 뮤즈의 권한을 이용해 사진을 촬영하고 디스크에 악성 파일을 기록했다. 일부 경우에는 사용자가 이런 동작을 알아차릴 만한 알림도 표시되지 않았다. 워들은 아스 테크니카에 “에이전트를 조작해 원하는 일을 할 수 있다”며 “포괄적인 맥 악성코드 탈취 프로그램을 직접 만들 필요 없이 AI 비서를 활용하면 된다”고 말했다. 그는 AI 제품을 설계할 때 처음부터 보안을 고려해야 한다고 지적했다.
메타의 해명과 뮤즈의 시장 상황
메타는 이번 취약점이 원격 공격이 아니라 로컬 권한 상승 공격이라고 설명했다. 메타 슈퍼인텔리전스 랩스의 데이비드 싱글턴은 9월 22일 X에서 공격자가 피해 기기에서 이미 사용자 계정 권한으로 실행 중인 악성 코드를 보유해야 한다며 실제 사용자 위험은 매우 낮았다고 밝혔다. 그러면서도 문제를 해결하기 위해 앱에 긴급 수정판을 배포했다고 덧붙였다.
이번 취약점은 메타가 이달 초 뮤즈를 공개하면서 개인정보 보호와 보안 기능을 강조한 것과 대조된다. 아마존(Amazon)은 뮤즈가 자사 전자상거래 플랫폼에 접근하는 것을 차단했으며, 메타가 접근 허가를 받지 않았다고 주장했다. 반면 뮤즈 모바일 앱은 출시 후 첫 12일 동안 미국과 캐나다에서 챗GPT(ChatGPT)의 같은 기간 초기 다운로드 수를 웃돈 것으로 추정됐고, 메타 주가는 월요일 11% 상승했다. 뮤즈의 인기가 확인되는 상황에서 이번 취약점과 권한 설계 논란이 제품 신뢰도에 어떤 영향을 미칠지는 지켜봐야 한다.