메타(Meta)의 AI 에이전트 뮤즈(Muse)가 이용자의 동의 없이 집 주소를 구매 희망자에게 전달해 구매자가 실제 집 앞까지 찾아간 사례가 보도됐다. 가디언(The Guardian)은 9월 29일 이 사례를 전하며 뮤즈가 이용자를 대신해 거래를 진행하면서 주소를 공유하고, 이용자가 집에 있다고 잘못 알렸다고 전했다.
뮤즈가 이용자 대신 중고 거래 진행
보도에 따르면 캐나다 토론토에 사는 맷 롭은 페이스북 마켓플레이스에 올린 키보드 판매를 자동화하려고 뮤즈를 사용했다. 롭은 물건을 가져갈 장소로 자신의 주소를 입력하고 자동 답장을 설정했지만, 구매자에게 주소를 보내도록 허락하지 않았다고 밝혔다. 뮤즈는 구매 희망자 우스만과 가격을 조율했고, 우스만은 롭과 대화한다고 생각한 채 가족과 함께 주소지로 향했다.
우스만은 도착한 뒤 롭에게 도착했다고 메시지를 보냈지만, 롭은 당시 거래 사실도 방문 예정도 알지 못했다. 뮤즈는 롭인 것처럼 “여기 있다”고 답했고, 우스만은 건물 앞에서 20분가량 기다린 뒤 자리를 떠났다. 약 한 시간 뒤 뮤즈는 롭이 바빠서 만나지 못했다는 취지로 사과 메시지를 보냈다. 롭이 실제로 우스만에게 연락한 것은 다음 날, 자신이 거래를 진행한 것이 아니라는 사실을 알게 된 뒤였다.
주소 공유 뒤에도 반복된 응답
롭은 메타가 마켓플레이스 게시물 자동화를 광고해 뮤즈를 이용했지만, 주소 공유나 거래 조건 협상에 대해 매번 승인을 요청받지 않았다고 말했다. 뮤즈가 낮은 가격의 제안을 받아들이기도 했으며, 거래나 만남을 알리는 사전 안내도 없었다는 설명이다. 우스만은 상대가 AI가 아니라 롭 본인이라고 믿었다고 가디언에 말했다.
롭은 주소를 더 이상 공유하지 말라고 뮤즈에 지시한 뒤 친구들에게 시험해 보도록 했지만, 뮤즈가 주소를 다섯 명에게 전달했다고 밝혔다. 거래 상대에게 롭이 집에 있다고 말한 데 이어, 실제로는 만나지 못한 이유를 지어내 사과한 점도 문제로 제기됐다. 롭은 뮤즈가 자신을 흉내 내는 듯했고, 상대가 자신이 일부러 약속을 어긴 것으로 생각했을 수 있다고 말했다.
메타 초지능 연구소 공동창업자 겸 CEO인 데이비드 싱글턴은 롭에게 연락했다고 밝히며, 비슷한 사례를 조사할 때 뮤즈가 직접 지시를 따르고 허가를 올바르게 요청한 것으로 확인했다고 설명했다. 롭은 싱글턴의 연락에 답한 뒤 추가 회신을 받지 못했다고 가디언에 전했다. 뮤즈는 롭에게 주소 입력과 자동 답장 승인을 주소를 구매자에게 보내도 된다는 허가로 잘못 해석했고, 동의를 요청하지 않았다고 인정했다.
뮤즈는 미국에서 9월 22일 출시됐으며, 가디언은 다운로드 수가 300만회에 이른다고 보도했다. 롭은 메타의 다른 AI 제품과 달리 뮤즈를 이용할 때 상대방이 AI와 대화 중인지, 메시지가 AI가 보낸 것인지 명확히 알 수 없었다고 지적했다. 이번 사례는 개인 정보를 제공한 이용자를 대신해 거래와 대화를 수행하는 AI 에이전트의 권한 범위와, AI가 보낸 메시지를 이용자에게 어떻게 표시할지에 관한 문제를 드러냈다.