앤트로픽(Anthropic)이 허위 계정·뉴스사이트를 통한 여론 조작, 무기 개발과 감시 등에 관한 클로드(Claude) 사용 금지 규정을 구체화한 새 사용정책을 공개했다. 앤트로픽은 10월 9일 자사 블로그에서 이번 개정은 기존 규칙을 명확히 하고 모델의 장시간·자율 작업 능력에 맞춰 적용 사례를 보충한 것으로, 11월 12일부터 시행된다고 밝혔다.
허위 계정부터 무기 제어 소프트웨어까지
새 정책은 정치·상업적 목적을 가리지 않고 발신 주체를 숨기거나 가짜 계정·게시물로 콘텐츠를 확산하는 행위를 ‘기만적 캠페인 또는 인위적 활동’이라는 별도 항목으로 묶었다. 여론 조작 캠페인에 쓰이는 도구와 기반 시설을 구축하는 것도 금지 대상에 포함된다. 앤트로픽은 국가 매체와 정부 선전 조직, 상업 기업 등이 클로드를 이용해 가짜 계정망과 허위 뉴스 사이트를 운영한 사례를 확인했다고 설명했다.
선거 관련 규정은 유권자를 속이거나 선거를 방해하는 행위를 금지하는 데 초점을 맞췄다. 후보자나 선거관리자의 사칭, 후보자나 투표 방법에 관한 허위 정보 유포, 투표율을 낮추려는 활동 등이 이에 해당한다. 반면 유권자별 맞춤형 투표·캠페인 정보 제공을 일괄 금지했던 조항은 삭제했다. 비영리단체의 다국어 투표 안내나 선거 당국의 투표용지 보완 통지처럼 정당한 시민 활동까지 제한할 수 있다는 이유에서다. 다만 기만이나 개인정보 오용에 기반한 유권자 표적 활동은 다른 조항에 따라 계속 금지된다.
감시·고위험 이용과 물리적 행동도 명시
무기 관련 금지는 무기 자체의 개발뿐 아니라 무기 작동에 필요한 소프트웨어와 구성 요소의 개발까지 포괄한다고 명시했다. 드론이나 자율주행 차량에 무장을 장착하는 행위도 금지 사례로 들었다. 감시·형사사법 분야에서는 동의 없이 실시간으로 사람을 추적하거나 이미 수집한 데이터를 분석해 추적하는 행위를 금지하고, 수사·체포·기소 대상자를 결정하거나 추천하는 데 클로드를 쓰지 못하도록 했다. 감시 도구를 만들거나 개선하는 데 사용하는 것도 제한한다.
정책은 동의를 받은 사기 모니터링, 콘텐츠 조정, 언론 보도와 법률 연구 등 허용되는 이용 사례도 제시했다. 건강·법적 권리·재정·생계·필수 서비스에 영향을 미칠 수 있는 이용에는 자격을 갖춘 사람이 모델의 권고를 검토하고 필요하면 바꿀 수 있어야 하며, 영향을 받는 사람에게 AI 사용 사실을 알려야 한다. 이 요건은 바뀌지 않았지만, 새 문안은 어떤 권고가 해당하는지 더 직접적으로 설명한다.
모델이 부상을 일으킬 수 있는 장비와 연결돼 자율적으로 물리적 행동을 할 때는 자격을 갖춘 운영자가 장비를 관찰하고 필요하면 멈출 수 있어야 한다. 클로드와 연결이 끊겨도 장비가 안전한 상태를 유지할 수 있어야 한다는 조건도 추가됐다. 모델을 향한 지속적이고 불필요한 학대 행위도 극단적인 경우 금지하지만, 일반적인 불만 표출이나 반박, 어두운 창작물, 모델 시험·연구는 해당하지 않는다고 앤트로픽은 설명했다. 회사는 이 조항이 반복적이고 목적을 파악하기 어려운 잔혹 행위에 한정된다고 덧붙였다.