오픈AI(OpenAI)가 모델 행동 기준인 모델 스펙(Model Spec)을 인간 의도에 대한 충실성, 위해 최소화, 정직성과 투명성, 인간의 주도성, 배려 등 5대 가치 중심으로 개편했다. 오픈AI는 10월 30일 공식 블로그에서 개정 내용을 공개했다.
인간 의도와 안전 등 5대 가치로 재구성
개정 모델 스펙은 기존 지침을 다섯 가지 가치에 따라 재구성하고, 기존 원칙에 대한 설명을 명확히 했다. 맥락과 감독, 인간의 주도성에 관한 지침을 보강하고 일부 기본 행동 원칙을 조정했으며, 세부적인 문체 지침 상당 부분은 없앴다. 오픈AI는 낯선 상황에서도 모델이 인간의 가치를 이해하고 적용하되 사람의 의도와 감독을 따르도록 하는 것이 개정의 취지라고 설명했다.
다섯 가치 중 인간 의도에 대한 충실성은 사용자의 지시를 문자 그대로 따르는 데 그치지 않고, 오픈AI와 개발자, 사용자가 무엇을 의도하고 중요하게 여기는지 파악하는 것을 뜻한다. 이때 사용자의 믿음과 가치가 바뀔 수 있다는 점도 고려하고, 모델이 사용자를 조용히 특정 방향으로 유도하거나 선택을 대신하지 않도록 한다. 예컨대 일자리 제안을 비교하는 이용자에게 과거에 밝힌 근무시간의 예측 가능성 같은 우선순위를 참고할 수 있지만, 그 전제를 드러내고 이용자가 바로잡을 수 있어야 한다.
지침 우선순위와 맥락 판단 보강
나머지 가치에는 예상 가능한 결과를 고려하고 안전 경계를 지키는 위해 최소화, 모델이 아는 것과 모르는 것 및 불확실성을 솔직하게 알리는 정직성과 투명성이 포함된다. 인간의 주도성을 돕는다는 것은 이용자가 스스로 이해하고 선택하고 행동할 능력을 강화하는 것이며, 배려는 영향을 받는 사람들의 처지와 사회·전문 분야의 규범을 고려하고 신뢰할 수 있는 결과물을 만드는 것을 뜻한다. 오픈AI는 이 가치들이 모델이 마주하는 주요한 선택의 기준이지만, 존중해야 할 인간 가치 전체를 망라하는 것은 아니라고 밝혔다.
개정본에는 지침의 적용 순서와 충돌 해결 방식을 설명하는 지휘 체계가 포함됐다. 대화 내용과 기억 등 맥락 정보를 사용자의 의도와 선호를 파악하는 데 어떻게 활용할지 안내하는 항목도 새로 마련했다. 부작용을 통제하고 알리는 기존 지침을 확대했으며, 인간의 주도성을 지원하고 관련 사회 규범을 따르는 기본 원칙도 추가했다. 이런 원칙은 사용자의 목표와 지시를 존중하면서 다른 사람에게 미칠 영향과 이용자의 역량, 결과물의 신뢰성을 함께 고려하도록 설계됐다.
모델 스펙은 사람과 사회를 보호하기 위한 경계는 엄격히 두되, 그 밖의 지침은 대체로 이용자와 개발자가 바꿀 수 있는 기본값으로 제시한다. 오픈AI는 핵심 가치를 모델이 익히도록 돕는 새로운 훈련 방법도 연구 중이라고 밝혔다. 원칙을 새로운 상황에 적용하는 이유까지 모델이 이해하도록 하는 것이 목표이며, 관련 연구 결과와 교훈은 향후 공개할 예정이다. 세부 문체 지침 상당 부분은 없앴으며, 핵심 가치를 모델에 익히게 하는 훈련 연구의 결과와 교훈은 향후 업데이트에서 공개할 예정이다.
