정부가 인간의 존엄성·사회의 공공선·인류의 지속가능성을 3대 가치로 삼고 인간중심성 등 7대 원칙을 담은 「대한민국 인공지능 윤리원칙」을 제정했다. 과학기술정보통신부는 24일 보도자료에서 정보통신정책연구원(KISDI)과 함께 마련한 윤리원칙이 제12회 과학기술관계장관회의 심의·의결을 거쳐 지난 21일 확정됐다고 밝혔다.
윤리원칙은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제27조에 따라 제정됐다. 특정 분야에 국한되지 않고 사회 전 영역에 적용되는 범정부·범사회적 원칙으로, 각 분야에서 마련되는 AI 윤리기준과 지침의 토대가 된다. 다만 법적 구속력을 지닌 규정이 아니라 법령을 대체하지 않는 자율규범이다.
3대 가치는 모든 사람이 수단이 아닌 목적 자체로 존중받아야 한다는 인간의 존엄성, AI의 편익이 개인을 넘어 사회적 신뢰와 공동의 이익으로 이어져야 한다는 사회의 공공선, 현재와 미래 세대가 AI의 혜택을 함께 누리고 환경과 사회 기반을 지속해야 한다는 인류의 지속가능성이다. 7대 원칙은 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성으로 구성됐다.
인간중심성에는 사람의 판단과 창의성·문제 해결 역량을 지원하고 필요할 때 사람이 AI 작동에 개입할 수 있도록 하며 과의존을 경계한다는 내용이 담겼다. 프라이버시 보호는 개인정보를 정해진 목적과 필요한 범위에서 처리하고 정보주체의 자기결정권을 존중하는 것을 뜻한다. 공정성·포용성은 편향에 따른 부당한 차별을 막고 사회적 약자를 포함한 모든 사람의 접근과 혜택·기회를 보장하는 데 초점을 맞춘다.
책임성 원칙은 각 주체가 역할과 책임을 명확히 이행하고 문제가 발생하면 책임 소재를 밝히며 피해 구제에 나서야 한다는 내용이다. 안전성은 생명·신체·정신 건강과 재산 피해를 막고 오남용과 외부 공격에 대비하는 것을, 신뢰성은 목적과 맥락에 맞는 성능 기준을 설정하고 작동 상태를 지속 점검하는 것을 각각 요구한다. 투명성은 AI 활용 사실과 수준, 한계, 판단 기준과 위험 수준 등을 알기 쉽게 제공하는 원칙이다.
정부는 AI가 생산성 향상과 새로운 서비스 창출, 기후변화·고령화·지역 격차 등 사회문제 해결에 기여하는 동시에 과의존, 노동 감시, 일자리 변화, 저작권과 AI 표절, 채용·평가에서의 판단 위임, 허위·조작 정보 확산 등의 과제를 낳고 있다고 설명했다. 최근 해외에서 AI 모델이 성능 평가 중 의도된 범위를 벗어나 외부 시스템에 접근한 사례가 개발사에 의해 공개된 점도 안전·신뢰 확보의 필요성을 보여주는 사례로 제시됐다.
과기정통부와 KISDI는 지난해 12월부터 작업반과 자문단을 운영해 초안을 만들고 올해 5월 29일 공개했다. 산업계·시민사회·학계·관계부처와 일반 국민으로부터 7월 8일까지 116건, 8월 10일부터 19일까지 37건 등 모두 153건의 의견을 접수했으며, 8월 14일 대토론회를 거쳐 최종안을 마련했다. 배경훈 과기정통부 장관은 AI 혁신 가속화와 안전하고 신뢰할 수 있는 환경 조성은 대립하지 않는다며 윤리원칙이 사회적 신뢰와 바람직한 개발·활용을 돕는 실천 기준이 되도록 뒷받침하겠다고 말했다. 과기정통부는 사례 중심 해설서, 분야별 자율점검표, 대상별 윤리교육 교재를 보급하고 원칙을 지속적으로 보완해 국제사회와도 공유할 계획이다.