행정안전부가 공공기관의 AI 활용에서 사람이 판단을 검토·통제하고 최종 책임을 지도록 하는 ‘공공부문 인공지능 윤리기준’을 최종 확정했다. 행안부는 10월 2일 보도자료에서 편향된 결정과 프라이버시 침해를 예방하고 국민이 안심할 행정 환경을 조성하기 위한 기준이라고 설명했다.
공공 AI 윤리기준 6대 가치와 68개 점검사항
이번 기준은 ‘세계 최고 AI 민주정부 실현’을 위한 국정과제의 실천 과제로 마련됐다. 행안부는 공공분야의 AI 활용이 늘어남에 따라 국내외 윤리기준을 분석하고 전문가 자문을 거쳐 지난해 11월 초안을 만들었다. 이후 관계기관과 학계 전문가의 검토와 의견 수렴을 거쳐 최종안을 확정했다.
기준은 행정 혁신 촉진과 국민 신뢰 구축을 목표로 국민·행정·기술의 세 관점에서 공공성, 형평성, 투명성, 책임성, 안전성, 프라이버시 보호를 6대 핵심가치로 제시했다. 공직자가 실제 업무에서 활용할 수 있도록 이 가치들을 반영한 세부 점검사항 68개도 마련했다. 각 기관은 AI를 업무에 활용하는 수준에 맞춰 점검 체계를 선택할 수 있다.
복지·인허가 등 권리 영향 업무에 사람 개입
기관별 점검 체계는 AI 활용 정도에 따라 1단계 ‘적용(기초활용)’, 2단계 ‘응용(의사결정 지원)’, 3단계 ‘융합(자율결정 기반)’으로 나뉜다. 기관은 이 구분을 토대로 업무 특성에 맞게 윤리기준을 점검하고 적용할 수 있다. AI를 단순 활용하는 경우부터 의사결정을 돕거나 자율결정에 기반을 두는 경우까지 단계별로 살피도록 한 것이다.
특히 복지대상자 선정, 인허가, 위험예측처럼 국민의 권리와 생활에 직접 영향을 주는 업무에서는 서비스 기획부터 제공까지 전 과정의 책임 주체를 명확히 하도록 했다. AI가 행정 의사결정을 지원하거나 직접 판단에 쓰이더라도 최종 책임과 통제는 사람에게 있다는 원칙도 책임성 기준에 담았다. AI의 판단을 사람이 검토하고 필요하면 개입하는 감독 체계와 사후관리·피해구제 체계도 마련하도록 했다.
행안부는 기준이 선언에 그치지 않고 공직자의 실무 지침으로 쓰이도록 공공부문 종사자 대상 교육 프로그램을 운영할 계획이다. 새롭게 나타나는 윤리 문제를 일찍 파악해 점검사항에 반영하는 환류 체계를 운영하고, 기술 환경과 사회적 요구 변화에 맞춰 기준을 지속해서 개선하기로 했다. 윤호중 행안부 장관은 이번에 마련한 윤리기준과 68개 자율점검 항목을 통해 공공분야에서 AI를 공정하고 안전하게 활용할 환경을 만들겠다고 말했다.
