공공부문 AI 윤리기준…점검표는 생겼는데 ‘AI가 왜?’ 물을 길은 없다

68개 자율점검표의 허실, 세 겹 안전장치의 법적 공백, 구청 AI에 없는 국민의 설명 요구권

대형 창문 앞 회의실에서 정장 차림의 사람들이 회의하고, 앞쪽 탁자에는 그래프가 표시된 태블릿과 문서철이 놓여 있다.
핵심 요약
1
관여도별 자율점검:공공부문 AI 윤리기준은 AI의 행정 관여도에 따라 3단계로 나뉘며, 단계별로 27개·57개·68개 항목을 기관이 자체 점검하도록 한다.
2
세부 항목 비공개:정부는 6대 핵심가치와 단계별 점검 항목 수를 공개했지만, 68개 항목의 내용과 개별 서비스를 분류하는 기준은 공개하지 않았다.
3
준수 제재 부재:윤리기준 제정은 법적 의무지만 개별 기관의 이행은 노력 의무에 머물며, 기준을 지키지 않아도 제재하는 조항은 없다.
4
영향평가 의무화:공공기관은 2027년 2월부터 원칙적으로 AI 도입 전 기본권 영향평가를 실시하고 결과를 공표해야 하며, AI 활용 서비스 목록도 매년 공개해야 한다.
5
설명 요구권 공백:국민은 AI를 활용한 행정처분의 법적 이유를 고지받고 결과에 불복할 수 있지만, AI의 판단 과정에 관한 설명을 요구할 법적 권리는 없다.

행정안전부가 10월 1일 확정한 공공부문 인공지능(AI) 윤리기준은 AI의 행정 관여도에 따라 최대 68개 세부 항목을 점검하는 공무원용 자가진단표다. 2027년 2월 시행될 공공분야 AI 영향평가와 AI 활용 서비스 목록 공개까지 합치면 정부 내부의 안전장치는 세 겹으로 늘어난다. 그러나 정작 AI의 행정 처분을 마주한 국민이 ‘AI가 왜 이렇게 판단했는가’를 되물을 수 있는 법적 권리는 현행 제도 어디에도 없다.

행정안전부의 이번 확정안은 앞서 발표 당일 라이브펄스로 요지가 전해졌다. 보도자료 첨부 원문과 2025년 11월 초안, 2026년 8월 국무회의에 보고된 ‘AI민주정부 실현 전략’, 그리고 근거 법률을 나란히 대조하면 정부가 설계한 안전장치의 윤곽과 가려진 공백이 선명히 드러난다.

조종사의 체크리스트… 공무원용 AI 점검표에 담긴 6개 가치

비행기 조종사는 이륙 전 체크리스트를 한 줄씩 짚으며 기체 결함을 점검한다. 공공 AI 윤리기준도 같은 발상에서 출발했다. 행정안전부는 10월 1일 공식 보도자료를 통해 이번 윤리기준이 국정과제인 ‘세계 최고 AI 민주정부 실현’의 실천과제로 마련됐다고 밝혔다. 국민·행정·기술 세 관점에서 6대 핵심가치를 세웠고, 첨부 문서에 실린 공식 정의를 정리하면 다음과 같다.

관점핵심가치원문 정의
국민공공성공공 AI를 공공의 이익과 국민 삶의 질 향상을 위해 제공한다
국민형평성공공 AI를 모든 국민에게 공정하고 차별없이 제공한다
행정투명성공공 AI의 도입과 활용에 대한 과정을 투명하게 공개한다
행정책임성공공 AI에 대한 책임 주체를 명확히 정하고, 제도적 기준에 따라 활용한다
기술안전성공공 AI가 국민에게 피해를 주지 않도록 안전한 방식으로 운영한다
기술프라이버시 보호공공 AI가 개인정보와 사생활 등을 침해하지 않도록 보호장치를 마련한다

68개 세부 항목은 이 6개 가치를 공공 업무 환경에 맞춰 세분화한 것이다. 다만 항목별 세부 명단은 보도자료와 첨부 문서 어디에도 실리지 않았고, 가치별로 몇 개씩 배분됐는지조차 공개되지 않았다. 시험 과목과 문항 수는 정해졌는데 정작 시험지는 배포되지 않은 상태다.

내비게이션과 자율주행 사이… 3단계 점검표의 격차

이번 기준에서 가장 두드러진 장치는 ‘3단계 자율점검 체계’다. 보도자료 첨부 도식은 1단계 적용(AI 기초 활용)에 27개, 2단계 응용(AI 의사결정 지원)에 57개, 3단계 융합(AI 자율결정 기반)에 68개 항목을 배정했다. 파이낸셜뉴스 역시 단계별 점검 항목을 동일한 수치로 보도했다.

AI의 자율성이 높아지고 행정 결정에 깊이 개입할수록 점검할 항목이 늘어나는 구조다. 공무원의 최종 권한과 기계의 개입 수준을 기준으로 세 단계를 대조하면 통제 구조의 차이가 선명해진다.

단계보도자료 정의점검 항목공무원의 개입과 통제 수준대표 공공 사례
1단계 적용기초활용27개전적인 사람 판단
(AI는 초안·자료 정리 보조)
법령 검토·보고서 초안을 돕는 업무관리 AI ‘온AI’
2단계 응용의사결정 지원57개추천 선별과 사람 결재
(AI가 위험군을 추리고 공무원이 현장 확인)
위험 가구를 골라 공무원에게 넘기는 복지사각지대 발굴시스템
3단계 융합자율결정 기반68개시스템의 선제적 자동 처분
(사람 개입 없이 조건 확인부터 집행까지 처리)
신청하지 않아도 조건을 확인해 혜택을 보내는 선제적 맞춤형 서비스 구상

표에 명시된 공공 사례는 행정안전부의 단계 정의에 비추어 고른 예시다. 실제로 행정안전부가 개별 공공 행정 서비스를 몇 단계로 분류하는지는 아직 공개되지 않았다.

온AI는 법령 검토와 보고서 초안 작성 등을 돕는 지능형 업무관리시스템으로, 행정안전부는 12월까지 47개 중앙부처에 도입할 계획이다. 반면 복지사각지대 발굴시스템은 21개 기관의 단전·단수, 건강보험료 체납, 금융·고용 위기 등 47종 정보를 종합 분석해 위기 가능성이 높은 가구를 선별한 뒤 지방정부 복지 담당 공무원에게 명단을 넘긴다. 2025년 이 시스템이 찾아낸 137만명 중 복지서비스를 실제로 지원받은 대상은 88만명으로, 최종 지원율은 63.9%였다.

기계가 명단을 뽑고, 사람이 문을 두드린다.

3단계 자율결정에 가까운 구상도 모습을 드러냈다. 황규철 행정안전부 인공지능정부실장은 8월 25일 브리핑에서 행정정보 공동이용을 통해 자격 요건을 시스템이 자동 확인하고 국민이 별도로 신청하지 않아도 복지 혜택을 선제 제공하는 방식을 제시했다. 같은 자리에서 복지 분야 AI 상담은 가구와 소득 여건에 맞춰 수혜 자격 기준을 단계별로 확인·안내하며, 2028년 완결을 목표로 한다고 밝혔다.

여기서 ‘자율점검’이란 문자 그대로 기관 스스로 수행하는 점검을 뜻한다. 외부 감사관이나 독립 감독기구가 현장을 들여다보는 방식과 달리, 각 행정기관이 자체적으로 체크리스트를 채우는 구조다. 병원 정밀 검진 대신 자가진단 키트를 나눠 준 것과 흡사하다.

공공 AI 윤리 3단계 자율점검 체계와 통제의 역설
행정안전부 공공부문 인공지능 윤리기준 (2026년 10월)
1단계 적용
AI 기초 활용
27개 점검
법령 검토와 보고서 초안 작성을 보조하며 공무원의 직접 검토와 승인을 전제함.
2단계 응용
의사결정 지원
57개 점검
복지 위기가구 발굴처럼 기계가 위험군을 선별하고 현장 조사는 사람이 판단함.
3단계 융합
자율결정 기반
68개 점검
신청 없는 선제적 복지 집행을 지향하나 ‘AI가 왜 이렇게 판단했는지’ 묻는 창구는 부재함.
[핵심 시사점] 자율점검 항목은 단계별로 촘촘해지지만, 처분 결과에 대해 국민이 ‘AI가 왜 이렇게 판단했는지’ 설명을 요구할 수 있는 법적 창구는 여전히 공백 상태임.

‘인간 중심’ 빠지고 항목 4분의 1 축소… 3대 문서의 간극

공공부문 AI 윤리기준이 정부 공식 문서에 등장한 것은 이번이 세 번째다. 행정안전부는 2025년 11월 3일 초안 공개 당시 ‘공공부문 인공지능 윤리원칙’이라는 명칭을 사용했고, 당시 초안에는 90여개 세부 점검사항이 담겨 있었다. 이어 2026년 8월 25일 국무회의에 보고된 AI민주정부 실현 전략은 인간 중심과 투명·신뢰, 보안·안전, 프라이버시 보호 등을 기본 가치로 삼는 ‘공공 AI 윤리기준’ 수립 계획을 명시했다.

구분2025년 11월 초안2026년 8월 전략2026년 10월 최종
공식 명칭공공부문 인공지능 윤리원칙공공 AI 윤리기준공공부문 인공지능 윤리기준
핵심 가치공공성·투명성·안전성·형평성·책임성·프라이버시 보호인간 중심, 투명·신뢰, 보안·안전, 프라이버시 보호 등공공성·형평성·투명성·책임성·안전성·프라이버시 보호
점검 항목90여개언급 없음68개 (단계별 27·57·68개)
단계 구분언급 없음언급 없음적용·응용·융합 3단계
적용 대상중앙행정기관·지자체·공공기관 종사자언급 없음보도자료 명시 없음 (법 제2조에 포괄)
연계 장치교육 프로그램공공 AI 영향평가교육 프로그램, 점검항목 환류

8월 전략에서 최우선으로 내세웠던 ‘인간 중심’은 이번 최종본의 6대 핵심가치 명칭에서 제외됐다. 대신 책임성 가치 세부 원칙에 “최종 책임은 사람”이라는 조항이 배치되며 그 자리를 메웠다. 점검 항목은 초안 90여개에서 68개로 약 4분의 1이 축소됐으나, 어떤 항목이 삭제되거나 통폐합됐는지는 공개되지 않았다.

문서 명칭이 ‘원칙’에서 ‘기준’으로 조정된 데도 정책적 맥락이 있다. 과학기술정보통신부는 8월 24일 2020년 국가 AI 윤리기준을 전면 개편한 대한민국 인공지능 윤리원칙을 확정했다. 사회 전반에 통용되는 국가 차원의 3대 가치·7대 원칙이 상위 규범으로 먼저 자리 잡았고, 공공부문 실무 지침은 ‘기준’이라는 직관적 명칭을 취했다. 다만 과기정통부 7대 원칙에 포함된 ‘인간중심성’과 ‘신뢰성’은 행정안전부 6대 가치 표제어에는 직접 반영되지 않았다.

권고에 머문 윤리기준… 의무와 제재 없는 ‘세 겹 장치’의 한계

보도자료 전면에는 드러나지 않았지만 윤리기준은 명확한 법률적 근거를 딛고 있다. 기존 데이터기반행정법을 전면 개정한 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」(AI·데이터행정법)이 8월 28일 본격 시행됐다. 이 법 제31조는 행정안전부 장관이 공정성·투명성·책임성·안전성 등을 고려하고 AI기본법 제27조의 인공지능 윤리원칙을 반영하여 공공기관에 적용될 윤리기준을 제정·공표하도록 규정했다.

과기정통부 원칙을 반영하도록 명시했으므로 두 문서는 상위 규범과 하위 실행 기준으로 상호 연계된다. AI기본법 제27조 제3항 역시 중앙행정기관이 윤리기준을 제정하면 과기정통부 장관이 윤리원칙과의 정합성에 관해 권고하거나 의견을 제시할 수 있도록 규정했다. 아울러 AI·데이터행정법 제31조 제2항은 각 공공기관장이 윤리 시책을 마련하고 소속 직원을 대상으로 교육을 실시하도록 ‘노력해야 한다’고 명시했다. 기준을 수립하는 것은 행정안전부의 법적 의무이지만, 이를 준수하고 이행하는 것은 개별 기관의 재량적 노력 의무로 남겨둔 셈이다. 위반 시 제재나 벌칙 조항은 전무하다.

“최종 책임은 사람”이라는 원칙 역시 이미 법 조문으로 못 박혀 있다. 같은 법 제3조 제5항은 공공기관이 정책 수립과 의사결정에 AI를 활용할 경우 그 결정의 최종 권한과 책임이 해당 기관에 있음을 명확히 하도록 규정했고, 제7항은 알고리즘의 편향성과 의사결정의 투명성을 함께 고려하도록 했다. 윤리기준이 적용되는 공공기관의 범위 또한 제2조 제5호에 따라 중앙행정기관과 소속기관, 지방자치단체, 공공기관, 지방공사·공단으로 폭넓게 규정되어 있다. 윤리기준은 법령이 설계한 세 겹의 행정 안전장치 가운데 첫 번째 관문이다. 여기에 AI기본법상의 고영향 AI 사업자 의무가 별도로 부과된다.

통제 장치법적 근거시행 시점법적 성격국민 공개 사항
윤리기준·자율점검AI·데이터행정법 제31조2026.10.01 확정기관의 노력 의무
(위반 제재 없음)
6개 가치 정의, 단계별 항목 수
AI 활용 서비스 목록AI·데이터행정법 제30조2026.08.28기관의 제출 의무행안부가 매년 목록 종합 공표
공공분야 AI 영향평가같은 법 제32조, 시행령 제26~28조2027.02.28도입 전 법정 평가 의무
(위험관리방안 수립)
영향평가 결과 일반 공표
고영향 AI 사업자 의무AI기본법 제31·34조2026.01.22사람의 관리·감독 의무
(시정명령 및 과태료)
AI 기반 운용 사실 사전 고지

제32조는 공공기관이 AI를 도입하기 전 국민의 기본권에 미치는 영향을 사전에 평가하고 그 결과를 공표하도록 의무화했다. 이미 AI를 운용 중인 기관 역시 법 시행일로부터 2년 이내에 영향평가를 완료하고 공표해야 한다. 시행령 제26조는 의사결정의 투명성, 결과의 신뢰성, 데이터와 알고리즘의 편향 가능성을 핵심 평가 기준으로 규정했다. 행정안전부는 오는 12월까지 AI 영향평가 가이드라인을 배포할 방침이다.

다만 광범위한 예외 조항도 함께 열려 있다. AI·데이터행정법 제32조는 국가안보 사항이나 단순·반복적이고 경미한 사안, 혹은 AI기본법 제35조에 따른 영향평가를 이미 거친 고영향 AI에 대해 사전 평가를 생략할 수 있도록 예외 규정을 두었다. 시행령은 1년 이내의 시범 운영과 동일한 AI 시스템을 재도입하는 경우 역시 제외 대상에 포함했으며, 제외 여부는 행정안전부의 확인을 거치도록 규정했다.

고영향 AI에는 보다 엄격한 법정 의무가 뒤따른다. AI기본법 제2조 제4호는 “공공서비스 제공에 필요한 자격 확인 및 결정 또는 비용 징수 등 국민의 권리·의무에 직접적 영향을 미치는” 국가·지자체·공공기관의 의사결정을 고영향 AI 영역으로 명시했다. 제34조는 이러한 고영향 시스템에 대해 사람의 관리·감독과 설명 방안 마련을 법적 의무로 강제하고 있다. 복지대상자 자동 선정 등은 문언상 이 고영향 영역에 직결된다. 하지만 윤리기준의 3단계 자율점검을 거치는 것만으로 이 법정 의무를 온전히 충족한 것으로 간주되는지는 공식 발표 문서에 명시되지 않았다.

은행 AI는 묻고 구청 AI는 못 묻는다… 행정처분의 설명 요구권 공백

동일한 AI의 판정이라 할지라도 결정을 내린 주체가 누구냐에 따라 국민이 행사할 수 있는 권리의 폭은 극단적으로 갈린다. 시중은행의 대출 심사 AI와 지방자치단체의 자동 행정처분을 대조하면 법적 현실이 극명해진다.

권리 및 구제 항목민간 AI (은행 대출 심사 등)공공 행정 AI (구청 자동 처분 등)
AI 결정 거부권 행사 가능
(개인정보보호법 제37조의2 제1항)
적용 제외
(행정기본법상 자동 처분 대상 제외)
판단 이유·설명 요구권 요구 가능
(개인정보보호법 제37조의2 제2항)
처분 이유만 고지
(행정절차법 제23조 근거 제시, AI 알고리즘 설명 의무는 없음)
인간의 재검토 요청권 요구 시 재검토 조치 의무
(개인정보보호법 제37조의2 제3항)
별도 재검토 절차 부재
(AI 판단만 따로 분리해 재검토를 요청할 수 없음)
처분 결과 불복 경로 민사소송 등 일반 사법 절차 30일 이내 이의신청, 행정심판 및 행정소송
판단 기준 사전 공개 사전 공개 의무화
(개인정보보호법 제37조의2 제4항)
AI 활용 목록 매년 공표, 영향평가 결과 공개
(2027년 2월부터 단계적 적용)

민간 은행의 AI가 사람의 개입 없이 대출 심사를 거절했다면 금융 소비자는 그 이유를 구체적으로 따져 물을 수 있다. 개인정보보호법 제37조의2는 자동화된 시스템이 단독으로 내린 결정이 권리·의무에 중대한 영향을 미치는 경우 정보주체가 그 결정을 거부하거나 상세한 설명을 요구할 권리를 명시하고 있다. 그러나 같은 조항 단서에는 “「행정기본법」 제20조에 따른 행정청의 자동적 처분은 제외한다”는 명시적 괄호 배제 조항이 붙어 있다. 공공 행정청의 자동화 처분은 개인정보보호법상의 설명 요구권 대상에서 원천 배제된 것이다.

구청의 행정처분에도 사유는 고지된다. 행정절차법 제23조에 따라 행정청은 처분을 내릴 때 당사자에게 근거와 이유를 제시해야 한다. ‘소득 기준 초과로 지원 부적격’과 같은 법적 처분 사유가 이에 해당한다. 그러나 이 조항은 AI 알고리즘이 그 판단 과정에서 어떤 데이터를 가중치로 처리했는지, 어떤 변수를 학습하여 결론을 도출했는지까지 밝혀야 할 설명 의무를 부과하지 않는다. 처분 결과에 불복할 경우 행정기본법 제36조에 따라 30일 이내에 이의신청을 제기하거나 행정심판·행정소송을 청구할 수 있을 뿐이다.

결과의 이유는 들을 수 있어도, ‘AI가 왜 그렇게 보았는가’를 되물을 창구는 아직 없다.

국회입법조사처 역시 공공 AI 법제의 결정적 공백으로 이 지점을 지목했다. 국회입법조사처는 8월 20일 발표한 전문 보고서에서 국민이 AI를 활용한 행정결정에 대해 설명을 요구하거나 이의를 제기하고, 사람에 의한 재검토를 요청할 수 있는 권리 구제 절차를 입법적으로 구체화해야 한다고 권고했다. 아울러 사전 영향평가에 그치지 않고 사후 운영 과정에서 발생하는 알고리즘 편향과 오류를 상시 점검하고 재평가하는 거버넌스 체계가 시급하다고 분석했다.

자동 처분이 허용되는 법률적 한계선도 엄격하다. 행정기본법 제20조는 완전히 자동화된 시스템으로 처분을 내리려면 반드시 명시적인 법률 근거가 있어야 하며, 행정청에 재량이 인정되는 행위는 자동 처분 대상에서 제외하도록 규정하고 있다. 법정 요건 충족 시 기계적으로 발급되는 기속행위와 달리, 공무원이 상황과 비례 원칙을 헤아려 결정해야 하는 재량행위를 3단계 ‘자율결정’ 기반으로 전면 자동 처리한다면 행정기본법 위반 소지가 발생한다. 하지만 이번 윤리기준 보도자료에는 이러한 법적 경계선이 어떻게 통제되는지 명시되지 않았다.

“최종 책임은 사람”이라는 착시… 자동화 편향이 부른 네덜란드 참사

서류상으로 최종 결재란에 공무원의 도장이 찍힌다고 해서 사람의 통제가 온전히 작동한다고 단언할 수 있을까. 가장 중대한 걸림돌은 인간이 기계의 알고리즘 판단을 무비판적으로 신뢰하고 따르는 ‘자동화 편향(automation bias)’이다. 행정 프로세스가 형식상 2단계(의사결정 지원)에 머물러 있더라도, 현장 담당자가 업무 과중 속에 AI의 선별 결과를 매번 무비판적으로 추인한다면 실질적으로는 3단계 자율결정과 다를 바 없는 결과가 빚어진다.

네덜란드 정부는 이 위험을 방치했다가 국가적 비극을 겪었다. 국제앰네스티(Amnesty International)는 2021년 10월 25일 발표한 심층 보고서에서 네덜란드 세무당국이 보육수당 신청자의 부정수급 위험 프로필을 자율 알고리즘으로 산출했다고 폭로했다. 앰네스티 보고서는 알고리즘의 치명적 결함을 다음과 같이 기록했다.

“국적은 세무당국이 신청서의 부정확성이나 부정수급 위험을 평가하는 데 활용한 핵심 위험 요인 중 하나였다.”
— 국제앰네스티 네덜란드 보육수당 알고리즘 보고서 중

외국 국적이나 이중국적을 지닌 저소득 이민자 가정이 알고리즘에 의해 일괄 사기 의심군으로 분류되었고, 담당 공무원들은 알고리즘의 결론을 그대로 추인했다. 이 사태로 무고한 약 1만 가구가 수만유로(수천만원)에 달하는 보조금을 부당하게 환수당하며 파산에 내몰렸고, 마르크 뤼터(Mark Rutte) 총리 내각은 2021년 1월 15일 총사퇴를 선언했다.

도장이 한 번 잘못 파이면, 찍는 서류마다 같은 오류가 남는다.

‘사람의 개입’ 사다리 vs ‘자율결정’ 칸막이… 캐나다·미국과의 결정적 차이

그렇다면 한국의 공공 AI 거버넌스는 해외 선진국에 비해 구조적으로 뒤처져 있는가. 규제 장치의 외형적 구성만 놓고 보면 결코 그렇지 않다. 사전 위험성 평가, 결과의 일반 공표, 사용 목록의 정기 공개라는 3대 뼈대는 캐나다와 미국의 연방 표준과 궤를 같이한다. 캐나다 재무위원회 사무국의 자동화 의사결정 지침과 미국 백악관 관리예산처(OMB)의 2025년 각서 M-25-21을 한국의 제도와 맞대면 유사성이 확인된다.

비교 항목한국캐나다미국 (OMB M-25-21)
단계 분류 기준AI 활용 수준(자율성) 3단계영향도 수준(위험성) 4단계고영향 AI 해당 여부
사전 위험 평가공공분야 AI 영향평가, 결과 공표
(2027년 2월부터 시행)
알고리즘 영향평가(AIA)
(가동 전 정부 포털 게시)
고영향 AI 최소 위험관리 기준 충족
사람의 최종 결정기관의 최종 권한·책임 명시
(AI·데이터행정법 제3조 제5항)
3·4단계는 사람이 최종 결정 필수인간의 감독·개입·책임 체계 확립
개인 구제 절차처분 이유 제시, 일반 불복 절차
(AI 설명 요구권 부재)
이의 제기 경로 안내 의무 명문화인간 담당자 재검토 및 이의 제기 기회 보장
사용 목록 공개AI 활용 서비스 목록 매년 공표영향평가 결과 공개 포털 게시AI 활용 사례 목록 매년 공개
기준 미달 시 조치윤리기준 미이행 시 제재 규정 없음연방기관 필수 준수 행정 지침해당 고영향 AI 시스템 사용 중단

캐나다 지침은 알고리즘의 영향도가 일정 수준을 넘어서는 3·4단계에 엄격한 인적 개입 원칙을 강제하고 있다.

“최종 결정은 반드시 사람이 내려야 한다.”
— 캐나다 재무위원회 사무국 자동화 의사결정 지침 중

백악관 관리예산처 각서 역시 AI 처분의 영향을 받는 개인이 인간 담당자의 실질적 재검토를 보장받고 불리한 결정에 대해 직접 이의를 제기할 권리를 규정했다. 기준을 충족하지 못한 연방정부의 고영향 AI는 즉각 사용을 중단해야 한다. 결정적 차이는 두 지점에서 갈린다. 캐나다는 AI의 사회적 영향력이 커질수록 사람이 더 깊이 개입하는 ‘안전 사다리’를 놓았다. 반면 한국의 윤리기준은 AI의 기술적 자율성을 잣대로 단계를 나누어 맨 윗자리에 ‘자율결정’을 배치했다. 아울러 캐나다와 미국은 AI 결정에 대한 국민의 설명 요구와 이의 제기 경로를 AI 통제 규정 안에 명문화했으나, 한국의 법령은 기관의 포괄적 책임과 자율점검 의무만을 적시했을 뿐이다.

공개된 기준은 단 6문장… ‘깜깜이 자율점검’이 남긴 5대 물음표

정부 정책브리핑과 행정안전부 공식 누리집, 관련 법령을 전수 대조해도 확인되지 않는 핵심 의문은 다섯 가지에 달한다. 첫째, 68개 세부 점검 항목의 구체적 명단과 가치별 배분 비중이다. 둘째, 개별 공공 행정 서비스가 3단계 중 어디에 해당하는지 판정하는 정량 기준과 판정 주체의 불명확성이다. 셋째, 기관별 자율점검 결과가 일반에 투명하게 공개되는지 여부다. 넷째, 오는 12월 배포될 예정인 AI 영향평가 세부 가이드라인의 수위다. 다섯째, 윤리기준 자율점검과 AI기본법 제34조 고영향 AI 의무 사이의 법적 정합성이다. 법 제30조에 따른 ‘AI 활용 서비스 목록’이 최초 공표되었다는 사실 역시 정책브리핑에서는 확인되지 않았다. 행정안전부 보도자료가 명시한 투명성의 공식 정의는 “공공 AI의 도입과 활용에 대한 과정을 투명하게 공개한다”이다.

68개 점검 항목이 온전히 공개되기 전까지 국민이 읽을 수 있는 기준 원문은 단 6개 문장뿐이다.

자주 묻는 질문 (FAQ)
Q. 공공부문 AI 윤리기준은 법적 근거가 있나
A.있다. 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」 제31조가 행정안전부 장관에게 공공기관 윤리기준을 제정·공표하도록 규정했다. 다만 각 공공기관이 윤리 시책을 마련하고 직원을 교육하는 것은 노력 의무에 그치며, 위반 시 제재나 벌칙 규정은 없다. 단, 복지대상자 자격 확인 등 국민의 권리·의무에 영향을 미치는 행정 서비스는 AI기본법상 고영향 AI에 해당할 수 있어 사람의 관리·감독 등 별도의 법정 의무가 부과된다.
Q. 3단계 자율점검은 단계별로 몇 개 항목을 점검하나
A.보도자료 첨부 도식 기준으로 1단계 적용(AI 기초 활용)은 27개, 2단계 응용(AI 의사결정 지원)은 57개, 3단계 융합(AI 자율결정 기반)은 68개 전체를 점검한다. 다만 68개 개별 항목의 세부 내용과 특정 공공 행정 서비스를 몇 단계로 분류할 것인지에 대한 정량 판정 기준은 공개되지 않았다.
Q. 정부 AI가 왜 그렇게 판단했는지 설명을 요구할 수 있나
A.처분의 근거와 이유는 행정절차법 제23조에 따라 고지받을 수 있다. 그러나 AI 알고리즘이 그 판단 과정에 어떻게 작용했는지 구체적인 설명을 요구할 법적 권리는 없다. 민간 AI 결정에 적용되는 개인정보보호법 제37조의2의 설명 요구권은 행정청의 자동화 처분을 적용 대상에서 제외했다. 결과에 불복하려면 처분 고지 후 30일 이내에 이의신청을 제기하거나 행정심판·행정소송을 청구해야 한다.

RELATED ARTICLES