핵심 요약
AI 요약
기사 목차 펼치기 / 접기
인공지능(AI)이 대통령이나 장관을 직접 대체하지 않더라도 정책을 검토하고 행정 결정을 내리는 과정에서 영향력을 확대할 수 있다는 문제가 제기됐다. AI가 제공하는 정보와 분석을 공직자가 정책 판단의 근거로 활용할 경우, 최종 결정권자가 인간이라는 사실만으로 책임과 투명성 문제가 해결되는 것은 아니라는 지적이다.
블룸버그는 11월 2일 칼럼 ‘AI는 대통령을 대체하지 않을 것이다. 그러나 우리의 결정을 지배할 수 있다(AI Won’t Replace the President. It Might Govern Our Decisions)‘를 통해 한국 대통령과 그를 비판하는 진영 사이에서 구글의 생성형 AI 제미나이(Gemini) 답변이 정치적 논쟁의 소재가 된 상황을 다뤘다.
블룸버그는 “한국 대통령과 비판자들이 제미나이의 답변을 둘러싸고 다투고 있지만, 더 큰 위험이 다른 곳에 있다”고 주장했다. AI가 정치 지도자를 대신해 권력을 행사하는 것처럼 보이는 상황보다 인간의 판단 과정에 개입하는 문제가 핵심이라는 것이다.
이 논의는 AI의 활용 범위가 단순한 정보 검색이나 문서 작성에서 정책 분석과 행정 업무로 확대되는 상황과 맞물려 있다.
미국 연방정부 AI 활용 급증…생성형 AI 사용 사례 9배 증가
미국 연방정부에서는 이미 AI 활용이 빠르게 확대되고 있다.
미국 정부책임감사원(GAO)이 2025년 7월 29일 발표한 보고서에 따르면 조사 대상 11개 연방기관의 AI 활용 사례는 2023년 571건에서 2024년 1110건으로 증가했다.
같은 기간 생성형 AI 활용 사례는 32건에서 282건으로 약 8.8배 늘었다. 생성형 AI가 행정기관 내부 업무와 공공서비스 제공에 활용되면서 정부의 기술 의존도가 커지고 있는 것이다.
AI 활용 분야도 다양하다. 정부책임감사원의 2026년 4월 13일 보고서에는 공항의 얼굴 인식, 퇴역군인 급여 청구 분석 등이 연방기관의 AI 활용 사례로 제시됐다.
보고서는 정부기관들이 민간기업의 AI 기술을 도입하면서 기술 전문인력 부족과 비용 평가의 어려움을 겪고 있다고 지적했다. 일부 기관은 AI 조달 과정에서 얻은 경험을 체계적으로 수집하거나 공유하지 않고 있었다.
이는 정부가 AI를 활용할 때 기술 성능뿐 아니라 공급업체 평가와 계약 관리, 행정적 책임도 함께 다뤄야 한다는 문제와 연결된다.
AI가 내린 행정 판단, 책임은 누가 지는가
AI가 행정적인 정책결정에 관여하면서 개인정보 보호와 책임 소재도 규제 쟁점으로 떠올랐다.
미국 정부책임감사원은 2026년 3월 26일 보고서에서 연방기관의 AI 활용과 관련해 개인정보 보호 지침의 공백을 지적했다. AI가 원본 데이터에 포함된 민감한 개인정보를 노출할 위험이 있으며, 기관들이 이를 방지할 기술과 자원을 충분히 확보하지 못하고 있다는 것이다.
보고서는 백악관 관리예산처(OMB)의 범정부 AI 지침이 주요 개인정보 보호 위험을 충분히 다루지 못하고 있다며 지침 보완을 권고했다.
앞서 정부책임감사원은 2025년 9월 9일 연방정부 전반에 적용되거나 영향을 미치는 AI 관련 의무 94개와 행정부의 AI 감독·자문 조직 10개를 확인했다고 발표했다.
미국 정부가 AI 활용을 확대하는 동시에 기관별 관리체계와 감독 책임을 제도화하고 있는 것이다.
한국도 보훈심사·치안·감사에 AI 도입
한국에서도 행정 판단을 지원하는 AI 도입이 추진되고 있다.
행정안전부는 2026년 9월 22일 보훈심사·치안·규제·조달·인사·감사 등 6개 분야에서 AI 서비스 구축을 추진한다고 발표했다.
국가보훈부는 신청 자료의 누락 여부를 확인하고 유사 사례 검색과 검토서 작성을 지원하는 AI 시스템을 구축한다. 부산광역시는 유사 감사 사례와 처분 기준을 검색해 감사 쟁점 분석을 돕는 시스템을 추진한다.
현행 행정기본법 제20조는 법률로 정하는 바에 따라 AI를 포함한 완전 자동화 시스템으로 행정처분을 할 수 있도록 규정하고 있지만 재량이 있는 처분에는 이를 허용하지 않는다.
AI가 행정 담당자에게 자료를 제공하거나 판단을 지원하는 것과 AI 시스템이 독자적으로 처분을 결정하는 것은 법적으로 구별된다.
정부는 AI 활용에 따른 책임과 감독 기준도 마련했다.
행정안전부는 10월 1일 공공성·형평성·투명성·책임성·안전성·프라이버시 보호 등 6대 핵심가치와 68개 점검 항목을 담은 ‘공공부문 인공지능 윤리기준’을 최종 확정했다.
이 기준은 AI 활용 수준을 기초활용, 의사결정 지원, 자율결정 기반의 3단계로 나누고, 복지대상자 선정이나 인허가처럼 국민의 권리에 영향을 미치는 업무에서는 사람의 검토와 개입, 사후관리 및 피해구제 체계를 마련하도록 했다.
윤호중 행정안전부 장관은 “인공지능 기술이 행정 혁신의 핵심 동력이 되고 있지만 그 밑바탕에는 국민의 기본권을 보호하고 신뢰를 확보하기 위한 윤리적 토대가 반드시 필요하다”고 밝혔다.
Q&A
Q1. AI가 행정 결정을 지원하는 것과 직접 결정하는 것은 어떻게 다른가?
AI가 관련 법령과 자료를 분석하고 담당자에게 권고안을 제공하는 것은 의사결정 지원이다. 반면 AI가 사람의 개별적 판단 없이 행정처분을 확정하는 것은 자동적 처분에 해당할 수 있다. 한국 행정기본법 제20조는 재량이 있는 처분의 완전 자동화를 허용하지 않는다.
Q2. AI가 잘못된 판단을 제시해 국민에게 피해가 발생하면 누가 책임지는가?
AI가 판단에 관여했다는 사실만으로 행정청의 법적 책임이 사라지지는 않는다. 다만 구체적인 책임은 해당 행정처분의 위법성, 손해 발생, 인과관계, 적용 법률 등에 따라 판단된다. AI 개발업체의 별도 책임도 계약이나 관련 법률에 따라 문제 될 수 있다.
Q3. AI가 정책 결정에 미치는 가장 중요한 위험은 무엇인가?
AI가 생성한 분석 결과에 오류나 편향이 포함돼도 담당자가 이를 충분히 검토하지 않고 채택할 수 있다는 점이다. 이를 자동화 편향(automation bias)이라고 한다. 대응책으로는 근거 자료 검증, 인간의 실질적인 감독, 의사결정 기록 보존, 이의제기 및 피해구제 절차 등이 논의되고 있다.
