개인정보보호위원회가 에이전틱 인공지능(agentic AI)의 개인정보 침해 위험과 대응 기준을 논의하고 민관 협력을 통한 규율체계 마련에 나섰다. 개인정보위는 9월 23일 은행회관 국제회의실에서 인공지능 프라이버시 민·관 정책협의회 2기 제2차 전체회의를 열었다. 개인정보보호위원회는 보도자료에서 에이전틱 AI 프라이버시 이슈와 개인정보 제도 혁신 방향을 논의했다고 밝혔다.
에이전틱 AI의 개인정보 위험 점검
이번 회의에서는 김병필 카이스트(KAIST) 교수가 에이전틱 AI의 프라이버시 이슈를 발표했다. 발표에는 2026년 7∼8월 국내외 인공지능 개발·도입 기관 15곳을 대상으로 진행한 현장 인터뷰 결과와 향후 검토 과제가 담겼다. 인터뷰 참여 기관들은 프롬프트 인젝션(prompt injection)과 에이전틱 AI에 부여되는 과도한 권한을 주요 위험요인으로 꼽았다. 프롬프트 인젝션은 인공지능 입력창에 악의적인 명령어를 주입해 시스템이 의도하지 않은 동작을 하도록 유도하는 공격 기법이다.
현장에서는 인공지능이 어느 범위까지 자율적으로 작업하고 어떤 단계에서 사람의 승인을 받아야 하는지 기준을 마련해야 한다는 의견이 나왔다. 에이전틱 AI의 개발·운영에 참여하는 주체별 지위와 책임을 구분하고, 시스템의 로그와 메모리에 포함된 개인정보를 언제까지 보관하고 어떻게 파기할지도 정해야 한다는 지적이다. 향후 안내서는 특정 기술에 고정되지 않는 기술 중립성과 원칙·위험 기반 접근을 바탕으로 마련할 필요가 있다는 의견도 제시됐다.
개인정보 제도 혁신과 안내서 마련
최윤정 개인정보보호정책과장은 인공지능 시대 개인정보 제도 혁신 방향을 소개했다. 데이터 처리 방식이 빠르게 바뀌는 만큼 현행 개인정보 보호체계도 새로운 환경에 맞게 정비할 필요가 있다는 설명이다. 국민 권리 보호에 미치는 영향은 적으면서 데이터 활용을 제한하는 형식적 규제는 합리적으로 개선하고, 인공지능 시대에 필요한 규범은 신속하게 마련한다는 방향이 제시됐다. 종합 토의에서는 인공지능 데이터 확보·활용을 위한 처리 근거의 유연화, 인공지능 개인정보 활용 특례의 합리적 운영, 인공지능 환경에 맞는 안전장치와 책임구조가 논의됐다.
논의 결과는 개인정보위가 올해 말 공개할 예정인 가칭 에이전틱 인공지능 개인정보 처리 안내서와 제도 혁신방안에 반영될 예정이다. 개인정보 활용 특례는 가명정보·익명정보만으로 인공지능 개발이 어려우면서 공익적·사회적 필요성이 인정되는 경우, 강화된 안전조치와 개인정보위 심의·의결을 전제로 적법하게 수집한 개인정보를 인공지능 기술 개발에 활용할 수 있도록 하는 내용이다. 관련 개인정보 보호법 개정안은 2027년 3월 9일부터 시행될 예정이다.
정책협의회 2기는 올해 2월 출범했으며, 송경희 개인정보보호위원장이 의장을 맡고 권창환 수원지방법원 부장판사가 공동의장으로 참여한다. 학계·산업계·법조계·시민단체 전문가 등 36명으로 구성됐고 데이터 처리기준, 리스크 관리, 정보주체 권리보장 등 3개 분과로 운영된다. 이날 회의에는 개인정보위와 관계 부처, 협의회 위원, 한국인터넷진흥원 등 약 40명이 참석했다. 송경희 위원장은 기술 발전을 뒷받침하면서 프라이버시와 권리·안전을 함께 지키는 균형 잡힌 규율체계를 민관 협력으로 마련하겠다고 말했다.