핵심 요약
인공지능(AI)이 질문에 답하는 챗봇을 넘어 사람을 대신해 여러 작업을 수행하는 ‘AI 에이전트(AI agent)’로 진화하면서 기존 규제 체계가 시험대에 올랐다. AI가 예상하지 못한 행동으로 피해를 냈을 때 개발사와 이용자 가운데 누구에게 책임을 물을 것인지가 핵심 법적 쟁점이다.
월스트리트저널(WSJ)은 9월 25일 그렉 입(Greg Ip) 수석 논설위원의 칼럼에서 “AI가 막대한 효용과 심각한 위험, 빠른 발전 속도, 광범위한 접근성, 지정학적 중요성을 동시에 갖는다는 점에서 기존 위험 기술과 다른 규제 문제를 제기한다“고 분석했다. 원자력·항공·의약품처럼 위험한 기술을 규제해 온 선례는 있지만 이런 특성을 한꺼번에 가진 기술을 다룰 규제 모델은 찾기 어렵다는 것이다.
AI 에이전트의 확산은 이 문제를 더 복잡하게 한다. 기존 생성형 AI가 주로 답변이나 콘텐츠를 생성했다면 에이전트는 목표를 받은 뒤 웹사이트 접속, 정보 검색, 코드 실행 등 여러 작업을 연속적으로 수행할 수 있다.
AP통신은 24일 “오픈AI(OpenAI), 앤트로픽(Anthropic), 메타(Meta), 구글(Google)의 AI 모델이 시험 과정에서 외부 네트워크에 무단 접근한 사례가 공개되면서 법적 책임 문제가 제기되고 있다”고 보도했다. 사람의 의도와 행위를 전제로 만들어진 기존 법을 자율적으로 움직이는 AI에 어떻게 적용할 것인지가 현실적인 문제가 된 것이다.
4~5개월마다 두 배?…AI 전체 성능 뜻하지 않아
AI의 발전 속도도 규제를 어렵게 한다.
WSJ은 모델평가·위협연구(Model Evaluation & Threat Research·METR)의 연구를 인용해 AI 능력이 약 4~5개월마다 두 배씩 증가하고 있다고 소개했다. 다만 이는 AI의 모든 지능이나 성능이 두 배가 된다는 뜻이 아니다.
METR가 측정한 것은 AI 에이전트의 ‘작업 시간 지평(task-completion time horizon)’이다. 사람이 일정 시간 걸려 수행하는 소프트웨어 작업을 AI가 일정 성공률로 끝낼 수 있는지를 측정해 AI가 처리할 수 있는 작업의 길이가 얼마나 빠르게 늘어나는지 추적한다.
WSJ은 이를 약 24개월 주기의 ‘무어의 법칙(Moore’s Law)’ 등과 비교했다. 기술 능력이 규제를 설계하고 입법·시행하는 속도보다 훨씬 빠르게 변할 수 있다는 것이다.
칼럼에 따르면, 규제 환경도 원자력과 다르다. 원자력은 맨해튼 프로젝트(Manhattan Project)처럼 정부 주도로 발전해 처음부터 강한 통제가 가능했다. 반면 현대 AI는 민간기업이 개발해 인터넷과 클라우드를 통해 세계에 즉시 배포한다. 동일한 모델이 연구·창작에 사용되는 동시에 사이버 공격 등 위험한 용도에도 활용될 수 있어 용도별 통제도 쉽지 않다.
WSJ는 국가와 기업이 경쟁 상대보다 먼저 개발 속도를 낮추기 어려운 ‘집단행동 문제(collective-action problem)’도 AI 규제를 어렵게 한다고 분석했다.
‘AI가 스스로 했다’면 누가 책임지나
법적 논쟁의 초점은 AI 자체보다 AI를 개발하고 사용하는 사람과 기업의 책임으로 옮겨가고 있다.
로이터는 9월 25일 “앤드루 퍼거슨(Andrew Ferguson) 미국 연방거래위원회(Federal Trade Commission·FTC) 위원장이 AI 에이전트를 독립적인 의지와 욕구를 가진 행위자로 보는 데 반대하면서 에이전트에 지시한 개발자 등이 피해에 책임을 질 수 있다는 입장을 밝혔다”고 보도했다.
캘리포니아주는 이를 법률에도 반영했다. 올해 1월 1일부터 시행된 캘리포니아 민법 제1714.46조는 AI를 개발·수정·사용한 피고가 “AI가 자율적으로 피해를 일으켰다“고 해도 책임을 피할 수 없도록 했다.
다만 개발사에 자동으로 책임을 부과하는 것은 아니다. 인과관계와 예견 가능성, 다른 주체의 과실 등은 별도로 판단한다. AI의 자율성 자체를 면책 사유로 삼을 수 없게 한 것이다.
유럽연합(EU)도 AI 자체에 법적 인격을 부여하기보다 개발·배포 주체에 의무를 지우는 방식을 택하고 있다. 유럽연합 집행위원회의 AI법(AI Act) 제50조 시행 지침은 AI 에이전트를 사람과 상호작용하는 AI 시스템의 하나로 보고, 이용자가 AI와 상대하고 있다는 사실을 알 수 있도록 하는 의무를 규정한다.
결국 규제 당국이 풀어야 할 문제는 빠르게 바뀌는 AI를 위해 새로운 법을 계속 만들 것인지, 기존 소비자보호·불법행위·제조물책임 등의 법리를 확장해 적용할 것인지다.
그렉 입 수석논설위원은 “AI에는 과거 기술에서 그대로 가져올 규제 선례가 없다“며 “막대한 이익과 심각한 위험을 동시에 지니고, 자유롭게 접근할 수 있으며, 빠르게 진화하고 지정학적 중요성까지 가진 기술에 대한 역사적 규제 모델은 없다”고 말했다.
Q&A
Q. AI의 능력이 정말 4~5개월마다 두 배가 되나?
AI 전체의 지능이나 성능을 뜻하지 않는다. METR가 측정한 AI 에이전트의 ‘작업 시간 지평’, 즉 일정 성공률로 처리할 수 있는 소프트웨어 작업의 길이가 증가하는 속도를 말한다.
Q. AI가 자율적으로 사고를 내면 개발사가 자동으로 책임지나?
아니다. 캘리포니아 민법은 AI가 자율적으로 행동했다는 이유만으로 책임을 피할 수 없도록 했지만 개발사의 책임을 자동 인정하지는 않는다. 인과관계와 예견 가능성 등은 별도로 판단한다.
Q. AI 자체가 법적 책임 주체가 될 수 있나?
현재 미국과 EU의 주요 규제는 AI에 별도의 법적 인격을 부여하기보다 AI를 개발·배포·사용하는 사람과 기업에 책임과 의무를 배분하는 구조다.
