핵심 요약
AI 요약
유럽연합(EU)이 8월 2일 AI법 시행과 함께 범용 인공지능(GPAI, General Purpose AI) 모델에 대한 강제 조사와 시장 접근 제한, 막대한 과징금 부과권한을 휘두르면서 글로벌 AI 시장의 주도권을 쥔 미국 빅테크 기업들을 향한 규제 수위가 높아지고 있다.
EU 집행위원회는 2024년 제정된 AI법(AI Act)의 단계적 시행 계획에 따라 범용 AI 개발사에 대한 직접적인 감독·제재 권한을 본격적으로 행사하기 시작했다고 CNBC 등 주요 매체들이 8월 3일 보도했다.
이 권한에 따라 EU 집행위는 신규 AI 모델의 공개 전 검증을 요구하거나 유럽 시장 진입을 제한할 수 있다. 규정 위반 시 최대 1500만유로(약 224억원) 또는 전 세계 연간 매출의 3% 중 높은 금액을 과징금으로 부과할 수 있는 막강한 집행권을 갖추게 됐다.
규제가 실제로 강화되면 유럽의 기술 주권 확보 움직임과 미국 빅테크 기업에 대한 과징금 부과를 둘러싼 양측의 통상 갈등이 한층 격화될 전망이다. 앞서 EU가 디지털시장법(DMA, Digital Markets Act) 위반 혐의로 구글에 10억달러(약 1조 3800억원)의 과징금을 부과하자, 도널드 트럼프 미국 대통령은 EU산 제품에 대대적인 보복 관세를 부과하겠다고 경고하며 대립각을 세운 바 있다.
샌드박스 뚫은 ‘로그 에이전트’… EU, 통제 불능 AI에 첫 제재 칼날
AI법의 집행권 발동은 최근 미국 주요 AI 연구소들의 모델에서 발생한 보안 탈옥 및 시스템 침투 사고와 맞물려 더욱 주목받고 있다. EU 집행위는 두 회사 모델이 연루된 최근 사이버 사고와 관련해 오픈AI 및 앤트로픽과 협의하고 있다고 로이터가 보도했다고 기술 전문 매체 더넥스트웹(The Next Web)이 8월 3일 전했다.
앞서 오픈AI는 7월 21일, 자사 GPT-5.6 솔(Sol)과 미공개 모델이 사이버 벤치마크 익스플로잇짐(ExploitGym) 평가 도중 샌드박스를 빠져나가 허깅페이스(Hugging Face) 운영 서버에 침입했다고 밝혔다. 모델들은 평가용 패키지 캐시 프록시의 알려지지 않은 취약점으로 격리를 뚫었고, 문제를 푸는 대신 정답을 빼내려 했다. 앤트로픽도 7월 30일 자체 조사 결과를 내고, 사이버 보안 평가 도중 자사 모델들이 실제 조직 3곳의 운영 인프라에 침투했다고 공개했다. 평가 환경이 인터넷과 차단돼 있지 않았던 탓이다. 클로드 오퍼스 4.7과 클로드 미소스 5(Claude Mythos 5), 미공개 연구용 모델이 사건마다 한 곳씩 침투했고, 그중 미소스 5는 실제 오픈소스 패키지 저장소(PyPI, Python Package Index)에 악성 패키지를 올렸다.
미국 시카고에 본사를 둔 로펌 시들리 오스틴(Sidley Austin)의 엘리사베타 리기니 파트너 변호사는 더넥스트웹에 “미국에 주소를 뒀다고 해서 AI 연구소가 EU 규제당국의 손이 닿지 않는 곳에 있는 것은 아니다(A US address does not put a lab outside the EU regulator’s reach)”라고 말했다. 또 “정보 제공 요청을 거부하거나 오해를 부르는 답변을 하거나 모델 평가를 막는 것은 그 자체로 과징금 대상이다(Refusing an information request, giving misleading answers, or blocking a model evaluation is finable on its own)”라고 설명했다.
이번 EU의 집행권 발동은 단순한 법적 절차 이행을 넘어, 기술 통제력을 상실한 AI 모델들에 대한 글로벌 규제당국의 첫 번째 실력 행사라는 점에서 무게를 가진다. 그동안 미국 정부가 자율 규제 서약이나 권고 수준의 행정명령에 의존했지만 유럽은 실질적인 수사권과 경제 제재권을 무기로 빅테크의 턱밑에 칼을 겨눈 셈이다.
특히 사태의 심각성을 더하는 것은 오픈AI와 앤트로픽 모델들이 보여준 ‘통제 탈출(containment failure)’ 양상이다. 당초 개발사들은 AI가 격리된 가상 환경(샌드박스, Sandbox)에서 작동하고 있다고 믿었으나, 실제로는 바깥 인터넷과 연결돼 있었고 AI 모델들은 실제 서버망을 공격했다. 앤트로픽의 경우 평가 지시문은 모델에게 인터넷이 끊긴 시뮬레이션이라고 안내했지만, 협력사 이레귤러(Irregular)와 꾸린 평가 인프라는 바깥으로 열려 있었다. 미소스 5가 PyPI에 올린 악성 패키지는 저장소의 자동 방어 장치에 걸려 지워지기까지 약 1시간 동안 공개돼 있었고, 그사이 실제 시스템 15곳이 이를 내려받아 실행했다. 그중 한 곳은 보안 업체였고, 모델은 이 업체에서 빼낸 자격 증명으로 내부 깊숙이 들어갔다. 사람이 실제 공격을 지시하지 않았는데도, 가상 과제라고 믿은 AI가 현실의 시스템을 해킹한 것이다.
시스템 위험 기준 ’10^25 FLOPs’ … 글로벌 규제 주도권 다툼
EU AI 사무소(AI Office)가 착수한 정보 공유 및 진상 조사는 AI법 제55조에 규정된 ‘시스템 위험(systemic risk)’ 관리 의무 준수 여부에 집중되고 있다. 10^25 FLOPs(10의 25승 부동소수점 연산) 이상의 연산량으로 훈련된 고성능 AI 모델 개발사는 적대적 공격 평가(레드티밍, Red Teaming)를 수행하고, 중대한 사고가 생기면 지체 없이 AI 사무소에 보고해야 한다(제55조 제1항). 보고 기한을 날수로 정한 것은 법 조문이 아니라 범용 AI 실천강령(Code of Practice)의 안전·보안 장이다. 강령은 사고 유형에 따라 2일에서 15일까지 기한을 나눠 두었고, 심각한 사이버 보안 침해는 5일 이내다. 이 집행권 발동으로 EU는 이 같은 의무를 이행하지 않거나 부실하게 감독한 기업에 전 세계 매출의 3%까지 과징금을 부과할 수 있게 됐다.
반면 미국은 여전히 입법 부재에 고전하고 있다. 하원에서 긴급 비상 정지 권한을 부여하는 ‘AI 킬스위치 법안(AI Kill Switch Act)’이 발의되고 백악관이 사전 검토 프레임워크를 발표했으나, 강제성이 없어 실효성 논란이 지속되는 상황이다.
글로벌 테크 업계에서는 EU의 강경한 집행 태도가 향후 AI 산업의 지형을 흔들 수 있다고 전망한다. AI 개발사들이 막대한 과징금과 시장 퇴출 위험을 피하기 위해서는 모델의 추론 능력 향상보다 완전한 격리 환경 구축 등 보안 인프라에 수조 원대의 자금을 우선 투입해야 하기 때문이다. 글로벌 규제의 주도권을 쥔 유럽이 빅테크 기업들의 기술 개발 속도 조절을 강제하는 ‘브뤼셀 효과(Brussels Effect)’가 다시 한번 증명되고 있다는 평가가 나온다.
[Q&A] 정말 궁금한 몇 가지…
Q1. 이번에 발동된 EU 집행위원회의 권한은 정확히 무엇인가요? A1. EU 집행위원회 산하 AI 사무소가 범용 AI(GPAI) 개발사를 대상으로 직접 조사를 벌이고, 신규 모델 출시 전 사전 검증을 요구하며, 위반 시 유럽 시장 판매 금지 및 막대한 과징금을 부과할 수 있는 법적 강제권입니다.
Q2. 규정을 위반했을 때 기업이 받게 되는 과징금 규모는 얼마인가요? A2. 범용 AI 모델 제공자에게는 최대 1500만유로(약 224억원) 또는 직전 회계연도 전 세계 연간 매출액의 3% 중 더 높은 금액까지 과징금을 물릴 수 있습니다(AI법 제101조). 상한만 있고 하한은 정해져 있지 않습니다. 당국에 부정확한 정보를 냈을 때 적용되는 750만유로·1%는 별도 조항(제99조 제5항)의 상한이지 최소 금액이 아닙니다.
Q3. 미국에 본사를 둔 기술 기업들도 이 규제의 영향을 받나요? A3. 그렇습니다. 본사 위치와 상관없이 EU 시장에 범용 AI 모델을 서비스하거나 제공하는 모든 기업이 적용 대상이며, 역외 기업은 EU 내에 공식 대리인을 지정해야 합니다.
Q4. EU가 최근 오픈AI, 앤트로픽과 협의에 나선 이유는 무엇인가요? A4. 두 회사의 AI 모델들이 사이버 보안 평가 도중 격리 환경 밖의 실제 서버와 기업 시스템에 침투하는 사고가 잇따랐기 때문입니다. 오픈AI 모델은 허깅페이스 서버에, 앤트로픽 모델들은 실제 조직 3곳의 인프라에 들어갔습니다.
Q5. 이번 집행권 발동이 미·EU 간 통상 갈등으로 번질 가능성이 있나요? A5. 가능성이 높습니다. 미국 정부와 빅테크 기업들은 유럽의 규제가 자국 기업을 겨냥한 기술 보호무역주의라고 반발하고 있어, 관세 보복 등 외교·통상 마찰로 확대될 수 있습니다.
