미국 인공지능(AI) 기업들이 안전을 이유로 경쟁사끼리 AI 개발 속도와 안전 기준을 협의할 수 있도록 반독점법 적용을 일부 면제해 달라고 요구하자 미 연방거래위원회(FTC) 수장이 공개적으로 제동을 걸었다. AI 안전을 위한 기업 간 협력이 필요한지에 대한 논쟁이 ‘안전 대 혁신’ 문제를 넘어, 소수 대형 AI 기업이 규제와 시장의 규칙을 함께 만들 수 있느냐는 경쟁정책 문제로 번지고 있다.
로이터는 9월 15일 “앤드루 퍼거슨(Andrew Ferguson) FTC 위원장이 AI 기업들이 새로운 규제를 요구하면서 동시에 반독점법 면제를 요청하는 데 대해 ‘모두가 깊이 의심해야 한다’고 말했다”고 보도했다. 퍼거슨은 워싱턴 조지타운대 행사에서 자신의 개인적 견해라는 점을 전제로 “기업들이 워싱턴에 와서 여러 규제와 반독점 면제를 동시에 요구한다면 내 모든 경보음이 울린다”고 말했다.
퍼거슨은 특정 기업을 직접 지목하지 않았다. 그러나 발언은 앤트로픽(Anthropic) 최고경영자(CEO) 다리오 아모데이(Dario Amodei)가 최근 제안한 ‘AI 개발 속도 조절’ 방안을 겨냥한 것으로 받아들여지고 있다고 매체는 전했다. 퍼거슨은 규제와 반독점 면제가 결합하면 기존 기업을 경쟁으로부터 보호하는 진입장벽으로 작용할 가능성을 문제 삼았다.
앤트로픽 “AI 개발 속도 늦추려면 기업 간 안전 협의 필요”
논쟁의 출발점은 아모데이가 이달 공개한 ‘우리는 최전선의 속도를 조절해야 한다(We Must Pace the Frontier)’는 글이다. 그는 AI가 다음 세대 AI 개발을 돕는 ‘재귀적 자기개선(recursive self-improvement)’ 단계로 빠르게 접근하면서 안전 연구가 기술 발전을 따라가지 못할 위험이 커지고 있다고 주장했다.
아모데이는 대응 방안을 3단계로 제시했다. 개별 AI 기업이 외부 평가기관에 지속적인 접근 권한을 주는 방안, 미국 AI 기업들이 공동으로 안전 기준과 개발 속도를 조정하는 방안, 미국과 동맹국을 넘어 중국 등을 포함하는 국제적 협력 체계를 만드는 방안이다.
문제는 두 번째 단계다. 경쟁 기업들이 모델 개발 속도나 생산·출시 전략을 공동으로 조정하면 미국 반독점법의 적용 대상이 될 수 있다. 아모데이는 이 때문에 미국 정부가 특정 안전 논의를 위해 제한적인 반독점 면제를 허용할 필요가 있다고 주장했다.
그러나 워싱턴의 반응은 우호적이지 않다. 기업이 책임 있게 행동하거나 안전 문제를 논의하는 데 반드시 별도의 반독점 면제가 필요한 것은 아니라는 지적이 정부와 경쟁법 전문가들 사이에서 나오고 있다.
기존 경쟁법으로도 ‘안전 정보 공유’ 가능
이번 논쟁에서 중요한 쟁점은 “AI 기업이 안전 문제를 논의하면 곧바로 반독점법 위반이 되느냐”다. 미국 정부의 기존 경쟁정책은 그렇지 않다는 쪽에 가깝다.
미 법무부(DOJ)와 FTC가 2014년 공동 발표한 ‘사이버보안 정보 공유에 관한 반독점 정책 성명’은 “적절하게 설계된 사이버 위협 정보 공유는 경쟁법상 문제가 될 가능성이 낮다”고 밝혔다. 기술적인 위협 정보 공유는 가격, 생산량, 향후 사업계획처럼 경쟁에 민감한 정보를 경쟁사끼리 교환하는 것과 성격이 다르다는 것이다.
따라서 AI 취약점이나 사이버 공격 정보, 모델 안전성 평가 결과 등을 기업들이 공유하는 것과 경쟁사들이 모델 개발 속도나 출시 시기를 공동으로 제한하는 것은 경쟁법상 같은 문제가 아니다. 아모데이의 제안이 논쟁을 일으킨 이유도 단순한 안전 정보 공유를 넘어 AI 기업들이 기술 발전의 ‘속도’를 함께 조절하는 방안을 포함하고 있기 때문이다.
실제로 로이터는 이날 “오픈AI(OpenAI)의 글로벌 정책 책임자 크리스 리헤인(Chris Lehane)이 오픈AI가 앤트로픽, 구글 딥마인드(Google DeepMind)와 이미 수주간 AI 안전 문제를 논의해 왔으며 별도의 반독점 면제가 필요하다고 보지 않는다고 말했다”고 보도했다.
코히어도 반발…“누가 AI 규칙을 만드는가”
대형 AI 기업 내부에서도 의견은 갈린다. 캐나다 AI 기업 코히어(Cohere)의 공동창업자 겸 최고경영자 에이단 고메즈(Aidan Gomez)는 9월 13일 공개한 ‘누가 AI의 규칙을 정하는가(Who Gets to Define the Rules for AI?)’라는 글에서 아모데이의 제안을 공개적으로 비판했다.
고메즈는 고성능 AI 시스템에 대한 독립적 검증 자체에는 동의하면서도 “소수의 대형 AI 연구소가 공동 기준과 기술 발전 속도를 정하고 정부가 이를 다른 개발 업체에 적용하는 구조는 시장 경쟁을 제한할 수 있다”고 주장했다. 특히 “안전 기준을 만드는 주체와 평가기관을 감독하는 주체, 규칙 제정 과정에 참여할 수 있는 기업의 범위가 명확해야 한다”고 지적했다.
논쟁은 9월 16일 한 단계 더 확대됐다. 로이터는 “메타(Meta) CEO 마크 저커버그(Mark Zuckerberg)가 경쟁과 법적 책임만으로도 AI 기업들이 개별적으로 안전하게 개발할 충분한 유인이 있다며 업계 차원의 공동 감속론과 거리를 뒀다”고 보도했다. 저커버그는 메타가 AI 에이전트의 보안을 강화하기 위해 출시를 미룬 사례를 들며 다른 회사의 동참을 조건으로 삼지 않고 개별 기업이 안전 조치를 취할 수 있다고 주장했다.
결국 이번 논쟁의 핵심은 AI 안전 협력 자체보다 협력의 범위라고 매체들은 전했다 . 취약점이나 안전 평가 정보를 공유하는 수준과 경쟁 기업들이 기술 개발·출시 속도를 공동으로 제한하는 것은 미국 경쟁법에서 서로 다른 문제를 제기하 때문이다.
고메즈는 코히어 공식 발표에서 “실리콘밸리의 두세 기업이 전 세계 모든 정부를 상대로 AI의 창조자이자 문지기, 규칙 제정자 역할을 해야 한다는 생각은 말로 꺼내는 순간 설득력을 잃는다(The idea that two or three Silicon Valley companies should act as the creator, gatekeeper, and rulemaker for AI for every government on earth doesn’t survive being said out loud)”고 주장했다.
Q&A
Q. 반독점법 면제(antitrust waiver)란 무엇인가?
경쟁 기업끼리 가격이나 생산량, 시장 전략 등을 합의하면 통상 반독점법 문제가 생길 수 있다. 특정한 공익 목적을 위해 제한된 범위의 기업 간 협력에 대해 경쟁법상 예외를 두는 것이 이번 논쟁에서 말하는 ‘면제’다. 아모데이는 AI 안전과 개발 속도 조정을 논의하기 위한 제한적인 면제를 주장했다.
Q. AI 기업들이 안전 문제를 함께 논의하면 현재도 반독점법 위반인가?
반드시 그렇지는 않다. DOJ와 FTC는 2014년 공동 정책 성명에서 사이버보안처럼 기술적인 위협 정보를 적절하게 공유하는 것은 일반적으로 경쟁법상 문제가 될 가능성이 낮다고 밝혔다. 다만 가격·생산량·향후 사업계획 등 경쟁에 민감한 정보를 공유하거나 경쟁을 제한하는 합의를 하면 별개의 문제가 된다. 법무부
Q. 앤트로픽은 왜 굳이 반독점 면제를 요구했나?
아모데이의 구상은 단순한 취약점 정보 교환을 넘어 AI 기업들이 모델 성능 향상의 속도를 함께 조절하는 단계까지 포함한다. 경쟁사들이 기술 개발 속도를 공동으로 제한하는 것은 일반적인 안전 정보 공유보다 경쟁법상 위험이 크기 때문에 정부의 제한적인 면제가 필요하다는 것이 그의 주장이다.
