미국 법무부(DOJ)가 경쟁 AI 기업들이 안전 문제를 공동으로 다룰 때 어디까지 협력할 수 있는지를 명확히 하는 반독점 지침을 검토하고 있다. 오픈AI(OpenAI)와 앤트로픽(Anthropic), 구글(Google) 등 경쟁사들이 AI 안전을 이유로 공동 대응에 나서면서, 안전 협력과 경쟁 제한의 경계를 정부가 구체화할 필요성이 커졌기 때문이다.
블룸버그 로는 9월 17일 “스탠리 우드워드 주니어(Stanley Woodward Jr.) 미 법무부 차관이 AI가 초래하는 새로운 위협에 대응하기 위해 기존 사이버보안 분야의 부처 간 반독점 지침을 개정할지를 정부가 검토하고 있다고 밝혔다”고 보도했다.
핵심은 AI 기업들의 ‘안전 협력’ 자체를 법무부가 반경쟁 행위로 보고 있지는 않다는 점이다. 로이터는 이날 “우드워드가 AI 안전 문제를 둘러싼 기업 간 공조는 반경쟁적으로 보이지 않는다고 말했다”고 보도했다. 우드워드는 “사이버보안이나 보안에 관해 협력하는 것이 반경쟁적이라고는 생각되지 않는다(It doesn’t occur to me that coordinating on cybersecurity or security is anti-competitive)”고 말했다.
다만 법무부가 AI 기업에 포괄적인 반독점 면책을 주겠다는 뜻은 아니다. 로이터에 따르면 우드워드는 법무부 반독점국이 기업들과 만날 의향이 있지만, 현재까지 첨단 AI 모델을 개발하는 ‘프런티어 AI 연구소’들이 반독점 문제를 논의하기 위한 면담을 요청하지 않았다고 밝혔다.
사이버보안 협력 지침을 AI로 확대하나
법무부가 검토하는 출발점은 기존 사이버보안 분야의 반독점 정책이다. 미 법무부 반독점국의 현행 지침 목록에는 법무부와 연방거래위원회(FTC)가 2014년 발표한 ‘사이버보안 정보 공유에 관한 반독점 정책 성명(Antitrust Policy Statement on Sharing of Cybersecurity Information)’이 포함돼 있다. 경쟁 기업끼리 사이버 위협 정보를 공유하는 행위가 일정한 조건 아래에서 반독점법 위반으로 간주되지 않는다는 방향을 제시한 지침이다.
AI에서도 비슷한 문제가 생기고 있다. 모델의 위험성 평가, 사이버 공격 정보, 안전성 시험 방식이나 기술 표준을 공동으로 만드는 것은 안전을 높일 수 있다. 그러나 경쟁 기업들이 모델 출시 시기나 개발 속도, 생산량처럼 경쟁의 핵심 요소까지 합의하면 미국 반독점법의 적용 문제가 달라질 수 있다.
실제 기업 간 협력은 이미 진행되고 있다. 테크크런치는 9월 15일 “오픈AI의 글로벌 정책 책임자 크리스 리헤인(Chris Lehane)이 오픈AI가 수주 동안 앤트로픽 및 구글 딥마인드(Google DeepMind)와 AI 안전 문제를 협의해 왔다고 밝혔다”고 보도했다. 리헤인은 이 같은 협력을 위해 별도의 반독점 면책이 필요하다고 보지 않는다는 입장이다.
‘안전 기준’과 ‘개발 속도 합의’는 다른 문제
논쟁이 커진 직접적인 계기는 앤트로픽 최고경영자(CEO) 다리오 아모데이(Dario Amodei)의 AI 개발 속도 조절 제안이다. 로이터는 9월 12일 “아모데이가 AI 안전 대책이 기술 발전을 따라잡을 시간을 확보하기 위해 업계가 모델 개발 속도를 늦춰야 한다고 주장했다”고 보도했다.
여기서 일반적인 안전 협력과 반독점 문제가 충돌한다. 경쟁사들이 안전성 평가 방법이나 사이버 위협 정보를 공유하는 것과 경쟁사들이 서로 모델 출시나 개발 속도를 늦추기로 합의하는 것은 법적으로 같은 행위가 아니다.
FTC도 이 차이를 경계하고 있다. 로이터는 9월 15일 “앤드루 퍼거슨(Andrew Ferguson) FTC 위원장이 규제를 요구하는 대형 AI 기업들이 동시에 반독점법 적용 예외를 요구하는 데 대해 ‘모두가 매우 의심해야 한다(everyone should be deeply suspicious)’고 말했다”고 보도했다. 당시 전문가들은 로이터에 현행 반독점법 아래에서도 재앙적 위험을 막기 위한 일정한 협력은 가능하다고 설명했다.
따라서 법무부가 실제 지침 개정에 나선다면 쟁점은 단순히 “AI 안전 협력을 허용할 것인가”에서 그치지 않을 것으로 알려졌다. 안전성 시험, 위험 정보 공유, 공동 기술표준처럼 경쟁을 직접 제한하지 않는 협력과 모델 출시·개발 속도 등 시장 경쟁 자체에 영향을 주는 합의를 어디에서 구분할지가 핵심이 된다.
법무부는 이미 AI와 알고리즘을 기업의 반독점 컴플라이언스 문제로 다루고 있다. 법무부 반독점국은 지난 5월 공개한 알고리즘 시대의 반독점 컴플라이언스 관련 연설에서 기업이 AI와 알고리즘 도구를 도입할 때 반독점 위험을 평가하고, 경쟁상 민감한 정보를 제3자를 통해 교환하는 경우 그 정보 교환의 적법성을 검토해야 한다고 강조했다.
유럽 규제당국도 같은 문제를 다루기 시작했다. 유럽연합(EU) 경쟁정책 책임자인 테레사 리베라(Teresa Ribera) 유럽연합 집행위원회 수석부위원장은 9월 17일 뉴욕 포덤대 행사에서 “규제기관끼리뿐 아니라 규제기관과 기업 사이에도 협력이 필요하다”며 “위험이 공유될 때 협력은 모두의 이익(This is a classic game theory problem: when the risks are shared, cooperation is in everyone’s interest)”이라고 말했다고 로이터가 전했다.
Q&A
Q1. DOJ가 AI 기업에 반독점법 면책을 주기로 한 것인가?
아니다. 현재 확인된 것은 법무부가 기존 사이버보안 분야의 반독점 지침을 AI 위험에 맞게 개정할지를 검토하고 있다는 것이다. 우드워드는 안전·보안 협력 자체가 반경쟁적으로 보이지 않는다고 말했지만, AI 기업 전체에 포괄적인 면책을 부여한다고 밝히지는 않았다.
Q2. 경쟁 AI 기업들이 공동으로 안전 기준을 만드는 것은 불법인가?
그 자체로 곧바로 불법이라고 볼 수는 없다. 안전성 시험 방법이나 사이버 위협 정보 공유, 기술표준 개발과 경쟁사 간 가격·생산량·시장 배분 또는 개발 속도 제한 합의는 반독점법상 성격이 다를 수 있다. 구체적인 협력 방식과 경쟁 제한 효과가 중요하다.
Q3. 왜 앤트로픽의 ‘AI 개발 속도 조절’ 제안이 반독점 문제가 되나?
독립적으로 경쟁해야 하는 기업들이 공동으로 제품 개발이나 출시 속도를 제한하면 시장 공급과 경쟁 조건에 영향을 줄 수 있기 때문이다. 반면 개별 기업이 독자적으로 개발 속도를 조절하거나 경쟁사들과 안전성 평가 방법을 공유하는 것은 별도의 법률 분석이 필요하다.
Q4. 이번 DOJ 검토가 중요한 이유는 무엇인가?
오픈AI·앤트로픽·구글 등 주요 AI 기업 사이에서 실제 안전 협의가 진행되는 가운데, 미국 정부가 ‘허용 가능한 안전 협력’과 ‘경쟁을 제한할 수 있는 기업 간 합의’의 경계를 보다 구체적으로 제시할 가능성이 생겼기 때문이다.
