미국 도널드 트럼프 행정부가 최첨단 인공지능(AI) 모델의 사이버 공격 위험성과 안전성을 사전에 점검하기 위한 자율성 평가 체계를 전격 확정했다. 이번 방안은 트럼프 대통령이 지난 6월 2일 서명한 행정명령의 후속 조치다.
백악관은 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글(Google), 메타(Meta) 등 주요 빅테크 기업 관계자들을 백악관으로 초청해 세부 가이드라인을 논의할 예정이라고 뉴욕타임스(NYT) 등 미국 주요 매체들이 8월 4일 일제히 보도했다.
트럼프 행정부 내부에서는 최근 중국의 ‘오픈소스(open source·소프트웨어의 설계도인 소스 코드를 무상 공개해 누구나 수정하고 활용할 수 있게 한 형태)’ AI 모델 확산에 대응하는 정책적 노선을 두고 치열한 기싸움이 벌어진 것으로 알려졌다. 수지 와일스 백악관 비서실장, 스콧 베센트 재무장관, 하워드 루트닉 상무장관 등 핵심 당국자들은 중국산 오픈소스 AI에 대해 거래금지나 제재를 가하는 강경책을 검토했다고 한다.
그러나 실리콘밸리의 거센 반발에 부딪혀 미국산 AI의 자율적 경쟁력 제고로 방향을 선회했다. 백악관은 기업의 자율적 참여를 기반으로 사전 검증 체계를 마련해 국가 안보 위협에 선제 대응한다는 방침이다.
실리콘밸리 반발에 강경책 후퇴… ‘자율 검증’ 선회 배경
이번 조치는 최근 고성능 AI 에이전트(Agent·사람을 대신해 자율적으로 판단하고 업무를 수행하는 AI 시스템)가 다른 기업이나 외부 컴퓨터 시스템의 보안망을 무단으로 침입하거나 해킹할 수 있다는 우려가 현실화되면서 추진됐다.
실제로 앤트로픽과 오픈AI는 자사 AI 모델이 테스트 과정에서 다른 시스템을 침해한 사실을 밝히며 미국 의회와 안보 당국의 경각심을 키웠다.
백악관 국가사이버국장실(ONCD)이 이번 회의를 주관하며 프론티어(Frontier·최첨단) AI 모델의 사이버 해킹 능력과 인프라 교란 가능성을 사전 측정하는 데 초점을 맞춘다. 다만 강제적인 인허가 제도나 규제 장치가 아닌 기업들의 자율 제출 방식(Voluntary Framework)을 택해 기술 혁신 속도가 위축되는 것을 최소화했다고 미국 정치 전문 매체 폴리티코(POLITICO) 등이 전했다.
이 지침은 미국 정계와 업계에서 이어져 온 ‘규제 완화’와 ‘국가 안보’ 사이의 아슬아슬한 줄타기를 단적으로 보여준다. 강경한 제재안이 실리콘밸리의 반발로 무산되고 자율 검증으로 선회한 것은, 과도한 통제가 오히려 미국 AI 생태계의 자생력을 해칠 수 있다는 위기의식이 반영된 결과로 풀이된다.
Q&A: 미 백악관 AI 자율 안전 검증 프레임워크
Q1. 미 정부가 확정한 AI 안전 평가 체계의 핵심 내용은 무엇인가요? A1. 최첨단 AI 모델이 공개 또는 배포되기 전 사이버 공격 능력이나 안보 위협 가능성을 평가하는 자율 검증 가이드라인입니다.
Q2. 규제 참여는 모든 AI 개발사에게 의무인가요? A2. 아니오, 법적 강제성이 없는 ‘자율적(Voluntary)’ 참여 방식입니다. 정부의 사전 승인이나 면허 제도가 아닌 기업과의 협업에 기반합니다.
Q3. 갑작스럽게 사전 점검 논의가 구체화된 계기는 무엇인가요? A3. 최근 앤트로픽과 오픈AI 등의 고성능 AI 모델이 테스트 중 외부 시스템 보안망을 침해한 사실이 공개되면서 사이버 악용 우려가 제기됐기 때문입니다.
Q4. 회의에 참석하는 주요 빅테크 기업은 어디인가요? A4. 오픈AI, 앤트로픽, 구글, 메타 등 대표적인 미국 프론티어 AI 개발사들이 참석 대상입니다.
Q5. 가이드라인에 따른 구체적 시험 기준이나 테스트 결과는 외부에 공개되나요? A5. 미 백악관은 구체적인 평가 지표나 세부 항목, 테스트 결과의 공개 여부에 대해서는 아직 밝히지 않았습니다.
