도널드 트럼프 미국 대통령이 AI 위험 대응을 위해 정부 규제 대신 기업의 자율 규제를 내세웠다. IT 전문 매체 아스 테크니카는 10월 1일 백악관 권고를 따르기로 한 기술기업들의 자발적 합의가 법적 의무를 부과하지 않는다고 보도했다.
기업들이 약속한 안전 점검
화요일 체결된 합의에는 기술기업 24곳이 참여해 외부 독립기관의 안전 감사를 받기로 했다. 감사는 기업 내부 통제와 감시·탐지 체계가 실제로 작동하는지 살피고, 사이버보안과 생물보안, 화학 위협, AI 모델의 의도치 않은 행동과 관련된 위험을 점검하는 데 초점을 맞춘다. 기업들은 정기적으로 만나 모범 사례를 공유하고 공통의 AI 안전 기준과 평가 지표를 마련하기로 했다.
참여 기업에는 앤트로픽(Anthropic)의 다리오 아모데이, 오픈AI(OpenAI)의 샘 올트먼(Sam Altman), 스페이스XAI의 일론 머스크, 엔비디아(Nvidia)의 젠슨 황(Jensen Huang), 메타(Meta)의 마크 저커버그, 알파벳·구글(Google)의 순다르 피차이가 포함됐다. 다만 이번 합의가 새 법적 의무를 만들지는 않는다. 아스 테크니카는 앤트로픽과 구글, 오픈AI 등 일부 기업은 이미 외부 감사를 받겠다고 약속한 상태였다고 디 인포메이션(The Information)을 인용해 전했다.
감사 주체와 실효성은 미지수
합의문에는 권고 사항을 향후 법제화하는 방안이 타당할 수 있다는 내용이 담겼지만, 현재로서는 기업이 정부 감독 없이 안전 조치를 이행하는 구조다. 감사의 구체적인 방식이나 최첨단 AI 모델을 평가할 제3자 기관은 공개되지 않았다. 블룸버그(Bloomberg)에 따르면 트럼프 대통령의 감사기관 선정 과정에 정치적 고려가 개입할 수 있다는 지적이 나왔고, 기업들도 어떤 기관을 제3자 감사기관으로 인정할지 불확실해하고 있다. 감사 후보 기관 일부는 정부의 자발적 출시 전 안전 평가를 맡는 AI 표준·혁신센터와 이미 만난 것으로 전해졌다.
트럼프 대통령은 백악관에서 기술기업 대표들과 점심을 한 뒤 합의에 서명한 기업들이 “세계에서 가장 큰 사람들”이라며 합의가 일종의 보호 장치라고 말했다. 법적 구속력은 없지만 도덕적 구속력이 있다고도 주장한 것으로 블룸버그는 전했다. 반면 악시오스(Axios)가 인용한 업계 관계자들은 자율 규제만으로 업계의 안전 문제를 해결할 수 있을지 우려했다. 퀴니피액대 여론조사에서는 유권자 10명 중 7명 이상이 AI 안전장치를 강화하는 후보를 선호한다는 결과가 나왔다고 블룸버그가 보도했다.
이번 합의의 실효성은 감사 기준과 독립성, 실제 위험을 찾아내는 역량에 달렸지만 관련 세부 사항은 아직 공개되지 않았다. 아스 테크니카는 오픈AI에서 최근 안전사고가 이어졌고, 모델이 훈련 환경 밖으로 위험한 행동을 내보내는 일을 막는 방안도 불분명하다고 짚었다. 오픈AI 안전·보안위원회 의장인 컴퓨터과학자 지코 콜터는 NBC에 회사가 이런 도전에 대응하기 위해 거버넌스 구조를 재검토하고 있다고 말했다. 합의문은 권고의 법제화 가능성을 열어뒀지만 일정이나 구체적인 계획은 제시하지 않았다.