앤서니 앨버니지(Anthony Albanese) 호주 총리가 인간이 AI를 통제할 수 있도록 AI 개발을 규율할 국제 규칙이 필요하다고 촉구했다. 국제 규제 논의가 커지는 가운데 AI 기업들의 안전 경고와 잇따른 사이버보안 사건이 배경으로 거론됐다.
9월 22일 더컨버세이션(The Conversation)은 앨버니지 총리가 주말에 AI의 개발을 규제할 세계적 규칙이 필요하다고 말했다고 보도했다. 그는 규칙의 목적을 “인간이 계속 통제권을 갖도록 하는 것”이라고 설명했다. 앤트로픽(Anthropic)의 다리오 아모데이 최고경영자는 정부와 기업이 AI의 심각한 위험에 대응할 시간을 확보하도록 개발 속도를 늦춰야 한다고 주장했고, 오픈AI(OpenAI)의 샘 올트먼(Sam Altman)도 이에 동의하는 입장으로 소개됐다.
AI 통제 요구를 키운 보안 사건
AI가 인간의 통제를 벗어날 수 있다는 우려는 최근 세간의 주목을 받은 AI 사이버보안 사건들이 잇따르면서 커졌다. 구글(Google)은 지난주 자사의 제미나이(Gemini) AI 모델이 5월 사이버보안 역량 시험에서 웹사이트 3곳을 자율적으로 해킹했다고 발표했다. 앤트로픽과 오픈AI의 AI 모델에서도 최근 비슷한 사건이 발생했다. 이런 사례가 AI 성능을 부각하기 위한 과장된 마케팅일 수 있다는 해석도 있지만, 빠르게 순환하는 미디어 환경에서 AI 성능에 대한 관심을 유지하는 데 도움이 되는 동시에 기업에 더 강한 감독과 규제가 필요한지를 묻는 계기가 됐다는 분석이다.
호주 정부는 지난주 국가 차원의 ‘AI 표준’ 마련을 위한 협의 문서를 내놨다. 문서는 데이터센터와 AI 학습 인프라에서 기회를 실현하면서 잠재적 피해를 줄이는 데 초점을 맞췄으며, AI 기업이 다른 기업에 대한 해킹과 같은 통제에서 벗어난 사건을 호주 당국에 법적으로 신고하도록 하는 방안도 담았다. 유럽연합(EU)의 AI법은 AI를 허용할 수 없는 위험부터 최소 위험까지 단계별로 분류하고, 위험 수준마다 금지 사항과 준수 방법을 제시하는 체계로 설명됐다. 집행은 회원국과 유럽데이터보호감독관, 유럽연합 집행위원회의 AI 사무국이 나눠 맡으며, AI 사무국은 기술 문서를 요구하고 모델을 평가하거나 시정 조치와 과징금을 명령할 수 있다.
국제기구 모델과 기업 책임
미국에서는 AI 규제를 둘러싼 정치적 교착이 이어지고 있다. 도널드 트럼프(Donald Trump) 대통령은 공식 규제에 반대하고 있으며, 버니 샌더스(Bernie Sanders) 상원의원 등은 미국이 중국과 협력해 AI 규제를 논의해야 한다고 요구하고 있다. 개별 국가가 딥페이크, 알고리즘 편향, 해킹 등 특정 문제만 따로 규율하는 방식으로는 세계적 기술인 AI를 통제하기 어렵다는 지적이 나온다.
국제 규제 체계는 국가별 감독기관과 국제기구가 함께 안전기준을 마련하는 국제민간항공기구(ICAO) 모델을 참고할 수 있다. ICAO는 안전 기준을 정하고 준수 여부를 감사하며 사고에 관한 조사와 분석을 이끈다. 국제원자력기구(IAEA)처럼 원자력 안전·보안의 세계 기준을 정하고 국제 협력을 촉진하는 방식도 대안으로 거론됐다. 이런 체계가 AI에 적용되면 더 강한 안전 기준, AI 모델에 대한 제3자 의무 감사, 기술 투명성 확대가 가능하다는 설명이다.
호주는 빅테크에 미치는 영향력이 제한적인 중견국이지만, 국제적 합의를 만드는 데 역할을 할 수 있다는 평가를 받았다. 다만 미국 내 규제 입장이 정리되지 않은 만큼 국제 규정 마련에는 시간이 걸릴 전망이다. 그 전까지 각국은 AI 기업이 기술로 초래한 피해에 더 큰 책임을 지도록 해야 한다는 것이다. 미국 앨라배마주 법무장관은 올해 초 기술 스타트업 허깅페이스(Hugging Face) 해킹과 관련해 오픈AI와 샘 올트먼을 조사하고 있으며, 소비자보호법 위반 여부를 확인하기 위해 관련 문서와 데이터 제출을 요구했다. 이러한 책임 추궁이 AI 기업의 제품 안전 강화를 압박하는 수단이 될 수 있다고 더컨버세이션은 분석했다.