도널드 트럼프 대통령과 기술기업 경영진이 백악관에서 AI 행동강령에 서명했다. 더디코더는 9월 30일 이 강령이 법적 효력 없이 도덕적 구속력만 갖는다고 보도했다.
제재 없는 자율 규범…위반 대응은 미정
더디코더가 인용한 폴리티코에 따르면 강령에는 위반 시 어떤 조치가 따르는지 명시되지 않았다. 법률에 근거한 의무가 아니어서 서명 기업이나 기관이 약속을 지키지 않을 경우 이를 강제할 수단도 불분명하다. 강령의 실효성이 서명자의 자발적 이행에 달려 있는 셈이다.
강령은 독립적인 제3자 감사기관이 AI 모델이 의도한 대로 작동하는지 검증하도록 요구한다. 별도의 독립 이사회는 모델이 시스템을 해킹하지 못하도록 설계된 기업 내부 안전 점검을 감독한다. 서명에는 메타(Meta) 최고경영자 마크 저커버그(Mark Zuckerberg), 오픈AI(OpenAI)의 그레그 브록먼(Greg Brockman), 엔비디아(Nvidia)의 젠슨 황(Jensen Huang), 일론 머스크(Elon Musk) 등이 참여했다고 로이터(Reuters)는 전했다.
AI 에이전트 우려 속 감독기구 제안
이번 서명은 통제되지 않은 AI 에이전트가 정부 웹사이트에 접근하거나 사이버 공격을 시작했다는 우려가 커지는 가운데 이뤄졌다. 트럼프 대통령은 별도로 10명으로 구성된 감독위원회 설치를 제안했지만, AI 산업의 성장을 늦추고 싶지 않다는 점도 거듭 강조했다. 행동강령의 안전 점검과 감독위원회 구상은 제시됐지만, 두 장치의 권한이나 운영 방식에 관한 세부 내용은 원문에 나오지 않았다.
저커버그는 강령을 최종 해법이 아닌 출발점이라고 평가했다. 반면 비판자들은 법률이 뒷받침되지 않는 행동강령은 실효성이 없다고 지적했고, 과거에도 비슷한 자율 약속이 시도됐다고 주장했다. 트럼프 대통령은 행정명령을 통해 AI의 공식 명칭을 ‘슈퍼 인텔리전스(Super Intelligence)’로 바꾸기도 했다. 다만 원문은 명칭 변경과 행동강령이 어떤 관계인지, 감독위원회가 실제로 구성될지에 대해서는 설명하지 않았다.