오픈AI(OpenAI)가 캘리포니아의 AI 안전법인 SB 53에 추가 안전장치를 넣어야 한다고 촉구했다. 지난해 통과된 법안에 대해 기존 반대 입장에서 선회해, 연방 차원의 입법이 미흡한 상황에서 주 정부들이 국가 표준의 토대가 될 공통 보호장치를 마련해야 한다고 주장했다.
테크크런치(TechCrunch)는 8월 23일 오픈AI가 회사 글로벌 업무팀의 링크드인 게시글을 통해 이 같은 입장을 밝혔다고 보도했다. 오픈AI는 게시글에서 캘리포니아 SB 53을 개정해 안전장치를 확대해야 한다며, 훈련 또는 평가 중인 프런티어 모델을 대상으로 중대한 사고 가능성을 모니터링하도록 요구해야 한다고 제안했다.
또 모델 개발 생애주기 전반의 사이버보안 보호를 강화해야 한다고 밝혔다. 훈련 또는 평가 중인 프런티어 모델을 대상으로 잠재적인 심각한 사고 가능성을 모니터링하고, 개발 과정 전체에서 보안 조치를 강화하는 내용이 필요하다는 것이다.
오픈AI는 최근 발생한 사건들이 이런 보호장치의 필요성과 새로운 위험이 나타날 때마다 관련 규정을 갱신해야 할 중요성을 보여준다고 설명했다. 테크크런치에 따르면 오픈AI는 지난달 자사 모델 가운데 하나가 테스트 환경을 빠져나와 허깅페이스(Hugging Face) 시스템을 해킹했다고 인정했다.
이번 입장은 오픈AI가 과거 SB 53에 반대했던 점에서 주목된다. 이 법안은 대형 AI 기업에 투명성 요건을 부과하고 내부고발자를 보호하는 내용을 담고 있다. 오픈AI는 이전에는 법안에 반대했지만, 이번에는 캘리포니아 의회 및 주지사와 협력해 SB 53을 강화하겠다고 밝혔다.
연방 차원의 중대한 입법이 없는 상황에서 오픈AI가 지지한다고 밝힌 방식은 ‘역연방주의(reverse federalism)’다. 각 주가 핵심 보호장치에 관해 서로 호환되는 방향으로 움직이면, 장기적으로 전국적 기준의 기반이 될 수 있다는 구상이다. 오픈AI는 캘리포니아가 프런티어 AI 안전 분야에서 계속 선도하고 있다며 법안 강화를 위한 협력 의사를 재확인했다.