AI 선도 기업들이 안전 기준 마련을 요구하면서도 기준 설계와 감독 방식의 주도권을 쥐려 한다는 전문가들의 지적이 나왔다. 매셔블(Mashable)은 9월 26일 앤트로픽·오픈AI·구글 딥마인드 경영진의 발언과 전문가 인터뷰를 토대로 이같이 보도했다.
기업들이 원하는 AI 안전 기준은
퓨처 오브 라이프 연구소(Future of Life Institute) 최고경영자 겸 회장 앤서니 아귀레(Anthony Aguirre)는 AI 기업들이 최근 자사의 기술을 안전하게 통제하기 어렵다는 점을 인정하기 시작했다고 말했다. 다만 아귀레는 기업들이 안전 기준 마련 절차를 직접 통제하려 한다며, 그 결과로 자율 규제와 기업이 정한 조건에 따른 투명성·책임성, 반독점법 관련 보장을 원할 수 있다고 설명했다.
아귀레는 앤트로픽 최고경영자 다리오 아모데이(Dario Amodei), 오픈AI 최고경영자 샘 올트먼(Sam Altman), 구글 딥마인드 공동창업자 데미스 허사비스(Demis Hassabis) 등이 안전 문제를 인정하면서도 범용인공지능(AGI) 개발 목표를 포기하지 않았다고 지적했다. AGI는 인간과 같거나 그 이상의 지능을 갖춘 AI를 뜻한다. 아귀레는 AGI가 많은 일자리를 자동화하고 AI가 인간의 지도자를 대신하는 상황으로 이어질 수 있다고 우려하며, 기업들이 AGI 개발에서 방향을 완전히 바꿔야 한다고 주장했다. 다만 기업들이 이를 받아들이지는 않을 것으로 봤다.
자율 규제와 외부 감독의 한계
휴먼 테크놀로지 센터(Center for Humane Technology)의 정책·연구 수석 매니저 피트 펄롱(Pete Furlong)은 업계가 규제가 필요한 분야를 언급하면서도 실제 행동은 발언과 일치하지 않을 수 있다고 매셔블에 말했다. 그는 주요 기업들이 업계 선도 지위를 지키려 하고, 위험과 해결책에 관한 대중의 참여를 제한하는 폐쇄적인 절차를 원할 수 있다고 지적했다. 허사비스는 7월 서브스택(Substack)에 올린 미국이 연방정부 감독을 받는 기존 공공·민간 협력체나 자율 규제기관을 본뜬 기준 기구를 만들자고 제안했다. 금융산업규제청(FINRA)을 사례로 들며 AI 모델 평가 절차를 마련하고 국가안보 시험을 위해 연방기관과 협력하는 구상을 제시했다.
아모데이는 앤트로픽이 투명성과 제3자 감사를 포함한 선별적 AI 규제를 지지한다고 밝혔다. 법 제정에 시간이 걸리는 만큼 기업들이 자발적으로 기준을 정하고, 상시 참여하는 외부 평가자가 이를 검증하는 방안도 지지했다. 아모데이는 앤트로픽이 안전 업무에서 이런 평가자를 활용하겠다고 약속했다. 그러나 민주주의기술센터(Center for Democracy and Technology) AI 거버넌스 연구소의 선임 기술자 맷 오쇼너시(Matt O’Shaughnessy)는 독립 평가만으로 감독이 이뤄진다면 책임성이 오히려 약해질 수 있다며 추가 장치가 필요하다고 말했다.
펄롱은 앤트로픽이 생물무기와 대규모 감시 등 AI 위험을 다룬 종합 안전 보고서를 공개한 점을 긍정적으로 평가했다. 오픈AI 에이전트가 다른 회사를 해킹한 허깅페이스(Hugging Face) 사건을 독립 연구자들이 조사한 것도 의미가 있지만, 조사 기간 제한 등 오픈AI가 둔 제약은 컸다고 덧붙였다. 아귀레는 기업들이 공개적으로 투명성을 지지하는 것과 로비 활동 사이에 간극이 있다고 주장했다. 기업들이 챗봇의 위험한 조언 등 최악의 상황에 책임지는 것을 피하려 할 수 있다는 우려도 나왔다. 아모데이는 안전 기준 논의를 둘러싼 반독점 소송 우려를 해소하기 위해 정부가 논의를 중재하거나 특정 안전 논의에 한정된 면책을 허용해야 한다고 제안했다.