공개형 AI 모델은 연구와 비용 절감, AI 접근성 확대에 이점이 있지만 악용될 위험도 있어 안전성과 개방성 사이의 균형이 쟁점으로 떠올랐다. MIT 테크놀로지 리뷰는 10월 13일 공개형 모델의 장점과 위험, 이를 둘러싼 정책 논쟁을 분석했다.
공개형 모델, 연구와 접근성에 이점
공개형 모델은 내려받아 직접 실행할 수 있고, 내부 구조를 나타내는 모델 가중치도 공개된다. 반면 챗GPT(ChatGPT)와 클로드(Claude) 같은 폐쇄형 모델은 웹사이트나 앱, API를 통해 이용한다. 학습 절차 등 더 많은 정보를 공개하는 모델과 구분하기 위해 공개형 모델을 ‘가중치 공개 모델’이라고 부르기도 한다.
성능에서는 폐쇄형 모델이 앞서지만 격차는 좁혀지고 있다. 발행 시점 기준 아티피셜 애널리시스(Artificial Analysis)의 대규모 언어 모델 순위 상위 8개는 모두 폐쇄형 모델이었다. 다만 공개형 모델도 개발 속도 면에서 몇 달 정도 뒤처진 수준이라고 매체는 전했다. 내려받은 모델은 자체 컴퓨터나 저장장치에서 실행할 수 있고, 전문성과 자원이 있으면 다시 학습시켜 작동 방식을 바꿀 수 있다.
연구자는 폐쇄형 모델에 질문을 보내고 답을 관찰하는 수준을 넘어 공개형 모델의 내부 작동과 답변 전 추론 과정인 사고사슬(CoT)을 살펴볼 수 있다. 여러 모델을 결합해 새 시스템을 만들거나, 모델을 압축해 효율을 높이고 특정 용도에 맞게 미세 조정하는 것도 가능하다. 기업은 민감한 정보나 독점 자료를 다룰 때 자체 장비에서 모델을 실행해 보안을 유지할 수 있으며, 모질라의 최근 보고서에 따르면 공개형 모델은 외부 업체를 통해 운영하더라도 일반적으로 폐쇄형 모델보다 비용이 낮다.
악용 위험과 권력 집중 논쟁
앤트로픽(Anthropic)은 최근 보고서에서 중국 기업 Z.ai가 8월 공개한 GLM-5.3이 사이버 공격에 중대한 위험을 줄 수 있다고 주장했다. 누구나 모델을 내려받아 수정할 수 있다는 점이 우려의 핵심이다. AI 안전성을 중시하는 쪽은 악의적 행위자의 악용 가능성을 경고하는 반면, 실용성을 강조하는 쪽은 소수 대기업만 AI를 통제해서는 안 된다고 본다.
논쟁에는 사업적 이해도 얽혀 있다. 엔비디아(Nvidia)의 젠슨 황(Jensen Huang) CEO는 미국이 공개형 모델 개발을 늘려야 한다는 입장이고, 앤트로픽을 이끄는 다리오 아모데이는 신중한 접근을 주장한다. 텍사스대 오스틴 정보학부 조교수 데이비드 그레이 위더는 개방성에 대한 판단이 AI를 바라보는 관점에 영향을 받는다고 말했다. 토니 블레어 글로벌변화연구소의 정책 고문 엘리자베스 시거는 공개형 모델이 소수 기업·정부에 AI 기반 시설과 기술 통제력이 집중되는 것을 막는 데 중요하다고 봤다.
공개형 모델을 전면 금지하거나 제한 없이 배포하는 것만이 선택지는 아니다. MIT 테크놀로지 리뷰는 정부와 사회가 다양한 관리 방식을 택할 수 있지만, 어떤 방식이든 안전성과 기술의 대중적 이용 사이에서 절충이 필요하다고 짚었다. 장기회복력센터의 AI 정책 책임자 해미시 홉스는 개인이 안전하고 자신에게 충실한 AI를 갖는 편이, 정부가 초지능 AI 시스템과 계획을 갖고 있으니 그 내용을 알 수 없더라도 믿으라고 요구하는 상황보다 덜 우려스럽다고 말했다. 공개형 모델의 생산을 지지할지 제한할지를 결정하려면 관련 위험과 이점을 깊이 이해해야 한다.