MIT 테크놀로지 리뷰는 최근 AI 업계가 해킹 사건과 수학적 성과를 ‘자율적인 모델’과 ‘초지능’의 서사로 포장하고 있다며, 기업 발표와 언론 보도를 그대로 믿지 말아야 한다고 지적했다. 매체는 9월 22일 분석에서 관련 분야 전문가들의 검토가 이뤄지면 기업의 주장과 다른 해석이 나온다고 설명했다.
AI 해킹·수학 성과 둘러싼 논란
논란의 출발점으로는 앤트로픽(Anthropic)이 4월 말 자사 모델 클로드 미토스(Claude Mythos)가 대부분의 보안 전문가보다 소프트웨어 취약점을 잘 찾는다고 주장한 일이 제시됐다. 이후 오픈AI(OpenAI)와 허깅페이스(Hugging Face)를 둘러싼 해킹 사건이 발생했고, 앤트로픽과 메타(Meta)도 각각 자사 모델과 관련한 유사 사건을 공개했다. 앤트로픽과 오픈AI가 잇따라 수학적 돌파구를 냈다고 주장한 일, 앤트로픽 엔지니어 제이컵 콕슨이 회사를 떠나면서 두 회사가 ‘스스로 개선되는 초지능’을 향해 달려가고 있다고 말한 일도 같은 흐름으로 묶였다.
해외 기술 매체 MIT 테크놀로지 리뷰는 해킹 사건에 대해 보안 전문가들이 ‘통제 불능 모델’보다 오픈AI의 부주의와 기본적인 보안 관행 미준수에 가까운 문제로 본다고 전했다. 수학 분야에서는 오픈AI의 최신 챗봇 아스트라(Astra)가 10년 이상 진전이 없던 문제를 해결했다는 발표에 처음 놀랐던 수학자들이 결과를 다시 검토한 뒤, 애초 알려진 것만큼 새롭지 않다고 판단했다는 설명이 이어졌다. 이후 일부 수학자들은 연구 부정행위와 표절 의혹을 제기했고, 아스트라가 근본적인 지적 도약을 이룬 것은 아니라고 재차 지적했다. 뉴욕대 쿠랑 연구소의 트리스탄 벅마스터 교수도 오픈AI가 다른 사람의 연구를 훔치고 공로를 부적절하게 표시했다는 취지의 성명을 발표했다고 매체는 덧붙였다.
기업 서사와 정책 판단의 간극
이 분석은 대규모 언어 모델이 컴퓨터 프로그래밍과 수학에서 성과를 내기 쉬운 이유도 짚었다. 두 분야는 인간 지성의 정점으로 여겨지는 동시에, 답이 제시되면 결과를 비교적 쉽게 검증할 수 있어 모델 출력을 조정하고 평가하기 쉽다는 것이다. 코드와 수학 답안은 데이터 작업자가 일일이 주석을 달지 않아도 일정한 기준으로 확인할 수 있어 기업이 성능을 부각하기에 유리하다는 설명이다. 수백명의 수학자가 서명한 성명 역시 기술업계가 제품 역량을 과장할 상업적 유인이 있다며, 정책 결정 때 기업 보도자료나 대중 보도보다 관련 전문가의 의견을 들어야 한다고 촉구했다.
매체는 ‘초지능’이나 ‘폭주 모델’이라는 표현이 제품에 행위자성을 부여해 실제 책임 주체인 기업을 가릴 수 있다고 주장했다. 해킹, 연구 표절, 동의 없는 고객 데이터 학습 같은 쟁점이 모델의 자율적 행동에 대한 공포로 치환되면 기업의 의사결정과 책임을 묻기 어려워진다는 것이다. 또한 AI 업계가 데이터센터 확대에 따른 기후변화, 인근 주민의 천식, 전기요금 상승, 냉각용수 문제보다 가상의 초인적 기계를 더 걱정해야 한다고 주장하는 것은 규제 논의를 흐리는 방식일 수 있다고 비판했다. 버니 샌더스(Bernie Sanders) 상원의원이 ‘인공 초지능’ 개발을 막기 위해 제안한 법안도 이런 서사에 영향을 받은 사례로 언급됐다.
매체는 정책 당국과 지역사회가 독립적인 전문가의 의견을 듣고 기업의 주장을 맥락 속에서 판단할 시간을 가져야 한다고 강조했다. 과장 논란을 계기로 대중과 정책 담당자가 속도 경쟁에 휩쓸리지 않고, AI 기업의 주장과 실제 기술적 성과, 기업의 책임을 구분해 살펴봐야 한다는 것이 매체의 결론이다.