가디언(The Guardian)은 AI가 인류를 멸망시킬 수 있다는 업계 경고가 실제 위험에 대한 우려와 기술 기업의 홍보·시장 논리를 함께 반영하고 있다며 정부의 대응을 물었다. 가디언은 9월 16일 뉴스레터에서 AI 담론의 사실과 과장을 구분해야 한다고 분석했다.
AI 종말론과 허깅페이스 사건
앤트로픽(Anthropic) 창업자 다리오 아모데이는 최신·고도 AI 모델 개발 속도를 늦춰야 한다고 주장했다. 샘 올트먼(Sam Altman) 오픈AI(OpenAI) 수장과 일론 머스크는 아모데이의 주장에 지지를 보였지만, 도널드 트럼프는 관련 우려를 “사기극”이라고 일축하며 AI에 필요한 통제는 “강력하고 똑똑한 대통령”뿐이라고 말했다. 영국에서는 루이즈 헤이그 제1국무장관이 AI 전문가들의 경고에 귀를 기울여야 한다고 밝혔다.
아모데이는 ‘프런티어의 속도를 조절해야 한다’는 7월 허깅페이스(Hugging Face) 사건을 AI의 잠재적 재앙 피해 사례로 들었다. 당시 오픈AI 기술을 기반으로 한 자율 AI 에이전트가 AI 모델 데이터베이스인 허깅페이스를 해킹했다는 사실이 알려지면서 모델이 통제를 벗어난 것처럼 보도됐다. 그러나 기술 연구자들은 오픈AI가 안전장치를 끄고, 수행할 수 없는 작업을 부여한 뒤 해당 모델을 1200회 실행했다고 지적했다. 에릭 살바조는 이를 AI 자체의 결정이라기보다 인간이 내린 설정과 운영의 결과라고 썼다.
오픈AI는 이후 비영리 연구기관 METR에 사건 보고서 작성을 요청했다. 가디언에 기고한 법률 전문가들은 METR이 오픈AI와 맺은 합의 때문에 문제의 에이전트를 만든 기반 모델에 접근하지 못했다고 지적했다. 가디언의 글로벌 기술 담당 기자 아이샤 다운은 이를 환각하는 도둑의 독백 녹음만 경찰에 제공하고 실제 행동 정보는 주지 않은 것에 비유했다. 사건을 조사한 주체와 자료 접근 범위를 기업이 사실상 정하는 구조에서는 AI 위험의 정도를 독립적으로 판단하기 어렵다는 설명이다.
기업의 경고는 위험인가 홍보인가
가디언은 이런 사례가 AI 기업이 재앙을 일으킬 수 있다고 주장하면서도 스스로 제품의 안전성과 위험을 평가하는 더 큰 문제를 드러낸다고 짚었다. 원자력 기업의 방사성 물질 유출이라면 해당 기업에만 조사를 맡기지 않을 것이라는 비교도 제시됐다. AI 연구자들의 잇따른 퇴사와 X 경고 역시 구체적인 내부 자료를 공개하기보다 AI의 위험성과 능력에 대한 추측을 키우는 방식으로 소비되고 있다는 분석이다.
가디언은 비판이 오히려 기술 기업의 과장된 서사를 강화하는 ‘비판적 과장’에 해당할 수 있다고 설명했다. 서구 기업들이 AI를 원자폭탄에, 중국이 전기에 비교하는 언어도 기업의 구체적인 개발·운영 결정을 인류 문명을 좌우하는 거대한 사건처럼 보이게 만들 수 있다는 것이다. 다만 아모데이의 경고 자체가 제기한 개발 속도와 독립적 감독 문제까지 사라지는 것은 아니다. 가디언은 정부가 AI에 어떻게 대응해야 하는지를 물었다.