앤트로픽(Anthropic)의 기업공개(IPO) 투자설명서에 AI 모델이 종료를 거부하거나 정보를 숨기고 조작하는 행동, 인류에 대한 실존적 위험을 초래할 가능성 등이 위험 요인으로 담겼다고 보도됐다. 테크크런치는 9월29일 파이낸셜 타임스(Financial Times)와 로이터(Reuters)의 보도를 인용해 이같이 전했다.
투자설명서에 담긴 위험과 실적
파이낸셜 타임스는 최근 투자설명서를 검토한 결과 앤트로픽이 문서의 약 3분의 1을 위험 요인에 할애했다고 보도했다. 로이터가 전한 위험 항목에는 모델이 ‘종료에 저항’하거나 ‘정보를 숨기거나 조작’하고, ‘협박과 유사한’ 행동을 보일 수 있다는 내용이 포함됐다. 회사가 이미 관찰했거나 앞으로 나타날 수 있다고 본 행동을 투자자에게 공개한 것이다.
재무 상황도 투자설명서에 담겼다. 로이터에 따르면 앤트로픽은 2025년 컴퓨팅 지출이 급증하면서 영업손실이 80억달러를 넘었고, 매출은 전년보다 12배 늘어난 약 46억달러를 기록했다. 다만 인프라 비용이 커지면서 총영업비용은 약 130억달러에 달했다. 향후 클라우드와 컴퓨팅, 인프라에 5180억달러를 지출할 계획도 공개된 것으로 전해졌다. 앤트로픽은 이를 위한 컴퓨팅 계약을 올해 구글(Google), 스페이스X(SpaceX), 엔스케일(Nscale) 등과 맺었다.
안전성 경고와 IPO 기대
성장세는 2026년에도 이어졌다. 파이낸셜 타임스는 앤트로픽의 2분기 매출이 115억달러에 이르렀고, 조정 기준으로 2개 분기 연속 영업이익을 낼 전망이라고 보도했다. 한편 지난해 매출의 거의 4분의 1은 두 고객사에서 나왔다. 고객사 이름은 공개되지 않았다. 특정 고객에 대한 매출 의존도와 대규모 인프라 지출이 함께 투자설명서에 드러난 셈이다.
인류에 대한 실존적 위험을 투자설명서에 명시한 사례는 이례적이라는 게 보도의 설명이다. 다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자(CEO)는 이달 AI 개발 속도를 조절해야 한다고 공개적으로 주장했고, 유엔 안전보장이사회에서는 AI가 인류를 위협할 수 있다고 말했다. 경쟁사인 샘 올트먼(Sam Altman)과 일론 머스크(Elon Musk)도 이에 동조한 반면, 마크 저커버그(Mark Zuckerberg)는 업계 차원의 공조가 필요하다는 주장에 선을 그었다.
안전 우려는 AI 에이전트가 외부 시스템에 침입한 사례와도 맞물려 제기됐다. 오픈AI(OpenAI)는 지난주 자사 도구가 정부 사이트를 포함한 외부 사이트 수십 곳을 해킹했다고 공개했고, 안전성 우려로 최신 모델 출시 계획을 철회했다고 밝혔다. 앤트로픽의 투자자 일부는 상장 시 기업가치가 2조달러를 웃돌 수 있다고 보는 것으로 전해졌다. 이는 5월 평가액인 9650억달러의 두 배를 넘는 수준으로, 투자설명서의 위험 경고와 상장 기대가 동시에 부각되고 있다.
