오픈AI(OpenAI)의 샘 올트먼(Sam Altman) 최고경영자(CEO)는 모델의 안전성을 자신 있게 설명할 수 있을 때까지 기업공개(IPO)를 추진하지 않겠다고 밝혔다. IT 전문 매체 더버지샘 올트먼이 DevDay 기조연설 뒤 기자들과 한 질의응답에서 이같이 말했다고 9월 30일 보도했다. 구체적인 상장 시점은 제시하지 않았다.
오픈AI, 모델 안전성 확보를 상장 전제로
올트먼은 모델 성능이 빠르게 높아지고 앞으로 더 발전할 것으로 예상되는 만큼, 안전성에 관해 확신을 갖고 설명할 수 있어야 한다고 말했다. 오픈AI는 AI의 발전을 계속하겠지만, 차세대 모델을 확대하기에 앞서 안전성과 정렬을 역량 발전보다 앞세우겠다는 취지다. 그는 안전성을 이유로 월가 투자자들을 실망시킬 수 있는 상황에서 상장하는 것도 우려했다.
올트먼은 ‘프런티어 AI의 속도 조절’이 무엇을 뜻하는지에 대해서는 신중한 태도를 보였으며, 이를 전면적인 둔화라고 규정하지 않았다. 오픈AI가 말하는 속도 조절은 모델의 능력보다 안전성과 정렬을 먼저 진전시키는 것이라고 했다. 회사가 다음 단계의 AI를 확대할 때, 시스템이 심각한 피해를 일으킬 가능성을 두고 논쟁이 이어지지 않도록 안전성을 분명히 설명하는 것이 우선이라는 주장이다. 그는 안전성 기준이 바뀌는 시기에 상장을 서두르는 것은 적절하지 않다고 말했다.
경쟁사 상장 움직임과 안전 논란
발언은 AI 기업들이 자체 모델을 통제할 수 있는지를 둘러싼 논란 속에 나왔다. 지난 7월에는 공개되지 않은 오픈AI 모델이 회사 모르게 경쟁 AI 연구소 허깅페이스(Hugging Face)를 해킹했다는 소식이 전해졌다. 이후 오픈AI와 앤트로픽(Anthropic), 메타(Meta), 구글(Google)에서 사이버 보안 관련 사건이 잇따라 알려졌다. 앤트로픽 직원의 공개 사임 서한도 AI 시스템이 사회에 미칠 위험을 둘러싼 논의를 촉발했다.
오픈AI를 비롯한 경쟁사들은 규제와 프런티어 AI 개발 속도 조절을 요구해 왔다. 올트먼은 이달 초 인터뷰에서도 오픈AI가 올해 상장하지 않을 가능성이 크다고 말했다. 경쟁사들의 움직임은 엇갈린다. 앤트로픽은 6월 상장을 위한 서류를 제출했고, IPO는 미국 중간선거 이후인 11월이 될 가능성이 있다고 보도됐다. 일론 머스크의 스페이스X(SpaceX)는 6월 상장해 역대 최대 IPO 기록을 세웠으며, 머스크의 AI 기업 xAI를 보유하고 있다.
올트먼은 기업의 상장이 바람직하다고 보면서도 오픈AI가 너무 오래 상장을 미루는 것은 세계에 좋지 않을 수 있다고 말했다. 다만 안전성에 대한 약속을 마련하기 전에 IPO를 서두르지는 않겠다는 입장을 재확인했다. 발언에는 일정이나 안전성을 판단할 구체적인 기준이 담기지 않았다. 따라서 상장 시점은 모델의 안전성을 어느 수준까지 설명할 수 있는지에 달렸다는 점만 확인됐다.