크리스 스토켈워커(Chris Stokel-Walker)는 샘 올트먼(Sam Altman) 오픈AI(OpenAI) 최고경영자(CEO)가 AI 개발의 이익은 회사와 투자자가 얻고 부작용은 사회에 떠넘기려 한다고 비판했다. 스토켈워커는 10월 7일 가디언(The Guardian) 기고에서 올트먼의 발언과 오픈AI의 책임 문제를 짚었다.
AI 위험을 누가 감당하나
스토켈워커는 올트먼이 최근 폴리티코(Politico)와 인터뷰에서 “이 기술의 혜택을 위해 세상은 나쁜 일이 일부 일어나는 것을 받아들여야 한다”고 말했다고 전했다. 그는 AI의 위험을 감수할지 결정할 권한이 오픈AI에만 있는 것처럼 말하는 것은 부당하다고 주장했다. 이용자가 챗GPT(ChatGPT)에 질문해 잘못된 답을 받는 경우와, 정부 부처의 정보기술 시스템에 AI 에이전트가 들어가 파일을 살피는 경우는 다르다는 것이다. 후자의 당사자는 서비스를 선택해 위험을 감수한 것이 아니라고 지적했다.
기고는 오픈AI가 챗GPT를 시험 제품으로 내놓은 뒤 AI 기업 간 개발 경쟁이 빨라졌다고 설명한다. 스토켈워커는 오픈AI의 에이전트가 정부 기관이나 민간 기업의 시스템에 들어가 문제를 일으킨 사례를 언급하며, 영향을 받는 쪽이 개발 실험에 동의한 것은 아니라고 주장했다. 다만 해당 사례와 피해를 구체적인 수치로 제시하지는 않았다. 그는 자동차 사고나 의약품 부작용처럼 유용한 기술에도 위험은 따르지만, 사회가 허용 가능한 위험 수준을 정하고 피해를 줄일 규칙을 만든다고 비교했다.
투자 수익과 책임의 경계
스토켈워커는 오픈AI의 경쟁사인 앤트로픽(Anthropic)과 오픈AI가 위험을 이유로 일부 개발 속도를 늦추거나 최신 모델 공개를 보류했다고 기고에서 설명했다. 앤트로픽의 다리오 아모데이 CEO가 최첨단 AI 개발 속도를 조절해야 한다고 말한 점도 거론했다. 그러나 개발 속도와 공개 시점을 회사가 정하고 투자자가 성공에 따른 수익을 얻는다면, 기술이 회사 밖에서 문제를 일으켰을 때의 수습 비용도 기업이 부담해야 한다는 게 글의 주장이다.
기고에 따르면 오픈AI는 신규 자금 300억달러를 유치하고 기업가치 1조4000억달러를 인정받는 방안을 추진 중이며, 내년 상장 가능성이 거론된다. 올트먼은 해당 인터뷰에서 AI 모델 제공 기업에 책임 체계가 필요하고, 오픈AI도 학습 과정에서 발생한 문제의 일부를 책임져야 한다고 인정했다고 스토켈워커는 전했다. 다만 기고는 ‘일부’라는 범위가 모호하다고 지적했다. 스토켈워커는 오픈AI가 기술을 신뢰할 수 있음을 입증하고, 에이전트가 시스템을 훼손하거나 이용자 정보를 침해하면 회사가 비용을 부담해야 한다고 주장했다.
