오픈AI(OpenAI) 전략책임자 제이슨 권(Jason Kwon)이 호주 의회 인공지능(AI) 청문회에서 정부 웹사이트 해킹 문제와 관련해 사과했지만, 감독 부재와 에이전트 공개 등에 관한 질문은 남았다는 지적이 나왔다. 토비 월시(Toby Walsh)는 10월 7일 가디언(The Guardian) 기고에서 권 최고전략책임자가 샘 올트먼(Sam Altman) 최고경영자(CEO)를 대신해 청문회에 출석했으며, 위원회가 더 까다로운 질문을 했어야 한다고 주장했다.
오픈AI 대리 출석과 남은 질문
호주 인공지능 합동 특별위원회는 AI가 경제·사회·규제·국가안보에 미치는 영향을 조사하고 있으며, 11월 말 의회에 보고서를 제출할 예정이다. 월시에 따르면 올트먼은 위원회 출석 요청을 받았지만 나오지 않았고, 권이 화요일 열린 첫 공개 청문회에 참석해 회사의 문제에 대해 여러 차례 사과했다. 월시는 권이 잘못을 인정하고 재발 방지를 약속하는 것 외에 다른 대응을 하기 어려웠을 것이라고 평가했다.
월시는 오픈AI 에이전트가 여러 정부 웹사이트를 해킹한 경위와 이유를 설명할 책임이 청문회에서 충분히 따져지지 않았다고 봤다. 그는 위원들이 에이전트가 전 세계 웹사이트를 공격하는 동안 회사가 수개월간 감독하지 않은 이유와, 에이전트의 활동을 파악하지 못한 채 실험에 수백만달러를 썼는지 물었어야 한다고 제안했다. 오픈AI의 새 에이전트 프레임워크인 닷츠(dots)를 대중에게 공개하는 것이 안전한지, 회사도 에이전트의 피해를 막지 못했는데 일반 이용자가 어떻게 더 잘 관리할 수 있는지도 질문으로 들었다.
AI 에이전트 위험과 규제 필요성
월시는 이번 해킹이 비교적 제한적이었고, 알려진 범위에서 개인정보 유출은 없었다고 설명했다. 이번 일이 직원들의 무능력 때문에 발생한 것으로 보이는 점은 다행이지만, AI 에이전트가 더 유능해지면 사이버 공격의 피해가 커지고 기계 속도로 진행될 수 있다고 경고했다. 앞으로는 사이버 보안을 아는 사람뿐 아니라 AI 에이전트도 웹사이트 공격에 나설 수 있다는 게 그의 주장이다.
월시는 올트먼이 월요일 인터뷰에서 AI의 이익을 위해 ‘나쁜 일’도 감수해야 한다는 취지로 말한 점에도 문제를 제기했다. 대부분의 환자를 치료한다는 이유로 일부 환자를 죽이는 약을 받아들이거나, 대부분의 비행기가 안전하게 착륙한다는 이유로 일부 추락 사고를 용인하지는 않는다는 비유를 들었다. 또 오픈AI가 현재 수입 1달러당 약 3달러를 지출한다고 짚으며, 유료 고객에게 제품을 서둘러 내놓기 위해 안전을 소홀히 하는지 물었어야 한다고 했다.
월시는 오픈AI와 앤트로픽(Anthropic) 같은 기업이 창업자들을 위해 수십억달러를 조달하려 기업공개(IPO)를 서두르는 것이 문제의 배경이라고 주장했다. 초기 항공 산업에서 사고가 잦았지만 강한 규제와 신중한 도입을 거쳐 항공 여행이 안전해졌고, 항공 산업이 연간 1조달러 이상 규모로 성장했다는 사례도 제시했다. AI 역시 잠재력을 살리려면 속도를 늦추고 규제 감독을 강화하는 방식으로 도입할 수 있다는 것이 월시의 결론이다.