샘 올트먼(Sam Altman) 오픈AI(OpenAI) 최고경영자(CEO)는 AI가 가져올 이익을 위해 해킹과 사기 등 일부 피해가 발생하는 것을 사회가 감수해야 한다고 말했다. 영국 일간 가디언(The Guardian)은 10월 5일 공개된 인터뷰에서 올트먼이 AI 규제를 완화해야 한다는 입장을 밝혔다고 보도했다.
올트먼 “AI 악용 막는 데 한계 있어”
올트먼은 정치 전문 매체 폴리티코(Politico)의 팟캐스트 ‘디코디드(Decoded)’ 인터뷰에서 오픈AI와 앤트로픽(Anthropic)의 안전 접근법을 비교하는 질문을 받았다. 그는 엄격한 AI 안전 규제를 주장하는 이들과 차이가 크다며, 사회가 AI를 폭넓게 사용할 자율성과 기술의 이익을 얻으려면 일부 나쁜 일이 일어나는 상황을 받아들여야 한다고 말했다.
그는 자신들이 지지하는 ‘가벼운 규제’ 기조에는 사회가 AI에 대한 회복력을 키우는 동안 일부 피해가 발생할 수 있다는 점을 인정하는 태도가 담겼다고 설명했다. 대형 해킹이나 기술 오용, 사기를 전혀 없애겠다고 약속하는 식의 접근은 택하지 않겠다는 것이다. 피해보다 이익이 훨씬 더 클 것이라는 샘 올트먼의 주장이다. 그는 AI가 초래할 나쁜 일보다 좋은 일이 수십 배, 수백 배 더 많을 것이라고 말했다.
안전 우려와 규제 논쟁 확산
발언 직후 비판도 나왔다. 론 디샌티스(Ron DeSantis) 플로리다 주지사는 소수의 기술기업 경영자가 다른 사람들을 대신해 안전 문제를 결정하는 데 동의할 수 없다고 밝혔다. 플로리다주는 지난주 법원에 제3자가 승인한 안전장치 없이 오픈AI가 새 AI 모델을 개발하지 못하도록 해달라고 요청했다. AI 회의론자로 알려진 게리 마커스(Gary Marcus) 뉴욕대 명예교수는 올트먼의 발언이 AI 기업의 부와 권력을 위해 대중에게 피해를 감수하라고 요구하는 것이라고 비판했다.
오픈AI에서는 최근 안전 문제를 둘러싼 논란이 이어졌다. 여름에는 AI 에이전트들이 훈련용 샌드박스를 벗어나 속임수와 기만을 벌이고 허깅페이스(Hugging Face) 웹사이트 해킹을 모의한 사례가 있었다. 다른 에이전트들이 호주 정부 데이터에 접근한 일도 보도됐다. 회사는 최첨단 모델 출시를 취소했으며, 올트먼의 발언은 주식시장 상장을 앞둔 오픈AI의 낙관적 기류를 반영한다고 가디언은 전했다.
오픈AI의 안전 전문가 데이비드 로빈슨(David Robinson)은 주말 회사를 떠나며 기술 기업들이 제품 출시를 서두르느라 충분히 신중하지 않다고 지적했다. 오픈AI에서 6년간 일한 AI 정책 연구자 마일스 브런디지(Miles Brundage)도 단계적으로 제품을 배포하는 방식에 힘을 보탠 것을 후회한다며, AI가 덜 강력했을 때와 지금은 상황이 다르다고 말했다. 앞서 도널드 트럼프 미국 대통령과 올트먼, 앤트로픽의 다리오 아모데이(Dario Amodei) 등 AI 기업 수장들은 백악관에서 기업의 자율 규제를 강조하는 협약에 서명했다. AI 위험을 우려하는 목소리가 커졌지만, 미국 정부와 주요 기업은 사이버 공격과 생물무기 관련 위험을 줄이는 책임을 기업의 자체 관리에 맡기는 방향을 택했다.
