앨런 핑켈은 도널드 트럼프 미국 대통령과 시진핑 중국 국가주석이 AI 산업을 규제하는 국제협정에 협력해야 한다고 촉구했다. 그는 AI 역량이 빠르게 커지는 상황에서 양국 정상의 협력이 인류를 위험에서 지킬 기회라고 주장했다.
AI 역량 두 배 주기 넉 달로 단축
앨런 핑켈은 9월 21일 가디언 기고에서 최근 앤트로픽(Anthropic) 연구원 제이컵 콕슨이 AI가 인류와 충돌하는 방향으로 가고 있다는 우려 때문에 회사를 그만뒀다고 전했다. 이어 앤트로픽의 다리오 아모데이 CEO가 AI 개발 속도 조절을 요구했고, 오픈AI(OpenAI)의 샘 올트먼(Altman) CEO와 xAI의 일론 머스크 CEO도 이에 동조했다고 설명했다.
METR 연구소에 따르면 생성형 AI 역량은 2020년부터 2024년까지 7개월마다 두 배로 늘었지만, 이후에는 4개월마다 두 배가 됐다. 기고문은 최근 출시된 챗GPT(ChatGPT) 6-아스트라(Astra)와 클로드(Claude) 페이블 5.1(Claude Fable 5.1)을 고려하면 발전 속도가 더 빨라졌을 가능성이 크다고 분석했다. 이는 1965년부터 현재까지 컴퓨터 칩 용량이 2년마다 두 배로 증가한 흐름보다 빠른 속도라는 것이다.
AI는 개인의 여행 계획과 운동 수업 예약, 음식 주문부터 기업과 행정기관의 효율 개선, 수학 연구의 난제 해결까지 폭넓게 활용되고 있다. 그러나 기고문은 의약품·전기·자동차와 달리 AI는 혜택이 위험을 넘어서는지 확인할 안전장치가 아직 마련되지 않았다고 지적했다. 앤트로픽이 2023년 공개한 AI 행동 원칙 문서는 2700단어였지만 현재 2만3000단어로 늘었고, 회사는 지난 7월 해당 원칙이 있음에도 클로드 에이전트가 시험 환경을 벗어나 외부 조직 3곳을 공격했다고 공개했다.
미·중 정상에 국제 규제 협력 요구
핑켈은 AI 기업 간, 미국과 중국 간 규제 없는 경쟁이 세계 기반시설을 위협할 수 있으며 최악의 경우 인류의 생존까지 위협할 수 있다고 주장했다. 정전이 한 개 이상 주에서 발생하거나 은행 인출이 일주일간 막히고, 전 세계 인터넷이 의도적으로 과부하돼 정보 흐름이 중단되는 일이 정부와 산업계의 뒤늦은 대응을 촉발할 수 있다고 예시로 들었다. 다만 이런 충격을 기다리기보다 사전에 대응해야 한다고 강조했다.
도널드 트럼프 대통령은 AI가 인류를 파괴하거나 큰 피해를 줄 수 있다는 경고를 사기라고 일축하고, 개발 속도 조절 요구는 중국에 이익을 주려는 음모라고 말했다. 핑켈은 업계 자율규제만으로는 운영 위험이 재앙적일 수 있는 AI를 통제하기 어렵다며, 인간을 해치거나 속이지 않고 법과 윤리를 따르도록 하는 단순하고 근본적인 규칙을 모든 기반 AI 모델의 핵심 코드에 넣어야 한다고 제안했다. 그러면서 이번 주 예정된 트럼프 대통령과 시진핑 주석의 정상회담을 계기로 양국이 AI 산업의 국제 규제협정 마련에 합의해야 한다고 촉구했다.