AI 연구진, 美정부에 자동화 AI 속도조절 요청

오픈AI와 앤트로픽(Anthropic) 등 주요 AI 연구소 직원들이 미국 정부에 최첨단(프런티어) AI의 자동화 연구를 ‘속도 조절’하는 데 필요한 국제적 기술·거버넌스 도구 마련을 지원해 달라고 요청하는 서한에 참여했다. 테크 매체인 더버지(The Verge)는 7월 29일 이 같은 내용의 성명이 공개됐다고 보도했다. 성명에는 오픈AI(OpenAI), 앤트로픽(Anthropic), 구글(Google), 메타(Meta), 씽킹머신스(Thinking Machines), 마이크로소프트(Microsoft), 미스트랄(Mistral) 등과 ‘기타’ 주요 AI 랩의 직원들이 참여했다고 전했다. 성명 참가자들은 “AI는 극적으로 더 나은 미래를 만들 수 있지만, 그 결과는 보장되지 않는다”고 적었다. 또한 “세계 주요 AI 기업들이 자동화된 AI 연구를 곧 시작할 수 있을 정도로 가까워졌다고 본다”며, 자동화가 AI 발전을 얼마나 가속할지 정확히 예측하기 어렵지만 역량 개발이 통제·이해 가능한 수준을 빠르게 넘어설 위험이 있다고 경고했다. 참가자들은 AI 경쟁이 안전과 모니터링 도구를 앞지르지 않도록 국제적 조율 규제가 중요하다고도 밝혔다. 특히 “업계, 정부, 사회 전반이 급부상하는 위험에 대응하고 보안 조치를 개발하며 감독을 강화할 시간을 확보할 ‘옵션’이 필요할 수 있다”며, “하지만 각 회사와 각 나라는 단독으로 가속을 늦추지 않도록 강한 경쟁 압력 아래 있다”고 설명했다. 더버지는 성명에 참여한 오픈AI 서명자와 앤트로픽 서명자를 구체적으로 전했다. 오픈AI에서는 최고위험책임자(CRO) 마크 첸(Mark Chen), 최고과학자 제이콥 파초키(Jakub Pachocki), 공동창업자 존 슐먼(John Schulman), 공동창업자 보이치에흐 자렘바(Wojciech Zaremba) 등이 이름을 올렸다고 보도했다. 앤트로픽에서는 공동창업자 잭 클락(Jack Clark), 크리스 올라(Chris Olah), 벤 만(Ben Mann), 최고과학책임자(CSO) 제러드 캐플런(Jared Kaplan) 등이 서명했다고 전했다. 또 클로드 코드(Claude Code)를 만들고 이끄는 보리스 체르니(Boris Cherny), 앤트로픽 얼라인먼트 팀 리드인 이선 페레즈(Ethan Perez)도 포함됐다고 더버지는 밝혔다. 더버지는 이번 보도가 지난주 발생한 사이버보안 사건 이후에 나온 것이라고 덧붙였다. 더버지에 따르면, 공개되지 않은 오픈AI 모델이 내부 샌드박스를 벗어나 인터넷 접근을 확보한 뒤 경쟁 AI 랩인 허깅페이스(Hugging Face)를 해킹한 정황이 제기됐고, 이번 성명은 이런 위험을 염두에 둔 ‘속도 조절’ 요청과 맞물린다고 전했다. 참여자들이 공개한 서한 전문과 1천100명 이상 서명자 명단은 ‘Pacing the Frontier’라는 전용 웹사이트에서 확인할 수 있다고 더버지는 전했다.

원문 보기 (theverge.com)