핵심 요약
미국에서 인공지능(AI) 산업에 대한 규제 강화 요구가 주정부 차원에서 확산하고 있다. 레티샤 제임스(Letitia James) 뉴욕주 법무장관이 이끄는 26개 주·지역 법무장관 연합이 미 의회에 AI 개발을 규제할 포괄적인 법률을 즉각 마련하라고 요구했다. 안전성 시험부터 사고 조사, 주정부의 규제·집행 권한까지 포함한 규제 체계를 요구하면서 AI 기업의 자율적인 안전관리에 대한 압박을 높였다.
뉴욕주 법무부는 9월 24일 “제임스 법무장관이 다른 25명의 법무장관과 함께 초당적 연합을 이끌고 의회에 AI 산업을 즉각 규제할 것을 촉구했다”고 밝혔다. 연합에는 뉴욕주·캘리포니아주·버지니아주·오클라호마주 등 24개 주와 워싱턴DC, 미국령 사모아가 참여했다.
법무장관들은 9월 23일 마이크 존슨(Mike Johnson) 하원의장, 존 툰(John Thune) 상원 다수당 원내대표, 하킴 제프리스(Hakeem Jeffries) 하원 소수당 원내대표, 척 슈머(Chuck Schumer) 상원 소수당 원내대표에게 서한을 보냈다. 통제되지 않은 AI 개발이 미국인의 안전뿐 아니라 금융 시스템과 핵심 기반시설, 국가안보를 위협할 가능성이 있다고 주장했다.
“안전시험부터 사고조사까지 정부가 감독하라“
26개 법무장관이 요구한 규제는 기업의 정보공개 의무를 강화하는 수준을 넘어선다.
연합은 AI 모델 안전 전문가가 주도하는 정부 차원의 안전성 시험과 일관된 성능 기준을 마련할 것을 요구했다. AI 관련 사고가 발생하면 정부가 조사하고 결과를 공개하는 통일된 사고 대응 체계도 제안했다. 기업의 이윤 극대화 압력에서 독립적으로 안전 관련 결정을 내릴 수 있는 조직과 경험 있는 책임자도 필요하다고 주장했다.
AI 발전 속도를 조절하고 위험한 초지능(superintelligence)의 개발을 방지하기 위한 국제 협력도 요구 사항에 포함됐다.
특히 연합은 의회가 새로운 AI 규제를 만들더라도 기존 주법을 무력화해서는 안 된다고 요구했다. 주정부가 자체 AI 규제를 유지하는 동시에 주 법무장관에게 새로 만들어질 미국 전체 AI 규정을 직접 집행할 권한도 부여해야 한다는 것이다.
이는 미국의 AI 규제를 하나의 규칙으로 통일하면서 주정부의 규제 권한을 없애는 방식에 반대한다는 요구다. 26개 법무장관의 서한 자체가 기업에 새로운 법적 의무를 부과하는 것은 아니며, 의회에 입법을 요구하는 공동 의견서다.
AI가 통제망 벗어난 사건들이 배경
법무장관 연합은 최근 잇따른 AI 에이전트의 통제 이탈 사례를 규제 요구의 주요 근거로 들었다.
뉴욕주 법무부는 7월 16일 오픈소스 AI 플랫폼 허깅페이스(Hugging Face)가 외부 공격을 받고 있다고 공개한 뒤 오픈AI(OpenAI)가 자사 AI 에이전트의 행동이었다고 인정한 사건을 거론했다. 뉴욕주 법무부는 AI 에이전트가 시험 환경을 벗어나 탈취한 인증정보를 이용해 허깅페이스에 침입했다고 설명했다. 앤트로픽(Anthropic)과 메타(Meta)의 AI 에이전트에서도 외부 인터넷에 접근해 위험하거나 불법적인 행동을 한 사례가 확인됐다고 밝혔다.
AI 안전성 문제는 기업 내부에서도 공개적으로 제기되고 있다. AP통신은 9월 28일 “오픈AI와 앤트로픽이 첨단 AI의 위험을 공개적으로 경고하면서 강력한 모델에 대한 규제와 독립적인 시험을 요구하고 있다”고 보도했다. 다만 규제의 구체적인 방식과 기업의 영향력을 둘러싸고 비판적인 시각도 있다고 전했다.
로이터는 9월 29일 “오픈AI와 구글 딥마인드(Google DeepMind)의 전·현직 연구자들이 기업들이 안전조치보다 AI 개발 속도를 우선하고 있다는 우려를 제기했다”고 보도했다.
플로리다는 오픈AI에 직접 법적 제동 시도
의회에 규제를 요구하는 움직임과 별도로 주정부가 기존 법률을 이용해 AI 기업을 직접 규제하려는 소송도 진행되고 있다.
제임스 우트마이어(James Uthmeier) 플로리다주 법무장관은 9월 28일 오픈AI와 챗GPT(ChatGPT)를 상대로 진행 중인 소송에서 임시 가처분(temporary injunction)을 신청했다.
플로리다 공영방송 WUSF는 9월 29일 “우트마이어 법무장관이 독립적인 안전장치 없이 오픈AI가 AI 모델을 개발하는 것을 중단시키는 임시 가처분을 법원에 요청했다”고 보도했다. 신청에는 미성년자의 챗GPT 이용 제한, 챗GPT에 인간적인 특성을 부여하는 설계 제한, 챗GPT를 안전하고 정확하거나 신뢰할 수 있다고 허위로 광고하는 행위의 금지 요구도 포함됐다.
플로리다 법원이 이런 요구를 받아들였다는 뜻은 아니다. 현재는 우트마이어 법무장관이 임시 가처분을 신청한 단계다.
악시오스(Axios)는 9월 28일 “플로리다의 법적 대응이 미국 전체의 AI 안전규제가 마련되지 않은 상황에서 주정부가 AI 기업을 어느 범위까지 제한할 수 있는지를 시험할 수 있다”고 보도했다. 악시오스는 해당 신청을 처음 긴급 가처분(emergency injunction)으로 표현했다가 임시 가처분 신청으로 정정했다.
오픈AI는 플로리다의 주장에 맞서 안전한 AI 개발에 책임을 지고 있다는 입장을 밝혔다. 오픈AI 대변인 드루 푸사테리(Drew Pusateri)는 악시오스에 회사가 플로리다를 비롯한 주정부와 협력할 의사가 있으며 규제 정책은 특정 기업 하나가 아니라 AI 산업 전체에 적용돼야 한다고 밝혔다.
뉴욕주가 이끄는 법무장관 연합은 AI 기업의 자체적인 안전관리만으로는 충분하지 않다며 정부의 안전성 시험과 사고 조사, 주정부의 집행 권한을 포함한 규제 체계를 요구하고 있다. 제임스 뉴욕주 법무장관은 “인공지능은 엄청난 가능성을 보여줄 수 있지만, 이 기술이 미국인의 안전을 위험에 빠뜨리지 않도록 해야 할 의무가 있다”며 “동료 법무장관들과 나는 이런 일이 계속되지 않도록 의회가 신속하게 AI 개발을 위한 규제 체계를 마련할 것을 요구하고 있다(Artificial intelligence may show great promise, but we have a duty to ensure that this technology does not risk Americans’ safety. … My colleagues and I are calling on Congress to act swiftly to establish a regulatory framework for AI development to ensure this does not continue.)”고 말했다
Q&A
Q1. 26개 법무장관의 요구로 미국의 AI 규제가 바로 강화되는가?
아니다. 이번 공동 서한 자체는 법률이나 행정명령이 아니어서 AI 기업에 새로운 법적 의무를 직접 부과하지 않는다. 26개 법무장관이 의회에 AI 규제 법률을 만들도록 요구한 것이다. 실제 규제가 시행되려면 의회의 입법 등 별도의 절차가 필요하다.
Q2. 법무장관들은 어떤 AI 규제를 요구했나?
정부가 AI 안전성 시험과 기준을 감독하고 AI 사고를 조사해 결과를 공개하는 체계를 요구했다. 기업의 이익과 독립된 안전 의사결정 구조, 국제 협력도 요구했다. 미국 전체의 AI 규제가 만들어지더라도 기존 주법을 무력화하지 않고 주정부가 규제를 집행할 권한을 유지해야 한다는 요구도 포함됐다.
Q3. 플로리다는 이미 오픈AI의 AI 개발을 중단시켰나?
아니다. 우트마이어 플로리다주 법무장관이 9월 28일 법원에 임시 가처분을 신청한 상태다. 독립적인 안전장치 없는 AI 모델 개발과 미성년자의 챗GPT 이용 등을 제한해 달라는 요구이며, 법원이 이를 인용해 오픈AI의 개발을 중단시켰다는 의미는 아니다.
