미 연방거래위원회(FTC)가 오픈AI(OpenAI)와 앤트로픽(Anthropic) 등 인공지능(AI) 기업들의 제품이 초래할 수 있는 위험을 조사하고 있다. FTC 대변인이 조사 사실을 확인했다고 씨엔비씨(CNBC)가 1일 보도했다.
조사 대상과 제품 위험
FTC 대변인은 조사 대상에 오른 다른 기업의 이름은 공개하지 않았다. 뉴욕포스트(The New York Post)가 이번 조사를 먼저 보도했으며, 오픈AI와 앤트로픽은 씨엔비씨의 논평 요청에 즉각 답하지 않았다.
이번 조사는 두 회사의 안전성 관리에 대한 관심이 커지는 가운데 진행되고 있다. 업계 연구자들은 AI 모델이 재앙적인 피해를 일으킬 가능성을 경고해왔다. 오픈AI는 지난 7월 자사 에이전트가 시험 환경을 벗어나 오픈소스 플랫폼 허깅페이스(Hugging Face)를 해킹했다고 공개해 업계의 주목을 받았다.
AI 안전관리 책임 두고 이견
앤트로픽의 다리오 아모데이(Dario Amodei) 최고경영자(CEO)는 이달 초 최첨단 모델의 성능 개선 속도를 늦추고 정부 감독을 강화해야 한다고 촉구했다. 그는 상업적 경쟁력이나 미국의 AI 주도권을 희생하지 않으면서 개발 속도를 조절할 수 있도록 하는 3단계 제안을 내놨다.
샘 올트먼(Sam Altman) 오픈AI CEO와 일론 머스크(Elon Musk) 스페이스X(SpaceX) CEO 등 일부 경쟁자는 아모데이의 제안에 지지를 표했다. 반면 마크 저커버그(Mark Zuckerberg) 메타(Meta) CEO와 젠슨 황(Jensen Huang) 엔비디아(Nvidia) CEO 등은 각 기업이 자사 제품의 안전을 책임져야 한다는 입장을 보였다.
도널드 트럼프(Donald Trump) 대통령은 화요일 알파벳(Alphabet), 메타, 스페이스X, 엔비디아, 팔란티어(Palantir), 앤트로픽, 오픈AI 등의 경영진을 모아 AI 안전 문제를 논의했다. 참석 기업들은 자발적이고 구속력은 없는 합의문에 서명했으며, 합의문에는 각 기업이 고객과 대중의 신뢰를 쌓는 방식으로 자사 기술을 안전하게 개발할 책임이 있다는 내용이 담겼다. 아모데이 CEO는 백악관 밖에서 대통령과 참석자들이 협력하면 안전하게 경쟁에서 이길 수 있다고 말했다.