앤트로픽(Anthropic)은 인터넷에 연결된 스마트 가전 등에 침투해 스스로 복제하는 AI 모델이 수개월 안에 등장할 수 있다고 경고했다. 가디언(The Guardian)은 앤트로픽 연구진이 월요일 공개된 보고서에서 이런 모델이 확산하면 중앙에서 작동을 멈출 방법이 없어 통제하기 어려울 수 있다고 지적했다고 14일 보도했다.
스마트 가전으로 번지는 ‘AI 웜’ 우려
보고서를 작성한 앤트로픽의 프런티어 레드팀(Frontier red team)은 AI 시스템의 능력을 점검하는 과정에서 에이전트에 인터넷 연결 기기를 해킹하도록 지시하는 상황을 시험했다. 연구진은 자율적으로 퍼지는 악성코드와 같은 ‘AI 웜’이 기기에 침투하고 네트워크를 통해 확산하면서 탐지를 피할 가능성을 제기했다. 다만 보고서가 실제 가전제품 해킹이나 AI의 자가복제가 현실에서 성공했다고 밝힌 것은 아니다.
연구진은 자가복제가 비교적 작은 모델에서만 가능할 것으로 봤다. 첫 공격 대상은 가정과 소규모 사업장일 가능성이 크다고 봤으며, 스마트 오븐과 스마트 TV, 자동 잔디깎이, 보안 카메라, 화상회의 장비 등을 취약할 수 있는 기기로 열거했다. 이들 제품에는 작은 AI 칩이 내장돼 있다는 설명이다. 기기 안에서 모델이 작동하면 데이터센터에 연결하지 않고도 활동할 수 있다는 우려도 담겼다.
확산 차단과 통제 방안 과제
AI 자가복제가 어떤 형태를 띨지는 아직 분명하지 않다. 보고서는 사람들을 속여 연산에 필요한 크레딧을 얻는 모델, 느리게 퍼지는 ‘디지털 점균’ 같은 형태부터 데이터센터 등 대형 시설을 빠르게 해킹하는 강력한 사이버 모델까지 여러 가능성을 제시했다. 최악의 경우 여러 AI 웜이 함께 움직여 컴퓨터 하드웨어를 공격할 수도 있다고 경고했지만, 이는 가능한 시나리오로 제시된 것이다.
연구진은 복제형 AI가 중앙의 한 지점을 차단하는 방식으로는 멈추기 어려울 수 있다고 설명했다. 이에 따라 확산을 어렵게 만들도록 시스템을 강화하는 동시에, 인간의 통제 밖에서 여러 종류의 하드웨어를 사용하는 에이전트가 존재하는 상황에도 대비해야 한다고 제언했다. 구체적인 대응 일정이나 제품별 보안 대책은 보고서 내용에 제시되지 않았다.
이번 경고는 AI 에이전트가 자율적으로 행동하고 기업이나 정부 기관을 해킹할 수 있다는 우려가 이어지는 가운데 나왔다. 앤트로픽과 오픈AI(OpenAI)를 비롯한 AI 기업들은 최근 에이전트의 능력에 관한 보고서를 잇달아 내놨으며, 앤트로픽 CEO 다리오 아모데이(Dario Amodei)와 오픈AI CEO 샘 올트먼(Sam Altman) 등은 개발 속도를 늦추고 안전장치를 강화해야 한다고 주장해왔다. 다만 두 회사는 새 모델 개발과 출시를 계속하고 있다고 가디언은 전했다.