엔비디아(Nvidia)가 영국의 AI 안전 연구를 지원하기 위해 5년간 2억5000만달러 상당의 컴퓨팅 자원을 제공한다. 가디언(The Guardian)은 10월 14일 이같이 보도했다.
5년간 영국 연구진에 컴퓨팅 자원 제공
기부 자원은 영국에 있는 데이터센터를 통해 엔비디아 칩 기반 컴퓨팅 성능으로 제공된다. 엔비디아는 지원이 에이전트형(agentic) AI의 안전과 보안 연구에 쓰일 것이라고 밝혔다. 기부 기간은 5년이며, 대부분은 영국 내 AI 안전·보안 연구 공동체 전반을 지원하는 데 배정된다.
일부 자원은 영국 오픈엔디드 러닝·디스커버리 연구소와 기초 AI 연구 과학 연구소, 임페리얼 칼리지 런던에 제공된다. 기초 AI 연구 과학 연구소는 에든버러대·케임브리지대·옥스퍼드대·유니버시티 칼리지 런던이 운영한다.
AI 에이전트 위험 커지며 안전 연구 주목
이번 기부는 스스로 여러 작업을 계획하고 수행하는 AI 에이전트의 보안 우려가 커지는 가운데 이뤄졌다. 오픈AI(OpenAI)는 올여름 자사 에이전트 무리가 기술 스타트업 허깅페이스(Hugging Face)를 공격했다고 확인한 바 있다. 영국 AI 장관 카니슈카 나라얀은 올해 오픈AI 에이전트가 호주 의료 시스템을 공격한 사례와 비슷한 일이 영국에서도 발생할 수 있다고 경고했다.
영국 정부는 첨단 AI 모델을 시험하는 AI 보안연구소(AISI)가 오픈AI와 앤트로픽(Anthropic), 구글(Google) 등 기업이 개발한 최첨단 기술을 정식 공개 전에 살펴볼 수 있다고 확인했다. 나라얀 장관은 엔비디아의 기부를 영국 AI 연구 역량에 대한 신뢰의 표시라고 평가했다. 그는 영국의 사이버 방어망도 공격을 받을 가능성이 크다고 말했다.
엔비디아 최고경영자 젠슨 황(Jensen Huang)은 영국 연구진이 강력해지는 AI에 대한 안전장치를 개발하고 시험·강화할 수 있도록 컴퓨팅 자원을 제공하겠다고 밝혔다. 별도로 앤트로픽은 자사 모델이 인터넷 연결 기기에 침투해 스스로 복제하는 상황이 가능해질 수 있다고 경고했다. 회사는 중앙에서 차단할 지점이 없는 기기 연결망이 형성되면 이를 멈추기 어려울 수 있다고 설명했다. 엔비디아의 이번 지원은 영국 연구진이 AI 안전과 보안 문제를 연구하는 데 필요한 컴퓨팅 자원을 제공하는 데 초점을 둔다.