AI가 생물무기 설계와 제작을 돕는 데 악용될 수 있다는 우려가 제기됐다. MIT 테크놀로지 리뷰(MIT Technology Review)는 18일 AI와 생명공학 기술의 결합이 생물안보에 새로운 위험을 만들 수 있다고 보도했다.
AI가 생물무기 개발에 쓰일 수 있는 이유
보도에 따르면 2022년 의약품 후보 물질을 찾기 위해 개발된 AI 분자 생성기를 이용한 실험에서 6시간도 안 돼 화학무기로 쓰일 가능성이 있는 분자 4만개가 만들어졌다. 일부는 기존 신경작용제보다 독성이 강하도록 설계됐다. 실험을 진행한 컬래버레이션스 파머슈티컬스(Collaborations Pharmaceuticals) 연구진은 당시 AI 신약 개발 분야에 경고가 필요하다고 지적했다.
생물무기는 특정 유전자를 가진 사람을 공격하는 치명적 바이러스, 농작물을 파괴해 식량난을 일으키는 곰팡이, 물에 몰래 섞을 수 있는 무색·무취 독소 등 다양한 형태가 될 수 있다. 독일 함부르크대 생물안보 연구자 둔야 사브라(Dunja Sabra)는 대규모언어모델이 과학 지식에 관한 질문에 답하고 실험 방법과 영상 교육까지 제공할 수 있다고 설명했다. 유전자 편집과 합성생물학 도구가 대중화되고 자가 생물학 실험실도 늘면서, 의도적인 공격을 시도하는 사람이 결국 성공할 가능성을 우려해야 한다는 주장이다.
AI 기업의 경고와 안전장치의 한계
앤트로픽(Anthropic) 최고경영자 다리오 아모데이(Dario Amodei)는 최근 AI의 위험이 심각하다며 개발 속도를 늦춰야 한다고 주장했다. 오픈AI(OpenAI) 최고경영자 샘 올트먼(Sam Altman)도 X에 “프런티어 AI의 속도를 조절해야 한다는 다리오의 의견에 동의한다”고 썼다. 앤트로픽과 오픈AI에서 일했던 AI 연구자 제이컵 콕슨(Jacob Coxon)은 두 회사가 AI를 책임 있게 다루지 않는다고 비판했고, 앤트로픽 직원 에번 후빙거(Evan Hubinger)는 AI가 향후 10년 안에 모든 인간을 죽일 가능성이 10%를 넘는다고 개인적 견해를 밝혔다.
현재는 DNA 합성 업체가 의심스러운 주문을 걸러내고, 연구자들이 독립적인 검토인 레드팀과 대응책을 찾는 블루팀 절차를 거치는 방식으로 위험을 줄이고 있다. 그러나 앤트로픽은 최근 보고서에서 자사 모델을 이용해 치쿤구니야 바이러스의 전파력을 높이거나 인간에게 더 위험한 조류인플루엔자를 만드는 방법 등을 탐색하려는 시도가 있었다고 밝혔다. 스탠퍼드대 의학·생명의료윤리학 교수 데이비드 매그너스(David Magnus)는 AI가 감시와 검색 체계를 우회하는 방법도 잘 찾아내는 만큼 AI를 제한하는 데에도 AI를 활용해야 한다고 말했다.
다만 모든 연구자가 위험 수준을 같게 보는 것은 아니다. 임페리얼칼리지 런던의 일부 생물학자들은 현재 AI 도구만으로 생물무기를 완성하기에는 성능이 부족하고, 새로운 병원체를 시험하려면 시간이 오래 걸리는 인간의 작업이 필요하다고 평가했다. 감염병학자 웬디 바클레이(Wendy Barclay)는 현재 가장 큰 팬데믹 위험은 생물무기보다 이미 퍼지고 있는 병원체라며, 미국 가축 사이로 확산한 H5N1 조류인플루엔자를 사례로 들었다. 반면 사브라는 5~10년 뒤를 내다보고 의료체계 강화, 독소 해독제 마련, 의약품 비축을 서둘러야 한다고 강조했다. MIT 생물학자 케빈 에스벨트(Kevin Esvelt)도 X에서 한 대규모언어모델이 자신도 몰랐던 새로운 형태의 생물무기를 공개했다고 주장하며 신중한 대응을 촉구했다.