AI가 기존 병원체를 더 위험하게 만들거나 생물무기 개발에 쓰일 수 있지만, 전문가들은 기술과 생물학적 물질·시설 확보에 여전히 큰 장벽이 있다고 경고했다. 가디언(The Guardian)은 15일 AI가 생물무기 개발에 미칠 수 있는 영향과 남은 제약을 보도했다.
AI가 도울 수 있는 생물무기 개발
위험은 개발 주체에 따라 다르게 나타날 수 있다. 전문지식이 부족한 개인이나 테러 단체는 AI 챗봇을 통해 관련 정보를 모으고 실험을 계획하거나 문제를 해결하려 할 수 있다. 다만 이들이 시도할 가능성이 있는 것은 새로운 병원체 설계보다 기존 병원체나 독소를 이용하는 일이라고 전문가들은 봤다. 인도에서는 지난해 의사와 여러 사람이 AI 챗봇 질의와 AI 기반 검색을 활용해 주방 도구로 독성 물질 리신을 만들려 했다는 의혹이 제기됐다. AI 답변이 실제로 도움이 됐는지는 확인되지 않았다.
앤트로픽(Anthropic)은 9월 공개한 사례 5건에서 익명의 국가에 있는 과학자들이 바이러스나 독소와 관련한 위험한 작업에 클로드(Claude)를 이용하려 했을 가능성이 있다고 밝혔다. 한 사례에서는 연구자들이 고병원성 조류인플루엔자 바이러스에 변이를 일으켜 포유류에서 더 쉽게 적응하고 퍼지게 하는 실험을 계획했다. 챗봇이 요청을 거부한 뒤에도 우회 방법을 찾은 정황이 위험 신호로 꼽혔다. 다만 병원체의 확산을 막고 백신·치료제를 개발하기 위한 정당한 연구도 비슷한 실험을 할 수 있어, 목적을 구분하기 어렵다.
전문성·물질·시설이 남은 장벽
AI가 숙련된 연구자와 충분한 자원을 갖춘 조직의 능력을 키울 수 있다는 점은 더 직접적인 우려로 제기됐다. 킹스칼리지런던의 필리파 렌초스 과학·국제안보학 연구자는 AI가 전문성을 대체하기보다 이미 갖춘 전문성을 증폭할 수 있다고 말했다. 더 먼 위험으로는 고도로 숙련된 집단이 약물에 내성을 지니거나 해독제가 없는 새로운 병원체와 독소를 설계하는 경우가 거론된다. 미국 매사추세츠공대(MIT)의 한 실험에서는 과학을 전공하지 않은 참가자들이 챗봇에 팬데믹을 일으킬 방법을 물었고, 챗봇은 한 시간 안에 잠재적 병원체 4종과 합성 DNA 제작에 관한 정보, 주문을 엄격히 확인하지 않을 가능성이 있는 업체 이름을 제시했다.
하지만 정보만으로 생물무기를 만들 수 있는 것은 아니다. 연구자들은 비공개로 축적되는 실험 노하우, 생물학적 물질과 장비에 대한 접근, 실험 검증, 대량 생산과 살포 능력도 필요하다고 지적했다. 조지메이슨대의 소니아 벤 와그럼고믈리 생물방어 프로그램 부국장은 과거 국가 주도 생물무기 개발에서도 문서화되지 않은 지식이 중요한 역할을 했다고 설명했다. 취리히대의 마르틴 파체사 교수도 생물무기 생산에 필요한 물질과 시설을 갖춘 경우, 해를 끼치려는 이들에게 AI가 큰 차이를 만들지는 않을 것이라고 말했다.
생물학 연구의 이중용도 문제도 규제의 어려움으로 꼽힌다. 로스앨러모스 국립연구소 연구진은 2025년 해양 달팽이의 강력한 신경독이 사람 세포에 붙는 방식을 예측하는 AI를 훈련했으며, 이는 해독제 개발에 쓰일 수 있다. 그러나 중국 연구진이 이 연구를 바탕으로 독소 설계 도구를 개발하자 미국 정부가 우려를 나타냈고, 중국 측은 신약 개발 목적이라고 밝혔다. 4월에는 세균만 감염하는 유형의 바이러스를 AI로 설계한 연구가 공개돼 의약품 개발 가능성과 함께 생물안전 우려도 제기됐다. 존스홉킨스 보건안보센터의 톰 잉글스비 소장은 각국에 오용 방지를 위한 공식 정책이 아직 없다며, 새 AI 모델을 공개하기 전 독립 평가를 하고 병원체 확산 정보 등 고위험 자료를 제한해야 한다고 주장했다.