앤트로픽(Anthropic)은 자사 인공지능(AI) 모델 클로드(Claude)가 박테리오파지에서 새로운 효소 계열을 찾아냈다고 발표했지만, 미공개 연구자료가 발견에 영향을 줬는지는 확인되지 않았다. 더컨버세이션(The Conversation)은 10월 8일 해당 발견의 근거와 연구 기여도, AI 사용 때의 정보 보호 문제를 짚었다.
클로드가 찾아냈다는 생물학적 시스템
앤트로픽은 새 효소군을 ‘배열 연관 역전사효소’(ARTs)라고 이름 붙였다. 역전사효소는 RNA를 DNA로 복사하는 단백질로, 생명체의 유전자 활동을 연구하거나 진단 검사에 활용된다. 박테리오파지는 세균을 감염시키는 바이러스다. 이번 발표에서 회사가 알아냈다고 주장한 것은 효소 하나만이 아니라 반복 DNA 서열과 짝을 이루는 것으로 보이는 단백질까지 포함한 더 큰 생물학적 시스템이다. 연구진은 반복 서열에서 작은 RNA 분자가 만들어지는 것도 확인했다.
효소 자체는 미국 텍사스 A&M대(Texas A&M University) 연구진이 앞서 확인했다. 앤트로픽이 새롭게 제시한 내용은 이 효소와 반복 서열, 관련 단백질이 함께 이루는 체계다. 근거 일부는 다른 연구진이 2022년 발표한 데이터를 다시 분석해 얻었다. 기존 자료를 활용해 새 결과를 낼 수 있지만, 자료를 처음 생산한 연구진의 기여를 어떻게 인정할지도 함께 제기된다. ART가 유전자 편집 도구 크리스퍼와 닮았다는 점도 관심을 끌었으나, 실제 유전자 편집에 쓸 수 있다는 뜻은 아니다.
미공개 자료 사용 여부와 검증 과제
덴마크 코펜하겐대(University of Copenhagen) 계산생물학 박사과정 연구자인 마리오 로드리게스 메스트레(Mario Rodríguez Mestre)는 자신과 동료들이 2022년부터 같은 효소를 연구했다고 밝혔다. 과학전문지 사이언티스트(The Scientist)에 따르면 메스트레는 자신의 학위논문과 논문 초안을 클로드에 공유했다. 그는 모델이 해당 연구를 토대로 발견했을 가능성을 문제 삼았지만, 현재 공개된 보도만으로는 자료가 실제 결과에 사용됐는지 판단할 수 없다.
메스트레는 조작된 ‘레트론’ 관련 특허의 발명자 명단에 포함돼 있다. 레트론은 역전사효소와 관련 RNA를 갖춘 유전 시스템이며, 특허에는 점보 파지의 역전사효소 서열도 기재됐다. 미국 특허 출원은 2023년 7월 공개됐다. 이는 점보 파지 역전사효소에 대한 선행 연구를 보여주지만, 앤트로픽이 설명한 효소 시스템 전체를 메스트레 연구진이 이미 규명했다는 증거는 아니다. 앤트로픽은 사용자 대화 기록으로 모델을 학습하지 않았고 생물학 연구팀도 해당 기록에 접근하지 않았다고 부인했다.
클로드의 발견 과정이 일관되게 독립적인지도 검증이 필요하다. 앤트로픽 보고서에서 추가로 수행한 10차례의 검색 중 에이전트들은 반복 서열을 찾아내지 못했다. 일부 모델은 관련 서열을 직접 입력받으면 패턴을 알아봤지만, 주어진 패턴을 인식하는 것과 스스로 발견하는 것은 다르다. 그렇다고 생물학적 발견 자체가 틀렸다는 뜻은 아니며, 보고서는 아직 동료 심사를 거치지 않았다. 연구진은 효소가 실제로 작동하는지, RNA를 DNA로 복사하는지, 바이러스 안에서 어떤 역할을 하는지도 실험으로 입증하지 못했다.
이번 논란은 연구자가 AI에 미공개 자료를 입력할 때의 정보 보호 문제도 드러낸다. 유료 구독만으로 연구자료가 비공개로 유지되거나 모델 학습에서 제외된다고 단정할 수는 없다. 앤트로픽의 개인용·기업용 서비스에는 서로 다른 규정이 있고, 상업용 서비스는 기본적으로 입력과 출력을 학습에 쓰지 않지만 이용자가 동의하거나 의견을 제출하는 경우 등 예외가 있을 수 있다. 클로드 사이언스는 데이터와 계산을 연구자 컴퓨터에 둘 수 있다고 설명하지만, AI에 보낸 지시와 응답은 앤트로픽에서 처리된다. 연구자는 기관 지침과 권한을 확인하고, AI가 연구 방법에 필수적인 경우 사용한 모델과 지시문을 기록해야 한다. 또 외부로 전송되는 정보가 무엇인지 확인해야 한다.