앤트로픽(Anthropic)의 구르미트 사란 기술직원은 클로드(Claude) 등 대규모언어모델의 동작을 파악하고 정확한 답변을 뒷받침할 데이터 기반 시설을 개발하고 있다. IEEE 스펙트럼(IEEE Spectrum)은 10월 13일 사란의 업무와 경력을 소개했다.
클로드 동작 추적하는 기반 시설
사란은 데이터가 정확하고 구조화돼 신뢰할 수 있도록 하는 한편, 개인정보가 보호되도록 시스템을 설계하는 일을 맡고 있다. 그는 개인정보 보호는 소프트웨어에 나중에 덧붙이는 기능이 아니라 설계 초기부터 구조에 반영해야 한다고 말했다. 데이터의 처리 논리를 신뢰할 수 없다면 AI가 어떤 방식으로 행동하는지에 대해서도 믿을 만한 판단을 내리기 어렵고, 이는 안전 문제로 이어질 수 있다는 설명이다.
대규모언어모델의 동작을 연구자가 관찰하고 이해하는 일은 앤트로픽의 안전 목표를 위해 중요하다고 사란은 강조했다. 데이터베이스와 웹 서비스에는 상태를 감시하는 도구가 있지만, 대규모언어모델을 대상으로는 아직 적절한 방법을 찾아가는 단계라는 것이다. 사란은 클로드가 복잡한 질문에 빠르게 답할 때 어떤 정보와 처리 과정을 거치는지 파악할 수 있는 기반을 구축하고 있다.
데이터 기준 통일한 과거 경험
사란은 2007년 야후에서 데이터팀 기술 책임자로 일하며 같은 웹사이트 지표를 팀마다 서로 다른 방식으로 계산해 결과가 엇갈리는 문제를 겪었다. 그는 지표의 정의와 계산 기준을 통일하는 중앙 데이터 저장소 구축에 참여했고, 일일 활성 이용자 수에 어떤 활동을 포함할지와 예외 상황을 어떻게 처리할지 정리했다. 이후 야후의 여러 제품에서 쓰인 사내 웹 분석 도구 야후 디지츠도 팀과 함께 만들었다.
2010년 인튜이트로 옮긴 뒤에는 터보택스와 퀵북스 등 제품의 데이터를 통합하는 분석 기반 시설을 구축했다. 실시간으로 세금 신고 사기를 찾아내는 기능을 개발하는 과정에서는 납세자 정보를 보호하고 미국 국세청의 엄격한 정책을 지켜야 했다. 2016년 메타(Meta)에 합류한 뒤에는 동영상 조회 지표의 기준을 통일하는 시스템 메트릭360을 구축했다. 메타가 동영상 조회 수를 실제보다 높게 집계한 오류를 인정한 뒤, 사란은 이를 단순한 코드 오류가 아니라 시스템 구조의 문제로 봤다고 말했다.
사란은 2021년 메타를 떠나 금융 서비스 업체 웰스프런트에서 데이터 기반 시설 구축을 맡았고, 2025년 앤트로픽에 합류했다. 그는 여러 측정 장치의 수치가 조금씩 어긋나면 중요한 의료 판단에 문제가 생길 수 있다는 비유를 들며, AI에서도 어려운 판단은 데이터와 측정의 작은 차이가 중요한 경계에서 이뤄진다고 설명했다. 기사에는 앤트로픽의 해당 기반 시설 출시 일정이나 구체적인 성능 수치는 제시되지 않았다.