미국 샌프란시스코 스타트업 디텍티파이AI(DetectifAI)가 통화와 음성 메시지에서 AI 딥페이크 음성을 스마트폰 안에서 판별하는 기술을 휴대전화 제조사에 공급하는 데 나섰다. 테크크런치(TechCrunch)는 9월 29일 디텍티파이AI의 사업 모델과 기술을 소개하며 이같이 보도했다.
가족을 속인 딥페이크 음성 사기
창업자 타리니 파드마나부니(Tarini Padmanabhuni)는 약 2년 전 할아버지가 형제의 목소리를 흉내 낸 전화를 받고 납치 몸값을 보낸 일을 계기로 회사를 세웠다. 전화 속 인물은 형제가 납치됐다며 돈을 요구했지만, 실제 형제는 사건이 벌어진 사실조차 모른 채 다른 곳에 있었다. 파드마나부니는 당시 피해액보다 할아버지가 목소리의 진위를 확인할 방법이 없었다는 점이 더 오래 마음에 남았다고 말했다.
미국 연방수사국(FBI)에 따르면 지난해 미국인의 AI 활용 사기 피해액은 9억달러에 육박해 2024년보다 24% 늘었다. 60세 이상 피해액은 50∼59세 피해자의 두 배였다. 딥페이크 음성 탐지 분야에는 리얼리티 디펜더(Reality Defender), 핀드롭(Pindrop), 리심블AI(Resemble AI), 마이크로소프트(Microsoft) 애저 AI 콘텐츠 세이프티(Azure AI Content Safety), 뉘앙스(Nuance) 등이 진출해 있다.
스마트폰에서 음성을 바로 판별
파드마나부니는 기존 탐지 제품이 원격 서버를 이용하는 클라우드 방식이어서 스마트폰에 직접 탑재하기 어렵다고 지적했다. 디텍티파이AI는 대형 클라우드 모델을 축소하는 대신 처음부터 스마트폰 운영체제에서 작동할 수 있도록 작은 AI 모델을 설계한다고 설명했다. 통화, 음성 메시지 등에서 음성이 AI로 만들어졌는지 즉시 판별하고, 오디오를 기기 밖으로 보내지 않는 것이 목표다.
회사는 소프트웨어 개발 키트(SDK)를 휴대전화 제조사에 라이선스하는 방식으로 먼저 판매하고, 기존 유통 경로를 통해 다른 제품에도 기술을 공급할 계획이다. 파드마나부니는 첫 도입 제조사가 경쟁사와 차별화할 수 있고, 딥페이크 탐지가 카메라 해상도처럼 휴대전화의 표준 사양이 될 수 있다고 주장했다. 기업과 사기 방지 업체에 기술을 라이선스하는 방안도 부수적인 수익원으로 제시했다.
디텍티파이AI는 인도 금융기관을 대상으로 매달 10만건이 넘는 통화를 처리하고 있으며 초기 매출도 발생했다고 파드마나부니는 밝혔다. 통화는 채권 추심과 대출 서류 후속 확인을 맡은 AI 음성 에이전트가 진행하며, 회사는 모든 통화에서 딥페이크 탐지와 발신자가 주장하는 인물과 일치하는지 확인하는 화자 검증을 수행한다고 설명했다. 고객사 이름은 비밀유지 계약을 이유로 공개하지 않았다.
회사는 의심스러운 음성 메시지를 전달하면 진위 평가를 돌려주는 왓츠앱 베타 서비스도 시험했다. 친척이 사기를 당한 적 있는 한 이용자는 서비스를 주저 없이 구매하겠다고 했다고 파드마나부니는 전했다. 머신러닝을 12세 때 시작했다고 밝힌 그는 인도 마니팔 공과대에서 사이버물리시스템을 공부했으며, 회사는 조시 콘스틴과 KM그로스의 마노하르 카마스로부터 초기 시드 투자를 받았다. 디텍티파이AI는 10월 13∼15일 샌프란시스코에서 열리는 테크크런치 디스럽트의 스타트업 배틀필드 참가 기업으로 선정됐다.