스페코(Speko)가 음성 AI 에이전트에 쓰이는 음성인식(STT), 대규모언어모델(LLM), 음성합성(TTS)을 정확도·지연시간·비용 기준에 맞춰 자동 조합하는 플랫폼을 출시했다. 벡 스페코 창업자는 8월 18일 회사 웹사이트를 통해 공개 벤치마크를 바탕으로 최적의 모델 조합을 추천하고, 선택 이유와 성능 점수까지 제공한다고 밝혔다.
음성 AI 에이전트는 일반적으로 STT와 LLM, TTS 모델을 함께 사용한다. 각 계층마다 여러 공급업체와 모델이 있고 매달 새 모델이 나오지만, 기업들은 한 번 스택을 정한 뒤 공급업체를 바꾸는 데 필요한 추가 연동과 성능 검증 부담 때문에 기존 구성을 유지하는 경우가 많다는 설명이다. 스페코는 그 결과 최신 모델보다 성능이 낮거나 비용이 높은 구성이 운영에 남는다고 지적했다.
사용자는 정확도, 지연시간, 비용 또는 균형형 최적화 기준과 언어·지역을 요청에 담아 보내면 된다. 라우터는 해당 조건으로 직접 측정한 모델만 추려 벤치마크를 수행한 뒤 우승 모델을 선택하고, 공급업체와 모델명, 점수가 담긴 헤더를 응답으로 돌려준다. 게이트웨이는 서명된 세션 계획을 미리 받아 새 통화가 시작될 때 제어 영역을 거치지 않고 메모리에서 공급업체로 직접 연결하며, 연결 시도 단계에서 공급업체가 거부할 경우에만 차순위 모델로 전환한다.
스페코는 부동산 관리 AI 업체가 출시 이후 STT와 TTS를 한 번도 바꾸지 않아 통화 오류율이 높은 모델을 계속 사용한 사례를 소개했다. 스페인어 모델 선택에 어려움을 겪은 팀과 의료 용어에 강한 STT를 찾던 의료팀에도 벤치마크를 바탕으로 조합을 제시했다고 덧붙였다. 회사는 지역별로 동일한 입력을 모든 모델에 넣어 날짜별로 측정하고 결과표를 공개하며, 자사 선택이 다른 대안보다 낮은 경우도 함께 게시한다고 밝혔다.
짧은 음성 구간의 품질만 비교하는 출시 시연과 달리 실제 운영에서는 통화 8분 이후까지 안정적으로 작동하는지가 중요하다고 보고, 자연발화와 금액·날짜 표현, 10분 분량 음성을 시험한다. TTS 자연스러움은 블라인드 대결 청취 결과로 자동 평가기를 학습했으며, 평가에 쓰지 않은 공급업체에서도 사람 평가자들이 합의한 승자와 비슷한 빈도로 승자를 골랐다고 설명했다. 스페코는 모델을 직접 학습하거나 판매하지 않는 방식이 순위의 중립성을 유지한다고 강조했다.
스페코는 음성 경로의 추가 네트워크 홉을 피하고 클라우드에 키를 공유하지 않으려는 팀을 위해 게이트웨이를 깃허브(GitHub)에 MIT 라이선스로 공개했다. 게이트웨이는 Go로 작성된 단일 실행 파일로 에이전트 컨테이너의 사이드카에서 작동하며, 유닉스 소켓의 로컬 프로토콜로 통신하고 공급업체 호스트와 사용자 키를 고정한다. BYOK 방식에서는 스페코와 통신하지 않으며 익명·콘텐츠 비포함 텔레메트리가 기본 활성화되지만 환경변수 하나로 끌 수 있다. 게이트웨이와 BYOK 설정은 무료로 제공하고, 호스팅 라우터와 관리형 키·통합 청구에 과금한다. 회사는 6월 말 배치 시작 이후 외부 사용량이 출시 초기 효과를 포함해 주평균 약 25% 증가했다고 밝혔다.