핵심 요약
기사 목차 펼치기 / 접기
정해진 보기에 확률을 붙여 답하는 판단 AI가 한 달 사이 세 갈래로 늘었다. 타입세이프AI(TypeSafe AI)의 Jev, 오픈AI(OpenAI)의 디시전스 API(Decisions API), 마이크로소프트(Microsoft)의 디시전-1(Microsoft-Decision-1)이다.
세 제품은 질문을 받는 방식이 거의 같아서 상황 설명과 질문, 보기를 넣으면 문장 대신 보기별 확률이 돌아온다. 하지만 답을 고르는 엔진과 값을 매기는 방식, 공개한 사양은 저마다 다르다. 가격과 사양, 성능 측정 결과를 차트 일곱 장에 나란히 담았다.
Jev는 9월 15일 공개됐다. 오픈AI는 9월 29일 데브데이(DevDay)에서 디시전스 API를 발표했고, 10월 6일 공개 베타로 열었다. 마이크로소프트는 10월 9일 디시전-1 공식 발표를 거쳐 마이크로소프트 파운드리(Microsoft Foundry)와 오픈라우터(OpenRouter)에 내놨다. 그사이 클라우드플레어와 AWS의 판단 모델 공개도 잇따랐다.
타입세이프는 출시 한 달이 채 지나지 않아 8억7000만달러 투자 유치를 성사시키며 기업가치 75억달러(약 10조원)를 인정받았다.
질문 방식은 일치, 엔진은 3사 3색
세 제품이 받는 질문은 참일 확률을 묻는 질문, 보기 중 하나를 고르는 질문, 정해진 단계 중 어디인지 매기는 질문의 세 종류다. Jev 문서는 이를 Noul·Choice·Score라고 부른다. 디시전-1 공식 가이드도 noul·choice·score라는 소문자 이름을 그대로 쓴다. 반면 오픈AI 가이드만 참·거짓 질문에 predicate라는 독자 명칭을 붙였다.
실무 환경에서 ‘predicate’는 제품 외관 파손이나 결제 오류처럼 조건을 검증하는 ‘O/X 도장’ 역할을 맡는다. ‘choice’는 고객 문의를 적절한 담당 부서로 넘기는 ‘객관식 자동 분류기’이며, ‘score’는 시스템 장애의 심각도를 1~5단계로 평가하는 ‘위험도 채점 척도’로 동작한다.
호출 경로를 보면 Jev는 /v1/systemone 엔드포인트를 쓴다. 디시전-1 안내 주소 역시 /providers/microsoft/v1/systemone으로 끝나 규격을 공유한다. 반면 오픈AI는 /v1/decisions라는 별도 경로를 채택했다.
같은 OMR 답안지를 3사가 각자 개발한 채점기로 판독하는 구조다.
채점기 내부 아키텍처는 제각각이다. Jev 소개문에 따르면 Jev는 문장을 생성하지 않는 판단 전용 모델로 설계됐으며 구조와 파라미터 수는 공개되지 않았다. 디시전스 API 문서를 보면 오픈AI는 별도 신규 모델 없이 플래그십 추론 모델인 GPT-6 루나(GPT-6 Luna)를 판단 전용 창구로 열었다. 마이크로소프트 발표에 따르면 마이크로소프트는 알리바바(Alibaba)의 오픈소스 모델 큐웬(Qwen)3.5-9B를 판단용으로 추가 학습했다. 향후 자사 MAI와 오픈AI 모델로 전환하겠다는 계획도 밝혔다.
| 항목 | Jev | 디시전스 API | 디시전-1 |
|---|---|---|---|
| 만든 곳 | 타입세이프AI | 오픈AI | 마이크로소프트 |
| 공개 | 9월 15일 | 9월 29일 발표 10월 6일 공개 베타 | 10월 9일 |
| 엔진 | 판단 전용 모델(구조 비공개) | GPT-6 루나 | 큐웬3.5-9B 추가 학습 |
| 입력 단가(100만토큰) | 0.042달러 | 0.1달러 | 0.042달러 |
| 출력 과금 | 없음 | 없음 | 없음 |
| 입력 형식 | 텍스트 | 텍스트·이미지 | 텍스트 |
| 질문 이름 | Noul·Choice·Score | predicate·choice·score | noul·choice·score |
| 호출 주소 | /v1/systemone | /v1/decisions | …/v1/systemone |
| 판매 경로 | 타입세이프 API | 오픈AI API | 마이크로소프트 파운드리·오픈라우터 |
100만토큰당 0.042달러 대 0.1달러…2.4배 가격 격차
Jev 공식 가격표에 따르면 입력 단가는 100만토큰당 0.042달러(약 56원)이며 출력에는 비용을 부과하지 않는다. 디시전-1 안내문 역시 입력 0.042달러에 출력 무료 정책을 동일하게 채택했다. 소수점 셋째 자리까지 일치하는 금액이다. 반면 디시전스 API 가격 정책은 입력 0.1달러(약 134원)로 약 2.4배 수준이다.
건당 입력 1000토큰 규모의 판단 작업을 100만건 구동할 경우 Jev와 디시전-1은 42달러(약 5만6000원), 디시전스 API는 100달러(약 13만4000원)가 소요된다.
판단 API의 가격 경쟁은 사실상 바닥에 도달했다.
실측 데이터도 동일한 흐름을 나타냈다. AI 평가 전문 기업 아라이즈(Arize AI)가 공개한 10월 7일 아라이즈 벤치마크에서 1000건당 비용은 Jev가 0.045달러, 디시전스 API가 0.09달러로 집계됐다. 디시전-1은 해당 실측 조사 발표 이후 출시되어 비교군에 포함되지 않았다.
가격표 외 부가 비용 체계도 따져봐야 한다. 디시전스 API 가격 안내에 따르면 리전 지정 처리 할증과 긴 입력 배율이 별도로 가산된다. 한편 디시전-1은 세부 가격 분석에서 나타나듯 배치 및 캐시 할인 단가를 제시하지 않았으며, 11일 기준 애저 파운드리 공식 가격 페이지에도 오르지 않았다.
의료·보안 규제는 오픈AI, 투명한 공개 사양은 Jev
오픈AI의 강점은 이미지 처리와 엔터프라이즈 규제 대응력이다. 디시전스 API 기능 명세에 따르면 base64 인코딩 이미지를 직접 수신할 수 있으며 데이터 무보관(ZDR), 미국 의료정보보호법(HIPAA) 준수, 미국 및 유럽경제지역(EEA)·스위스 역내 데이터 처리를 지원한다. 제품 사진을 분석해 파손 여부를 가려내야 하는 업무에서는 3사 중 디시전스 API가 유일한 선택지다.
Jev는 운영 사양을 가장 투명하게 공개했다. Jev 공식 사양서에는 단일 요청당 6만4000토큰 문맥, 초당 80건(RPS)이라는 한계값과 jev-1.13.0이라는 고정 버전 체계가 명시돼 있다. 반면 오픈AI 문서에는 최대 문맥 길이, 선택지 개수 상한, 호출 한도가 공개되지 않았다.
디시전-1은 문맥 처리 길이가 가장 짧다. 뉴스택 기술 분석에 따르면 디시전-1이 한 번에 처리할 수 있는 텍스트는 3만2768토큰에 그친다. 디시전-1 배포 문서는 데이터존 표준과 글로벌 표준 두 가지 배포 방식을 안내하지만, 세부 처리 한도와 지원 리전 목록은 공식적으로 밝히지 않았다.
오픈AI는 규제 서류를 챙겼고, Jev는 기술 설명서를 챙겼다.
자체 벤치마크와 제3자 실측이 가리킨 정확도 격차
성능 지표는 측정 주체에 따라 편차가 나타나므로 마이크로소프트의 자체 시험 결과부터 살펴본다. 마이크로소프트 벤치마크 결과에 따르면 36개 벤치마크 14만7137문항 대상 평균 정확도는 디시전-1 83.5%, Jev 82.3%, GPT-6 루나 기반 디시전스 API 79.4%로 집계됐다. 확신도가 실제 적중률과 일치하는 정도를 뜻하는 보정 점수에서는 Jev가 93.7점을 기록해 디시전-1(92.2점)을 앞섰다.
응답 지연 시간 중앙값은 디시전-1이 85밀리초로 가장 짧았다. 다만 차트 각주에 명시된 바와 같이 디시전-만파운드리 환경에서 직접 측정됐고, 나머지 경쟁 모델 수치는 공개 리더보드 JevBench의 기록을 인용했다. 측정 환경이 서로 다른 데이터가 나란히 배치된 셈이다.
제3자 독립 측정은 아라이즈가 진행했다. 아라이즈 독립 벤치마크 보고서에 따르면 환각 탐지 정확도는 Jev 85.5%, 디시전스 API 81.5%를 기록했으며, 아라이즈는 신뢰구간 중첩을 이유로 사실상 무승부로 판정했다. 클라우드플레어의 Clef 27B는 환각 탐지율 85.2%로 대등했으나 응답 시간 중앙값이 0.50초로 뒤처졌다. Jev와 디시전스 API 사이의 실질적 격차는 보정과 속도, 비용에서 갈렸다. 보정 오차는 Jev 0.023, 디시전스 API 0.042였으며 응답 시간 중앙값은 각각 0.08초와 0.16초였다.
두 실측 결과 모두 Jev가 디시전스 API 대비 뛰어난 보정 정밀도와 비용 효율을 갖췄음을 뒷받침한다. 디시전-1은 아직 공인된 제3자 실측 데이터가 부재하다. 동일한 Jev의 응답 지연 시간도 마이크로소프트 차트에서는 240밀리초, 아라이즈 실측에서는 80밀리초로 집계되는 등 절대 수치는 인프라와 측정 방식에 크게 좌우된다.
비교군에 따라 춤추는 성능 배수
3사는 모두 경쟁력 있는 ‘배수’를 마케팅 전면에 내세운다. Jev 공식 홈페이지는 범용 LLM 대비 193.6배 빠르고 444.6배 저렴하다고 명시했다. 그러나 9월 독립 벤치마크 리포트 실측 결과 소형 LLM 대비 2.0~3.6배 빠르고, 최저가 소형 모델군 대비 4.7~7.5배 저렴한 수준으로 확인됐다.
마이크로소프트 공식 발표에 따르면 디시전-1은 GPT-6 솔(GPT-6 Sol) 대비 35배 빠른 속도를 기록했다. 엑스박스(Xbox) 리서치 조직은 1만건 이상의 플레이어 피드백을 분류하며 14배 이상의 속도 향상과 200배의 비용 절감 효과를 거뒀고, 코파일럿(Copilot) 팀은 GPT-5.6 루나 대비 100배 빠른 처리 속도를 보고했다. 뉴스택 사내 검증 분석에 따르면 엑스박스, 코파일럿, 장애 대응 엔지니어링, 마이크로소프트 디스커버리 등 4개 사내 팀이 디시전-1을 선행 검증하고 있다. 한편 디시전스 API 안내문은 기존 Responses API 대비 약 10배 빠르다고만 간략히 언급했다.
디시전-1의 35배와 Jev의 2~3.6배는 동일 평면에서 비교할 수 없는 수치다. 전자는 최상위 초대형 모델과 견준 결과이고, 후자는 극도로 경량화된 저가 모델군과 비교한 결과다.
자전거 기록을 버스와 재느냐 오토바이와 재느냐의 차이다.
확률 보정의 한계와 실무적 1차 관문 활용법
판단 AI의 핵심 가치는 확률의 신뢰성에 있다. ‘확신도 0.95 이상 시 자동 승인’과 같은 비즈니스 로직을 코드에 구현하려면 반환된 확률이 실제 정답률과 일치해야 한다. 그러나 3사 제품 모두 이 지점에서 명확한 기술적 과제를 안고 있다.
JevOut 연구 논문에 따르면 평범해 보이는 문장을 문맥에 삽입하는 공격을 가하자, Jev가 정확히 맞히던 508건 중 61.4%(312건)가 특정 오답으로 전락했고 그중 229건은 오답에 0.7 이상의 높은 확신도를 부여했다. 조사 대상에 포함된 다른 3종의 판단 시스템 역시 64.9~73.2%의 실패율을 기록해 개별 제품만의 취약점이 아님을 보여줬다. 마이크로소프트 견고성 테스트에서는 선택지 순서 변경 등 8가지 프롬프트 변형 환경에서 디시전-1의 판단 변경 비율이 평균 1.3% 수준으로 유지됐으나, 이는 악의적 오답 유도 공격을 가한 JevOut 실험과는 조건이 다르다.
베리넷 독립 검증 분석에 따르면 분포 외(OOD) 데이터 환경에서 Jev는 선택지 지정과 점수 평가 작업에서는 과도하게 확신하고, 단순 예·아니오 판단에서는 지나치게 소극적인 확신도를 보였다. 아라이즈 실측의 안정적인 보정 오차(0.023)와는 상반된 양상으로, 훈련 데이터와의 친숙도에 따라 확률의 정밀도가 크게 요동친다.
디시전-1 공식 가이드 역시 “보정 정밀도는 모델에 익숙한 과제 유형에서 가장 안정적”이라며 자동 워크플로우 적용 전 라벨링된 검증셋을 통한 사전 테스트를 권고했다. 오픈AI 문서는 확신도(confidence)의 통계적 정의나 보정 여부에 대해 일체 함구하고 있다.
가장 현실적인 엔지니어링 대안은 판단 AI를 파이프라인의 1차 관문으로 배치하는 계층형 아키텍처다. 하이브리드 파이프라인 실험에 따르면 확신도 0.80 미만 요청만 상위 모델인 GPT-5.6 테라(GPT-5.6 Terra)로 라우팅했을 때, 전체 정확도는 테라 단독 구동 대비 0.5~0.6%p 향상되면서도 비용은 26~28% 수준으로 절감되고 응답 시간은 절반으로 단축됐다.
인프라와 규제 요건에 따른 3사 선택 기준
이미지 분석이 수반되거나 의료 및 유럽 역내 데이터 규제를 준수해야 하는 조직이라면 디시전스 API가 사실상 유일한 대안이다. 단가가 2.4배 비싸더라도 신규 공급사 계약에 수반되는 컴플라이언스 비용을 감안하면 합리적인 선택이 될 수 있다.
기존 시스템을 마이크로소프트 애저(Azure) 기반으로 운영 중인 엔터프라이즈라면 디시전-1의 도입 장벽이 가장 낮다. Jev와 동일한 최저가를 누리면서 기존 통합 계약 및 IAM 권한 체계 안에서 매끄럽게 연동된다. 다만 독립 제3자 실측 데이터가 아직 부재한 만큼 도입 전 내부 벤치마크 검증이 요구된다.
투명한 한계값 규격, 특정 모델 버전 고정, 공인된 제3자 실측 지표가 필수적인 환경이라면 Jev가 최적의 선택지다. 3만2768토큰을 초과하는 대용량 문맥을 한 번에 전달해야 하는 워크로드에서도 Jev의 우위가 확고하다.
구글과 앤트로픽의 관망…로컬 브라우저 AI라는 다른 길
클로드 API 변경 이력에는 10월 12일 기준 판단 전용 모델이나 API 출시 소식이 없다. 제미나이 API 변경 이력 역시 마찬가지로 관망세를 유지하고 있다.
구글은 클라우드가 아닌 다른 경로를 모색하고 있다. DecisionModel 설계 문서에 따르면 구글 크롬 내장 AI 엔지니어링 팀은 웹 브라우저 로컬 환경에서 구동되는 판단 API 규격을 제안했다. 크로미엄 실험 플래그 분석에 따르면 10월 6일과 8일 관련 테스트 코드가 크로미엄에 머지됐다. 문서상 아직 크롬 정식 출시 승인을 득하지 못한 단계이지만, 중앙 클라우드 API 호출을 거치지 않고 사용자 디바이스 내부에서 즉각 판단을 수행하는 아키텍처를 겨냥한다.
엔진 교체 속 표준 호출 규격을 둘러싼 주도권 다툼
Jev와 디시전-1이 100만토큰당 0.042달러라는 최저가 동결선에 안착하고 디시전스 API 또한 출력 토큰 과금을 철폐하면서 단가 경쟁은 이미 임계점에 도달했다. 가격 인하만으로 신규 엔터프라이즈 고객을 유인할 여지는 극히 제한적이다.
진정한 승부처는 호출 규격(API Schema)의 표준화에 있다. 마이크로소프트는 내부 엔진을 MAI나 오픈AI 모델로 유연하게 교체하겠다고 밝히면서도 외부 호출 인터페이스는 Jev의 /v1/systemone 규격을 선제 수용했다. AWS와 클라우드플레어의 판단 모델 역시 Jev가 정의한 noul 파라미터 규격을 그대로 계승했다. 반면 오픈AI만 독자적인 엔드포인트와 용어 체계를 고수하며 자사 에이전트 생태계로 고객을 묶어두는 락인(Lock-in) 전략을 펼친다.
지난 4일 Jev 복제판이 쏟아지며 판단 기능의 부품화가 본격화된 지 이틀 만에, 오픈AI는 그 부품을 자사 플랫폼의 기본 탑재 기능으로 달았다. Jev의 경쟁 무대도 오픈소스 복제판을 넘어 빅테크의 거대한 클라우드 플랫폼 계정으로 확장됐다.
엔진은 바뀌어도 콘센트 모양은 쉽게 바뀌지 않는다.
“Jev 공개 3주 만에 상위 판단 모델은 정확도 측면에서 범용품이 됐다.”
승부는 이미 가격의 바닥을 찍고, 생태계를 묶어둘 호출 규격의 영토 싸움으로 번졌다.
