제브(Jev) 0.5초·0.002배·193배 주장 — 분류용 판단 AI를 영상 기준으로 읽기 | DAKER 커뮤니티
제목에 적힌 「판단 0.5초, 비용 0.002배, 속도 193배」만 보면 만능처럼 들립니다. 찐AI 채널 「판단 속도 0.5초, 비용은 0.002배, 속도는 193배! AI 분류 작업의 판도를 바꿀 Jev」는 TypeSafe의 제브를 선택지 안 확률을 빠르게 돌려주는 분류·판단 모델로 소개합니다. 오늘은 영상에서 말한 범위만 정리합니다.
한 줄로 말하면
제브는 긴 글을 쓰는 챗봇이 아니라, 미리 정한 Choice·Score·Bool 선택지와 State를 받아 확률·신뢰도를 구조화해 반환한다고 설명됩니다. 제목의 0.5초·0.002배·193배는 영상 쪽 프레이밍이고, 본문 인보이스 비교도 회사가 보여 준 수치로 소개됩니다. 「환각 0%」는 선택지 밖을 만들지 않는다는 형식 보장이지 정답률 100%가 아니라고 말합니다.
무엇을 하는 모델인가
이중 결제 고객 문의를 결제팀·기술팀·영업팀 중 어디로 보낼지처럼, 필요한 건 긴 추론이 아니라 하나의 판단인 경우가 많다고 합니다. 일반 모델은 비구조 토큰을 길게 만들고, 제브는 고정 선택지 확률만 돌려줍니다. Python SDK로 State와 질문 유형을 넣고, 각 선택지 확률과 confidence를 받는 흐름을 보여 줍니다.
숫자와 조건 (영상 주장)
- 제목 프레이밍: 판단 0.5초, 비용 0.002배, 속도 193배 — 영상 제목·소개 주장입니다.
- 본문 인보이스 비교(영상 인용): o1 약 34초·정확도 79.1%·약 0.21달러 vs 제브 약 0.5초·61.8%·약 0.0011달러. 서술은 시간 약 70대 1, 비용 약 200대 1 쪽으로 말합니다.
- 4개 워크플로 차트: 제브 정확도 약 67.8%, 워크플로당 약 0.0004달러. 입력 100만 토큰 약 0.042달러, 출력은 거의 무료에 가깝다고 소개합니다.
- 구조화 출력 오류: 인용 조사에서 o1 1.43%·Astra 0.83% vs 제브 0%. 「환각 없음」= 제시 선택지 밖 미출력.
- 여러 판단을 순차 그래프가 아니라 한 번에 넣어 병렬 평가할 수 있다고 강조합니다.
오늘 할 일 (3분)
- 내 업무에서 「선택지가 고정된 분류」 하나를 고릅니다.
- 제브(또는 유사 결정 API)와 기존 LLM을 같은 입력으로 소량 비교할 표(지연·비용·정답률)를 만듭니다.
- 제목 배수를 목표로 적지 말고, 실측 기준선을 적습니다.
정리
영상 결론은 「빠르고 싼 판단을 자동화에 넣을 가능성」과 「정확도는 트레이드오프·만능이 아님」을 같이 보라는 쪽에 가깝습니다. 웹 자동화·자동매매·분류·중간 검증 시나리오는 원본을 보시면 됩니다.
출처
- 유튜브: 판단 속도 0.5초, 비용은 0.002배, 속도는 193배! AI 분류 작업의 판도를 바꿀 Jev · 채널 찐AI (@jjin-ai-hj)
- TypeSafe: https://typesafe.ai
#Jev #TypeSafe #분류AI #유튜브 #리서치