Jev는 궁극의 분류 모델인가 — System One 판단 AI를 영상 기준으로 읽는 법 | DAKER 커뮤니티
Sam Witteveen의 「Jev - The Ultimate Classification Model?」는 TypeSafe(Typesafe AI)의 제브(Jev)를 긴 추론(System 2)이 아니라 빠른 분류·판단(System One)에 맞춘 모델로 소개합니다. 아래는 영상·설명에서 말한 범위만 정리합니다.
한 줄로 말하면
소프트웨어 안의 많은 결정은 「지원 티켓 종류」「긴급한가」「규칙 위반인가」처럼 짧은 분류인데, 추론 LLM에 한 단어 답을 시키면 지연 비용이 큽니다. 영상은 채팅이 불가능한 제브를 상태(텍스트) + 타입 질문(choice/score/null) API로 쓰는 System One 모델로 설명하고, OpenRouter 기준 입력 요금·데모·한계를 같이 보여 줍니다.
제브가 받는 입력·출력 (영상 기준)
- state: 분류할 비정형 텍스트(티켓, 에이전트 트레이스, 로그 등).
- typed questions 세 종류만: choice(옵션 중 하나 + 각 확률), score(정의한 척도 점수), null(예/아니오 확률).
- 문단을 쓰지 않고 바로 쓸 수 있는 값을 돌려 준다고 하며, JSON으로 「0.9」 글자를 쓰게 하는 방식과 다르다고 강조합니다.
- 「스마트 if문」처럼 작은 질문을 여러 개 두고, 코드에서 숫자를 바꿔 조합하라고 합니다.
가격·속도·구조화 (영상 주장)
- OpenRouter 예시: 입력 약 100만 토큰당 0.042달러, 출력 0달러(출력 토큰이 사실상 없기 때문이라고 설명).
- 한 패스에 끝나 약 70–500ms대라고 소개합니다.
- 「환각 불가」 주장의 의미: 스키마를 깨거나 없는 도구 이름을 만들지 않는다는 쪽. 허용된 옵션 중 오답은 가능하다고 영상도 구분합니다. 품질은 RLCD(calibrated decisions용 강화학습)에 의존한다고 합니다.
- 회사는 새 아키텍처·parallel sampler·RLCD를 언급하지만 논문/구조도는 없다고 말합니다.
데모로 보여 준 쓰임
- 언어 식별(choice), 감정 score(0–2, 호출당 약 0.0014센트 언급), null 질문(질문인가? 등).
- 실무형: 티켓 라우팅 + 환불 요청 여부 + 긴급도, 프롬프트 인젝션·비꼼·PII·스팸 감지.
- 에이전트 도구 선택(어느 도구인지 — 인자는 추출하지 않음), 작업 20개를 이어 돌리기(약 1/12센트), Doom을 초당 ~10쿼리로 돌리면 시간당 약 7달러라는 언급.
정리
영상 결론은 「BERT식 분류·세밀 튜닝을 대체할 후보로 시험해 볼 만하다」와 「아직 초기이며, 안 맞는 쓰임은 직접 검증하라」입니다. 세부 데모는 원본을 보시면 됩니다.
출처
- 유튜브: Jev - The Ultimate Classification Model? · 채널 Sam Witteveen (@samwitteveenai)
- 블로그(영상 설명): https://typesafe.ai/blog/introducing-system-one-models-and-jev
#Jev #TypeSafe #분류 #유튜브 #리서치