Jev로 만들기 — TypeSafe 판단 AI를 아이디어·VPS·API에 넣는 법 (David Ondrej) | DAKER 커뮤니티
David Ondrej의 「Build Anything with Jev, Here’s How」는 TypeSafe의 제브(Jev)를 채팅용이 아닌 빠른 판단용 모델로 소개하고, 아이디어 → VPS → API 연결까지 소프트웨어에 넣는 흐름을 보여 줍니다. 아래는 영상·설명에서 말한 범위만 정리합니다.
한 줄로 말하면
제브는 문장을 쓰는 LLM이 아니라, 선택지·점수·확률을 한 번에 돌려주는 「System One」 판단 모델로 소개됩니다. 영상은 약 100ms대 응답과 저렴한 입력 요금으로 실시간 폼·분류·컴퓨터 사용 같은 데모를 보여 주고, TypeSafe API 대기열이 있으면 OpenRouter 등으로 연결해 에이전트와 VPS에 올리는 과정을 따라갑니다.
제브가 하는 일 (영상 기준)
- 프롬프트를 결정·확률로 바꿉니다. 채팅처럼 토큰을 이어 쓰지 않고, 옵션을 병렬로 채점합니다.
- 인터페이스 예시(고객 지원 티켓): choice(어느 부서), score(불만 정도), probability(환불 요청 가능성)를 약 100ms에 받는다고 설명합니다.
- 장점 쪽으로는 행동 선택·분류·점수·순위·라우팅을 매우 빠르게 할 수 있다고 하고, 문장 작성·자기 설명·코드 작성·단계별 추론은 하지 않는다고 분명히 말합니다. Astra·Fable 같은 채팅/코딩 모델을 대체하는 제품이 아니라고 합니다.
- 학습 방식으로 RLCD(calibrated decisions용 강화학습)를 언급하며, 확신이 낮으면 확률을 낮게 표현하도록 만들었다고 합니다.
영상에서 말한 속도·가격·구조화 (주장)
- 지연: 대략 70–500ms, 흔히는 100–150ms대라고 소개합니다.
- 가격: 입력 약 100만 토큰당 0.042달러, 출력 무료(10억 입력 토큰당 42달러로도 말함). 예로 요청 100만 건×입력 1천 토큰 ≈ 42달러.
- 프레이밍: 가장 빠른 모델 대비 약 200배 빠르고, 일부 저가 모델 대비 약 400배 저렴하다는 소개. 「환각 0%」는 구조화된 결정 출력·도구 호출 오류율 차트와 함께 나온 영상 주장입니다. 내 업무 배수는 따로 재야 합니다.
- 접속: 데모 중 TypeSafe API는 대기열이라 OpenRouter(또는 Vercel AI Gateway)로 Jev를 붙였다고 합니다.
데모로 보여 준 쓰임
- 스프레드시트 행마다 긴급도를 입력하는 즉시 라벨링(수백 행, ~100ms대).
- 간단한 자율주행 토이: 거리·속도 같은 입력을 주고 가속/감속/정지/회전을 실시간 선택.
- 컴퓨터 사용(항공권 검색) 데모: 구조화된 클릭·결정, 영상 기준 약 0.004달러·약 7초 언급.
- UI를 깨보려는 적대적 테스트 스위트를 CI에 넣기 쉬워졌다는 사례(수 펜니·병렬).
만드는 3단계 (영상 흐름)
- 아이디어 — LLM이 10–20초 걸리는 「실시간 판단」이 필요한 제품. 영상 데모는 지원자/대기열을 실시간으로 등급 매기는 Typeform류 지능형 폼.
- VPS 하나 — 프론트·백을 나눠 여러 호스팅을 쓰지 않고, Hostinger VPS + Coolify 등으로 풀스택을 올린다고 시연합니다. 에이전트(Astra)가 리눅스 설정을 돕는 장면을 보여 줍니다.
- 제브 붙이기 — 에이전트에게 앱을 만들게 하고, API 키(대기열이면 OpenRouter 등)를 환경변수로 넣은 뒤 GitHub·Dockerfile로 배포합니다. 시연 폼은 약 488ms 왕복이 한 번 표시되었습니다.
정리
영상 메시지는 「빠른·싼·형식 잡힌 판단을 기존 소프트웨어 UX에 넣으면 새 제품 파도가 온다」와 「문장형 LLM 대체가 아니다」를 같이 보는 것입니다. 세부 시연·설정 클릭은 원본을 보시면 됩니다.
출처
- 유튜브: Build Anything with Jev, Here’s How · 채널 David Ondrej (@DavidOndrej)
#Jev #TypeSafe #유튜브 #리서치 #DavidOndrej