「TypeSafe Jev 시리즈 1/10 — 코드가 바로 쓰는 구조화 판단」 | DAKER 커뮤니티

코드가 바로 쓰는 구조화 판단

설명용 생성 이미지입니다.

TypeSafe 문서의 도입부를 기준으로, Jev가 LLM과 무엇이 다른지부터 정리합니다. 이 글은 시리즈 1/10입니다.

1. LLM은 사람이 읽을 텍스트용입니다

문서는 LLM이 사람이 읽을 텍스트를 만들도록 설계됐다고 설명합니다. 코드가 소비할 판단을 뽑으려면, 텍스트 생성 시스템에 구조화 출력을 억지로 맞춘 뒤 다시 파싱하는 과정이 생깁니다. 그 과정에서 파싱 실패·형식 불일치·분기 불안정이 자주 납니다.

2. Jev는 System One의 첫 모델입니다

Jev는 TypeSafe의 플래그십 모델이자 첫 System One 모델입니다. System One 모델은 소프트웨어가 바로 쓸 수 있는 빠르고 구조화된 결정을 만들기 위해 설계됩니다. 상태(state)와 타입이 있는 질문을 보내면, 텍스트 생성·파싱 없이 타입 있는 값과 확률 분포를 돌려줍니다.

3. 답은 코드가 분기·정렬·라우팅합니다

한 요청에 상태와 질문을 넣고, 모델이 각 질문을 상태에 대해 병렬로 평가한 뒤, 타입 있는 답·확률·(Choice/Score의) confidence를 돌려줍니다. 그다음 단계는 문서가 강조하듯 여러분의 코드입니다. 분기하고, 정렬하고, 라우팅합니다.

4. 세 가지 프리미티브

세 유형을 한 API 호출에 섞을 수 있고, 같은 상태에 대해 병렬·독립적으로 평가됩니다. 질문을 더 넣어도 응답 시간은 거의 늘지 않으며, 서로 컨텍스트를 오염시키지 않습니다.

5. 원자적 질문, 조합은 코드에서

각 질문은 한 가지를 잘 묻도록 좁히는 편이 좋습니다. 여러 독립 요인을 한 질문에 넣기보다, 요인별로 나눠 묻고 코드에서 가중치를 합칩니다. 문서 예시처럼 “스타트업 피치를 평가하라” 대신 시장 규모·기술 실현성·차별화를 각각 묻고, 우선순위가 바뀌면 프롬프트가 아니라 코드의 계수를 바꿉니다.

오늘 할 일

공식 소개 페이지를 한 번 읽고, 지금 쓰고 있는 “텍스트 생성 → 파싱” 판단 지점 하나를 골라 Choice/Score/Noul 중 어떤 형태가 맞는지 메모합니다.

출처

시리즈 1/10 · 다음: 2/10 텍스트가 아니라 교정된 확률