카카오가 한국어 검색에 강한 임베딩 모델 2종을 상업적으로 쓸 수 있는 오픈소스로 공개했습니다 | DAKER 커뮤니티
카카오가 한국어와 영어 검색용 임베딩 모델 Kanana-2-embedding 2종을 2026년 10월 29일 허깅페이스에 오픈소스로 공개했습니다. 30억 파라미터 kanana-2-3b-embedding과 13억 파라미터 kanana-2-1.3b-embedding이며, 상업적 활용이 가능한 카나나 오픈 라이선스가 붙었습니다. 임베딩 모델은 문장의 의미를 숫자 벡터로 바꿔 질문과 가까운 문서를 찾는 모델로, 검색 증강 생성(RAG)과 의미 기반 검색의 첫 단계를 맡습니다. 한국어 문서로 검색이나 RAG를 만드는 팀에게 해외 모델 말고 국산 공개 모델이라는 새 선택지가 생겼습니다.
두 모델은 이렇게 다릅니다
모델 카드에 따르면 두 모델은 카카오의 소형 언어모델 Kanana-2 SLM을 양방향 어텐션과 평균 풀링 구조로 바꿔 만들었습니다. 3B 모델의 기본 벡터 차원은 2560, 1.3B 모델은 1280입니다. 카카오 보도자료는 3B 모델을 먼저 학습한 뒤, 큰 모델의 지식을 작은 모델에 옮기는 지식 증류로 1.3B 모델을 만들었다고 설명합니다. 두 모델 모두 최대 4,096 토큰까지 입력을 받습니다.
벡터 길이를 줄여 저장 비용을 조절합니다
두 모델에는 MRL(Matryoshka Representation Learning)이 적용됐습니다. 임베딩을 1024, 512, 256, 128 차원으로 잘라 써도 검색이 되도록 학습했다는 뜻입니다. 차원을 줄이면 벡터 저장 공간과 검색 비용이 줄어드는 대신 점수가 조금 내려갑니다. 모델 카드 표를 보면 3B 모델의 한국어 검색 평균(Ko-Retrieval)은 전체 차원 0.8211, 256차원 0.7873, 128차원 0.7488입니다. 서비스 규모와 응답 속도에 맞춰 차원을 고르면 됩니다. sentence-transformers에서는 truncate_dim 인자 하나로 바꿀 수 있습니다.
공개된 점수로 본 한국어 검색 성능
카카오는 MTEB 도구로 같은 조건에서, 작업 지시문 없이 원문만 넣어 평가했다고 밝혔습니다. Ko-Retrieval은 MIRACL, Ko-StrategyQA, AutoRAG, LawIRKo, SQuADKor, PublicHealthQA 여섯 한국어 검색 과제의 평균입니다. 이 지표에서 3B 모델은 0.8211로, 비교 대상인 llama-nemotron-embed-1b-v2의 0.7985와 Qwen3-Embedding-4B의 0.7837보다 높았습니다. nano-BEIR 한국어판에서도 3B 모델이 0.6088로 비교 모델 가운데 가장 높았습니다. 1.3B 모델은 Ko-Retrieval 0.7958로 llama-nemotron-embed-1b-v2와 거의 같았고, nano-BEIR 한국어판에서는 0.5866으로 Qwen3-Embedding-4B의 0.5522를 앞섰습니다. 반면 영어 MTEB v2 평균은 Qwen3-Embedding-4B가 0.6661로 3B 모델의 0.6317보다 앞섰습니다. 한국어에 강하고 영어는 비슷한 수준이라는 카카오 설명과 맞는 결과입니다. 이 점수는 카카오가 직접 잰 값이므로 내 데이터에서는 다시 확인해야 합니다.
국내 개발팀이 먼저 해 볼 것
첫째, 지금 쓰는 임베딩 모델과 같은 질의·정답 문서 쌍으로 두 모델을 나란히 비교해 봅니다. 둘째, 256차원처럼 줄인 벡터로도 원하는 정답이 상위에 오는지 확인하면 벡터 DB 비용을 가늠할 수 있습니다. 셋째, 모델을 불러올 때 trust_remote_code 옵션이 필요하므로 사내 보안 정책에 맞는지 검토합니다. 넷째, 상업 서비스에 넣기 전에 카나나 오픈 라이선스 조건을 직접 읽어 봅니다. 여러분의 한국어 RAG에서는 검색 단계와 생성 단계 가운데 어디서 오답이 더 자주 생기십니까?