Kimi K3가 Amazon Bedrock에 올랐습니다 — 2.8조 파라미터 오픈웨이트에 명시적 캐시까지 | DAKER 커뮤니티

Kimi K3 Bedrock 설명용 생성 이미지

오픈웨이트 대형 모델을 클라우드에서 쓰려면, 데이터 경계와 캐시 요금이 같이 보여야 합니다. AWS는 9월 18일 Moonshot AI의 Kimi K3를 Amazon Bedrock에 일반 제공한다고 밝혔습니다. Moonshot 기준 2.8조 파라미터급 오픈 모델이며, 네이티브 비전과 100만 토큰 컨텍스트를 갖추고 K2 대비 스케일링 효율이 약 2.5배라고 소개됐습니다. 이 글에서는 Bedrock에서의 의미, 명시적 프롬프트 캐시, 호출 경로를 정리합니다.

Bedrock에 오른 Kimi K3

Kimi K3는 코딩과 지식 업무용 선택지로 올랐습니다. Bedrock의 오픈웨이트 라인업(DeepSeek, Google, MiniMax, Mistral, Moonshot, NVIDIA, OpenAI, Qwen 등)에 더해진 형태입니다. AWS는 2026년에 도구 호출, 구조화 출력, 추론, 스트리밍, Responses·Chat Completions API를 플랫폼 기능으로 붙였고, 새 오픈웨이트도 그 기능을 그대로 쓴다고 적었습니다.

데이터는 AWS 경계 안에서 처리되고 모델 제공사와 공유되지 않으며 학습에도 쓰이지 않는다고 합니다. 추론 요청에 제로 데이터 리텐션이 기본이고, 제로 오퍼레이터 액세스로 AWS 운영자도 프롬프트·완성을 보지 못한다고 강조했습니다.

오픈웨이트라도 Bedrock에서는 데이터 경계·ZDR을 기본값으로 가져갈 수 있다는 점이 도입 논점입니다.

명시적 프롬프트 캐시가 처음

AWS는 Kimi K3가 Bedrock 오픈웨이트 중 명시적 프롬프트 캐시를 지원하는 첫 모델이라고 밝혔습니다. 저장소 지침, 도구 정의, 참고 문서처럼 반복되는 접두를 표시해 두면, 이후 요청에서 지연과 입력 비용을 줄일 수 있습니다. 최소 1,024 토큰 뒤에 캐시 브레이크포인트를 두고, 명시 모드에서는 캐시 기록이 더 비싸게 청구되지만 최소 30분 유지되며, 히트 시 입력 토큰이 할인되고 분당 입력 쿼터에도 덜 잡힌다고 합니다.

어떻게 호출하나

콘솔 Playground에서 고르거나, bedrock-runtime의 OpenAI 호환 Responses·Chat Completions, Invoke·Converse로 호출합니다. 글로벌 프로필 global.moonshotai.kimi-k3는 지원 리전으로 라우팅되며 지리적 프로필보다 약 10% 저렴하다고 했고, 미국 거주가 필요하면 us.moonshotai.kimi-k3를 씁니다. OpenCode의 amazon-bedrock 프로바이더, Hermes Agent 등에서도 모델명만 바꿔 붙일 수 있다고 예시했습니다.

긴 코딩 세션일수록 시스템 프롬프트·도구 스키마를 캐시 접두로 고정하는 편이 단가에 유리합니다.

마치며

Kimi K3 Bedrock 공개는 새 중국 모델 이름표보다, 오픈웨이트를 엔터프라이즈 데이터 경계 안에서 캐시까지 켜고 쓰는 경로가 열린 소식입니다. 글로벌·US 프로필과 캐시 과금표를 공식 문서로 확인한 뒤, 저장소 단위 PoC부터 돌려 보면 됩니다. 여러분 팀에서는 Bedrock 오픈웨이트 중 어디에 캐시를 먼저 붙이시겠습니까?

출처