Claude message threads는 첫 요청에만 전체 대화를 보내고 이후에는 새 메시지만 보내게 해 첫 토큰 지연을 줄입니다 | DAKER 커뮤니티
Claude Platform의 Messages API에 message threads가 공개 베타로 들어왔습니다. 에이전트가 매 턴마다 지금까지의 대화 전체를 다시 보내던 방식을 바꿔, 첫 요청에서만 전체 대화를 보내고 이후에는 새 메시지와 직전 응답의 ID만 보내게 해 줍니다. Anthropic은 이렇게 하면 Claude가 답을 쓰기 시작하기까지의 지연, 즉 첫 토큰까지의 시간이 줄어든다고 설명합니다. 코딩 에이전트처럼 요청을 수백 번 주고받는 작업을 만드는 팀이라면 특히 눈여겨볼 변경입니다.
왜 매번 전체를 보내면 느려지나
코딩 에이전트는 한 세션에서 수백 번 요청을 보냅니다. 요청마다 앞선 모든 메시지와 도구 결과가 함께 실려 가기 때문에, 대화가 수십만 토큰까지 길어지면 그만큼을 다시 보내는 데만 시간이 듭니다. Anthropic은 이 시간이 Claude가 응답을 시작하기 전의 대기로 쌓인다고 짚습니다. message threads는 대화를 서버가 잡아 두고, 클라이언트는 지난번 이후에 생긴 내용만 보내도록 바꿉니다.
어떻게 쓰나
Messages API 요청에 thread 파라미터를 더하면 됩니다. 첫 요청은 전체 대화를 담아 스레드를 시작하고, 이후 요청은 새 메시지와 직전 응답의 ID만 담습니다. 플랫폼 릴리스 노트에 따르면 베타 헤더는 message-threads-2026-08-12이고, Claude API와 AWS의 Claude Platform, Microsoft Foundry의 Claude, Google Cloud의 Claude 모델(Anthropic 관리형)에서 쓸 수 있습니다. 표준 Claude 토큰 요금과 기존 속도 제한이 그대로 적용됩니다.
얼마나 빨라지나
공식 글이 제시하는 수치는 하나입니다. 대부분의 Claude Code 사용자에게 message threads가 기본으로 켜져 있는 환경에서, 요청 크기가 50만~100만 토큰인 경우 첫 토큰까지의 중앙값 시간이 약 35% 줄었다고 합니다. 대화가 길수록 효과가 커진다고 설명하므로, 짧은 대화에서는 이 정도 차이를 기대하기 어렵습니다. 또한 이 수치는 Anthropic 자체 측정이어서, 팀의 작업 방식에서도 같은 폭이 나오는지는 직접 재 봐야 합니다.
요청은 작아져도 Claude는 매 턴 대화 전체를 읽기 때문에 토큰 사용량은 그대로라고 Anthropic은 밝힙니다. 줄어드는 것은 비용이 아니라 기다리는 시간입니다.
서버에 보관되는 동안의 제약
스레드는 메모리에 보관되며 암호화되고 디스크에는 기록되지 않는다고 합니다. 마지막 요청 뒤 5분이 지나면 스레드가 만료되어, 클라이언트가 전체 대화를 다시 보내 새 스레드를 시작해야 합니다. 릴리스 노트는 스레드가 마지막 사용 뒤 최대 1시간 안에 삭제된다고 적고 있습니다. 즉 사람이 오래 쉬었다 돌아오는 대화에서는 첫 요청이 다시 무거워질 수 있고, 클라이언트는 만료를 받아들이는 재시작 경로를 갖춰 두어야 합니다.
적합한 경우로는 도구 결과와 파일 수정이 계속 쌓이는 장시간 코딩 에이전트, 스크린샷이 스레드에 남아 다시 올리지 않아도 되는 컴퓨터 사용 에이전트, 문서와 이미지가 많은 작업이 꼽힙니다.
도입 순서도 단순합니다. 기존에 전체 대화를 배열로 만들어 보내던 코드는 첫 요청에서 그대로 두고, 응답에서 받은 ID를 저장해 두었다가 다음 요청에 새 메시지와 함께 붙이면 됩니다. 만료나 오류로 스레드를 이어 갈 수 없을 때는 보관해 둔 전체 대화로 새 스레드를 여는 경로만 추가하면 됩니다. 클라이언트가 대화 전체를 계속 들고 있어야 한다는 점은 이전과 같습니다.
한국 참가자와 실무자에게 주는 의미
해커톤에서 에이전트를 만드는 팀은 세션이 길어질수록 응답이 굼떠지는 문제를 한 번쯤 겪습니다. message threads는 이 문제를 모델이 아니라 요청 방식에서 줄이는 선택지입니다. 적용 전에 확인할 것은 세 가지입니다. 사용하는 플랫폼이 지원 목록에 있는지, 만료 5분 규칙을 감안해 재시작 코드를 넣었는지, 그리고 지연이 실제로 줄었는지를 같은 작업으로 전후 비교했는지입니다. 토큰 사용량이 같다는 점은 비용 계획에는 영향이 없다는 뜻이기도 합니다.
원문은 Claude의 message threads 소개 글과 Claude Platform 릴리스 노트에서 확인할 수 있습니다. 여러분의 에이전트는 한 세션에서 몇 번이나 전체 대화를 다시 보내고 있습니까?