Claude 컨텍스트 캐시 사용 가이드

export API_KEY="API 키를 입력하세요"

curl "https://api.apimart.ai/v1/messages" \
  -H "x-api-key: $API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 1024,
    "system": [
      {
        "type": "text",
        "text": "여기에 반복해서 사용할 긴 접두부를 입력합니다……",
        "cache_control": {
          "type": "ephemeral"
        }
      }
    ],
    "messages": [
      {
        "role": "user",
        "content": "위 내용에 따라 질문에 답변하세요."
      }
    ]
  }'

curl "https://api.apimart.ai/v1/messages" \
  -H "x-api-key: $API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "anthropic-beta: extended-cache-ttl-2025-04-11" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 1024,
    "system": [
      {
        "type": "text",
        "text": "여기에 반복해서 사용할 긴 접두부를 입력합니다……",
        "cache_control": {
          "type": "ephemeral",
          "ttl": "1h"
        }
      }
    ],
    "messages": [
      {
        "role": "user",
        "content": "위 내용에 따라 질문에 답변하세요."
      }
    ]
  }'

{
  "usage": {
    "input_tokens": 23,
    "cache_creation_input_tokens": 2619,
    "cache_read_input_tokens": 0,
    "cache_creation": {
      "ephemeral_5m_input_tokens": 2619,
      "ephemeral_1h_input_tokens": 0
    },
    "output_tokens": 24
  }
}

input_tokens
+ cache_creation_input_tokens
+ cache_read_input_tokens

curl "https://api.apimart.ai/v1/chat/completions" \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-sonnet-5",
    "max_tokens": 1024,
    "messages": [
      {
        "role": "system",
        "content": [
          {
            "type": "text",
            "text": "여기에 반복해서 사용할 긴 접두부를 입력합니다……",
            "cache_control": {
              "type": "ephemeral"
            }
          }
        ]
      },
      {
        "role": "user",
        "content": "위 내용에 따라 질문에 답변하세요."
      }
    ]
  }'

-H "anthropic-beta: extended-cache-ttl-2025-04-11"

"cache_control": {
  "type": "ephemeral",
  "ttl": "1h"
}

{
  "role": "system",
  "content": "여기에 긴 접두부를 입력합니다……",
  "cache_control": {
    "type": "ephemeral"
  }
}

{
  "role": "system",
  "content": [
    {
      "type": "text",
      "text": "여기에 긴 접두부를 입력합니다……",
      "cache_control": {
        "type": "ephemeral"
      }
    }
  ]
}

{
  "role": "user",
  "content": [
    {
      "type": "text",
      "text": "여기에 반복해서 사용할 긴 문서를 입력합니다……",
      "cache_control": {
        "type": "ephemeral"
      }
    },
    {
      "type": "text",
      "text": "위 문서의 핵심 내용을 세 가지로 요약하세요."
    }
  ]
}

{
  "usage": {
    "prompt_tokens": 1942,
    "completion_tokens": 22,
    "prompt_tokens_details": {
      "cached_tokens": 1921,
      "cache_write_tokens": 0
    },
    "claude_cache_creation_5_m_tokens": 0,
    "claude_cache_creation_1_h_tokens": 0
  }
}

python3 - <<'PY' > /tmp/claude-cache-request.json
import json

paragraph = (
    "프롬프트 캐싱은 요청의 접두부를 저장하므로 이후 요청에서 "
    "바이트 단위로 동일한 접두부를 다시 처리하지 않고 재사용할 수 있습니다. "
)

system_text = (
    "당신은 문서 작성 도우미입니다. 참고 자료는 다음과 같습니다.\n\n"
    + paragraph * 40
)

print(json.dumps({
    "model": "claude-sonnet-5",
    "max_tokens": 32,
    "system": [{
        "type": "text",
        "text": system_text,
        "cache_control": {"type": "ephemeral"}
    }],
    "messages": [{
        "role": "user",
        "content": "변경하지 않고 유지해야 하는 항목을 한 문장으로 답하세요."
    }]
}))
PY

for request_number in 1 2; do
  echo "${request_number}번째 요청"
  curl -s "https://api.apimart.ai/v1/messages" \
    -H "x-api-key: $API_KEY" \
    -H "anthropic-version: 2023-06-01" \
    -H "Content-Type: application/json" \
    --data @/tmp/claude-cache-request.json \
  | python3 -c "import json, sys; print(json.load(sys.stdin)['usage'])"
done

요청 1: cache_creation_input_tokens > 0, cache_read_input_tokens = 0
요청 2: cache_creation_input_tokens = 0, cache_read_input_tokens > 0