Gemini コンテキストキャッシュ利用ガイド

export API_KEY="あなたのAPIキー"

{
  "type": "text",
  "text": "これは安定したプレフィックスの最後のコンテンツです",
  "cache_control": {
    "type": "ephemeral",
    "ttl": "5m"
  }
}

system
→ 安定した長文または履歴メッセージ
→ cache_control を設定した安定プレフィックスの境界
→ 現在のユーザー質問（キャッシュしない）

curl "https://api.apimart.ai/v1/chat/completions" \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemini-3.6-flash",
    "stream": false,
    "messages": [
      {
        "role": "system",
        "content": "提供された参考資料のみに基づいて、質問に厳密に回答してください。"
      },
      {
        "role": "user",
        "content": "ここに繰り返し使用する長い参考資料を入力します……"
      },
      {
        "role": "assistant",
        "content": [
          {
            "type": "text",
            "text": "上記の参考資料を読み、内容を理解しました。",
            "cache_control": {
              "type": "ephemeral",
              "ttl": "5m"
            }
          }
        ]
      },
      {
        "role": "user",
        "content": "参考資料の重要なポイントを 3 つにまとめてください。"
      }
    ]
  }'

curl "https://api.apimart.ai/v1beta/models/gemini-3.6-flash:generateContent" \
  -H "x-goog-api-key: $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "systemInstruction": {
      "parts": [
        {
          "text": "提供された参考資料のみに基づいて、質問に厳密に回答してください。"
        }
      ]
    },
    "contents": [
      {
        "role": "user",
        "parts": [
          {
            "text": "ここに繰り返し使用する長い参考資料を入力します……"
          }
        ]
      },
      {
        "role": "model",
        "parts": [
          {
            "text": "上記の参考資料を読み、内容を理解しました。",
            "cache_control": {
              "type": "ephemeral",
              "ttl": "5m"
            }
          }
        ]
      },
      {
        "role": "user",
        "parts": [
          {
            "text": "参考資料の重要なポイントを 3 つにまとめてください。"
          }
        ]
      }
    ]
  }'

curl -N "https://api.apimart.ai/v1beta/models/gemini-3.6-flash:streamGenerateContent?alt=sse" \
  -H "x-goog-api-key: $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "contents": [
      {
        "role": "user",
        "parts": [
          {
            "text": "ここに繰り返し使用する長い参考資料を入力します……",
            "cache_control": {
              "type": "ephemeral",
              "ttl": "5m"
            }
          }
        ]
      },
      {
        "role": "user",
        "parts": [
          {
            "text": "参考資料の重要なポイントを 3 つにまとめてください。"
          }
        ]
      }
    ]
  }'

安定したプレフィックスを識別
→ Context Cache を作成
→ 現在のリクエストで新しいキャッシュを参照
→ モデルの結果を返す

同じ安定したプレフィックスを識別
→ 有効期限内の Context Cache を再利用
→ 現在のリアルタイムコンテンツだけを送信
→ モデルの結果を返す

{
  "role": "user",
  "content": "参考資料ではどのようなリスクが挙げられていますか？"
}

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://api.apimart.ai/v1",
)

stable_messages = [
    {
        "role": "system",
        "content": "提供された参考資料のみに基づいて、質問に厳密に回答してください。",
    },
    {
        "role": "user",
        "content": "ここに繰り返し使用する長い参考資料を入力します……",
    },
    {
        "role": "assistant",
        "content": [
            {
                "type": "text",
                "text": "上記の参考資料を読み、内容を理解しました。",
                "cache_control": {
                    "type": "ephemeral",
                    "ttl": "5m",
                },
            }
        ],
    },
]

response = client.chat.completions.create(
    model="gemini-3.6-flash",
    messages=[
        *stable_messages,
        {
            "role": "user",
            "content": "参考資料の重要なポイントを 3 つにまとめてください。",
        },
    ],
)

print(response.choices[0].message.content)
print(response.usage)

{
  "usage": {
    "prompt_tokens": 14430,
    "prompt_tokens_details": {
      "cached_tokens": 14420,
      "cache_write_tokens": 0
    }
  }
}

{
  "usageMetadata": {
    "promptTokenCount": 13926,
    "cachedContentTokenCount": 13916,
    "totalTokenCount": 13954
  }
}