Prompt caching: jak výrazně zlevnit volání AI API

Platíte za API pořád dokola za tentýž text? Typická AI aplikace posílá s každým dotazem stejný začátek: dlouhé systémové instrukce, definice nástrojů, obchodní podmínky nebo celý manuál. Model ho pokaždé znovu „čte“ a vy za to pokaždé platíte. Řešením je prompt caching (ukládání promptu do mezipaměti): poskytovatel si zpracovaný začátek promptu na chvíli uloží, a když přijde další dotaz se stejným začátkem, použije uloženou verzi. Je to levnější i rychlejší. Vycházíme z dokumentace Anthropicu a OpenAI k 15. 10. 2026.

Ve zkratce

• Do mezipaměti se ukládá vždy začátek (prefix) promptu a ten musí být do posledního znaku stejný.
• Zápis do mezipaměti je o něco dražší než běžný vstup, čtení z ní je naopak výrazně levnější.
• Vyplatí se už od druhého či třetího opakování. U chatbotů a agentů obvykle ušetříte hodně.
• Odpovědi modelu se kvůli cache nemění, jen platíte méně za vstup.

Pokud vám pojmy jako token nebo vstupní a výstupní tokeny nic neříkají, začněte článkem Token, model, kontextové okno.

Kolik to stojí u Clauda

Anthropic účtuje mezipaměť jako násobky základní ceny vstupu:

Operace	Cena oproti běžnému vstupu
Zápis s platností 5 minut	1,25×
Zápis s platností 1 hodina	2×
Čtení z mezipaměti	0,1× (u Opus 5.5 a Sonnet 5.5 jen 0,05×)

Výchozí mezipaměť platí 5 minut a při každém použití se zdarma prodlužuje. U současných modelů (Opus 5.5, Sonnet 5.5, Haiku 5.5 a dalších) musí mít uložený prompt aspoň 512 tokenů. Kratší prompty se potichu neuloží a žádnou chybu neuvidíte. Slevy se podle dokumentace sčítají s dalšími, například s 50% slevou za dávkové zpracování (Batch API).

Modelový příklad: chatbot e-shopu

Česká firma má chatbota, jehož systémové instrukce a obchodní podmínky mají dohromady 20 000 tokenů, a používá Claude Opus 5.5 (vstup 4 USD za milion tokenů). Za pět minut obslouží 100 dotazů. Jde o náš modelový výpočet, ne o údaj výrobce, a počítáme jen tento společný začátek promptu:

• Bez cache: 100 × 20 000 tokenů = 2 miliony tokenů → 8,00 USD (cca 174 Kč).
• S cache: 1× zápis (20 000 × 5 USD/M = 0,10 USD) + 99× čtení (1,98 milionu × 0,20 USD/M ≈ 0,40 USD) → zhruba 0,50 USD (cca 11 Kč).

Na vstupu tak ušetříte přes 90 %. Přepočítáno kurzem ČNB ze 14. 10. 2026 (1 USD = 21,754 Kč).

Jak to zapnout u Clauda

Nejjednodušší je automatické cachování: do požadavku přidáte jedno pole cache_control na nejvyšší úrovni a systém sám posouvá hranici mezipaměti s tím, jak konverzace roste.

import anthropic

client = anthropic.Anthropic()

response = client.messages.create(
    model="claude-opus-5-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "Jsi zákaznická podpora e-shopu... [dlouhé instrukce a obchodní podmínky]",
            "cache_control": {"type": "ephemeral"},
        }
    ],
    messages=[{"role": "user", "content": "Jak vrátím zboží?"}],
)
print(response.usage)

V odpovědi sledujte pole cache_creation_input_tokens (zapsáno) a cache_read_input_tokens (přečteno). Pokud jsou obě nulová, nic se neuložilo – nejčastěji proto, že je prompt příliš krátký.

Jak to funguje u OpenAI

U OpenAI je cachování zapnuté automaticky. U modelů GPT-5.6 a novějších platí:

• zápis stojí 1,25× tolik co běžný vstup, čtení 0,1× (u GPT-6.1 Sol 0,05×),
• prompt musí mít aspoň 1 024 tokenů,
• mezipaměť vydrží nejméně 30 minut od posledního použití,
• v režimu prompt_cache_options.mode: "explicit" si sami určíte, kde uložený prefix končí (prompt_cache_breakpoint), a proměnlivý obsah za ním se do cache nezapisuje.

Pozor: u OpenAI se tokeny z mezipaměti započítávají do limitů tokenů za minutu. Anthropic naopak u své hodinové cache uvádí, že čtení z ní se do limitů nepočítá.

A Mistral?

Mistral na stránce s ceníkem uvádí, že tokeny z mezipaměti snižují cenu vstupu až o 90 % a dávkové zpracování o 50 %. Pro firmy, které chtějí evropského poskytovatele, je to dobrá zpráva. Víc o novém modelu se dočtete v článku Mistral Large 4.

Nejčastější chyby

1. Proměnlivý obsah na začátku. Datum, čas nebo jméno uživatele v prvním řádku systémového promptu změní celý prefix a cache nikdy nezabere. Proměnlivé údaje dávejte až na konec.
2. Hranice na špatném místě. Anthropic výslovně varuje: pokud dáte cache_control na blok, který se mění s každým dotazem, zaplatíte zápis pokaždé a nikdy nic nepřečtete. Hranici dejte na poslední blok, který se nemění.
3. Měnící se nástroje. Když upravíte definice nástrojů (tools), celá mezipaměť přestane platit. Nástroje proto nechte stejné a jen omezte, které z nich smí model použít.
4. Náhodné pořadí klíčů v JSONu. Některé jazyky (podle Anthropicu třeba Swift nebo Go) mění pořadí klíčů, a tím i prefix.
5. Souběžné dotazy. U Clauda je záznam v mezipaměti k dispozici až ve chvíli, kdy začne první odpověď. Když pošlete všechny dotazy naráz, nic neušetříte.

Náš pohled

Prompt caching je nejjednodušší způsob, jak zlevnit AI aplikaci, aniž byste měnili model. U Clauda stačí pár řádků, u OpenAI často jen správné pořadí obsahu. Doporučujeme ho zapnout v každém produkčním projektu a hlídat poměr přečtených a zapsaných tokenů. Jak psát dobré systémové instrukce, ukazujeme v článku Jak napsat dobrý prompt. Levný model vhodný pro velké objemy jsme představili v článku o Claude Haiku 5.5.

Článek vznikl s pomocí AI a před publikací ho zkontrolovala redakce Promptovna.cz.