Cena za milion tokenů: on-prem vs. cloud

V roce 2026 existují tři poctivé způsoby, jak nakupovat LLM inferenci: volat cizí hostovaný endpoint a platit za tokeny (cloudové LLM API), pronajmout si GPU na hodiny a provozovat vlastní model (pronájem GPU v cloudu), nebo si koupit server a provozovat jej ve vlastním racku (on-prem). Cena milionu tokenů vypadá u každé z těchto cest dramaticky jinak — a v jiném pořadí, než většina kupujících čeká.

Tento článek počítá v EUR bez DPH. Je určen tomu, kdo se rozhoduje, zda dál platit OpenAI měsíčně, přejít k hostovanému poskytovateli otevřených modelů, pronajmout si H100, nebo koupit stroj se 4 či 8 GPU. Uvádíme ceny z května 2026 a končíme pětiminutovým rozhodovacím postupem. Křížové odkazy: T01 TCO na GPU, W07 výběr karet, I04 čísla na straně zásuvky.

Tři platformy

Cloudové LLM API. OpenAI, Anthropic, Google, Together, Fireworks. Platíte za vstupní a výstupní tokeny. Žádné náklady v nečinnosti, žádné investice, žádný provoz. Zároveň žádná volba modelu mimo jejich katalog, žádné LoRA, žádná kontrola nad kvantizací.

Pronájem GPU v cloudu. AWS p5/p5e/p6, Azure ND H200/B200, GCP A3 Ultra a specializované cloudy (Lambda, CoreWeave, Nebius, RunPod). Pronajmete si GPU instanci na hodiny a spustíte si cokoli. Model, serving stack i provoz jsou na Vás. Platíte, ať už za danou hodinu obsloužíte jeden token, nebo miliardu.

On-prem. Koupíte stroj se 4 nebo 8 GPU. Zaracknete jej u sebe nebo v kolokaci. Napájení, chlazení, síť a provoz si zajistíte sami. Odepisujete tři roky. Mezní náklad tokenu je elektřina. Fixní náklad je všechno, co jste už zaplatili.

Tři různé tvary nákladů — čistě variabilní, čistě fixní se skokem, a investice plus mezní náklad — které se navzájem protínají v různých bodech na ose propustnosti.

Ceník cloudových LLM API

USD za milion tokenů, veřejné ceníky, květen 2026. EUR při kurzu EUR/USD ≈ 1,08.

Dvě poctivá čtení. Špičkové uzavřené modely (Claude Opus 4.7, GPT-5, Gemini 2.5 Pro) jsou o řád dražší než hostovaná API otevřených modelů, která obsluhují Llama 70B nebo DeepSeek-V3 — to je cena za „nejchytřejší teď“ proti „nejlepším otevřeným vahám teď“. U většiny produkčních workloadů (RAG, kroky agentů, kód, klasifikace) je pracovním bodem Sonnet 4.6 nebo GPT-5 mini, ne vlajková loď. Výstupní tokeny stojí u uzavřených poskytovatelů třikrát až sedmkrát víc než vstupní, u hostitelů otevřených modelů zhruba stejně. SKU otevřených modelů u hyperscalerů (Bedrock, Azure) si za stejný model účtují o 30–80 % víc než Together nebo Fireworks — platíte za integraci s IAM a jednu fakturu, ne za levnější tokeny.

On-prem náklad na Mtok

Náklad na Mtok je tříletý celkový náklad dělený počtem tokenů obsloužených za tři roky. Jmenovatel závisí na vytížení, čitatel je zhruba fixní.

On-prem €/Mtok =
    (capex + 3y electricity + 3y maintenance + 3y ops) /
    (sustained tok/s × utilization × 3 × 8,760 × 3,600 / 1e6)

Po dosazení TCO na GPU z T01 při 60% vytížení, €0,20/kWh a PUE 1,4:

Snižte vytížení na 30 % a každé číslo se zdvojnásobí. Zvedněte je na 80 % a Llama 8B na L4 se dostane na €0,09/Mtok, tedy pod každé cloudové API v této třídě. Pod 25% vytížením se výpočet hroutí, protože TCO ovládne investice, kterou jste zaplatili bez ohledu na to, zda stroj běžel.

Bod zvratu

Přiložme k tomu cloudovou křivku. Llama 70B při 100 M tokenech měsíčně, v poměru 50/50, u Together: 100 × €0,81 = €81 měsíčně → €2 916 za tři roky. Proti on-prem sestavě 4× 5090 za €27 000 vítězí Together o €24 000. Při 100 M tokenech měsíčně je on-prem naprosto mimo.

Zvedněme to na 1 miliardu tokenů měsíčně: 1 000 × €0,81 = €810 měsíčně → €29 160 za tři roky. Together a 4× 5090 jsou od sebe do €2 000. Při 1,5 mld. měsíčně vítězí on-prem výrazně.

Bod zvratu pro inferenci třídy 70B proti nejlevnějšímu hostovanému API otevřených modelů leží kolem 1,0–1,5 miliardy tokenů měsíčně trvale na sestavě 4× 5090. U uzavřených špičkových API (Claude Sonnet 4.6 při €8,34/Mtok ve směsi, GPT-5 při €5,21/Mtok ve směsi) se bod zvratu posouvá na 80–150 M tokenů měsíčně — cloudová křivka je o řád strmější.

To je nejdůležitější číslo v tomto článku: bod zvratu není „100 M tokenů měsíčně na všechno“. Je specifický pro daný workload a závisí výhradně na tom, s jakou cloudovou křivkou soutěžíte. Kupující, kteří říkají „překročili jsme 50 M, měli bychom jít on-prem“, obvykle porovnávají s Claude Opus — a tam mají pravdu. Přehlížejí ale, že přesun workloadu z Opusu na Sonnet 4.6 jim při tomto objemu ušetří pětkrát víc než přechod ze Sonnetu na on-prem.

Pronájem GPU v cloudu — prostřední cesta

Hodinové sazby na GPU, on-demand ceny z května 2026:

Roční rezervace srazí cenu o 25–35 %. AWS p5 on-demand vychází zhruba 3× dráž než Lambda za stejný křemík H100. Převedeno na tokeny: 8× H100 u Lambdy provozující Llama 3.3 70B FP8 při ~3 500 tok/s trvale → $16/hod × 8 760 × 3 = €389 000 za 3 roky → €1,96/Mtok při 60% vytížení. To je 4× víc než on-prem sestava 8× Pro 6000 SE (€0,53/Mtok) a 2,5× víc, než kdybyste prostě volali Together (€0,81/Mtok).

Pronajmout si H100 na inferenci otevřeného modelu je to nejhorší z obou světů: platíte nájem za stroj a k tomu provoz, který si musíte zajistit. Vychází to jen tehdy, když potřebujete konkrétní model, který nikdo nehostuje, a nemáte objem na on-prem. Pronájem GPU v cloudu má ale jedno poctivé využití: nárazový trénink. LoRA fine-tune na 8× H100 po dobu 8 hodin stojí u Lambdy zhruba $130. Žádné on-prem TCO to pro jednorázovou úlohu nepřekoná. Tahle logika ale neplatí pro inferenci, která je trvalá a běží 24/7. Past jménem „spot“: spotové, preemptivní a komunitní tarify nabízejí slevu 50–80 %, ale mohou být kdykoli ukončeny. Pro bezstavové repliky inference v pořádku. U osmnáctihodinové tréninkové úlohy, která si ukládá checkpoint v každém kroku, dvě přerušení zdvojnásobí náklad na dokončený krok a už nejste levnější než on-demand.

Skryté náklady, které nikdo neuvádí

Cloud: egress za $0,05–0,09/GB Vás dožene, jakmile posíláte zpět obrázky, zvuk nebo video. Logování ve větším měřítku přidá 5–10 %. Nejhorší je opakovaně účtovaný kontext — každé API účtuje celý prompt při každém volání, takže kontext agenta o 50K tokenech stojí 50K vstupních tokenů za každý krok dvacetikrokové smyčky. Cachování promptů (podporují je Anthropic, OpenAI i Google) tohle u cachovaných prefixů sníží o 50–90 %, ale jen pokud na to architekturu připravíte. Produkční limity začínají na 30K–500K TPM a vyžadují historii používání; nový zákazník nemůže jet naplno hned první den. SKU v regionu EU stojí o 10–20 % víc než US East a mají horší dostupnost.

On-prem: provozní čas ve výši 0,1–0,3 FTE na server znamená €8 tis. – €24 tis. ročně, které ve výpočtu na Mtok nejsou. Na výpadky potřebujete záložní stroj nebo elegantní přepnutí do cloudu. Elektřina nestojí všude €0,20/kWh — průmyslové ceny v EU se v roce 2026 pohybují od €0,09/kWh (Švédsko, norská vodní energie) po €0,35/kWh (Itálie, Irsko), Německo má €0,18–€0,22/kWh na dotovaném průmyslovém tarifu, Česko €0,18–€0,25/kWh na volném komerčním trhu. Pro Itálii nebo Irsko se každý řádek s elektřinou v T01 zvedne o 50 %. Kolokační rack vyjde na €100–€300 měsíčně za 4U — tedy €3 600–€10 800 za tři roky navíc k hardwaru.

Zveřejněná cloudová cena je zhruba 1,2–1,5× skutečné faktury; zveřejněné on-prem TCO je zhruba 1,2–1,5× ceníkové ceny. Pro srovnání se násobky navzájem vyruší.

Faktory mimo náklady

Tři věci u reálných zákazníků přebijí náklad na Mtok.

Datová suverenita. Hlavním důvodem, proč evropští kupující v roce 2026 jdou on-prem, je GDPR a sektorová pravidla (DORA, NIS2, AI Act, MDR). Posílat produkční prompty s osobními údaji, zdravotní dokumentací nebo průmyslovým tajemstvím na endpoint hostovaný v USA je smluvní problém bez ohledu na cenu. SKU v regionu EU neznamená správu v EU. Pro regulovaného zákazníka není příplatek za on-prem nákladem, ale cenou za to, že vůbec smí nasadit.

Spodní hranice latence. WAN k nejbližšímu hostovanému endpointu přidá 15–40 ms RTT uvnitř EU a 80–120 ms přes Atlantik. On-prem na LAN 10 GbE je pod jednou milisekundou. U interaktivního chatu je rozdíl přes WAN proti 800 ms TTFT neviditelný. U řídicí smyčky robotu (I01) nebo hlasového agenta pod 300 ms je WAN fatální.

Možnost přizpůsobení. Cloudová API dodávají model a kvantizaci, které zvolil poskytovatel. On-prem si vybíráte model, kvantizaci, serving stack (vLLM, SGLang, llama.cpp), LoRA adaptéry i spekulativní dekodér. Pro výzkumné laboratoře nebo specializované produkty je právě tohle to, co kupujete — náklad na Mtok je druhotný.

Pokud neplatí nic z toho, patří zákazník pod bodem zvratu do cloudu. Ne každý zájemce by si měl kupovat server.

Modelový příklad: workload třídy 70B při dvou objemech

Profil zákazníka: SaaS, který klasifikuje a shrnuje dokumenty, poměr vstup/výstup 70/30, model třídy 70B s otevřenými vahami.

Při 100 M tokenech měsíčně vítězí Bedrock nad on-prem o řád; zákazník si stroj ještě nezasloužil. Při 2 miliardách tokenů měsíčně vítězí on-prem jednoznačně 1,8–2,2× i proti nejlevnější hostované alternativě. Bod zvratu pro tento workload vyšel kolem 800 M – 1,2 mld. tokenů měsíčně. Pod tím pronajímejte. Nad tím vlastněte.

Rozhodovací matice

Je to konzervativní odhad — regulovaný zákazník posune sloupec on-prem o řádek dřív, experimentující zákazník o řádek později. Špičkový sloupec je zvláštní případ: žádná on-prem sestava nenahradí Claude Opus 4.7 ani GPT-5. To jsou kvalitativní SKU, které zavoláte, když je potřeba, ne workloady, které si hostujete.

Poctivý závěr

Většina zájemců, kteří k nám přijdou s přesvědčením, že potřebují server, ho nepotřebuje. Při běžných objemech — 5–50 M tokenů měsíčně u raného produktu, 50–500 M ve střední fázi — budou cloudová API vítězit ještě dalších dvanáct až čtyřiadvacet měsíců. Správná odpověď zní: „Používejte Together nebo Bedrock, sledujte měsíční výdaje a ozvěte se nám, až trvale překročí €1 500 měsíčně.“

Zákazníci, kterým on-prem v roce 2026 dává smysl, spadají do tří skupin. Regulovaní: data nesmí opustit budovu. Trvale ve velkém: 1 mld.+ tokenů měsíčně na modelu třídy 70B, kde výpočet vychází 2–3× lépe. Robotika nebo nízká latence: spodní hranice WAN aplikaci znemožní. Do jedné z nich patří zhruba 30–40 % našich zájemců. Pro zbylých 60–70 % jsou cloudová API v roce 2026 pozoruhodný produkt a měli by u něj zůstat, dokud se čísla nezmění.

Trénink je jiná kapitola. Téměř každý workload v měřítku Kentino AI (LoRA, QLoRA, fine-tune modelu 7B–32B) vyjde on-prem levněji než pronájem GPU v cloudu — stroj během běhu jede na 100 %. Výjimkou je trénink v hyperscale měřítku (plný pretraining 70B+, RLHF ve velkém), kde potřebujete 8× H100 s NVLinkem, což my neprodáváme (W07 vysvětluje proč). Pronajměte si to, spusťte a váhy si odneste domů.

---

Toto je součást Kentino Wiki, referenční série o AI výpočtech, robotice a systémech, které je propojují. Komentáře a opravy uvítáme na info@kentino.com.