Wiki sestav

Build Wiki

Referenční série o stavbě, síťování, napájení a provozu AI výpočetní techniky — pro nákupčí a integrátory, kteří dimenzují svůj další stroj se 4 GPU, server s 8 GPU nebo robotickou laboratoř.

Každý článek vychází z reálných sestav Kentino. Žádná vata. Názorový tam, kde to technika vyžaduje. Upřímný k limitům.

49publikovaných článků 9tematických řad 2nové týdně · út + čt

Základy AI serveru řada W

Pokud sestavujete stroj s více GPU, začněte tady. Paměť, PCIe, napájení, teploty, úložiště a užší výběr GPU.

W01RAM a VRAM: jak spolu v AI serveru souvisíStroj se 4 GPU, 192 GB VRAM a 32 GB RAM je špatně navržený. Správný poměr závisí na tom, co na něm skutečně běží.
W02Linky PCIe & topologie v AI serveru s více GPU„Pro inferenci je jedno, jestli PCIe x8 nebo x16“ je většinou pravda — a ti, kdo to opakují, obvykle nevědí proč.
W03GPU risery: kdy je potřebujete a co se na nich kazíKde tiše umírá integrita signálu, linky se nenápadně přepnou na Gen3 a sestava, která prošla testem, začne denně ztrácet jedno GPU.
W04Dimenzování zdroje a konfigurace se dvěma zdrojiVýpočty, realita form faktorů a upřímný pohled na napájení sestav se 4 a 8 GPU.
W05Teploty a proudění vzduchu v AI serverech s více GPUČtyři GPU po 450 W znamenají 1.8 kW tepla ve skříni. Proudění zepředu dozadu, statický tlak a proč „má to ventilátory“ není plán chlazení.
W06Vrstvy úložiště v AI serveruModel, dataset, scratch, checkpoint — čtyři workloady se čtyřmi vzorci přístupu. Jediná NVMe vrstva neobslouží dobře ani jeden.
W07Výběr GPU: 5090, 4090, RTX Pro 6000, L40, L4Poctivé srovnání s reálnými výkonnostními čísly, kompromisy a rozhodovacím postupem, který sami používáme při hovorech se zákazníky.

Ekonomika tokenů řada T

Počítání peněz. Tokeny za euro, náklady on-prem vs cloud na milion tokenů a kdy se který model skutečně vyplatí.

T01Tokeny za sekundu na euroJediná metrika hodnoty GPU, na které u inference záleží. Reálné tokeny/s na euro u 5090, 4090, RTX Pro 6000, L40 a L4.
T02Náklady na milion tokenů: on-prem vs cloudOn-prem vs cloud spočítané v eurech. Kde leží bod zlomu a proč cloudová faktura vyhrává, dokud najednou nepřestane.
T03Ekonomika trvalé vs. nárazové inferenceStálá inference 24/7 a špičkové dávkové úlohy mají opačnou ekonomiku. Kdy vyhrává on-prem a kdy Vás zachrání cloud.

Linux / OS / software řada L

Softwarový stack pod GPU. Zamykání verzí ovladačů, nastavení CUDA, ladění jádra, souborové systémy a monitoring.

L01Zamykání verzí v Ubuntu a správa ovladačů NVIDIAZamkněte jádro, zamkněte ovladač — nebo sledujte, jak Vám apt upgrade odstaví GPU. Správa ovladačů, která přežije restart.
L02CUDA, cuDNN a NVIDIA Container ToolkitRozumný postup instalace. Verze CUDA vs ovladač vs toolkit a kontejnerová cesta, která ukončí peklo závislostí.
L03Ladění linuxového jádra pro AI serveryCo u AI workloadů skutečně něco změní — hugepages, NUMA, IRQ affinity — a co je jen opisování bez porozumění.
L04Volba souborového systému pro AI serveryXFS, ZFS, ext4 — a proč Btrfs u AI serverů na seznamu není. Vyberte souborový systém podle vzorce přístupu k datům.
L05Monitorovací stack: Prometheus, Grafana, DCGM, LokiMějte přehled o teplotách GPU, VRAM, chybách ECC a pádech úloh dřív, než Vás připraví o celý trénink.

Sítě řada N

Realita NVLinku, topologie clusterů (leaf-spine, fat-tree, dragonfly, bez switche), rozbor latence, routing a nastavení RDMA v praxi.

N03NVLink a NVSwitch: kdy na nich záležíMarketing DGX se chlubí terabajty za sekundu propustnosti NVLinku. Pro většinu workloadů na strojích Kentino z toho nepotřebujete nic.
N04Topologie se switchi: fat-tree, leaf-spine, dragonfly, tesseractKaždé schéma clusteru začíná stejně. Skutečná volba je, jakou topologii, jak velký oversubscription a jakou rychlost na port.
N05Topologie bez switche: mesh, ring, direct-connectSwitch 400 GbE s 32 porty vyjde v polovině roku 2026 na €40k–€80k. Pro 2 až 4 nody ho nepotřebujete.
N06Rozbor latence: kam mizí každá mikrosekundaLidé dimenzují sítě podle grafů propustnosti. Pak jim benchmark allreduce vypíše číslo, které se rychlosti linky ani neblíží.
N07Routing: ECMP, adaptivní routing, DCQCNCo se děje nad kabely, síťovkami a switchi: jak pakety hledají cestu a co brání tomu, aby se fabric při all-reduce nezhroutila.
N08Nastavení RDMA v praxi + návrh uplinku clusteruPrakticky: nainstalovat ovladače, ověřit cestu, zapnout GPUDirect, validovat NCCL a pak navrhnout uplink celého clusteru.

Clustering řada K

Když jeden nod nestačí. Rozhodnutí jeden vs. více nodů, distribuovaný trénink, inferenční clustery, sdílené úložiště, plánování a řešení výpadků.

K01Jeden nod s více GPU vs. více nodů: kdy škálovat do šířkyNejdražší chybou je rozdělit rozpočet na GPU mezi dva nody tam, kde by stačil jeden větší.
K02Distribuovaný trénink v roce 2026: DDP, FSDP2, DeepSpeed, MegatronČtyři open-source stacky, pět os paralelismu a který z nich si pro jakou úlohu skutečně vybrat.
K03Inferenční clustery: vLLM tensor parallel a pipeline parallelModel 70B se na jedno GPU s použitelnou KV cache nevejde. Model 405B se nevejde na jeden nod. Způsob, jakým model rozdělíte, rozhoduje o ceně.
K04Úložiště clusteru: NFS, BeeGFS, Lustre, object storageSdílené úložiště je ta část distribuovaného clusteru, na kterou nikdo nemyslí, dokud kvůli němu GPU nestojí na 40% vytížení.
K05Plánování úloh: SLURM, Kubernetes, RaySLURM, Kubernetes, Ray — a poznat, kdy nepotřebujete ani jeden. Plánovač vybírejte podle velikosti týmu.
K06Řešení výpadků v AI clusterechCo se v GPU clusteru opravdu rozbije a jak se z toho dostat — checkpointy, health checky a vyřazování vadných nodů.

Integrace řada I

Jak to poskládat dohromady — nastavení inferenčního serveru, síť a energetický rozpočet laboratoře, referenční sestava a nasazení flotily.

I01Architektura edge AI: robot ↔ on-prem inferenční serverVlajkový článek. Humanoid, kterého jste koupili, je jen polovina systému; tohle je ta druhá polovina a způsob, jak se obě propojí.
I02Nastavení inferenčního serveru: vLLM, llama.cpp, SGLangInstalace, provoz a benchmark. Který engine pro jaký model a jaký cíl latence.
I03Topologie sítě pro robotickou a AI výpočetní laboratořKabeláž robotické a AI laboratoře — spoje k robotům, uplinky inferenčních serverů a kde se skrývá latence.
I04Rozpočet napájení a chlazení pro robotickou a AI laboratořDimenzování napájení a chlazení pro kombinovanou robotickou a AI laboratoř dřív, než podepíšete nájem.
I05Referenční sestava: robotická a AI laboratoř v jednom rackuKompletní robotická a AI laboratoř v jednom racku — kusovník, rozmístění a kompromisy, které bychom skutečně dodali.
I06Nasazení flotily: více robotů, sdílený výpočetní výkonVíce robotů, sdílený výpočetní výkon. Jak dimenzovat a plánovat inferenci pro flotilu, ne pro demo.

Napájení řada P

Jak dostat čistou energii do racku. Fáze, PDU, vyvažování, jističe, UPS a generátory pro AI výpočty.

P01Jednofázové vs. třífázové napájeníKdy se stroj se 4 GPU přestane vejít do jednoho 16 A okruhu a co Vám třífázové napájení v AI racku skutečně přinese.
P02Typy PDU: basic, měřené, spínané, ATSCo které umí a které pro GPU rack skutečně potřebujete.
P03Vyvažování fází napříč AI rackyZatěžte tři fáze rovnoměrně, nebo Vám jistič vypadne v nejhorší možnou chvíli. Jak vyvažování napříč AI racky funguje.
P04Dimenzování jističů a zapínací proudTrvalá zátěž, zapínací proud a pravidlo 80 %. Dimenzujte jističe pro GPU servery tak, aby zbytečně nevypadávaly.
P05Dimenzování UPS pro AI výpočtyTopologie, chemie baterií, výdrž a past kVA vs kW, kvůli které je polovina nakoupených UPS do AI laboratoří poddimenzovaná.
P06Generátor a přepínač sítěKdyž výdrž baterií nestačí. Dimenzování generátoru a základy přepínačů sítě pro AI laboratoře.

Robotika řada R · blog

Moderní humanoid je šest sedm inženýrských disciplín sešroubovaných dohromady. Anatomie, senzory, umístění výpočetního výkonu, SDK, sítě, nákup a nejnovější stack VLM world modelů.

R01Anatomie moderního humanoidaŠest sedm inženýrských disciplín sešroubovaných dohromady. Co je uvnitř moderního humanoida doopravdy.
R02Anatomie čtyřnohého robotaČtyřnozí roboti vyměňují dosah za stabilitu a výdrž baterie. Mechanická a výpočetní anatomie nejpracovitějšího form faktoru.
R03Senzorický stack robotaKamery, hloubka, LiDAR, IMU, silově-momentové senzory — co každý z nich přinese a co stojí ve výpočetním výkonu.
R04Výpočty robotů: on-device vs off-deviceCo běží na robotovi a co na serveru. Kompromis mezi latencí a schopnostmi, kterému se nevyhne žádné nasazení.
R05SDK robotů, ROS 2 a simulaceROS 2, SDK výrobců a simulační prostředí — software, nad kterým vyvíjíte, než dorazí hardware.
R06Sítě pro roboty: Wi-Fi, kabel, 5GWi-Fi, kabel, 5G — a proč o tom, co lze z robota odlehčit jinam, rozhoduje latence, ne propustnost.
R07Nákup robota: dodací lhůty, clo, podporaNákup robotického hardwaru do EU není jako nákup workstationu. Jak to doopravdy vypadá s dodacími lhůtami, clem a poprodejní podporou.
R08Proč roboti potřebují vyhrazený edge výkonArgument latencí. Proč model schovaný za cloudové API rozbije právě to použití, které zákazník chce.
R09Autolabeling pomocí VLM world modelůNejmodernější percepční stack — Qwen2.5-VL, Grounded-SAM 2, Florence-2, NVIDIA Cosmos — nasazený na ground truth v robotice.

Případové studie řada C · blog

Skutečné sestavy Kentino se skutečně naměřenými čísly. Fotografie, kusovníky, benchmarky a upřímné rozbory po dokončení.

C01Případová studie: AI workstation se 4× RTX 4090EPYC 7542, 512 GB DDR4 ECC, 4× RTX 4090. Naměřeno 651.6 TFLOPS. Trvale 179.3 tok/s na vLLM. Špička 73°C. Reálná čísla z dodané sestavy.

Nové články každé úterý a čtvrtek

Tato wiki je rostoucí knihovna — nové články o sestavách, sítích, clusteringu, napájení a robotice vycházejí v průběhu roku 2026 a každý vychází z reálné sestavy Kentino. Pokud chcete upřednostnit konkrétní téma, napište na info@kentino.com.