Výpočty v robotu vs. mimo robota
Sdílet
Každý workload na robotu běží na jednom ze dvou míst: na palubě, kde čerpá z baterie a spoléhá na ventilátory v hrudi, nebo mimo palubu, na serveru napájeném ze sítě vzdáleném jeden skok po LAN. Těžká otázka nezní, zda potřebujete obojí — téměř vždy ano — ale který workload patří kam a proč. R08 vysvětluje, proč vůbec dává smysl samostatná edge vrstva. Tento článek řeší rozhodnutí workload po workloadu: řízení motorů sem, VLM tam, STT podle situace a tak dále.
Tento pohled je vyhraněný. Pro každý workload existuje správná odpověď a ta se mění, jak palubní čipy dohánějí náskok. U každé položky uvedeme, kterým směrem se v letech 2026–2027 posouvá.
Dva rozpočty, které rozhodují o všem
Workload může běžet na palubě právě tehdy, když se současně vejde do dvou rozpočtů: napájení a paměť. Latence je třetí omezení, ale obvykle napoví spíš to, kterým směrem posunout workload, který se vejde — ne to, zda se vejde vůbec.
Energetický rozpočet humanoida. Humanoid o hmotnosti 30–50 kg nese baterii 700–900 Wh. Trvalá chůze odebírá z aktuátorů 200–500 W, špičky při dynamickém pohybu přesahují 800 W. Stání na místě s „přemýšlením“ stojí 80–150 W (držet moment je levné, držet postoj už ne). Zbývá tedy zhruba 60–120 W na všechno ostatní — výpočetní výkon, senzory, ventilátory, rádio — pokud chcete použitelnou dvouhodinovou výdrž. Rozpočet na výpočty je v rámci této obálky 30–80 W trvale. Držet Jetson natrvalo v režimu MAX_N (60 W) zkrátí výdrž robota na polovinu. To je fyzika, o které se nevyjednává, ne otázka návrhu.
Paměťový rozpočet. Jetson AGX Orin 64 GB znamená 64 GB LPDDR5 sdílených mezi CPU a GPU. Odečtěte operační systém (4–6 GB), ROS 2 a SDK výrobce (2–4 GB), buffery pro vnímání (2–4 GB na stereo hloubku a mračna bodů) a vlastní aplikační kód. Reálně použitelný rozpočet pro LLM/VLM je 40–48 GB. U modulu Jetson Thor 128 GB strop stoupá na zhruba 96 GB využitelných. U Orin NX 16 GB klesá na ~8–10 GB — tedy na jeden malý model.
Mimo palubu jsou oba rozpočty zcela jiným problémem. Kentino AI 96 (4× RTX 5090) má 128 GB vyhrazené VRAM a 1.0–1.5 kW příkonu GPU ze sítě. Kentino AI 256 (8× RTX 5090) obojí zdvojnásobuje. Napájení a paměť prostě přestanou být limitem — výměnou za to řešíte investiční náklady, chlazení místnosti a drátovou síť.
Palubní křemík — realita roku 2026
Palubní platformy, které se dnes reálně dodávají v seriózních humanoidech a čtyřnohých robotech:
| SoC | INT8 TOPS (sparse) | Využitelná paměť | Příkonová obálka | Co utáhne |
|---|---|---|---|---|
| Jetson Orin NX 16 GB | 100 | ~10 GB sdílených | 10–25 W | YOLO, malý VLM 3B Q4, wake-word |
| Jetson AGX Orin 64 GB | 275 | ~40 GB sdílených | 15–60 W | YOLO, VLM 7B Q4 v použitelném tempu, LLM 13B |
| Jetson AGX Thor 128 GB (2026) | 2070 FP4 TFLOPS | ~96 GB sdílených | 40–130 W | VLM 32B Q4 s rezervou, vnímání ze dvou streamů |
| Snapdragon 8 Gen 3 / třída QRB | 45–75 | ~6–10 GB sdílených | 5–15 W | Hlas, wake-word, lehké CV |
| Hailo-8 (přídavná karta M.2) | 26 INT8 TOPS | 2–4 GB na čipu | 2.5 W typicky | Odlehčení vision pipeline, MobileNet/YOLO |
| Hailo-15 (vision SoC) | 20 TOPS | Rezidentní v pipeline | 2–5 W | Trvale běžící CV z více kamer |
| Intel N97 / i7-1370P jako koprocesor | nerelevantní (CPU + iGPU) | DDR5 hostitele | 6–45 W | Orchestrace na vyšší úrovni, ROS 2, propojovací vrstva |
Thor není iterace, ale skok. Paměťový strop 128 GB a nativně FP4 tenzorová jádra Blackwell posouvají palubní hranici z „VLM 7B, a bolestivě“ na „VLM 32B, a užitečně“ během jediné generace. Workloady, které byly v roce 2025 strukturálně mimo palubu — středně velké VLM, průběžné popisování scény, LLM plánovače střední velikosti — se stávají kandidáty na palubu už v roce 2026, pokud tepelné řešení robota uchladí trvalých 100–130 W.
Hailo a podobné specializované NPU nejsou akcelerátory pro LLM. Slouží k odlehčení vision pipeline: hlavní Jetson zůstává volný pro větší model a trvale běžící kamerové CV (detekce objektů, sledování, základní VLM-lite) jede na čipu se 3 W.
Snapdragon třídy QRB je odpovědí pro roboty orientované na hlas — wake-word, beamforming, STT — kde je Jetson zbytečný a Cortex-M nedostačuje. Užitečné, úzce zaměřené a čím dál běžnější.
Mimo palubu: řada Kentino AI jako referenční vrstva
Cílovou platformou mimo palubu je v celé této sérii řada Kentino AI — napájená ze sítě, v racku 4U nebo 5U, se 4 nebo 8 GPU na platformě EPYC či Xeon, připojená k 10GbE switchi jeden skok od robota. Tři vrstvy, které jsou pro robotiku podstatné:
| Vrstva | GPU | Celková VRAM | Trvalý příkon | Největší reálný VLM (INT4) |
|---|---|---|---|---|
| Kentino AI 64 / 96 (4 GPU) | 4× RTX 5090 nebo 4× Pro 6000 | 128–384 GB | 1.8–2.4 kW | 72B s rezervou na KV cache |
| Kentino AI 128 (4× Pro 6000 Blackwell) | 4× RTX Pro 6000 96 GB | 384 GB | 2.0–2.6 kW | 72B s plným kontextem |
| Kentino AI 256 (8 GPU) | 8× RTX 5090 nebo 8× Pro 6000 | 256–768 GB | 3.5–4.5 kW | 70B + 32B + 7B současně |
Rozhodovací matice
Každý robotický workload spadá přesně do jedné z pěti kategorií: vždy na palubě, spíše na palubě, obojí, spíše mimo palubu, pouze mimo palubu. Důvodem každého zařazení je limitující rozpočet — napájení, paměť, nebo latence.
| Workload | Umístění | Limitující omezení | Proč |
|---|---|---|---|
| Smyčka řízení motorů (500 Hz–1 kHz) | Vždy na palubě | Latence (< 1 ms) | Jeden síťový skok je 100–10000× víc než rozpočet smyčky. Bez výjimky. |
| Bezpečnostní reflexy kloubů / nouzové zastavení | Vždy na palubě | Latence (< 5 ms) | Stejný důvod; navíc musí fungovat i při výpadku LAN. |
| Fúze dat z IMU | Vždy na palubě | Latence (< 5 ms) | Vstupuje přímo do řídicí smyčky. |
| Stereo / RGB-D hloubka | Vždy na palubě | Propustnost + latence | Surová data z kamer mají příliš vysoký datový tok; výstup hloubky je malý, ale potřebný rychle. |
| Detekce objektů třídy YOLO | Spíše na palubě | Latence (10–30 ms, reflexní) | Na Jetsonu běží přes 30 FPS. Není důvod to posílat po síti. |
| Detekce wake-word | Spíše na palubě | Napájení + latence | Běží trvale, na QRB či Hailo pod jeden watt. Mimo palubu by spalovala síťovou kapacitu 24/7. |
| STT třídy Whisper (malé modely) | Obojí | Tolerance latence | 100–250 ms na Jetson AGX Orin. Mimo palubu 30–80 ms na 5090. Uživatel rozdíl nepozná. |
| Malý LLM (≤ 8B Q4) pro dialog | Obojí | Latence vs. souběžnost | 15–25 tok/s na Orin AGX, 80–150 tok/s na 5090. Mimo palubu vítězí, pokud potřebujete škálovat. |
| VLM 3B Q4 (popis scény) | Spíše na palubě | Napájení + latence | Na Orin se vejde snadno, síť není potřeba, použitelných ~10 FPS. |
| VLM 7B Q4 (Qwen2.5-VL, OpenVLA) | Obojí | Příkon vs. snímková frekvence | Orin AGX zvládá 5–8 FPS při 30 W. Kentino AI přes 30 FPS. Volte podle úlohy. |
| VLM 32B Q4 | Spíše mimo palubu (na Thoru hraničně i na palubě) | Paměť + napájení | Na Orin AGX se nevejde. Na Thoru 128 GB hraničně. Na Kentino AI 96 pohodlně. |
| VLM 70B+ Q4 | Pouze mimo palubu | Paměť | 45–50 GB vah + 10–20 GB KV cache. V roce 2026 to neunese žádný palubní modul. |
| Plánovač pohybu (krátký horizont, < 1 s) | Spíše na palubě | Latence | Těsná smyčka s řízením. Správná odpověď je lokálně. |
| Plánovač pohybu (dlouhý horizont, jednotky sekund) | Spíše mimo palubu | Paměť + velikost modelu | Založeno na VLM nebo difuzi, velký kontext — mimo palubu vítězí. |
| Paměť scény / RAG | Pouze mimo palubu | Perzistence + paměť | Musí přežít restart robota; vektorová databáze chce skutečné úložiště a RAM procesoru. |
| Fúze VLM z více kamer (3–5 streamů) | Pouze mimo palubu | Paměť + výpočetní výkon | Dávkování napříč kamerami vyžaduje server s více GPU. |
| Doladění modelu / trénink LoRA | Pouze mimo palubu | Paměť + napájení | 2–5× více paměti než inference a trvalý příkon v řádu kilowattů. Na baterii nemožné. |
| Plný předtrénink | Pouze mimo palubu | Nevejde se ani na jeden server | Doména více uzlů. Viz série K. |
| Iterace policy v Isaac Sim | Pouze mimo palubu | Renderování na GPU + propustnost RL | Ze své podstaty serverový workload. |
Z této tabulky stojí za to vytáhnout tři závěry.
Řádky „vždy na palubě“ jsou fyzika. Žádné množství propustnosti nevyřeší řídicí smyčku, která potřebuje odezvu 1 kHz. Tyto položky se nepřesunou nikdy, ať už bude síť nebo externí výkon jakkoli dobrý.
Řádky „obojí“ jsou místem, kde se odehrává skutečné inženýrské rozhodování. Právě tady leží většina zajímavých kompromisů. To, zda VLM 7B běží na palubě nebo mimo ni, určuje podstatnou část chování celého systému. Univerzálně správná odpověď neexistuje.
Řádky „pouze mimo palubu“ se posouvají pomalu. Model 72B bude pravděpodobně i v roce 2027 pouze mimo palubu. Model 32B se na palubu přesune, jakmile se Thor začne dodávat ve velkém. Hranice toho, „co se vejde do zařízení“, se posouvá zhruba o jednu velikostní třídu modelu každých 18–24 měsíců.
Mapování latenčních vrstev
Čtyřúrovňový latenční rozpočet z článku I01 se na umístění mapuje přímo:
| Vrstva | Rozpočet | Umístění |
|---|---|---|
| Reaktivní řízení | < 10 ms | Pouze na palubě. Tečka. |
| Reflexní vnímání | 10–50 ms | Na palubě (samotná obrátka po LAN rozpočet spotřebuje) |
| Deliberativní plánování | 100 ms – 1 s | Obojí. LAN funguje, paluba funguje. |
| Strategické uvažování | 1 s – jednotky sekund | Obojí, mimo palubu často vítězí kvalitou modelu. |
Právě ve dvou prostředních vrstvách leží skutečná architektonická rozhodnutí. Reflexní workload, který se těsně vejde do 50 ms, se může vejít mimo palubu po drátové LAN (0.5 ms cesta tam + 40 ms inference + 0.5 ms zpět = 41 ms), ale rozpočet přestřelí po zatíženém Wi-Fi 6E (8 ms × 2 + 40 ms = 56 ms, plus jitter). Proto jsou při vývoji drátové propojky důležité: ukážou vám, zda se workload principiálně vejde mimo palubu, ještě než začnete bojovat s bezdrátovou sítí.
Realita sítě
Mimo palubu to funguje jen tehdy, když funguje síť. Skutečná čísla:
| Spoj | Medián RTT | P99 RTT | Jitter při zátěži |
|---|---|---|---|
| Drátová propojka 2.5 / 10 GbE | 0.2–0.5 ms | 0.5–1 ms | Pod 1 ms |
| Wi-Fi 6E, 6 GHz, přímá viditelnost, vyhrazený AP | 3–10 ms | 15–30 ms | Zvládnutelný |
| Wi-Fi 6 / 6E, sdílených 5 GHz, zarušeno | 8–25 ms | 80–200 ms | Špatný |
| Wi-Fi 6E pod zátěží (přenos souborů na stejném SSID) | 10–40 ms | 200 ms – 2 s | Pro robota likvidační |
| Mobilní 5G střední pásmo | 20–40 ms | 100–300 ms | Proměnlivý |
| WAN do evropského cloudu | 15–40 ms (medián) | 80–300 ms | Závisí na BGP |
Pro deliberativní workloady (rozpočet 100 ms – 1 s) stačí Wi-Fi 6E na vyhrazeném SSID s přístupovým bodem v přímé viditelnosti. Pro reflexní workloady (10–50 ms) je drát bezpečná odpověď a Wi-Fi 6E odpověď se štěstím. Plánujte podle toho: má-li úloha robota jakoukoli reflexní část mimo palubu, navrhněte drátovou variantu pro vývoj a záložní režim pro chvíle, kdy se Wi-Fi zhorší.
Hybridní vzor — rozdělení rychlý/pomalý
Vzor, ke kterému v roce 2026 konverguje většina seriózních nasazení, je rozdělení VLM na rychlý a pomalý: malý VLM na palubě pro okamžitou zpětnou vazbu, velký VLM mimo palubu pro uvážená rozhodnutí, oba vstupují do téhož plánovače.
Konkrétní podoba:
- Kadence 33 ms na snímek
- Napájí palubní i mimopalubní větev VLM
- Qwen2.5-VL-7B na Jetson AGX Orin / Thor
- Výstup 5–10 Hz
- Shrnutí scény + okamžitá akce
- Vstupuje přímo do reflexní vrstvy
gRPC
- Qwen2.5-VL-72B na Kentino AI 96 / 256
- Výstup 1–3 Hz
- Uvážená analýza scény + úprava plánu
- Vstupuje do deliberativní vrstvy, může přebít palubní rozhodnutí
Rozdělení rychlý/pomalý: palubní 7B řeší okamžitou reakci, mimopalubní 72B uvážené uvažování a aktualizace plánu.
Rychlý model řeší „jde proti mně člověk, zpomal“. Pomalý model řeší „člověk, který jde proti mně, je operátor, a ten mě požádal, abych se zastavil, pokud přijde s červenou deskou — a tohle je červená deska, takže zastav“. Rychlý model se nejprve zaváže k bezpečnému chování, pomalý model ho pak vylepší.
Příběh migrace — co se v letech 2026–2027 přesune na palubu
Stranu mimo palubu stlačují tři síly: Thor přichází ve velkých objemech (2070 FP4 TFLOPS, 128 GB sdílené paměti, obálka 130 W — strukturální skok oproti Orinu); efektivita VLM se stále zlepšuje („dostatečně dobrý“ vnímací VLM měl v roce 2024 přes 70B, v roce 2026 má 32B a v roce 2027 to bude pravděpodobně 13B–20B); a spekulativní dekódování s malými návrhovými modely umožňuje dodávat kvalitu velkého modelu při latenci malého.
Workloady, které se během příštích 18 měsíců přesunou na palubu nejspíš jako první: scénický VLM třídy 7B (už se přesouvá), LLM plánovač 13B (na Thoru pohodlně), řetězec STT-LLM-TTS s krátkým kontextem pro hlas a doménově doladěné VLM 7B.
Workloady, které se nepřesunou nikam: cokoli nad 70B, paměť scény v měřítku celé flotily, trénink a simulace, fúze VLM z více streamů. Ty zůstanou mimo palubu minimálně do roku 2027. Paměťová propustnost a kapacita baterií se tak rychle neohýbají.
Dvě konkrétní konfigurace
Jeden G1 EDU ve výzkumné laboratoři. Palubní AGX Orin provozuje ROS 2, YOLOv11-s při 30 FPS, STT Whisper-distil a Qwen2.5-VL 7B INT4 při 5–8 FPS (deliberativně). Mimo palubu běží Kentino AI 96 (4× RTX 5090, 128 GB VRAM) s vLLM, modely Qwen2.5-VL 72B a Qwen2.5 32B pouze textově, pamětí scény nad pgvector a Isaac Sim na nevytížených GPU.
Malá flotila, 3 humanoidi, palubní platforma třídy Thor. Každá jednotka má vision SoC Hailo-15 pro trvalou detekci z více kamer, Whisper-small přímo v zařízení a Qwen2.5-VL 32B INT4 při 10–15 FPS — nativně a už bez kompromisů. Mimo palubu hostuje Kentino AI 256 (8× RTX 5090, 256 GB VRAM) sdílený Qwen2.5-VL 72B a Llama-3.1 70B pro plánování, sdílené úložiště pgvector pro všechny tři roboty a dvě GPU vyhrazená na noční doladění LoRA.
Kde čistě jednovrstvé nasazení opravdu funguje
Čistě palubní řešení funguje pro úzce zaměřené čtyřnohé roboty (obchůzka perimetru s YOLO a termokamerou), teleoperované roboty (plánovačem je operátor, ve smyčce není žádný VLM), předváděcí a výukové roboty s nejmenšími modely a jakékoli nasazení zcela bez sítě (venkovní inspekce, odlehlé lokality).
Čistě cloudové řešení funguje pro hlasové robotické asistenty bez uzavřené vnímací smyčky, prototypy, kde rychlost zprovoznění přebíjí vše ostatní, a nasazení, kde data stejně záměrně putují do cloudového workloadu.
Hybridní řešení je odpovědí pro všechno mezi tím — tedy zhruba pro 90 % seriózní robotiky roku 2026. Pokud stavíte cokoli s vnímáním, kde je VLM ve smyčce, skončíte u obou vrstev. Počítejte s tím od prvního dne.
Postup rozhodování
Když dimenzujete nasazení:
- Sepište workloady. Řízení motorů, vnímání, STT, LLM, VLM, plánování, paměť, trénink. Buďte konkrétní.
- Každému přiřaďte latenční vrstvu a paměťovou třídu (≤ 8 GB / 8–40 GB / 40–80 GB / 80+ GB).
- Použijte matici uvedenou výše a získejte první návrh umístění.
- Prověřte palubní stranu proti skutečnému SoC a tepelnému rozpočtu robota. G1 s Orin NX je úplně jiný stroj než T1 s AGX Orin nebo budoucí platforma Thor.
- Prověřte mimopalubní stranu proti vrstvě Kentino AI, kterou si můžete dovolit. Kentino AI 96 je minimum pro jednoho robota, který dělá vážnou práci; Kentino AI 256 je minimum pro flotilu nebo pro jakýkoli požadavek na trénink.
- Prověřte síť. Drátová propojka pro vývoj, vyhrazené SSID Wi-Fi 6E pro produkci. Pokud vaše reflexní vrstva prochází sítí, počítejte s drátem nebo se záložním režimem s řízeným zhoršením.
- Naplánujte migraci. Až se Thor objeví ve vaší platformě, které workloady se přesunou na palubu? Zabstrahujte hranici gRPC už teď, aby migrace byla změnou nasazení, ne přepisem.
Navazující články (R05, I02, I05) jdou do hloubky u jednotlivých dílů, které jsou zde jen načrtnuty. Rozhodnutí o umístění z tohoto článku tvoří kostru, na které visí všechno ostatní.
Upřímné shrnutí: 90 % seriózních robotických nasazení v roce 2026 potřebuje obě vrstvy. Palubní strana se dimenzuje na bezpečnost, reflexy a vnímání s malými modely. Mimopalubní strana na VLM ve smyčce, paměť scény, plánování a trénink. Jednovrstvá nasazení fungují u úzkých případů použití — a jen u nich.
Toto je součást Kentino Wiki, referenční série o AI výpočtech, robotice a systémech, které je propojují. Připomínky a opravy uvítáme na info@kentino.com.