Dimenzování jističů a rozběhové proudy u AI serverů

Stížnost, kterou po instalaci AI serveru slýcháme nejčastěji, zní v různých obměnách takto: "pořád nám vyhazuje jistič." Zhruba v polovině případů je rack v průměru v pořádku — GPU běží, BMC drží, grafy ze SNMP vypadají rozumně — a přesto v nepředvídatelných okamžicích rozvaděč vypne a v místnosti zhasne. Méně často vybavuje proudový chránič (RCD), což je ještě frustrující, protože zátěž vypadá vyváženě a technika vypadá zdravě.

Podle našich zkušeností ani jeden z těchto příznaků obvykle neznamená přetížení. Zhruba v polovině případů jde o špatnou vypínací charakteristiku jističe — typicky o jistič s charakteristikou B, který namontoval elektrikář s představou, že se AI výpočty chovají jako kancelářské IT. Asi ve 30 % případů jde o špatný typ proudového chrániče, kdy má chránič typu AC nebo typu A rozlišit svodový proud se stejnosměrnou složkou od baterie serverových zdrojů s aktivním PFC. Zbylých 20 % je skutečné přetížení, téměř vždy ve chvíli, kdy několik zdrojů současně startuje za studena a obálka náběhového proudu krátce překročí vše, co by průměrný odběr naznačoval.

Tento článek je elektrotechnickým doplňkem k W04 (dimenzování zdrojů) a P02 (typy PDU). Popisuje, co vypínací charakteristiky podle IEC 60898 skutečně znamenají, jaké jsou reálné náběhové proudy zdrojů, které dodáváme, kdy se projeví snížení o 80 % u trvalé zátěže a jaký typ proudového chrániče předepsat pro rack spínaných zdrojů AI serverů. Na konci najdete propočty pro sestavu se 4 GPU 5090 a pro sestavu s 8 GPU.

Co jistič vlastně měří — dva vypínací mechanismy v jednom přístroji

Každý miniaturní jistič podle IEC 60898 má v jednom pouzdře dva ochranné mechanismy.

Tepelný člen je bimetalový pásek, který se v průběhu mnoha sekund proudem zahřívá. Modeluje průběh I²t, jenž rozhoduje o tom, zda se kabel přehřívá. Podle IEC 60898 jsou konvenční tepelné body tyto: při 1.13 × jmenovitého proudu jističe (In) přístroj nesmí vybavit v konvenční době (zpravidla > 1 hodina pro jmenovité hodnoty ≤ 63 A), zatímco při 1.45 × In vybavit musí — rovněž v konvenční době. To je část, která chrání vodič před trvalým přetížením.

Magnetický člen je elektromagnetická cívka, která rozepne kontakty ve zlomku půlperiody, jakmile proud překročí pevně danou mez. To je část, která chrání před zkratem — a která rozhoduje, zda bude náběhový proud Vašeho AI serveru "jen krátká špička v pořádku", nebo "vypnuto, nashledanou zítra".

Písmeno vypínací charakteristiky (B, C, D) udává pásmo magnetické meze. Tepelná charakteristika je u všech křivek při stejném In shodná; liší se pouze magnetický bod.

U jističe 16 A jsou magnetické meze zhruba tyto: B16 vybaví nad 48–80 A; C16 nad 80–160 A; D16 nad 160–320 A. Přesný bod uvnitř každého pásma závisí na výrobci a na teplotě.

Většina evropských bytových a menších komerčních budov je standardně osazena jističi s charakteristikou B. Pro kancelářské zásuvky, osvětlení a odporové zátěže je tato volba správná. Pro obvod s AI serverem je to špatná volba a v dalších odstavcích vysvětlíme proč.

Skutečné chování náběhového proudu zdrojů — to, co datové listy podceňují

Když se serverový zdroj zapojí a studený se zapne, je prvním úkolem vstupního stupně nabít vyhlazovací kondenzátory na stejnosměrné straně. Obvykle jde o 470 µF až 2200 µF na 400 V nebo 450 V, umístěné za můstkovým usměrňovačem. Z úplně vybitého stavu se po několik set mikrosekund chovají vůči síti téměř jako zkrat, dokud se napětí na kondenzátoru nepřiblíží vrcholové hodnotě síťového napětí.

Mechanismem ve většině slušných zdrojů je termistor NTC (se záporným teplotním součinitelem) zapojený v sérii se vstupem. Za studena má 5–20 Ω; náběhový proud jej během milisekund sám zahřeje, odpor klesne na několik procent studené hodnoty a termistor se pro ustálený provoz stane prakticky průhledným. Nevýhodou je, že NTC se po vypnutí musí znovu ochladit — zdroj, který právě běžel a byl na deset sekund vypnut, může mít náběhový proud téměř jako bez omezovače, protože termistor je stále horký a má nízký odpor.

Serverové moduly CRPS často přidávají aktivní omezovač náběhového proudu: relé nebo MOSFET, který po nabití vyhlazovacích kondenzátorů přemostí omezovací rezistor. Tím se spojuje ochrana při studeném startu jako u NTC s nezávislostí na vychladnutí, kterou dává tvrdý spínač. Moduly CRPS v rozsahu 1.6–3 kW se na náběhu obvykle chovají lépe než ATX zdroje stejného výkonu — zčásti proto, že aktivní obvod je standardem, zčásti proto, že předpoklad o impedanci zdroje (datacentrum, 230 V) je přísnější.

Dva důsledky pro návrh AI racku:

1. Špička náběhového proudu v datovém listu platí při jmenovitém napětí a "typické" impedanci zdroje. Při 245 V (horní hranice evropské tolerance) na krátkém napájení s nízkou impedancí z blízkého rozvaděče může být špička 1.5–2× vyšší než uvedené číslo. Naměřili jsme špičky 180 A na zdroji ATX 1500 W, který měl v datovém listu 100 A.
2. Náběhové špičky několika současně startujících zdrojů se sčítají. Síťová perioda je pro všechny stejná; pokud jsou čtyři zdroje zapojeny do stejného obvodu a všechny sepnou vstup ve stejném okamžiku, jistič uvidí zhruba 4násobek špičky jednoho zdroje. Server se 4× 5090 a dvěma zdroji ATX 2 kW (v nejhorším případě ~150 A špička na každý) nastartuje krátkou špičkou ~300 A. Jistič B16 (magnetická mez 48–80 A) vybaví. Jistič C16 (80–160 A) v nejhorším případě vybaví. Jistič C32 (160–320 A) udrží.

Právě tohle je mechanismus za nejčastější stížností "můj nový AI server pořád vyhazuje jistič". Trvalá zátěž je v pořádku. Vybavuje obálka náběhového proudu při studeném startu.

Snížení pro trvalou zátěž — pravidlo 80 %, které AI workloady doženou

Evropská praxe (a v duchu i IEC 60364) snižuje jmenovitý trvalý proud jističe zhruba na 80 % štítkové hodnoty u zátěží, které odebírají proud trvale déle než tři hodiny. Severní Amerika to kodifikuje v NEC 210.20(A); Evropa to uplatňuje spíše jako osvědčenou praxi než jako jediné tvrdé pravidlo, ale podstata fyziky — ohřev bimetalu v jističi a ohřev vodiče v kabelu — je stejná.

Inference i trénink AI jsou výslovně trvalé zátěže. Endpoint vLLM obsluhující model 70B při ustáleném toku požadavků odebírá po celé hodiny 80–95 % štítkového TDP grafických karet. Tréninkový běh je ještě rovnoměrnější. Snížení o 80 % platí v plné míře — pro AI workloady neexistuje žádná výjimka pro "přerušovanou špičkovou zátěž", protože jde přesně o ten druh trvalého odběru, před kterým má snížení chránit.

Server se 4× 5090 při trvalých 2.4 kW sedí na 81 % trvalé zatížitelnosti jističe B/C 16 A, tedy přesně na hraně. U jističe s charakteristikou B je obvod v průměru v pořádku a vybavuje na náběhovém proudu. U jističe s charakteristikou C je obvod v průměru v pořádku a občas vybaví při souběhu přechodových špiček všech čtyř GPU. U jističe C 20 A nebo C 25 A má obvod skutečnou rezervu a nevybaví nikdy. Proto u sestavy se 4 GPU 5090 ve výchozím stavu doporučujeme samostatný obvod C 20 A nebo C 25 A, nikoli obvod 16 A, na který výpočet "vychází".

Volba vypínací charakteristiky pro řadu Kentino AI

Dvě poznámky k této tabulce:

• Charakteristika D je správná odpověď jen zřídka. Pásmo D 10–20× In je určeno pro náběh při magnetizaci transformátorů a rozběhu motorů, který může trvat stovky milisekund. Náběh zdroje je událost trvající od zlomků milisekundy po několik milisekund. Jistič s charakteristikou D sice náběh bez problémů snese, ale ztrácí citlivost pro zkratovou ochranu na konci dlouhého kabelového vedení. Pokud nemáte konkrétní důvod, zůstaňte u C.
• Jít o jednu velikost jističe nahoru je téměř vždy levnější než měnit charakteristiku. Jistič C 20 A na správně dimenzovaném kabelu je proti C 16 A výměna dílu za 15 €. Přechod z B na C při stejné hodnotě je také jen výměna dílu, ale zpochybňuje původní návrh elektrikáře. Funguje obojí; obvykle děláme obě věci najednou — přejdeme na charakteristiku C a o velikost výš — aby zbyl prostor pro druhý zdroj, který časem stejně přidáte.

Proč datové listy výrobců uvádějí nižší náběhový proud, než jaký je ve skutečnosti

Tři důvody, proč je hodnota náběhového proudu z datového listu spodní, a nikoli horní hranicí:

1. Výrobce měří při jmenovitých 230 V stř. Evropská síť může v některých regionech a v hodinách nízkého zatížení ležet na 245 V i výše. Špička náběhového proudu roste lineárně s napětím sítě nad napětím částečně nabitého kondenzátoru. Náběh 100 A při 230 V je 107 A při 245 V — malý efekt, ale sčítá se s ostatními.
2. Impedance zdroje předpokládaná v datovém listu je "typický" laboratorní zdroj, často několik set miliohmů. Reálná instalace s rozvaděčem ve stejné místnosti jako rack a s krátkým přívodem může mít impedanci zdroje pod 100 mΩ. Nižší impedance zdroje znamená menší pokles napětí při náběhu, a tedy vyšší špičkový proud. Viděli jsme tentýž zdroj s náběhem 80 A na dlouhém vedení a 140 A na krátkém.
3. Při rychlém vypnutí a zapnutí záleží na stavu předběžného nabití stejnosměrné sběrnice. Zdroj vypnutý na pár sekund a znovu zapnutý může mít teplé vyhlazovací kondenzátory se zbytkovým nábojem — to obvykle pomáhá, náběh je nižší. Ale zdroj vypnutý na pár sekund se studeným NTC, který se nestihl obnovit, a s částečně vybitými kondenzátory může vyvolat zvláštní druhý náběhový ráz převyšující hodnotu při studeném startu. Je to vzácné, ale objevuje se v racích, kde někdo při ladění cykluje napájení přes spínané PDU.

Praktická odpověď zní předpokládat, že špička v nejhorším případě je zhruba 2× vyšší než hodnota z datového listu a podle toho volit charakteristiku jističe. Právě proto tabulka výše končí u C 20–25 A pro sestavy se 4 GPU a u C 32 A nebo třífázového napájení pro sestavy s 8 GPU, přestože výpočet z ustáleného stavu by vyšel i na menší jističe.

Proudová ochrana: typ chrániče pro racky s AI servery

Proudový chránič (RCD) chrání před svodovým proudem do země nad bezpečnou mezí — u obvodů s ochranou osob typicky 30 mA. Mechanismem je proudový transformátor, který sečte proudy fáze a nuly; za normálního provozu je součet nulový a jakákoli nerovnováha (proud unikající někde do země) se projeví jako reziduální proud, který nad danou mezí chránič vybaví.

Rack s AI servery mate proudový chránič dvěma způsoby:

Trvalý svod přes kondenzátory Y. Každý spínaný zdroj má ve vstupním filtru EMC kondenzátory Y zapojené mezi fázi a zem a mezi nulu a zem. Ty svádějí vysokofrekvenční spínací rušení do země. Vedlejším efektem je, že do země propouštějí i malý proud o frekvenci 50 Hz — typicky 0.5–1 mA na zdroj u spotřebitelských ATX, 1–3 mA na zdroj u serverových CRPS s důkladnějším filtrováním. IEC/EN 60950-1 a její nástupce IEC 62368-1 tuto hodnotu z bezpečnostních důvodů omezují na 3.5 mA na jedno IT zařízení. Rack se 4 zdroji tak může ještě před jakoukoli poruchou vykazovat trvalý svod 4–12 mA. Na chrániči 30 mA je to "na papíře v pořádku", ale ukrajuje to téměř polovinu vybavovací meze.

Svod se stejnosměrnou složkou z aktivního PFC. Moderní serverové zdroje používají aktivní korekci účiníku (PFC) — zvyšující měnič na vstupu, který odebírá proud úměrný průběhu síťového napětí a dosahuje PF > 0.95. Stupeň PFC vytváří v jakémkoli svodovém proudu, pokud k němu dojde (většinou při poruše), malou, ale nenulovou stejnosměrnou složku. Chrániče typu AC reagují pouze na čistě sinusový střídavý reziduální proud — poruchy se stejnosměrnou složkou nedokážou detekovat. Chrániče typu A detekují střídavý i pulzující stejnosměrný proud, což pokrývá většinu jednofázových elektronických zátěží. Chrániče typu B detekují i hladké stejnosměrné reziduální proudy, tedy přesně to, co může vznikat u aktivního PFC a u jakéhokoli třífázového usměrňovače na straně zátěže.

Chrániče typu B stojí 3–5× více než typu A. Pro jediný AI server se 4 GPU ve stávajícím kancelářském obvodu je typ A obvykle dostatečný — svod je dán převážně střídavým proudem kondenzátorů Y, stejnosměrná složka je malá a náklady na dovybavení celého rozvaděče chrániči typu B se těžko obhajují. Pro vyhrazenou AI laboratoř s více servery je správnou odpovědí typ B na nadřazeném přívodu, s podřízenými chrániči 30 mA typu A na úrovni zásuvek kvůli ochraně osob u úklidových zásuvek a podobně.

Selektivita: past nadřazeného a podřízeného chrániče

Jeden ošklivý způsob selhání v laboratořích, kde se do stávajícího rozvaděče dodatečně přidávají chrániče: chránič 30 mA nadřazený dalšímu chrániči 30 mA neposkytuje žádnou selektivitu. Při poruše může vybavit kterýkoli z nich jako první, a jakmile jeden vybaví, může ho druhý následovat, protože se svodový proud přerozdělí přes vlastní cesty vybavovacího mechanismu. Výsledkem je, že při lokální poruše jediného obvodu zhasne celý rozvaděč.

Správná topologie pro AI laboratoř:

Správná topologie selektivity chráničů: 100 mA typu B selektivní nadřazený obvodům AI, 30 mA typu A pouze na pomocných a kancelářských zásuvkách.

Označení "S" neboli "selektivní" u nadřazeného chrániče přidává do vybavovacího mechanismu záměrné časové zpoždění 40–200 ms, aby podřízené přístroje 30 mA stihly poruchu odstranit dřív. Bez tohoto zpoždění spolu dva chrániče se stejnou mezí zapojené v sérii závodí. Topologie, která pro rack s více AI servery skutečně funguje, je nadřazený chránič 100 mA typu B selektivní, podřízené chrániče 30 mA typu A pouze na pomocných zásuvkách a žádný chránič na vyhrazeném serverovém obvodu (poruchu odstraní nadřazený chránič 100 mA).

Propočet 1 — Kentino AI server se 4 GPU 5090

Zadání: jeden Kentino AI 96 Turin se 4× RTX 5090, 2× zdroj ATX 1500 W (rozdělené napájení podle W04), v malé laboratoři na čerstvě instalovaném vyhrazeném obvodu.

Trvalá zátěž: ~2.4 kW při 230 V = 10.4 A trvale. Po snížení o 80 % je nejmenší jistič, který sem předpisově patří, 13 A; nejbližší vyšší standardní velikost je 16 A.

Špička náběhového proudu (nejhorší případ): 2× 150 A = 300 A celkem, trvání < 5 ms. Jistič B 16 A (magneticky 48–80 A) na tom vybaví. Jistič C 16 A (magneticky 80–160 A) vybaví na horní hranici nejhoršího případu. Jistič C 20 A (magneticky 100–200 A) udrží.

Chránič: jedna dvojice zdrojů, trvalý svod přes kondenzátory Y odhadem ~3–5 mA celkem. Chránič 30 mA typu A má ~25 mA rezervy — v pořádku. Pokud má budova pouze ochranu chrániči typu AC, vyměňte nadřazený přístroj za typ A nebo typ B; nekaskádujte druhý přístroj 30 mA.

Zadání předané elektrikáři:

• Vyhrazený jednofázový obvod 230 V, jistič C 20 A (nebo B 20 A, pokud dodavatel charakteristiku C v této hodnotě nemá skladem; preferujeme C).
• Chránič 30 mA typu A jako minimum, typ B v případě, že se budova stejně rekonstruuje.
• Zásuvka Schuko (nebo místní jednofázový konektor 16 A) u racku. Kabel C19/C20 ze zásuvky do PDU.
• Žádné další zátěže na stejném obvodu.

Tento obvod udrží server se 4 GPU 5090 při studených startech, trvalém tréninku i občasném cyklování napájení bez planého vybavování.

Propočet 2 — Kentino AI server s 8 GPU 5090

Zadání: jeden Kentino AI 256 Turin Dual s 8× RTX 5090, moduly 2+2 CRPS po 2 kW, určený pro trvalý trénink v malé serverovně.

Trvalá zátěž: ~4.5 kW při 230 V = 19.6 A trvale. Po snížení o 80 % je potřeba jistič alespoň 25 A; nejbližší standardní velikost je 32 A.

Špička náběhového proudu (nejhorší případ): 4× 80 A = 320 A celkem u modulů CRPS, < 5 ms. Jistič C 32 A (magneticky 160–320 A) je na hraně. Jistič C 40 A (200–400 A) udrží s rezervou.

Chránič: 4× CRPS s PFC, trvalý svod přes kondenzátory Y odhadem ~8–15 mA celkem, k tomu nenulová stejnosměrná složka. Chránič 30 mA typu A na tomhle dřív nebo později planě vybaví, a nemusí správně detekovat stejnosměrný poruchový proud. Správným předpisem je typ B 100 mA selektivní.

Varianty zadání:

• Varianta A — jednofázově: jistič C 32 A nebo C 40 A na vyhrazeném obvodu 230 V, nadřazený chránič 100 mA typu B selektivní. Zásuvka CEE 32 A modrá (jednofázová podle IEC 60309) u racku. Funguje to, ale je to na horní hranici jednofázového rozvodu; kabelovým vedením teče značný proud.
• Varianta B — třífázově (preferovaná): zásuvka CEE 400 V třífázová 16 A červená u racku, přičemž čtyři moduly CRPS jsou v PDU rozděleny mezi fáze (podle P02/P03). Každá fáze nese ~6.5 A trvale, což je bezpečně uvnitř jakéhokoli jističe C 16 A. Chránič na každou větev, nebo sdílený 100 mA typu B selektivní na třífázovém přívodu. Pro jakoukoli sestavu s 8 GPU, kde je třífázové napájení k dispozici, je to čistší řešení.

Propočet 3 — plánování laboratoře se čtyřmi racky

Zadání: plánujeme robotickou + AI laboratoř se čtyřmi racky, v každém 2× Kentino AI server s 8 GPU, 2× server se 4 GPU, síťové prvky a nabíjení humanoidních robotů. Hrubý trvalý odběr na rack: 2× 4.5 + 2× 2.4 = 13.8 kW; se sítí, přepínači a nabíječkami zaokrouhleno na 15 kW na rack, celkem 60 kW.

Jednofázový rozvod je tu předem odepsaný — už samotný trvalý odběr na rack vyžaduje tři fáze. Plán:

• Přívod do budovy: 400 V třífázově, rezervovaný příkon minimálně 100 A na fázi. Stávající budovy kvůli tomu často potřebují posílení přípojky; zkontrolujte rozvaděč ještě před podpisem nájemní smlouvy.
• Podružný rozvaděč laboratoře: 400 V třífázově, napájený z hlavního rozvaděče 4× 63 A nebo 4× 100 A vodiči podle délky vedení.
• Na rack: přívod CEE 400 V třífázově 32 A červená z podružného rozvaděče (~22 kW teoreticky, 17.6 kW trvale — vejde se do 15 kW na rack se 17% rezervou). Třípólový jistič C 32 A nadřazený každému přívodu racku.
• Strategie chráničů: 100 mA typu B selektivní na každý přívod racku, 300 mA typu B selektivní na hlavním přívodu podružného rozvaděče jako požární ochrana. Chrániče 30 mA typu A pro ochranu osob pouze na pomocných zásuvkách v laboratoři (pracovní stoly, úklidové zásuvky), nikoli na serverových přívodech.
• Vyvážení fází: podle P03; PDU s měřením na zásuvku a rozložením po fázích v každém racku, s dokumentovaným přiřazením zásuvek k fázím.
• Postupný start: viz níže.

Past postupného startu

Konkrétní scénář, který laboratoře poprvé dostane: výpadek proudu vybaví nadřazený jistič, síť se vrátí a každý server v racku se pokusí nastartovat za studena ve stejném okamžiku. Celkový náběhový proud je N × špička na zdroj přes všechny servery v racku. U racku se čtyřmi servery to může na jediném přívodu krátce dosáhnout 1000–2000 A.

Nadřazený jistič to vidí a vybaví. V místnosti zase zhasne. Správce nahodí rozvaděč. A opakuje se totéž.

Dvě řešení, která u vícesververových sestav Kentino nasazujeme ve výchozím stavu:

1. Spínané PDU s postupným sekvenčním startem (podle P02). Zásuvky PDU jsou nakonfigurovány tak, aby se zapínaly postupně se zpožděním 2–5 sekund mezi jednotlivými zásuvkami. Celkové naběhnutí čtyř serverů trvá 8–20 sekund; náběhové události se nepřekrývají.
2. "Zpožděný start" nebo "soft start" zdroje v BIOSu / IPMI. Mnoho serverových platforem má konfigurovatelné zpoždění po obnovení napájení, které start náhodně rozptýlí nebo posune v rámci malého okna. V kombinaci s rozestupem na PDU to tvoří druhou vrstvu rozkorelování.

Bez jednoho z těchto opatření bude rack s osmi servery na jediném jističi vybavovat při každém jednotlivém obnovení napájení. Viděli jsme to; dá se to spolehlivě zopakovat; s průměrnou zátěží to nemá nic společného.

Toto je součást Kentino Wiki, referenční série o AI technice, robotice a systémech, které je propojují. Komentáře a opravy uvítáme na info@kentino.com.