SF Compute: při pronájmu GPU kapacity záleží na podmínkách přerušení

TL;DR

• Při pronájmu GPU pro AI porovnávej vedle hodinové ceny také podmínky přerušení, dostupnou paměť a možnost obnovit rozdělanou práci.
• SF Compute podle svého šéfa propojuje obchodování s výpočetní kapacitou s jejím skutečným dodáním. Nabídky páruje podle konkrétních požadavků zákazníka.
• Než objednáš kapacitu, vyzkoušej na jedné úloze, kolik času a práce ztratíš při přerušení. Pro dávkové zpracování a službu odpovídající zákazníkům potřebuješ jiné podmínky.

Noční zpracování dokumentů může chvíli počkat. Aplikace, ve které zákazník právě čeká na odpověď modelu, takovou volnost nemá. Pokud pro obě úlohy pronajímáš GPU, rozdíl se promítá do toho, jakou kapacitu můžeš koupit a za jakých podmínek ji lze přerušit.

Právě na těchto rozdílech staví SF Compute svůj trh s výpočetní kapacitou. V rozhovoru pro Latent Space zveřejněném 20. října 2026 popsal její šéf Evan Conrad propojení obchodování s provozem GPU clusterů, tedy propojených skupin výpočetních serverů. Pro tým provozující vlastní model z toho plyne užitečná otázka: jaké podmínky musí pronajatá kapacita splnit, aby na ní šla práce skutečně dokončit?

Co kupuješ spolu s hodinou GPU

SF Compute podle Conrada páruje nákupní a prodejní objednávky podle více parametrů. Zákazník může vymezit časové období a vlastnosti požadované kapacity. Trh tak nemusí čekat, až budou všechny nabídky hardwaru stejné.

Rozdíly přitom ovlivňují použitelnost. Záleží na generaci GPU, velikosti paměti, propojení serverů i softwarovém nastavení. Dvě nabídky označené jako hodina GPU proto nemusejí pro konkrétní model představovat stejnou službu.

Conrad tento přístup spojuje s fyzickým vypořádáním obchodu: kupující skutečně dostane použitelnou výpočetní kapacitu. Aby ji firma mohla dodat, podle jeho popisu zajišťuje také návrh clusterů a provoz jejich infrastruktury. Samotné spárování objednávek je jen část služby.

Přerušitelná úloha potřebuje cestu zpět

U dávkového zpracování může být přijatelné výpočet zastavit a později obnovit. Podmínkou je, že máš uložený průběžný stav a dokážeš se k němu dostat. Conrad upozorňuje na význam úložiště a rychlosti přenosu dat mezi clustery. Možnost přesunout úlohu jinam závisí i na infrastruktuře kolem GPU.

Představ si malý tým, který přes noc třídí archiv dokumentů vlastním modelem. To je ilustrační situace, v níž může dávat smysl přijmout přerušení výměnou za výhodnější nabídku. Pokud ale úloha po každém zastavení začíná znovu, nižší hodinová sazba nemusí znamenat nižší cenu hotového výsledku.

Pro aplikaci obsluhující zákazníky je rozhodující jiná podmínka: jak dlouho předem se dozvíš, že kapacita přestane být dostupná. V rozhovoru Conrad vysvětluje, že dávkové úlohy a průběžné odpovídání modelu mají odlišnou toleranci přerušení, a proto se jejich podmínky promítají do ceny.

Programovatelné datové centrum má konkrétní podobu

Jednou z popsaných funkcí SF Compute je možnost za provozu měnit rozdělení sítě InfiniBand, která zajišťuje rychlé propojení výpočetních serverů. Zákazník to podle Conrada může udělat bez žádosti obsluze poskytovatele. Funkce má usnadnit změny velikosti clusterů podle potřeby.

To je podstatné hlavně pro technické týmy, které infrastrukturu samy řídí. Pokud používáš hotovou AI aplikaci nebo model přes API, síť mezi GPU obvykle nevybíráš. Rozhovor proto není důvodem, abys kvůli běžné práci s AI začal pronajímat vlastní cluster.

Ani při přímém nákupu kapacity zatím nelze předpokládat, že každou nabídku snadno nahradíš jinou. Conrad připouští, že standardizace kontraktů je stále vzdálená a různé parametry rozdělují nabídku i poptávku. Popsané možnosti tak nejsou zárukou dostupnosti vhodné náhrady pro každou úlohu.

Nejdřív změř cenu dokončené práce

Pokud vlastní GPU kapacitu potřebuješ, začni jednou reprezentativní úlohou. Změř dobu běhu, ověř uložení průběžného stavu a vyzkoušej obnovu po přerušení. Teprve potom porovnávej nabídky se stejnými požadavky na paměť, dostupnost a čas dokončení.

U dodavatele si nech potvrdit, s jakým předstihem může kapacitu odebrat a co budeš potřebovat k přesunu práce. Výsledkem má být cena dokončené úlohy v přijatelném čase. Právě podle ní poznáš, zda ti pružnější nákup výpočetní kapacity skutečně pomáhá.

Zdroj

Latent Space: The Programmable Data Center, rozhovor s Evanem Conradem ze SF Compute, 20. října 2026