Brzy se vrátíme: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Spusťte TensorFlow a Keras školení a závěry o NVIDIA Tesla P40 (24 GB VRAM, Pascal architektura). GPU servery nejsou objednat ještě; kontaktujte nás, aby nás informovali, kdy jsou.

$ pip install tensorflow[and-cuda]
# Příklad instalovat příkaz

Co je {jméno} na GPU VPS?

TensorFlow je rámec pro učení se open-source strojem Google. Na serveru GPU TensorFlow provozuje své operace na GPU prostřednictvím CUDA.

TensorFlow na serveru VPS.org GPU

Zrychlení GPU

TensorFlow používá GPU přes CUDA, jakmile nainstalujete odpovídající ovladač a verzi CUDA.

KerasCity in New York USA

Vybudovat modely s Keras API na horní straně GPU backend.

TensorBoardCity in Ontario Canada

Monitorovací trénink s TensorBoardem na vašem vlastním serveru.

TF Servírování

Podávejte vyškolené modely s TensorFlow Servering.

Populární {jméno} Pouzdra

Klasifikace obrázků
Detekce objektů
Zpracování přirozeného jazyka
Systémy doporučení
Prognóza časových řad
Výroba potrubí ML

Plánované specifikace GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA Cores3,840
FP3212 TFLOPS
INT847 TOPS
Paměť BW346 GB/s
ArchitekturaPascal (GP102)
PrůchodPrůjezd PCIe

Často kladené otázky

Co je TensorFlow na GPU VPS?

+

TensorFlow can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. TensorFlow is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.

Jak nastavím TensorFlow na GPU VPS?

+

GPU servery ještě nejsou k dispozici k objednání. Dnes můžete spustit TensorFlow na pravidelném CPU plánu, kde to funguje mnohem pomaleji než na GPU: SSH v a spustit pip install tensorflow[and-cuda].

Kolik VRAM potřebuju za TensorFlow?

+

Školení VRAM je ovládáno optimalizačním stavem plus aktivací. Plné jemné ladění 7B LLM potřebuje zhruba 24 až 48 GB; LoRA / QLORA se vejde do 8 až 16 GB.

Kolik by GPU server pro TensorFlow stál?

+

Ceny GPU budou zveřejněny, až si můžete objednat servery GPU. Kontaktujte nás, pokud chcete slyšet, kdy se to stane.

Můžu spustit jiné nástroje vedle TensorFlow?

+

Ano. Každý VPS.org server je vybaven plným přístupem k rootům, takže můžete spustit další nástroje vedle TensorFlow v rámci RAM serveru a úložiště.

Dostanu plný kořen TensorFlow GPU VPS?

+

Každý VPS.org server má plný kořenový SSH přístup, takže si můžete nainstalovat ovladače, knihovny a TensorFlow, jak budete potřebovat.

Má VPS.org preinstall CUDA pro TensorFlow?

+

Ne. Žádný server nepřichází s předinstalovaným CUDA runtime nebo NVIDIA ovladačem a servery GPU nejsou zatím k dispozici. Instalujete verze TensorFlow potřebuje sami.

Přetrvá moje TensorFlow GPU VPS mezi sezeními?

+

Ano. VPS.org servery jsou trvalé virtuální stroje, ne ephemerální instance: TensorFlow modely, konfigurace a data zůstávají na serveru SSD úložiště, dokud je nesmažete.

Kde mám ukládat data pro svou TensorFlow pracovní zátěž?

+

Pokračujte v práci na SSD serveru pro rychlý přístup během provozu TensorFlow a kopírujte hotové artefakty (váhy, generace, vkládání) do úložiště mimo VPS.org; snímky a zálohy zůstávají na stejném úložišti.

Můžu později zvětšit své TensorFlow GPU VPS?

+

Můžete upgradovat libovolný VPS.org server na větší plán z ovládacího panelu; změna velikosti restartuje a vaše TensorFlow instalace přenáší přes. GPU servery ještě nejsou k dispozici.

Jsou k dispozici zálohy pro mé GPU VPS?

+

Ano. Záloha je placená přidaná (denní +30% z ceny plánu, 7 dní; týdenní +20%, udržovaná 28 dní) a snímky jsou zdarma, což je užitečné před dlouhým provozem TensorFlow. Oba zůstávají na stejném úložném clusteru jako server.

Můžu dostat peníze?

+

Kontaktní podpora do 30 dnů od prvního nákupu požádat o vrácení peněz. GPU servery nejsou ještě prodány, takže není zapojena žádná GPU objednávka.

Chcete spustit TensorFlow na GPU serveru?

Kapacita GPU je omezená. Řekněte nám o své pracovní zátěži a my odpovíme s dostupností a cenami.