Spustite tréning a odvodenie nástrojov TensorFlow a Keras na procesore NVIDIA Tesla P40 (24 GB VRAM, architektúra Pascal). Servery GPU zatiaľ nie sú objednateľné. Kontaktujte nás, aby sme vás informovali, keď budú objednateľné.
$ pip install tensorflow[and-cuda]
# Príklad príkazu na inštaláciu
TensorFlow je open source framework pre strojové učenie od Googlu, ktorý na GPU serveri vykonáva svoje operácie na GPU cez CUDA.
TensorFlow používa GPU cez CUDA po nainštalovaní zodpovedajúceho ovládača a verzie CUDA.
Vytvárajte modely pomocou rozhrania Keras API na vrchole backendu GPU.
Monitorujte tréning s TensorBoard na vlastnom serveri.
Poskytujte trénované modely pomocou služby TensorFlow Serving.
TensorFlow môže používať NVIDIA GPU na urýchlenie svojej práce. VPS.org GPU servery nie sú k dispozícii na objednávku; kontaktujte nás, aby ste sa dozvedeli, kedy budú k dispozícii. TensorFlow je tréningové / dolaďovacie zaťaženie. Plán pre dlhodobé úlohy: pravidelne vytvárajte snímky VPS a uchovávajte kópiu trénovaných záťaží mimo VPS.org.
Servery s GPU zatiaľ nie sú dostupné na objednávku, ale dnes môžete spustiť TensorFlow na bežnom CPU pláne, kde funguje oveľa pomalšie ako na GPU: SSH v a spustiť pip install tensorflow[and-cuda].
Tréningová VRAM je ovládaná optimalizačným stavom plus aktiváciami.Plné doladenie 7B LLM potrebuje približne 24 až 48 GB; LoRA / QLoRA sa zmestí do 8 až 16 GB.
Ceny grafických procesorov budú zverejnené, keď bude možné objednať servery s grafickými procesormi, ak chcete vedieť, kedy sa to stane, kontaktujte nás.
Každý server VPS.org má úplný root prístup, takže môžete spustiť ďalšie nástroje spolu s TensorFlow v rámci RAM a úložiska servera.
Každý VPS.org server je dodávaný s plným root SSH prístupom, takže môžete nainštalovať ovládače, knižnice a TensorFlow ako budete potrebovať.
Nie, žiadny server sa nedodáva s predinštalovaným runtime CUDA alebo ovládačom NVIDIA a servery GPU nie sú zatiaľ k dispozícii na objednanie. Verzie, ktoré TensorFlow potrebuje, si nainštalujete sami.
Servery VPS.org sú trvalé virtuálne stroje, nie efemérne inštancie: modely TensorFlow, konfigurácie a údaje zostávajú v SSD úložisku servera, kým ich neodstránite.
Pracovné dáta ponechajte na SSD servera pre rýchly prístup počas TensorFlow behu a skopírujte hotové artefakty (váhy, generácie, vloženia) do úložiska mimo VPS.org; snapshoty a zálohy zostávajú v rovnakom úložnom klastri.
Môžete upgradovať akýkoľvek server VPS.org na väčší plán z ovládacieho panela; zmena veľkosti ho reštartuje a vaša inštalácia TensorFlow sa prenesie.GPU servery nie sú zatiaľ k dispozícii.
Áno, zálohy sú platený doplnok (denné +30% z ceny plánu, udržiavané 7 dní; týždenné +20%, udržiavané 28 dní) a snapshoty sú zadarmo, čo je užitočné pred dlhými TensorFlow behom. Obidva zostávajú na rovnakom úložnom klastri ako server.
Ak chcete požiadať o vrátenie peňazí, kontaktujte podporu do 30 dní od prvého nákupu.Servery s grafickými procesormi sa ešte nepredávajú, takže sa nejedná o objednávku grafických procesorov.
Kapacita GPU je obmedzená, povedzte nám o svojej pracovnej záťaži a my vám odpovieme s dostupnosťou a cenou.