Trénujte a spúšťajte modely PyTorch na NVIDIA Tesla P40 (24 GB VRAM, architektúra Pascal), s plným root prístupom.GPU servery zatiaľ nie sú objednateľné; kontaktujte nás, aby sme vás informovali, keď budú.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Príklad príkazu na inštaláciu
PyTorch je široko používaný framework hlbokého učenia, kde server s GPU spúšťa tréning a odvodenie PyTorch na GPU, ktoré je oveľa rýchlejšie ako CPU pre väčšinu modelov.
Nainštalujete NVIDIA driver, CUDA a PyTorch build, ktorý potrebujete, skontrolujte, či váš PyTorch build stále podporuje Pascal GPU (výpočtová schopnosť 6.1).
Priestor pre malé a stredne veľké modely, jemné ladenie LoRA a stredné veľkosti dávok.
Spustenie Jupyter notebookov na serveri pre interaktívnu prácu na GPU.
Nakonfigurujte si prostredie presne podľa potrieb vášho projektu.
PyTorch môže používať NVIDIA GPU na urýchlenie svojej práce. VPS.org GPU servery nie sú k dispozícii na objednávku; kontaktujte nás, aby ste sa dozvedeli, kedy budú k dispozícii. PyTorch je tréningové / dolaďovacie zaťaženie. Plán pre dlhodobé úlohy: pravidelne vytvárajte snímky VPS a uchovávajte kópiu trénovaných záťaží mimo VPS.org.
Servery s GPU zatiaľ nie sú dostupné na objednávku, ale dnes môžete spustiť PyTorch na bežnom CPU pláne, kde funguje oveľa pomalšie ako na GPU: SSH v a spustiť pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Tréningová VRAM je ovládaná optimalizačným stavom plus aktiváciami.Plné doladenie 7B LLM potrebuje približne 24 až 48 GB; LoRA / QLoRA sa zmestí do 8 až 16 GB.
Ceny grafických procesorov budú zverejnené, keď bude možné objednať servery s grafickými procesormi, ak chcete vedieť, kedy sa to stane, kontaktujte nás.
Každý server VPS.org má úplný root prístup, takže môžete spustiť ďalšie nástroje spolu s PyTorch v rámci RAM a úložiska servera.
Každý VPS.org server je dodávaný s plným root SSH prístupom, takže môžete nainštalovať ovládače, knižnice a PyTorch ako budete potrebovať.
Nie, žiadny server sa nedodáva s predinštalovaným runtime CUDA alebo ovládačom NVIDIA a servery GPU nie sú zatiaľ k dispozícii na objednanie. Verzie, ktoré PyTorch potrebuje, si nainštalujete sami.
Servery VPS.org sú trvalé virtuálne stroje, nie efemérne inštancie: modely PyTorch, konfigurácie a údaje zostávajú v SSD úložisku servera, kým ich neodstránite.
Pracovné dáta ponechajte na SSD servera pre rýchly prístup počas PyTorch behu a skopírujte hotové artefakty (váhy, generácie, vloženia) do úložiska mimo VPS.org; snapshoty a zálohy zostávajú v rovnakom úložnom klastri.
Môžete upgradovať akýkoľvek server VPS.org na väčší plán z ovládacieho panela; zmena veľkosti ho reštartuje a vaša inštalácia PyTorch sa prenesie.GPU servery nie sú zatiaľ k dispozícii.
Áno, zálohy sú platený doplnok (denné +30% z ceny plánu, udržiavané 7 dní; týždenné +20%, udržiavané 28 dní) a snapshoty sú zadarmo, čo je užitočné pred dlhými PyTorch behom. Obidva zostávajú na rovnakom úložnom klastri ako server.
Ak chcete požiadať o vrátenie peňazí, kontaktujte podporu do 30 dní od prvého nákupu.Servery s grafickými procesormi sa ešte nepredávajú, takže sa nejedná o objednávku grafických procesorov.
Kapacita GPU je obmedzená, povedzte nám o svojej pracovnej záťaži a my vám odpovieme s dostupnosťou a cenou.