Presné doladenie a trénovanie modelov na NVIDIA Tesla P40 (24 GB VRAM, architektúra Pascal) Najlepšie pre presné doladenie LoRA a malé modely. Servery GPU zatiaľ nie sú objednateľné; kontaktujte nás, aby sme vás informovali, keď budú objednateľné.
$ pip install torch transformers datasets accelerate && python train.py
# Príklad príkazu na inštaláciu
Na trénovanie modelov umelej inteligencie je potrebný paralelný výpočet, ktorý poskytujú grafické procesory.
Jeden Tesla P40 s 24 GB VRAM, prechádza cez váš server a nie je zdieľaný.
PyTorch, TensorFlow, JAX alebo akýkoľvek framework, ktorý stále podporuje Pascal GPU.
Uchovávajte súbory dát, kontrolné body a súbory modelov na SSD úložisku servera.
Úplný root prístup na konfiguráciu tréningového prostredia.
AI Training can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. AI Training is a general GPU-accelerated workload. Make sure your software has CUDA support and that your driver / runtime versions match the workload requirements for AI Training.
Servery s GPU zatiaľ nie sú dostupné na objednávku, ale dnes môžete spustiť AI Training na bežnom CPU pláne, kde funguje oveľa pomalšie ako na GPU: SSH v a spustiť pip install torch transformers datasets accelerate && python train.py.
VRAM potreby pre AI Training závisia od modelu a veľkosti dávky; skontrolujte dokumentáciu projektu pre aktuálne čísla.
Ceny grafických procesorov budú zverejnené, keď bude možné objednať servery s grafickými procesormi, ak chcete vedieť, kedy sa to stane, kontaktujte nás.
Každý server VPS.org má úplný root prístup, takže môžete spustiť ďalšie nástroje spolu s AI Training v rámci RAM a úložiska servera.
Každý VPS.org server je dodávaný s plným root SSH prístupom, takže môžete nainštalovať ovládače, knižnice a AI Training ako budete potrebovať.
Nie, žiadny server sa nedodáva s predinštalovaným runtime CUDA alebo ovládačom NVIDIA a servery GPU nie sú zatiaľ k dispozícii na objednanie. Verzie, ktoré AI Training potrebuje, si nainštalujete sami.
Servery VPS.org sú trvalé virtuálne stroje, nie efemérne inštancie: modely AI Training, konfigurácie a údaje zostávajú v SSD úložisku servera, kým ich neodstránite.
Pracovné dáta ponechajte na SSD servera pre rýchly prístup počas AI Training behu a skopírujte hotové artefakty (váhy, generácie, vloženia) do úložiska mimo VPS.org; snapshoty a zálohy zostávajú v rovnakom úložnom klastri.
Môžete upgradovať akýkoľvek server VPS.org na väčší plán z ovládacieho panela; zmena veľkosti ho reštartuje a vaša inštalácia AI Training sa prenesie.GPU servery nie sú zatiaľ k dispozícii.
Áno, zálohy sú platený doplnok (denné +30% z ceny plánu, udržiavané 7 dní; týždenné +20%, udržiavané 28 dní) a snapshoty sú zadarmo, čo je užitočné pred dlhými AI Training behom. Obidva zostávajú na rovnakom úložnom klastri ako server.
Ak chcete požiadať o vrátenie peňazí, kontaktujte podporu do 30 dní od prvého nákupu.Servery s grafickými procesormi sa ešte nepredávajú, takže sa nejedná o objednávku grafických procesorov.
Kapacita GPU je obmedzená, povedzte nám o svojej pracovnej záťaži a my vám odpovieme s dostupnosťou a cenou.