Vlak in teci PyTorch modele na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura), s polnim dostopom do korena. GPU strežniki še niso urejeni; kontaktirajte nas, da se obvesti, ko so.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Primer namestitve ukaza
PyTorch je široko uporabljeni globoko učni okvir. GPU strežnik pogoni PyTorch trening in ugotovitve na GPU, ki je veliko hitrejši kot na CPU za večino modelov.
Namestite voznik NVIDIA, CUDA in zgradbo PyTorch, ki jo potrebujete. Preverite, ali vaša gradnja PyTorch še vedno podpira Pascal GPUs (komputna zmogljivost 6.1).
Soba za majhne in srednje velike modele, LoRA fine-tuning in zmerne velikosti serij.
Poženi Jupyter beležke na strežniku za interaktivno delo na GPU.
Nastavite okolje točno tako, kot potrebujete vaš projekt.
PyTorch lahko uporabi NVIDIA GPU za pospeševanje svojega dela. VPS.org GPU strežniki še niso na voljo za naročitev; kontaktirajte nas, da slišimo, kdaj so. PyTorch je usposabljanje / dobro uravnavanje delovne obremenitve. Načrt za dolgotrajna delovna mesta: posnetek VPS redno in obdrži kopijo izurjenih tež zunaj VPS.org.
Strežniki GPU še niso na voljo za naročilo. Danes lahko poženite PyTorch na običajnem načrtu CPU, kjer deluje veliko počasneje kot pri GPU: SSH in poženite pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
VRAM dominira optimatorsko stanje in aktivacije. Polno dopolnjevanje LLM 7B potrebuje približno 24 do 48 GB; LoRA / QLoRA se vklopi v 8 do 16 GB.
GPU cenovno obdobje bo objavljeno, ko bo GPU strežniki lahko naročili. Pokličite nas, če želite slišati, kdaj se to zgodi.
Da. Vsak strežnik VPS.org je s polnim dostopom do korenine, tako da lahko poganjate druga orodja poleg PyTorch v okviru RAM in shranjevanja strežnika.
Vsak VPS.org strežnik prihaja s polnim root SSH dostopom, tako da lahko namestite voznike, knjižnice in PyTorch, kolikor potrebujete.
Ne. Strežnik ne prihaja z CUDA runtime ali NVIDIA gonilnik vnaprej nameščen, in GPU strežniki še niso na voljo za naročilo. Namestite različice PyTorch potrebujete sami.
Da. strežniki VPS.org so vztrajni virtualni stroji, ne efemeralni primeri: PyTorch modeli, nastavitve in podatki ostanejo v strežniku SSD shranjevanje, dokler jih ne izbrišete.
Nadaljujte z delom podatkov o strežniku SSD za hiter dostop med tekom PyTorch in kopirajte končne artefakte (teži, generacije, vgradnje) v shranjevanje zunaj VPS.org; posnetki in kopije ostanejo na istem skladišče grozde.
Nadogradite lahko kateri koli strežnik VPS.org na večji načrt iz kontrolnega panela; znova ga zaženite z velikostjo in prenesete vaš instalator PyTorch. Strežniki GPU še niso na voljo.
Ja. Rezervne kopije so plačano dodatno (dnevno +30% cene načrta, ki je obdržana 7 dni; teden +20%, obdržana 28 dni) in posnetki so brezplačni, kar je koristno pred dolgim PyTorch. Oba ostaneta na istem skladišče klaster kot strežnik.
Kontaktna podpora v 30 dneh od prvega nakupa, da zahtevate povračila. GPU strežniki še niso prodani, zato ni vključena nobena naročila GPU.
GPU zmogljivost je omejena. Povejte nam o svoji delovni obremenitvi in odgovorili bomo z razpoložljivostjo in cenami.