Traino dhe ekzekuto modele PyTorch në një NVIDIA Tesla P40 (24 GB VRAM, arkitekturë Pascal), me qasje të plotë root. Serverët GPU nuk janë ende të porositur; kontakto me ne për të marrë njoftime kur të jenë.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Shembull i komandës së instalimit
PyTorch është një kornizë e përdorur gjerësisht për mësim të thellë. Një server GPU ekzekuton PyTorch trainimin dhe inferimet në GPU, që është shumë më e shpejtë se në CPU për shumicën e modeleve.
Instaloni driverin NVIDIA, CUDA dhe ndërtimin e PyTorch që ju duhet. Kontrolloni që ndërtimi i PyTorch të suportojë ende GPU-të Pascal (aftësitë e llogaritjes 6.1).
Hapësirë për modele të vogla dhe të mesme, LoRA fine-tuning dhe madhësi të moderuara të lotëve.
Ekzekuto notebook-ët Jupyter në server për punë interaktive në GPU.
Konfiguro ambientin saktësisht siç kërkon projekti yt.
PyTorch mund të përdorë një GPU NVIDIA për të shpejtuar punën e vet. VPS.org serverët GPU nuk janë ende në dispozicion për porosi; kontakto me ne për të dëgjuar kur janë. PyTorch është një ngarkim trainimi / rregullimi i hollësishëm. Plani për punët e gjatë: bëj foto të VPS-it tënd rregullisht dhe mbaj një kopje të peshës së trainuar jashtë VPS.org.
Serverët GPU nuk janë ende në dispozicion për porosi. Sot mund të përdorni PyTorch në një plan të zakonshëm CPU, ku punon shumë më ngadalë se në një GPU: SSH në dhe pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Trainimi i VRAM dominohet nga gjendja e optimizuesit plus aktivizimet. Për rregullimin e plotë të një 7B LLM nevojiten rreth 24 deri 48 GB; LoRA / QLoRA përshtatet në 8 deri 16 GB.
Çmimi i GPU do të publikohet kur serverat GPU të jenë të porositur. Kontaktoni me ne nëse dëshironi të dëgjoni kur të ndodhë kjo.
Çdo server VPS.org ka hyrje të plotë root, kështu që mund të përdorësh instrumente të tjera bashkë me PyTorch brenda RAM-it dhe depozitimit të serverit.
Çdo server VPS.org vjen me hyrje të plotë root SSH, kështu që mund të instaloni driverët, libraritë dhe PyTorch si të doni.
Jo. Asnjë server nuk vjen me një runtime CUDA apo driver NVIDIA të parainstaluar, dhe serverat GPU nuk janë ende në dispozicion për porosi. Ju instaloni vetë versionet që PyTorch ka nevojë.
Po. Serverat VPS.org janë makina virtuale të përhershme, jo raste të shkurtra: modelet PyTorch, konfigurimet dhe të dhënat mbeten në SSD të serverit deri sa ti eleminosh ato.
Mbaj të dhënat e punës në SSD të serverit për hyrje të shpejtë gjatë PyTorch, dhe kopjo artifaktet e përfunduara (masa, gjenerata, ndërlidhje) në depozitim jashtë VPS.org; fotot dhe backupet qëndrojnë në të njëjtin grup depozitimi.
Mund të përmirësoni çdo server VPS.org në një plan më të madh nga paneli i kontrollit; ripërmarrje e rinis atë dhe instalimi PyTorch i juaj merr mbi. Serverët GPU nuk janë ende në dispozicion.
Po. Backup-et janë një shtesë e paguar (përditë +30% e çmimit të planit, mbajtur 7 ditë; javor +20%, mbajtur 28 ditë) dhe snapshot-et janë pa pagesë, që është e dobishme para se PyTorch të ecë gjatë. Të dyja qëndrojnë në të njëjtin cluster të ruajtjes si serveri.
Kontakto ndihmën brenda 30 ditëve nga blerja e parë për të kërkuar një kthim parash. Serverët GPU nuk janë shitur ende, kështu që nuk ka porosi GPU.
Kapaciteti i GPU është i kufizuar. Na tregoni rreth ngarkesave tuaja të punës dhe do t'ju përgjigjemi me disponueshmërinë dhe çmimin.