Vilciens un palaist PyTorch modeļus uz NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture), ar pilnu root access. GPU serveri vēl nav pasūtāmi; sazinieties ar mums, lai saņemtu paziņojumu, kad tie ir.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Piemēru instalēšanas komanda
PyTorch ir plaši izmantotais dziļo mācību sistēma. GPU serveris darbojas PyTorch apmācības un iejaukšanās par GPU, kas ir daudz ātrāk nekā uz CPU vairumam modeļu.
Jūs instalējat NVIDIA draiveri, CUDA un PyTorch veidot jums nepieciešams. Pārbaudiet, ka jūsu PyTorch veidot joprojām atbalsta Pascal GPU (kombinācijas iespējas 6.1).
Istaba maziem un vidēja lieluma modeļiem, LoRA, kas precizē un mēreni izmēra partijas.
Palaist Jupyter piezīmju grāmatas uz servera interaktīva darba GPU.
Konfigurēt vidi tieši tā, kā jūsu projekts nepieciešams.
PyTorch can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. PyTorch is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.
GPU serveri vēl nav pieejami pasūtīt. Šodien jūs varat palaist PyTorch uz regulāra CPU plāna, kur tas darbojas daudz lēnāk nekā GPU: SSH iekšā un palaist pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Mācības VRAM dominē optimizatora stāvoklī plus aktivācijas. Pilnīga 7B LLM regulēšana nepieciešama aptuveni 24 līdz 48 GB; LoRA / QLora ietilpst 8 līdz 16 GB.
GPU tarifikācija tiks publicēta, kad GPU serveri varēs pasūtīt. Sazinieties ar mums, ja vēlaties dzirdēt, kad tas notiks.
Jā. Katrs VPS.org serveris nāk ar pilnu root piekļuvi, lai jūs varētu palaist citus rīkus blakus PyTorch ietvaros servera RAM un glabāšanu.
Katrs VPS.org serveris nāk ar pilnu root SSH piekļuvi, lai jūs varētu instalēt draiveri, bibliotēkas un PyTorch tomēr jums ir nepieciešams.
Nē. Neviens serveris nāk ar CUDA darba laiku vai NVIDIA draiveris instalēts, un GPU serveri nav pieejami, lai pasūtītu vēl. Jūs instalēt versijas PyTorch ir nepieciešams pats.
Jā. VPS.org serveri ir pastāvīga virtuālās mašīnas, nevis ephemmeral instances: PyTorch modeļi, konfigurācijas un dati palikt uz servera SSD glabāšanas līdz jūs tos dzēst.
Saglabāt servera SSD darba datus ātrai piekļuvei PyTorch paužu laikā, un kopēt pabeigtos artefaktus (svarus, paaudzes, iegultos datus) uz glabāšanu ārpus VPS.org; momentuzņēmumus un rezerves kopijas palikt uz tā paša datu glabāšanas klastera.
Jūs varat uzlabot jebkuru VPS.org serveri uz lielāku plānu no vadības paneļa; mainot izmēru, tas tiek atjaunots, un jūsu PyTorch instalācija pārpilda vairāk. GPU serveri vēl nav pieejami.
Jā. Backups ir apmaksāts papildmaksa (dienas +30% no plāna cenas, saglabāts 7 dienas; iknedēļas +20%, saglabāts 28 dienas) un fotogrāfijām ir bezmaksas, kas ir noderīga, pirms ilgi PyTorch iet. Abi palikt uz tā paša glabāšanas klasterī kā serveris.
Kontaktu atbalsts 30 dienu laikā pēc pirmā pirkuma pieprasīt kompensāciju. GPU serveri vēl netiek pārdoti, tāpēc nav iesaistīts GPU pasūtījums.
GPU jauda ir ierobežota. Pastāsti mums par savu darba slodzi, un mēs atbildēsim ar pieejamību un cenu noteikšanu.