Magsanay at patakbuhin ang mga modelo ng PyTorch sa isang NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture), na may buong pag-access sa root. Ang mga server ng GPU ay hindi pa na-order; makipag-ugnay sa amin upang ma-notify kapag sila ay.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Halimbawa ng pag-install ng utos
Ang PyTorch ay isang malawak na ginagamit na malalim na learning framework. Ang isang GPU server ay tumatakbo PyTorch pagsasanay at pagbubuod sa GPU, na kung saan ay mas mabilis kaysa sa isang CPU para sa karamihan ng mga modelo.
I-install mo ang NVIDIA driver, CUDA at ang PyTorch bumuo na kailangan mo. Tingnan na ang iyong PyTorch bumuo pa rin suporta Pascal GPUs (compute kakayahan 6.1).
Ang mga ito ay mga maliliit na mga organismong may mga maliliit na mga selula at mga maliliit na mga selula.
Ang mga server ay maaaring mag-host ng mga programang pangkompyuter sa pamamagitan ng mga interconnection sa mga server.
I-configure ang kapaligiran eksakto bilang iyong mga pangangailangan ng proyekto.
PyTorch ay maaaring gamitin ang isang NVIDIA GPU upang mapabilis ang trabaho nito. VPS.org GPU server ay hindi magagamit upang mag-order pa; makipag-ugnay sa amin upang marinig kapag sila ay. PyTorch ay isang pagsasanay / fine-tuning workload. Plano para sa mahabang-running trabaho: snapshot ang iyong VPS regular at panatilihin ang isang kopya ng mga sinanay na timbang sa labas VPS.org.
Ang mga server ng GPU ay hindi pa magagamit para sa pag-order. Ngayon maaari mong patakbuhin PyTorch sa isang regular na plano ng CPU, kung saan ito ay gumagana malayo mas mabagal kaysa sa isang GPU: SSH sa at patakbuhin pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Ang training VRAM ay dominado ng optimizer state plus activations. Ang buong fine-tuning ng isang 7B LLM ay nangangailangan ng humigit-kumulang na 24 hanggang 48 GB; ang LoRA / QLoRA ay nakaayos sa 8 hanggang 16 GB.
GPU pricing ay nai-publish kapag GPU server ay maaaring iniutos. Makipag-ugnay sa amin kung nais mong marinig kapag na nangyayari.
Ang bawat server VPS.org ay may buong root access, kaya maaari mong patakbuhin ang iba pang mga tool kasama PyTorch sa loob ng RAM at imbakan ng server.
Ang bawat server VPS.org ay may buong root SSH access, kaya maaari mong i-install ang mga driver, mga aklatan at PyTorch gayunpaman kailangan mo.
Hindi. Walang server ay dumating na may isang CUDA runtime o NVIDIA driver pre-install, at GPU server ay hindi magagamit upang mag-order pa. I-install mo ang mga bersyon PyTorch kailangan ang iyong sarili.
Ang mga server na VPS.org ay mga matiyagang virtual machine, hindi mga pansamantalang halimbawa: mga modelo ng PyTorch, mga configuration at data na mananatili sa SSD storage ng server hanggang sa tanggalin mo ang mga ito.
Keep working data on the server's SSD for fast access during PyTorch runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
Maaari mong i-upgrade ang anumang VPS.org server sa isang mas malaking plano mula sa control panel; ang resize restarts ito at ang iyong PyTorch i-install ay nagdadala sa paglipas ng. GPU server ay hindi pa magagamit.
Oo. Backup ay isang bayad na add-on (araw-araw +30% ng presyo ng plano, pinananatili7araw; lingguhang +20%, pinananatili 28 araw) at snapshots ay libre, na kung saan ay kapaki-pakinabang bago ang mahabang PyTorch tumatakbo. Parehong manatili sa parehong cluster ng imbakan bilang ang server.
Makipag-ugnay sa suporta sa loob ng 30 araw ng iyong unang pagbili upang humiling ng isang refund. GPU server ay hindi nabili pa, kaya walang GPU order ay kasangkot.
GPU kapasidad ay limitado. Sabihin sa amin tungkol sa iyong workload at kami ay tumugon sa availability at pricing.