Àwọn ìṣàmúlò-ètò àti ìṣàmúlò-ètò PyTorch ní pàtó nípa NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture), láti inú ìṣàmúlò-ètò rootì. Àwọn sáà GPU kò lè fi àwọn ààyè pamọ́; kọ́kọ́kàn wà láti gba àṣẹ nígbà tí a bá jẹ́.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Àṣẹ ìṣàmúlò-ètò àwọn ààtò
PyTorch ní àwọn ààyè ìṣàmúlò-ètò ìṣàfihàn tí a lò ní ìpele. Àwọn sáà GPU náà ń rọ́ọ̀nù àwọn ìṣàfihàn PyTorch náà àti àwọn ìṣàfihàn lórí GPU, tí ó ń rọ́ọ̀nù jú CPU lọ láti mú àwọn ìṣàfihàn láti inú àwọn ìṣàfihàn.
Ó fi ààtòjọ-ètò NVIDIA ààtòjọ-ètò, CUDA àti àbùdá PyTorch tí o fẹ́. Wáròyìn láti rí pé àbùdá PyTorch rẹ̀ tí wá láti gbọ́dọ̀ sí Pascal GPUs (ìdárá ìṣàmúlò-ètò 6.1).
Àwọn ààyè fún àwọn móòdù àwọn
Rọ́ọ̀nù àwọn àkọlé Jupyter ní pàtó àwọn sáà fún iṣẹ́ ìṣàfarawé kọ̀ǹpútà ní pàtó GPU.
Fi àwọn ìṣàmúlò-ètò àwọn ìṣàmúlò-ètò rẹ̀ hàn bí àwọn ìṣàmúlò-ètò rẹ̀ bá jẹ́.
PyTorch lè lo NVIDIA GPU láti mu iṣẹ́ rẹ̀ lọ́wọ́lọ́wọ́. VPS.org GPU àwọn sáàlì kò wa níbẹ̀ fún àwọn àṣẹ́; kan si wa láti gbọ́ nígbà tí wọn bá jẹ. PyTorch ní àkọ́sílẹ̀ / àwọn iṣẹ́ tí a tí n gbọ́. Àwọn àwọn iṣẹ́ tí a tí n gbọ́: gba àwọn fọto VPS rẹ̀ nípa ìṣàfarawe-ìwé àtì fi kọ́pàtì tí a tí n gbọ́ nípá VPS.org.
Àwọn sáà GPU kò wà láti fi àwọn àṣẹ pamọ́. Ní ọjọ́ yìí, o lè ráǹdá PyTorch lórí àwọn ààyè-iṣẹ́ CPU tí a tì ní, níbí tí o tí n ṣiṣẹ́ lárá jú GPU lọ: SSH nínù àti ráǹdá pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
VRAM Ìṣàkójó ní pàtó nípa àwọn ìṣàmúlò-ètò tí a fi pọ̀ jú. Ìṣàmúlò-ètò tí a fi pọ̀ jú tí 7B LLM kan ní àwọn ìṣàmúlò-ètò tí a fẹ́ ní 24 to 48 GB; LoRA / QLoRA ní 8 to 16 GB.
Àwọn àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU
Yes. Every VPS.org server comes with full root access, so you can run other tools alongside PyTorch within the server's RAM and storage.
Every VPS.org server comes with full root SSH access, so you can install drivers, libraries and PyTorch however you need.
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions PyTorch needs yourself.
Ya. Àwọn sáà VPS.org ní àwọn másí-lẹ́tà ìṣàfarawé, àti àwọn ààyè-iṣẹ́ àìdára: àwọn àwọn ààyè-iṣẹ́ PyTorch, àwọn ìṣàmúlò-ètò àti àwọn ààyè-iṣẹ́ tí wọ́n tí wa nínú àwọn ààyè-iṣẹ́ SSD sáà titi tí o fi pa wọn.
Keep working data on the server's SSD for fast access during PyTorch runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
O lè yígbà ìṣàfarawé àwọn sáà VPS.org fún àwọn ààyè-iṣẹ́ tó ní ìṣàmúlò-ètò tòòjù láti inú pánẹ́ẹ̀lì ìṣakosó; ìṣàfarawé ìwọ̀n náà ń tún àwọn sáà PyTorch rẹ̀ ṣẹ̀dà. Sáà GPU kò wa níbẹ̀.
Yes. Backups are a paid add-on (daily +30% of the plan price, kept 7 days; weekly +20%, kept 28 days) and snapshots are free, which is useful before long PyTorch runs. Both stay on the same storage cluster as the server.
Fi igbẹkẹle ranṣẹ ninú ọjọ́ 30 tí o tí ráwọ́lẹ̀ láti fi beere fun ìgbàgbọ́. Àwọn sáà GPU kò tí a ràwọ́lẹ̀, bẹ́ẹ̀ kò si àwọn àṣẹ GPU tí a tí wa nínú.
Ìgbàráwọ́ GPU tí a tí ìfàmúlò. Fi wà sọ̀rọ̀ nípa àwọn iṣẹ́ rẹ̀ ki a láti dáwọ́ kọ́ọ̀kan nípa àwọn ààyè àti àwọn à