Ti n bọ: NVIDIA Tesla P40, 24 GB VRAM

PyTorch GPU VPS

Àwọn ìṣàmúlò-ètò àti ìṣàmúlò-ètò PyTorch ní pàtó nípa NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture), láti inú ìṣàmúlò-ètò rootì. Àwọn sáà GPU kò lè fi àwọn ààyè pamọ́; kọ́kọ́kàn wà láti gba àṣẹ nígbà tí a bá jẹ́.

$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Àṣẹ ìṣàmúlò-ètò àwọn ààtò

Àwọn àwọn ààyè-iṣẹ́ tí a fi pamọ́

PyTorch ní àwọn ààyè ìṣàmúlò-ètò ìṣàfihàn tí a lò ní ìpele. Àwọn sáà GPU náà ń rọ́ọ̀nù àwọn ìṣàfihàn PyTorch náà àti àwọn ìṣàfihàn lórí GPU, tí ó ń rọ́ọ̀nù jú CPU lọ láti mú àwọn ìṣàfihàn láti inú àwọn ìṣàfihàn.

PyTorch lórí ààtò GPU VPS.org

Fi CUDA Stack Rẹ̀ Hàn

Ó fi ààtòjọ-ètò NVIDIA ààtòjọ-ètò, CUDA àti àbùdá PyTorch tí o fẹ́. Wáròyìn láti rí pé àbùdá PyTorch rẹ̀ tí wá láti gbọ́dọ̀ sí Pascal GPUs (ìdárá ìṣàmúlò-ètò 6.1).

24 GB VRAM

Àwọn ààyè fún àwọn móòdù àwọn

Jupiter

Rọ́ọ̀nù àwọn àkọlé Jupyter ní pàtó àwọn sáà fún iṣẹ́ ìṣàfarawé kọ̀ǹpútà ní pàtó GPU.

Àwọn Ìjánu-ìsún Root

Fi àwọn ìṣàmúlò-ètò àwọn ìṣàmúlò-ètò rẹ̀ hàn bí àwọn ìṣàmúlò-ètò rẹ̀ bá jẹ́.

Àwọn Ààyè Lòjútó PyTorch

Àwọn ìṣàmúlò-ètò
Àwọn ìṣàmúlò-ètò ìrísí-lẹ́tà kọ̀ǹpútà
Àwọn ìṣàmúlò-ètò NLP
Àwọn ìṣàfihàn AI
Àwọn ìṣàmúlò-ètò ìṣàfarawé
Àwọn àwọn ìṣàmúlò-ètò

Àwọn Àtòjọ-ẹ̀yàn GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Àwọn àwọ̀ CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Àwọn àwọn àmì-ìwé346 GB/s
Àwọn Ìṣàmúlò-ètòPascal (GP102)
Àwọn Ìjánu-ìṣàmúlò-ètòPCIe

Àwọn Àtòjọ-ẹ̀yàn

Kini PyTorch nípa GPU VPS kan?

+

PyTorch lè lo NVIDIA GPU láti mu iṣẹ́ rẹ̀ lọ́wọ́lọ́wọ́. VPS.org GPU àwọn sáàlì kò wa níbẹ̀ fún àwọn àṣẹ́; kan si wa láti gbọ́ nígbà tí wọn bá jẹ. PyTorch ní àkọ́sílẹ̀ / àwọn iṣẹ́ tí a tí n gbọ́. Àwọn àwọn iṣẹ́ tí a tí n gbọ́: gba àwọn fọto VPS rẹ̀ nípa ìṣàfarawe-ìwé àtì fi kọ́pàtì tí a tí n gbọ́ nípá VPS.org.

Bawo ni mo ṣe le fi PyTorch pamọ́ lórí GPU VPS kan?

+

Àwọn sáà GPU kò wà láti fi àwọn àṣẹ pamọ́. Ní ọjọ́ yìí, o lè ráǹdá PyTorch lórí àwọn ààyè-iṣẹ́ CPU tí a tì ní, níbí tí o tí n ṣiṣẹ́ lárá jú GPU lọ: SSH nínù àti ráǹdá pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.

Ìgbà wo nínú VRAM tí mò fẹ́ fún PyTorch?

+

VRAM Ìṣàkójó ní pàtó nípa àwọn ìṣàmúlò-ètò tí a fi pọ̀ jú. Ìṣàmúlò-ètò tí a fi pọ̀ jú tí 7B LLM kan ní àwọn ìṣàmúlò-ètò tí a fẹ́ ní 24 to 48 GB; LoRA / QLoRA ní 8 to 16 GB.

Ìgbà wo nínú àwọn àwọn ààtò GPU fún PyTorch tí a fi kùnà?

+

Àwọn àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU

Ń lè rọ́ọ̀nù àwọn àwọn ìrísí-lẹ́tà mìíràn nínú PyTorch?

+

Yes. Every VPS.org server comes with full root access, so you can run other tools alongside PyTorch within the server's RAM and storage.

Ń gbá ìṣẹ̀dà tòójútó nípa PyTorch GPU VPS?

+

Every VPS.org server comes with full root SSH access, so you can install drivers, libraries and PyTorch however you need.

Does VPS.org preinstall CUDA for PyTorch?

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions PyTorch needs yourself.

Ń jẹ́ pé VPS GPU PyTorch mì tí n bọ́ nínú àwọn sáà?

+

Ya. Àwọn sáà VPS.org ní àwọn másí-lẹ́tà ìṣàfarawé, àti àwọn ààyè-iṣẹ́ àìdára: àwọn àwọn ààyè-iṣẹ́ PyTorch, àwọn ìṣàmúlò-ètò àti àwọn ààyè-iṣẹ́ tí wọ́n tí wa nínú àwọn ààyè-iṣẹ́ SSD sáà titi tí o fi pa wọn.

Njẹ́ mò yẹ́ ki mò fi àwọn ààyè pamọ́ fún iṣẹ́ mì PyTorch?

+

Keep working data on the server's SSD for fast access during PyTorch runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.

Ń lè fi PyTorch GPU VPS mì pọ̀ jú?

+

O lè yígbà ìṣàfarawé àwọn sáà VPS.org fún àwọn ààyè-iṣẹ́ tó ní ìṣàmúlò-ètò tòòjù láti inú pánẹ́ẹ̀lì ìṣakosó; ìṣàfarawé ìwọ̀n náà ń tún àwọn sáà PyTorch rẹ̀ ṣẹ̀dà. Sáà GPU kò wa níbẹ̀.

Àwọn ìpamọ́ àìpamọ́ tí wa fún VPS GPU mì?

+

Yes. Backups are a paid add-on (daily +30% of the plan price, kept 7 days; weekly +20%, kept 28 days) and snapshots are free, which is useful before long PyTorch runs. Both stay on the same storage cluster as the server.

Ń lè gbá ẹ̀yàn?

+

Fi igbẹkẹle ranṣẹ ninú ọjọ́ 30 tí o tí ráwọ́lẹ̀ láti fi beere fun ìgbàgbọ́. Àwọn sáà GPU kò tí a ràwọ́lẹ̀, bẹ́ẹ̀ kò si àwọn àṣẹ GPU tí a tí wa nínú.

O fẹ́ láti mú PyTorch láti inú ààtò GPU?

Ìgbàráwọ́ GPU tí a tí ìfàmúlò. Fi wà sọ̀rọ̀ nípa àwọn iṣẹ́ rẹ̀ ki a láti dáwọ́ kọ́ọ̀kan nípa àwọn ààyè àti àwọn à