Ti n bọ: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Rọ́ọ̀nù ìṣàmúlò-ètò TensorFlow àti Keras àti ìṣàmúlò-ètò àti ìṣàmúlò-ètò ní pàtó NVIDIA Tesla P40 (24 GB VRAM, àà̀tò Pascal). Àwọn sáà GPU kò lè fi àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò

$ pip install tensorflow[and-cuda]
# Àṣẹ ìṣàmúlò-ètò àwọn ààtò

Àwọn àwọn ààyè-iṣẹ́ tí a fi pamọ́

TensorFlow ní àwọn ààyè ìṣàmúlò-ètò ìmọ̀ràn-ìṣàmúlò-ètò Google. Nínú sáà GPU, TensorFlow ń rọ́ọ̀nù àwọn iṣẹ́ rẹ̀ nínú GPU láti inú CUDA.

TensorFlow lórí ààtò GPU VPS.org

Ìjánu-ìṣàmúlò-ètò GPU

TensorFlow lo GPU nípa CUDA tí o bá fi ààtòjútó ààtòjútó àti ìṣàmúlò-ètò CUDA pamọ́.

Ìjádé

Ṣẹ̀dà àwọn ìṣàmúlò-ètò láti inú API Keras ní pàtó àwọn ìsàlẹ̀-ètò GPU.

Àwọn Àwọn Ààyè-iṣẹ́

Àwọn ìṣàmúlò-ètò ìṣàfihàn láti inú TensorBoard lórí àwọn sáà rẹ̀.

Ìṣàmúlò-ètò

Fi àwọn móòdù tí a kọ̀ nípa TensorFlow Serving.

Àwọn Ààyè Lòjútó TensorFlow

Àwọn àwọn àwòrán
Àwọn àwọn
Ìṣàmúlò-ètò ìtàn
Àwọn ìṣàmúlò-ètò ìṣàmúlò-ètò
Àwọn àwọn
Àwọn ìṣàmúlò-ètò ML

Àwọn Àtòjọ-ẹ̀yàn GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Àwọn àwọ̀ CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Àwọn àwọn àmì-ìwé346 GB/s
Àwọn Ìṣàmúlò-ètòPascal (GP102)
Àwọn Ìjánu-ìṣàmúlò-ètòPCIe

Àwọn Àtòjọ-ẹ̀yàn

Kini TensorFlow nípa GPU VPS kan?

+

TensorFlow lè lo NVIDIA GPU láti mu iṣẹ́ rẹ̀ lọ́wọ́lọ́wọ́. VPS.org GPU àwọn sáàlì kò wa níbẹ̀ fún àwọn àṣẹ́; kan si wa láti gbọ́ nígbà tí wọn bá jẹ. TensorFlow ní àkọ́sílẹ̀ / àwọn iṣẹ́ tí a tí n gbọ́. Àwọn àwọn iṣẹ́ tí a tí n gbọ́: gba àwọn fọto VPS rẹ̀ nípa ìṣàfarawe-ìwé àtì fi kọ́pàtì tí a tí n gbọ́ nípá VPS.org.

Bawo ni mo ṣe le fi TensorFlow pamọ́ lórí GPU VPS kan?

+

Àwọn sáà GPU kò wà láti fi àwọn àṣẹ pamọ́. Ní ọjọ́ yìí, o lè ráǹdá TensorFlow lórí àwọn ààyè-iṣẹ́ CPU tí a tì ní, níbí tí o tí n ṣiṣẹ́ lárá jú GPU lọ: SSH nínù àti ráǹdá pip install tensorflow[and-cuda].

Ìgbà wo nínú VRAM tí mò fẹ́ fún TensorFlow?

+

VRAM Ìṣàkójó ní pàtó nípa àwọn ìṣàmúlò-ètò tí a fi pọ̀ jú. Ìṣàmúlò-ètò tí a fi pọ̀ jú tí 7B LLM kan ní àwọn ìṣàmúlò-ètò tí a fẹ́ ní 24 to 48 GB; LoRA / QLoRA ní 8 to 16 GB.

Ìgbà wo nínú àwọn àwọn ààtò GPU fún TensorFlow tí a fi kùnà?

+

Àwọn àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU

Ń lè rọ́ọ̀nù àwọn àwọn ìrísí-lẹ́tà mìíràn nínú TensorFlow?

+

Yes. Every VPS.org server comes with full root access, so you can run other tools alongside TensorFlow within the server's RAM and storage.

Ń gbá ìṣẹ̀dà tòójútó nípa TensorFlow GPU VPS?

+

Every VPS.org server comes with full root SSH access, so you can install drivers, libraries and TensorFlow however you need.

Does VPS.org preinstall CUDA for TensorFlow?

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions TensorFlow needs yourself.

Ń jẹ́ pé VPS GPU TensorFlow mì tí n bọ́ nínú àwọn sáà?

+

Ya. Àwọn sáà VPS.org ní àwọn másí-lẹ́tà ìṣàfarawé, àti àwọn ààyè-iṣẹ́ àìdára: àwọn àwọn ààyè-iṣẹ́ TensorFlow, àwọn ìṣàmúlò-ètò àti àwọn ààyè-iṣẹ́ tí wọ́n tí wa nínú àwọn ààyè-iṣẹ́ SSD sáà titi tí o fi pa wọn.

Njẹ́ mò yẹ́ ki mò fi àwọn ààyè pamọ́ fún iṣẹ́ mì TensorFlow?

+

Keep working data on the server's SSD for fast access during TensorFlow runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.

Ń lè fi TensorFlow GPU VPS mì pọ̀ jú?

+

O lè yígbà ìṣàfarawé àwọn sáà VPS.org fún àwọn ààyè-iṣẹ́ tó ní ìṣàmúlò-ètò tòòjù láti inú pánẹ́ẹ̀lì ìṣakosó; ìṣàfarawé ìwọ̀n náà ń tún àwọn sáà TensorFlow rẹ̀ ṣẹ̀dà. Sáà GPU kò wa níbẹ̀.

Àwọn ìpamọ́ àìpamọ́ tí wa fún VPS GPU mì?

+

Yes. Backups are a paid add-on (daily +30% of the plan price, kept 7 days; weekly +20%, kept 28 days) and snapshots are free, which is useful before long TensorFlow runs. Both stay on the same storage cluster as the server.

Ń lè gbá ẹ̀yàn?

+

Fi igbẹkẹle ranṣẹ ninú ọjọ́ 30 tí o tí ráwọ́lẹ̀ láti fi beere fun ìgbàgbọ́. Àwọn sáà GPU kò tí a ràwọ́lẹ̀, bẹ́ẹ̀ kò si àwọn àṣẹ GPU tí a tí wa nínú.

O fẹ́ láti mú TensorFlow láti inú ààtò GPU?

Ìgbàráwọ́ GPU tí a tí ìfàmúlò. Fi wà sọ̀rọ̀ nípa àwọn iṣẹ́ rẹ̀ ki a láti dáwọ́ kọ́ọ̀kan nípa àwọn ààyè àti àwọn à