Rọ́ọ̀nù ìṣàmúlò-ètò TensorFlow àti Keras àti ìṣàmúlò-ètò àti ìṣàmúlò-ètò ní pàtó NVIDIA Tesla P40 (24 GB VRAM, àà̀tò Pascal). Àwọn sáà GPU kò lè fi àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò àwọn ààtò
$ pip install tensorflow[and-cuda]
# Àṣẹ ìṣàmúlò-ètò àwọn ààtò
TensorFlow ní àwọn ààyè ìṣàmúlò-ètò ìmọ̀ràn-ìṣàmúlò-ètò Google. Nínú sáà GPU, TensorFlow ń rọ́ọ̀nù àwọn iṣẹ́ rẹ̀ nínú GPU láti inú CUDA.
TensorFlow lo GPU nípa CUDA tí o bá fi ààtòjútó ààtòjútó àti ìṣàmúlò-ètò CUDA pamọ́.
Ṣẹ̀dà àwọn ìṣàmúlò-ètò láti inú API Keras ní pàtó àwọn ìsàlẹ̀-ètò GPU.
Àwọn ìṣàmúlò-ètò ìṣàfihàn láti inú TensorBoard lórí àwọn sáà rẹ̀.
Fi àwọn móòdù tí a kọ̀ nípa TensorFlow Serving.
TensorFlow lè lo NVIDIA GPU láti mu iṣẹ́ rẹ̀ lọ́wọ́lọ́wọ́. VPS.org GPU àwọn sáàlì kò wa níbẹ̀ fún àwọn àṣẹ́; kan si wa láti gbọ́ nígbà tí wọn bá jẹ. TensorFlow ní àkọ́sílẹ̀ / àwọn iṣẹ́ tí a tí n gbọ́. Àwọn àwọn iṣẹ́ tí a tí n gbọ́: gba àwọn fọto VPS rẹ̀ nípa ìṣàfarawe-ìwé àtì fi kọ́pàtì tí a tí n gbọ́ nípá VPS.org.
Àwọn sáà GPU kò wà láti fi àwọn àṣẹ pamọ́. Ní ọjọ́ yìí, o lè ráǹdá TensorFlow lórí àwọn ààyè-iṣẹ́ CPU tí a tì ní, níbí tí o tí n ṣiṣẹ́ lárá jú GPU lọ: SSH nínù àti ráǹdá pip install tensorflow[and-cuda].
VRAM Ìṣàkójó ní pàtó nípa àwọn ìṣàmúlò-ètò tí a fi pọ̀ jú. Ìṣàmúlò-ètò tí a fi pọ̀ jú tí 7B LLM kan ní àwọn ìṣàmúlò-ètò tí a fẹ́ ní 24 to 48 GB; LoRA / QLoRA ní 8 to 16 GB.
Àwọn àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU àwọn ìṣàmúlò-ètò GPU
Yes. Every VPS.org server comes with full root access, so you can run other tools alongside TensorFlow within the server's RAM and storage.
Every VPS.org server comes with full root SSH access, so you can install drivers, libraries and TensorFlow however you need.
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions TensorFlow needs yourself.
Ya. Àwọn sáà VPS.org ní àwọn másí-lẹ́tà ìṣàfarawé, àti àwọn ààyè-iṣẹ́ àìdára: àwọn àwọn ààyè-iṣẹ́ TensorFlow, àwọn ìṣàmúlò-ètò àti àwọn ààyè-iṣẹ́ tí wọ́n tí wa nínú àwọn ààyè-iṣẹ́ SSD sáà titi tí o fi pa wọn.
Keep working data on the server's SSD for fast access during TensorFlow runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
O lè yígbà ìṣàfarawé àwọn sáà VPS.org fún àwọn ààyè-iṣẹ́ tó ní ìṣàmúlò-ètò tòòjù láti inú pánẹ́ẹ̀lì ìṣakosó; ìṣàfarawé ìwọ̀n náà ń tún àwọn sáà TensorFlow rẹ̀ ṣẹ̀dà. Sáà GPU kò wa níbẹ̀.
Yes. Backups are a paid add-on (daily +30% of the plan price, kept 7 days; weekly +20%, kept 28 days) and snapshots are free, which is useful before long TensorFlow runs. Both stay on the same storage cluster as the server.
Fi igbẹkẹle ranṣẹ ninú ọjọ́ 30 tí o tí ráwọ́lẹ̀ láti fi beere fun ìgbàgbọ́. Àwọn sáà GPU kò tí a ràwọ́lẹ̀, bẹ́ẹ̀ kò si àwọn àṣẹ GPU tí a tí wa nínú.
Ìgbàráwọ́ GPU tí a tí ìfàmúlò. Fi wà sọ̀rọ̀ nípa àwọn iṣẹ́ rẹ̀ ki a láti dáwọ́ kọ́ọ̀kan nípa àwọn ààyè àti àwọn à