Bido TensorFlow na Keràs nlegharị nakwa nlegharị na NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture). GPU sava ndị ahụ abụghị ndị a ga-ewere n'ọrụ; kpọtụrụ anyị ka a mara ha mgbe ha ga-abụ.
$ pip install tensorflow[and-cuda]
# Nhazi iwu
TensorFlow bụ Google's open-source igwe-amụ fréèmù. Na GPU sava, TensorFlow na-arụ ọrụ ya na GPU site na CUDA.
TensorFlow na-eji GPU site na CUDA mgbe ị na-etinye n'ọrụ draịva na CUDA nsụgharị dị n'otu.
Kewapụta móòdù na Keras API n'elu GPU azụ̀nda.
Nlekọta nkuzi na TensorBoard na sava gị.
Nweta ihenhọrọ ndị a zụlitere na TensorFlow Serving.
TensorFlow nwere ike iji NVIDIA GPU iji malite ọrụ ya. VPS.org GPU ndị ọrụ anaghị adị maka iwu; kpọtụrụ anyị ka ịmara mgbe ha bụ. TensorFlow bụ nkuzi / fine-tuning ọrụ. Nhazi maka ọrụ ogologo oge: snapshot VPS gị na-emekarị ma chebe ndepụta nke ihe n'ime VPS.org.
GPU sava anaghị adị maka ịnye n'oge a. Ugbu a ị nwere ike igwu TensorFlow na CPU n'omume, ebe ọ na-arụ ọrụ n'ụzọ dị n'ebe ahụ karịa na GPU: SSH na-agba ọsọ pip install tensorflow[and-cuda].
VRAM nke nkuzi bụ nke a na-achịkwa site na ọnọdụ optimaịlụ na-arụ ọrụ. N'ozuzu ya, ọ dị mkpa ka 7B LLM dị ka 24 ruo 48 GB; LoRA / QLoRA dị n'ime 8 ruo 16 GB.
GPU price ga-egosipụta mgbe GPU sava nwere ike ịhazi. Kpọnye anyị ma ọ bụrụ na ịchọrọ ịnụ mgbe nke ahụ ga-eme.
Ee. VPS.org sava ọbụla na-abịa na ikikembanye zuru ezu nke uruti, ya mere ị nwere ike ijikwa ihenhọrọ ndị ọzọ n'otu oge na TensorFlow n'ime RAM na nchekwa nke sava ahụ.
VPS.org sava ọbụla na-abịa na ikikembanye SSH zuru ezu nke nwuo, yabụ ị nwere ike ịwụnye draịva, laịbịara na TensorFlow dịka ịchọrọ.
Ọ dịghị. Enweghị sava na-abịa na CUDA runtime mọọbụ NVIDIA draịva nke e mepụtara n'ihu, na GPU sava ndị ahụ enweghị ike ịhazi ha. I na-etinye ụdị TensorFlow chọrọ gị onwe gị.
Ee. VPS.org sava bụ ndị na-adịgide virulụ igwe, ọ bụghị ihenhọrọ ndị na-adịgide: TensorFlow model, configurations na data na-adị na sava SSD nchekwa ruo mgbe ị na-ehichapụ ha.
Kwụsị ọrụ data na sava SSD maka nbanye n'oge TensorFlow na-arụ ọrụ, na debata artifaktị echepụtara (n'obere, n'ọdịnihu, na-ekpuchi) ka nchekwa n'ebe okpuru VPS.org; snapshot na backups nọ na nchekwa cluster ahụ.
I nwere ike ịkwalite ọbụla VPS.org sava ka ọbụla n'ime ntọala ndị ahụ site na paneelụ nlekọta; mmegharịa nha na-ebido ya nakwa ịwụnye TensorFlow gị na-ebido. GPU sava anaghị adị ugbua.
Ee. Backups bụ a paid add-on (abalị +30% nke atụmatụ ọnụahịa, echekwara ụbọchị 7; izu +20%, echekwara ụbọchị 28) na snapshots bụ free, nke bụ uru tupu ogologo TensorFlow na-arụ ọrụ. Ha abụọ na-adị na nchekwa cluster dị ka sava.
Kpọnye nkwado n'ime ụbọchị 30 nke ịzụta mbụ gị iji bipụta nkwụghachi. GPU sava anaghị ere ere, yabụ ọ dịghị GPU n'ime iwu ahụ.
GPU nwere ike dị obere. Kpọnye anyị banyere ọrụ gị ma anyị ga-aza na ọbụla na ọnụọgụgụ.