Tmexxi TensorFlow u Keras taħriġ u l-inferenza fuq NVIDIA Tesla P40 (24 GB VRAM, arkitettura Pascal).GPU servers mhumiex ordni għadhom; ikkuntattjana biex jiġu nnotifikati meta dawn huma.
$ pip install tensorflow[and-cuda]
# Eżempju installa kmand
TensorFlow huwa l-qafas tat-tagħlim tal-magni b'sors miftuħ ta' Google.Fuq server GPU, TensorFlow iwettaq l-operazzjonijiet tiegħu fuq il-GPU permezz ta' CUDA.
TensorFlow juża l-GPU permezz CUDA ladarba inti tinstalla sewwieq li jaqblu u l-verżjoni CUDA.
Ibni mudelli bil-Keras API fuq nett tal-GPU backend.
Tissorvelja t-taħriġ b'TensorBoard fuq is-server tiegħek stess.
Iservu mudelli mħarrġa ma TensorFlow Serving.
TensorFlow jistgħu jużaw NVIDIA GPU biex iħaffu l-ħidma tagħha. VPS.org servers GPU mhumiex disponibbli biex ordni għadhom; ikkuntattjana biex tisma meta dawn huma. TensorFlow huwa taħriġ / xogħol tat-tagħbija fine-tuning. Pjan għal impjiegi fit-tul: snapshot tiegħek VPS regolarment u żżomm kopja tal-piżijiet imħarrġa barra VPS.org.
Illum tista’ tħaddem TensorFlow fuq pjan tas-CPU regolari, fejn jaħdem ferm aktar bil-mod minn fuq GPU: SSH fil u tmexxi pip install tensorflow[and-cuda].Is-servers tal-GPU mhumiex disponibbli biex jiġu ordnati għadhom.
It-taħriġ VRAM huwa ddominat mill-istat ottimizzatur flimkien ma attivazzjonijiet.Fine-tuning sħiħa ta 7B LLM jeħtieġ bejn wieħed u ieħor 24 sa 48 GB; LoRA / QLoRA toqgħod fi 8 sa 16 GB.
L-ipprezzar tal-GPU se jiġi ppubblikat meta s-servers tal-GPU jkunu jistgħu jiġu ordnati.Ikkuntattjana jekk trid tisma' meta dan jiġri.
Kull server VPS.org jiġi b'aċċess għerq sħiħ, sabiex inti tista tmexxi għodod oħra flimkien TensorFlow fi ħdan RAM u l-ħażna tas-server.
Kull server VPS.org jiġi b'aċċess SSH għerq sħiħ, sabiex inti tista tinstalla s-sewwieqa, libreriji u TensorFlow madankollu għandek bżonn.
Le. L-ebda server jiġi b'runtime CUDA jew NVIDIA sewwieq installat minn qabel, u servers GPU mhumiex disponibbli biex tordna għadhom. Inti tinstalla l-verżjonijiet TensorFlow bżonnijiet lilek innifsek.
Iva. servers VPS.org huma magni virtwali persistenti, mhux każijiet ephemeral: TensorFlow mudelli, configs u data jibqgħu fuq il-ħażna SSD tas-server sakemm inti tħassarhom.
Żomm id-data tax-xogħol fuq l-SSD tas-server għall-aċċess veloċi matul runs TensorFlow, u kopja artifatti lest (piżijiet, ġenerazzjonijiet, embeddings) għall-ħażna barra VPS.org; snapshots u backups jibqgħu fuq il-grupp ħażna istess.
Tista’ taġġorna kwalunkwe server VPS.org għal pjan ikbar mill-pannell tal-kontroll; il-bidla fid-daqs jerġa’ jibda u l-installazzjoni TensorFlow tiegħek iġġorr fuq.Servers GPU għadhom mhumiex disponibbli.
Iva. Backups huma miżjura add-on (kuljum +30% tal-prezz tal-pjan, miżmuma 7 ijiem; kull ġimgħa +20%, miżmuma 28 jum) u snapshots huma ħielsa, li huwa utli qabel TensorFlow twil runs. it-tnejn jibqgħu fuq l-istess cluster ħażna bħala s-server.
Ikkuntattja l-appoġġ fi żmien 30 jum mill-ewwel xiri tiegħek biex titlob rifużjoni.Servers GPU mhumiex mibjugħa għadhom, għalhekk l-ebda ordni GPU hija involuta.
GPU kapaċità hija limitata.Tgħidilna dwar il-piż tax-xogħol tiegħek u aħna se jwieġbu b'disponibbiltà u l-ipprezzar.