Tħarreġ u tmexxi mudelli PyTorch fuq NVIDIA Tesla P40 (24 GB VRAM, arkitettura Pascal), b'aċċess root sħiħ.Servers GPU mhumiex ordnabbli għadhom; ikkuntattjana biex jiġu nnotifikati meta dawn huma.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Eżempju installa kmand
PyTorch huwa qafas ta' tagħlim profond użat ħafna.Server tal-GPU jħaddem it-taħriġ u l-inferenza ta' PyTorch fuq il-GPU, li huwa ferm aktar mgħaġġel minn CPU għall-biċċa l-kbira tal-mudelli.
Inti tinstalla l-NVIDIA sewwieqa, CUDA u l-PyTorch bini li għandek bżonn.Iċċekkja li PyTorch bini tiegħek għadu jappoġġja Pascal GPUs (kapaċità komputazzjoni 6.1).
Kamra għal mudelli żgħar u medji, LoRA fine-tuning u daqsijiet tal-lott moderati.
Mexxi notebooks Jupyter fuq is-server għal xogħol interattiv fuq il-GPU.
Konfigura l-ambjent eżattament kif il-proġett tiegħek jeħtieġ.
PyTorch jistgħu jużaw NVIDIA GPU biex iħaffu l-ħidma tagħha. VPS.org servers GPU mhumiex disponibbli biex ordni għadhom; ikkuntattjana biex tisma meta dawn huma. PyTorch huwa taħriġ / xogħol tat-tagħbija fine-tuning. Pjan għal impjiegi fit-tul: snapshot tiegħek VPS regolarment u żżomm kopja tal-piżijiet imħarrġa barra VPS.org.
Illum tista’ tħaddem PyTorch fuq pjan tas-CPU regolari, fejn jaħdem ferm aktar bil-mod minn fuq GPU: SSH fil u tmexxi pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.Is-servers tal-GPU mhumiex disponibbli biex jiġu ordnati għadhom.
It-taħriġ VRAM huwa ddominat mill-istat ottimizzatur flimkien ma attivazzjonijiet.Fine-tuning sħiħa ta 7B LLM jeħtieġ bejn wieħed u ieħor 24 sa 48 GB; LoRA / QLoRA toqgħod fi 8 sa 16 GB.
L-ipprezzar tal-GPU se jiġi ppubblikat meta s-servers tal-GPU jkunu jistgħu jiġu ordnati.Ikkuntattjana jekk trid tisma' meta dan jiġri.
Kull server VPS.org jiġi b'aċċess għerq sħiħ, sabiex inti tista tmexxi għodod oħra flimkien PyTorch fi ħdan RAM u l-ħażna tas-server.
Kull server VPS.org jiġi b'aċċess SSH għerq sħiħ, sabiex inti tista tinstalla s-sewwieqa, libreriji u PyTorch madankollu għandek bżonn.
Le. L-ebda server jiġi b'runtime CUDA jew NVIDIA sewwieq installat minn qabel, u servers GPU mhumiex disponibbli biex tordna għadhom. Inti tinstalla l-verżjonijiet PyTorch bżonnijiet lilek innifsek.
Iva. servers VPS.org huma magni virtwali persistenti, mhux każijiet ephemeral: PyTorch mudelli, configs u data jibqgħu fuq il-ħażna SSD tas-server sakemm inti tħassarhom.
Żomm id-data tax-xogħol fuq l-SSD tas-server għall-aċċess veloċi matul runs PyTorch, u kopja artifatti lest (piżijiet, ġenerazzjonijiet, embeddings) għall-ħażna barra VPS.org; snapshots u backups jibqgħu fuq il-grupp ħażna istess.
Tista’ taġġorna kwalunkwe server VPS.org għal pjan ikbar mill-pannell tal-kontroll; il-bidla fid-daqs jerġa’ jibda u l-installazzjoni PyTorch tiegħek iġġorr fuq.Servers GPU għadhom mhumiex disponibbli.
Iva. Backups huma miżjura add-on (kuljum +30% tal-prezz tal-pjan, miżmuma 7 ijiem; kull ġimgħa +20%, miżmuma 28 jum) u snapshots huma ħielsa, li huwa utli qabel PyTorch twil runs. it-tnejn jibqgħu fuq l-istess cluster ħażna bħala s-server.
Ikkuntattja l-appoġġ fi żmien 30 jum mill-ewwel xiri tiegħek biex titlob rifużjoni.Servers GPU mhumiex mibjugħa għadhom, għalhekk l-ebda ordni GPU hija involuta.
GPU kapaċità hija limitata.Tgħidilna dwar il-piż tax-xogħol tiegħek u aħna se jwieġbu b'disponibbiltà u l-ipprezzar.