Mampiofana ary mandefa ny modelin'ny PyTorch amin'ny NVIDIA Tesla P40 (24 GB VRAM, rafitra Pascal), miaraka amin'ny fahazoana miditra feno amin'ny faka. Tsy mbola azo atao ny mametraka ireo mpizara GPU; mifandraisa aminay mba ho fantatrao rehefa azo atao izany.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Ohatran'ny baiko fametrahana
Ny PyTorch dia rafitra fianarana lalina ampiasaina be. Ny mpizara GPU dia mandray ny fianarana sy ny fiheverana PyTorch amin'ny GPU, izay haingana kokoa noho ny CPU amin'ny ankamaroan'ny modely.
Apetrakao ny mpamily NVIDIA, ny CUDA ary ny fivoaran'ny PyTorch ilainao. Jereo hoe mbola manohana ny GPU Pascal (fahafahan'ny fanisana 6.1) ny fivoaran'ny PyTorch anao.
Ny toetrany dia ny fihenan'ny haavony, ny fihenan'ny halavany ary ny fihenan'ny halavany.
Mandefa ny boky Jupyter amin'ny mpizara mba handefasana asa mifampiresaka amin'ny GPU.
Mikirakira ny tontolo araka ny tokony ho izy araka ny tetikasa.
Ny PyTorch dia afaka mampiasa ny NVIDIA GPU mba hanafainganana ny asany. Tsy mbola azo atao ny mametraka ny VPS.org GPU servers; mifandraisa aminay mba hahafantatra raha mbola misy izy ireo. Ny PyTorch dia fanazarantena / fanatsarana ny asa. Ny drafitra ho an'ny asa maharitra: maka sary ny VPS-nao matetika ary mitazona dika mitovy amin'ny lanjany nampianarina ivelan'ny VPS.org.
Tsy mbola misy mpizara GPU azo apetraka. Afaka mandefa ny PyTorch amin'ny CPU mahazatra ianao amin'izao fotoana izao, izay mihazakazaka haingana kokoa noho ny amin'ny GPU: SSH ao ary mandefa ny pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Ny VRAM fanazarantena dia fehezin'ny toe-javatra optimiser ary koa ny fandefasana. Ny fanatsarana feno ny 7B LLM dia mila manodidina ny 24 ka hatramin'ny 48 GB; LoRA / QLoRA dia mety amin'ny 8 ka hatramin'ny 16 GB.
Ho navoakan'ny GPU ny vidin'ny GPU rehefa azo atao ny mametraka fangatahana amin'ny mpizara GPU. Antsoy izahay raha te hahalala ny fotoana hisehoan'izany.
Eny. Ny mpizara VPS.org tsirairay dia manana ny fahazoan-dàlana feno amin'ny root, ka afaka mandefa fitaovana hafa miaraka amin'ny PyTorch ao anatin'ny RAM sy ny fitahirizana ny mpizara ianao.
Ny mpizara VPS.org tsirairay dia manana fidirana SSH feno amin'ny faka, ka azonao atao ny mametraka ny mpamily, ny tranombokin'ny PyTorch araka izay ilainao.
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions PyTorch needs yourself.
Yes. VPS.org servers are persistent virtual machines, not ephemeral instances: PyTorch models, configs and data stay on the server's SSD storage until you delete them.
Keep working data on the server's SSD for fast access during PyTorch runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
Afaka manatsara ny mpizara VPS.org iray manontolo mankany amin'ny drafitra lehibe kokoa ianao avy ao amin'ny tontonana fifehezana; ny fanovana habe dia mamerina azy ary ny fametrahana PyTorch dia mifindra. Tsy mbola misy ny mpizara GPU.
Eny. Miampy vola ny tahirin-kevitra (isam-bolana +30% amin'ny vidiny, 7 andro; isan-kerinandro +20%, 28 andro) ary maimaimpoana ny sary, izay mety ho ilaina alohan'ny handefasana PyTorch maharitra. Mitoetra amin'ny fitahirizana mitovy amin'ny mpizara izy roa ireo.
Mifandraisa amin'ny fanohanana ao anatin'ny 30 andro aorian'ny fividianana voalohany ataonao mba hangataka famerenana ny vola. Tsy mbola mivarotra ireo mpizara GPU, ka tsy misy ny fividianana GPU.
Tsy ampy ny fahafahan'ny GPU. Lazao amintsika ny lanjan'ny asa ataonao, dia hamaly amin'ny fahafahana sy ny vidiny izahay.