NVIDIA Tesla P40 (24 GB VRAM, Pascal архитектураси)да PyTorch моделларини ўқитиш ва ишга тушириш, тўлиқ root рухсати билан. GPU серверлари ҳозирча буюртма қилина олмайди; улар буюртма қилинганда хабар олиш учун биз билан боғланинг.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Ўрнатиш буйруғи мисоли
PyTorch кенг қўлланиладиган чуқур ўрганувчи фреймворкдир. GPU сервери PyTorch'ни GPU'да ўқитади ва хулоса қилади, бу кўплаб моделлар учун CPU'дан кўра тезроқ.
Сиз NVIDIA драйвери, CUDA ва PyTorch build'ини ўрнатасиз. Сизнинг PyTorch build'ингиз Pascal GPU'ларини (ҳисоблаш қобилияти 6.1) қўллаб-қувватлашини текширинг.
Кичик ва ўртача моделлар учун хона, LoRA Fine-Tuning ва ўртача партия ҳажми.
Серверда Jupyter ноутбукларини GPU устида интерактив ишлаш учун ишга туширинг.
Атроф-муҳитни лойиҳангиз талабларига мувофиқ созланг.
PyTorch NVIDIA GPU'ни иш тезлигини ошириш учун ишлата олади. VPS.org GPU серверлари ҳозирча буюртма учун мавжуд эмас; улар пайдо бўлганда бизга мурожаат қилинг. PyTorch машғулот / яхшилаш иш юки ҳисобланади. Умумий ишларни режалаштириш: VPS'ни доимий суратга олинг ва VPS.org дан ташқарида машғулот юкининг нусхасини сақланг.
GPU серверлари ҳозирча буюртма учун мавжуд эмас. Бугунги кунда PyTorch'ни оддий CPU режасида ишга тушира оласиз, у GPU'дан анча секинроқ ишлайди: SSH'га киринг ва pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124'ни ишга туширинг.
Машғулот VRAM оптималлаштирувчи ҳолати ва фаоллаштиришлар томонидан бошқарилади. 7B LLMнинг тўлиқ яхшилаши тахминан 24 дан 48 ГБ гача талаб қилади; LoRA / QLoRA 8 дан 16 ГБ гача жой олади.
GPU нархлари GPU серверлари буюртма қилиниши мумкин бўлганда эълон қилинади. Агар бу содир бўлганда эшитишни истасангиз биз билан алоқа қилинг.
Ҳа. Ҳар бир VPS.org сервери тўлиқ root рухсати билан келади, шунинг учун сиз сервер RAM ва сақлашда PyTorch билан бирга бошқа асбобларни ҳам ишга тушира оласиз.
Ҳар бир VPS.org сервери тўлиқ root SSH кириши билан келади, шунинг учун сиз драйверлар, китобхоналар ва PyTorch'ни ўзингизга керак бўлган тарзда ўрнатишингиз мумкин.
Йўқ. Сервер CUDA runtime ёки NVIDIA драйвери билан олдиндан ўрнатилган ҳолда келмайди, GPU серверлари эса ҳозирча буюртма учун мавжуд эмас. Сиз PyTorch керакли версияларни ўзингиз ўрнатасиз.
Ҳа. VPS.org серверлари доимий виртуал машиналар, вақтинчалик нусхалар эмас: PyTorch моделлари, конфигурациялари ва маълумотлари уларни ўчириб ташлагунингизча сервернинг SSD сақловида қолади.
PyTorch ишга туширилганда тезкор кириш учун иш маълумотларини сервернинг SSD сида сақлаш ва тугалланган артефактларни (вазн, авлодлар, ёпиштириш) VPS.org дан ташқаридаги сақлашга нусхалаш; суратлар ва нусхалар бир хил сақлаш кластерида қолади.
Сиз бошқарув панелидан ҳар қандай VPS.org серверини каттароқ планга янгилай оласиз; ўлчамларни ўзгартириш уни қайта ишга туширади ва PyTorch ўрнатишингиз ўрнатишларни олиб кетади. GPU серверлари ҳозирча мавжуд эмас.
Ҳа. Заҳира нусхалари тўловли қўшимча (ҳар куни +30% режа нархи, 7 кун сақланадиган; ҳафтада +20%, 28 кун сақланадиган) ва суратлар бепул, бу узоқ PyTorch ишлашдан олдин фойдали. Иккаласи ҳам сервер билан бир хил сақлаш кластерида қолади.
Қўллаб-қувватлаш хизматига биринчи харидингиздан 30 кун ичида пулни қайтариш учун мурожаат қилинг. GPU серверлари ҳали сотилмаган, шунинг учун GPU буюртмаси йўқ.
GPU қуввати чекланган. Бизга иш юкингиз ҳақида айтинг, биз сизга мавжудлиги ва нархини айтиб берамиз.