Яқинда: NVIDIA Tesla P40, 24 GB VRAM

AI/ML машғулот GPU сервери

NVIDIA Tesla P40 (24 GB VRAM, Pascal архитектураси)да моделларни тўғрилаш ва тайёрлаш. LoRA тўғрилаш ва кичик моделлар учун энг яхши. GPU серверлари ҳозирча буюртма қилина олмайди; улар буюртма қилинганда хабар олиш учун бизга мурожаат қилинг.

$ pip install torch transformers datasets accelerate && python train.py
# Ўрнатиш буйруғи мисоли

GPU VPS'да AI Training нима?

AI моделларини ўқитиш GPUлар тақдим этадиган параллел ҳисоблашни талаб қилади. GPU сервери сизга ўзингизнинг ўқитиш ишингиз учун бир GPU беради.

AI Training VPS.org GPU серверида

Барча GPU

24 GB VRAM билан бир Tesla P40, серверингизга ўтди ва ўртоқлашилмаган.

Фрейм танлаш

PyTorch, TensorFlow, JAX ёки Pascal GPU'ларини қўллаб-қувватловчи бошқа фреймворк.

SSD сақлаш

Сервернинг SSD сақловида маълумотлар тўпламлари, назорат нуқталари ва модел файлларини сақлаш.

SSH кириш

Машғулот муҳитини созлаш учун тўлиқ root рухсати.

AI Training нинг машҳур ишлатилиши

Модельни яхшилаш
Ўқишни кўчириш
Ўзга моделлар машқлари
Гиперпараметрларни созлаш
Маълумотлар тўпламини олдиндан ишлаш
LoRA адаптерлари

ГПУнинг режалаштирилган хусусиятлари

ГПУNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA ранглари3,840
FP3212 TFLOPS
INT847 TOPS
Ёдда сақлаш346 GB/s
АрхитектураPascal (GP102)
ЎтишPCIe ўтказувчанлиги

Кўп бериладиган саволлар

GPU VPS'да AI Training нима?

+

AI Training NVIDIA GPU'ни иш тезлигини ошириш учун ишлата олади. VPS.org GPU серверлари ҳозирча буюртма учун мавжуд эмас; улар пайдо бўлганда бизга мурожаат қилинг. AI Training GPU тезлаштирилган умумий иш юкламасидир. Сизнинг дастурингиз CUDA'ни қўллаб-қувватлашини ва драйверингиз/иш вақти версиянгиз AI Training учун иш юклама талабларига мос келишини текширинг.

GPU VPS'да AI Training'ни қандай қилиб ўрнатиш мумкин?

+

GPU серверлари ҳозирча буюртма учун мавжуд эмас. Бугунги кунда AI Training'ни оддий CPU режасида ишга тушира оласиз, у GPU'дан анча секинроқ ишлайди: SSH'га киринг ва pip install torch transformers datasets accelerate && python train.py'ни ишга туширинг.

AI Training учун қанча VRAM керак?

+

AI Training учун VRAM талаблари модел ва партия ҳажмига боғлиқ; ҳозирги рақамлар учун лойиҳа ҳужжатларини текширинг.

AI Training учун GPU сервери қанча туради?

+

GPU нархлари GPU серверлари буюртма қилиниши мумкин бўлганда эълон қилинади. Агар бу содир бўлганда эшитишни истасангиз биз билан алоқа қилинг.

AI Training билан бирга бошқа асбобларни ҳам ишлата оламанми?

+

Ҳа. Ҳар бир VPS.org сервери тўлиқ root рухсати билан келади, шунинг учун сиз сервер RAM ва сақлашда AI Training билан бирга бошқа асбобларни ҳам ишга тушира оласиз.

AI Training GPU VPS'да тўлиқ root'га эга бўламанми?

+

Ҳар бир VPS.org сервери тўлиқ root SSH кириши билан келади, шунинг учун сиз драйверлар, китобхоналар ва AI Training'ни ўзингизга керак бўлган тарзда ўрнатишингиз мумкин.

VPS.org CUDA'ни AI Training учун олдиндан ўрнатадими?

+

Йўқ. Сервер CUDA runtime ёки NVIDIA драйвери билан олдиндан ўрнатилган ҳолда келмайди, GPU серверлари эса ҳозирча буюртма учун мавжуд эмас. Сиз AI Training керакли версияларни ўзингиз ўрнатасиз.

Менинг AI Training GPU VPS сеанслар орасида сақланиб қоладими?

+

Ҳа. VPS.org серверлари доимий виртуал машиналар, вақтинчалик нусхалар эмас: AI Training моделлари, конфигурациялари ва маълумотлари уларни ўчириб ташлагунингизча сервернинг SSD сақловида қолади.

Менинг AI Training иш юким учун маълумотларни қаерда сақлаш керак?

+

AI Training ишга туширилганда тезкор кириш учун иш маълумотларини сервернинг SSD сида сақлаш ва тугалланган артефактларни (вазн, авлодлар, ёпиштириш) VPS.org дан ташқаридаги сақлашга нусхалаш; суратлар ва нусхалар бир хил сақлаш кластерида қолади.

AI Training GPU VPS'имни кейинроқ ўлчамлашим мумкинми?

+

Сиз бошқарув панелидан ҳар қандай VPS.org серверини каттароқ планга янгилай оласиз; ўлчамларни ўзгартириш уни қайта ишга туширади ва AI Training ўрнатишингиз ўрнатишларни олиб кетади. GPU серверлари ҳозирча мавжуд эмас.

Менинг GPU VPS учун заҳира нусхалари мавжудми?

+

Ҳа. Заҳира нусхалари тўловли қўшимча (ҳар куни +30% режа нархи, 7 кун сақланадиган; ҳафтада +20%, 28 кун сақланадиган) ва суратлар бепул, бу узоқ AI Training ишлашдан олдин фойдали. Иккаласи ҳам сервер билан бир хил сақлаш кластерида қолади.

Менга пул қайтариладими?

+

Қўллаб-қувватлаш хизматига биринчи харидингиздан 30 кун ичида пулни қайтариш учун мурожаат қилинг. GPU серверлари ҳали сотилмаган, шунинг учун GPU буюртмаси йўқ.

AI Training'ни GPU серверида ишга туширишни хоҳлайсизми?

GPU қуввати чекланган. Бизга иш юкингиз ҳақида айтинг, биз сизга мавжудлиги ва нархини айтиб берамиз.