PyTorch моделдерин NVIDIA Tesla P40 (24 ГБ ВРАМ, Паскаль архитектурасы) компьютеринде толук root укугу менен үйрөтүү жана иштетүү. ГПУ серверлери азырынча буйрук берүүгө жарабайт; алар буйрук берилсе, бизге кабарлоо үчүн байланышыңыз.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Орнотуу командасынын мисалы
PyTorch - бул кеңири колдонулган терең үйрөнүү фреймворку. ГПЧ сервери PyTorch-ди GPU-да машыктырат жана индукцияны аткарат, бул көпчүлүк моделдер үчүн процессордук процессорго караганда тез.
NVIDIA драйверин, CUDA жана керектүү PyTorch түзүлүштөрүн орнотуңуз. PyTorch түзүлүшүңүз Pascal GPUs (computation capability 6.1) колдой тургандыгын текшериңиз.
Кичине жана орточо өлчөмдөгү моделдер үчүн орун, LoRA fine-tuning жана орточо пакет өлчөмдөрү.
Интерактивдүү иштөө үчүн серверде Jupyter ноутбуктарын иштетүү.
Проекттин талаптарына ылайыкташтырылган чөйрөнү конфигурациялоо.
PyTorch өзүнүн ишин тездетүү үчүн NVIDIA GPU'сун колдоно алат. VPS.org GPU серверлери азырынча заказга берилбейт; алар качан берилээрин билүү үчүн биз менен байланышыңыз. PyTorch - бул машыгуу / тактоо жумуш жүктөөсү. Узак убакытка созулган тапшырмаларды пландаштыруу: VPS'иңизди регулярдуу түрдө сүрөткө тартып, машыгуу салмактарын VPS.org'дан тышкары сактаңыз.
Графикалык процессорлор серверлери азырынча буйрук үчүн жеткиликтүү эмес. Бүгүнкү күндө сиз PyTorch программасын кадимки процессор планында иштете аласыз, ал графикалык процессорго караганда бир топ ылдамыраак иштейт: SSH аркылуу кирип, pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 программасын иштетиңиз.
Тренингдик VRAM оптималдаштыруучу абалга жана активацияларга ээ. 7B LLMдин толук тактык менен иштеши үчүн 24-48 ГБ керек; LoRA / QLoRA үчүн 8-16 ГБ жетиштүү.
GPU серверлердин баасы GPU серверлер буйрук кылынганда жарыяланат. Эгерде сиз бул жөнүндө билүүнү кааласаңыз, биз менен байланышыңыз.
Да. Каждый сервер VPS.org имеет полный доступ к root, поэтому вы можете запускать другие инструменты вместе с PyTorch в пределах сервера RAM и хранилища.
Ар бир VPS.org сервери толук root SSH мүмкүнчүлүгү менен келет, ошондуктан сиз керектүү драйверлерди, библиотекаларды жана PyTorch орното аласыз.
Жок. Серверлер CUDA же NVIDIA драйверлери менен орнотулбайт, ошондой эле GPU серверлери азырынча буйрук кылууга мүмкүн эмес. Сиз PyTorch керектүү версияларын өзүңүз орнотосуз.
Да. VPS.org серверлери туруктуу виртуалдык машиналар, эффемердүү экземпляр эмес: PyTorch моделдери, конфигурациялары жана маалыматтары сиз аларды өчүргөнгө чейин сервердин SSD сактоочу жайында калат.
Работающие данные хранятся на сервере SSD для быстрого доступа во время выполнения PyTorch, а законченные артефакты (весы, поколения, вставки) копируются в хранилище вне VPS.org; снимки и резервные копии остаются на том же хранилище кластера.
Сиз каалаган VPS.org серверин башкаруу панелинен чоңураак планга жаңыртууга болот; өлчөмүн өзгөртүү менен ал кайрадан иштей баштайт жана PyTorch орнотуулары алмаштырылат. GPU серверлери азырынча жок.
Да. Резервдик көчүрмөлөр акы төлөнүүчү кошумча кызмат (күнүнө +30% пландын баасы, 7 күн сакталат; жумасына +20%, 28 күн сакталат) жана сүрөттөр акысыз, бул PyTorch узакка иштебей турганда пайдалуу. Эки кызмат да сервер менен бир эле сактоо кластеринде калат.
Сумма возврата должна быть получена в течение 30 дней после первого покупки. Графические серверы пока не проданы, поэтому заказ на них не производится.
Графикалык процессордун кубаттуулугу чектелген. Сиздин иш жүктөмүңүз тууралуу бизге кабарлаңыз, биз сизге жеткиликтүүлүгү жана баасы тууралуу жооп беребиз.