Дар наздикӣ: NVIDIA Tesla P40, 24 GB VRAM

PyTorch GPU VPS

Модельҳои PyTorch-ро дар NVIDIA Tesla P40 (24 ГБ VRAM, архитектураи Pascal) бо дастрасии пурраи root омӯзонед ва иҷро кунед. Серверҳои GPU ҳанӯз фармоиш дода намешаванд; бо мо тамос гиред, то дар бораи он, ки онҳо кай фармоиш дода мешаванд, хабардор шавед.

$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Мисолҳои фармони насбкунӣ

{ном} дар GPU VPS чист?

PyTorch - ин як сохтори омӯзиши чуқури васеъ истифодашаванда мебошад. Сервери GPU омӯзиши PyTorch- ро иҷро мекунад ва дар GPU- и худ, ки дар бисёр моделҳо тезтар аз CPU- и он аст, хулоса мебарорад.

PyTorch дар сервери GPU-и VPS.org

Насб кардани CUDA-и худ

Шумо драйвери NVIDIA, CUDA ва сохти PyTorch-ро, ки ба шумо лозим аст, насб мекунед. Мутмаин шавед, ки сохти PyTorch-и шумо ҳанӯз ҳам GPU-ҳои Pascal-ро дастгирӣ мекунад (имконияти ҳисобкунии 6.1).

24 Гб VRAM

Дар ин ҷо барои парвариши ангур, гандум, гандум ва дигар зироатҳои кишоварзӣ заминҳои васеъ мавҷуданд.

Юпитер

Барои корҳои интерактивӣ дар GPU, ноутбукҳои Jupyter-ро дар сервер иҷро кунед.

Дастрасии пурраи root

Танзимоти муҳити корӣ барои лоиҳаи шумо.

PyTorch истифодаи маъмул

Машқи шабакаи нейронӣ
Намунаҳои компютерии дидани
& Намунаҳои табдилдиҳӣ
Таҳқиқоти генеративии AI
Танзимоти намуна
Истифодаи ифода

Тасвиротҳои GPU- и нақшавӣ

ГПЧNVIDIA Tesla P40
ВРАМ24 GB GDDR5
Рангҳои CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Хотираи сиёҳ- сафед346 GB/s
МеъморӣPascal (GP102)
ДаромаданPCIe- и гузаранда

Саволҳои пурсидашуда

PyTorch дар GPU VPS чист?

+

PyTorch метавонад NVIDIA GPU- ро барои тезонидани кори худ истифода барад. VPS.org GPU серверҳо ҳанӯз дастрас нестанд; бо мо тамос гиред, то вақте ки онҳо дастрас мешаванд. PyTorch машқ / коркарди корӣ мебошад. Барои корҳои дарозмуддат нақша гиред: VPS- ро мунтазам сурат гиред ва нусхаи вазнҳои омӯзишро берун аз VPS.org нигоҳ доред.

Ман чӣ гуна метавонам PyTorch-ро дар GPU VPS насб кунам?

+

Серверҳои GPU ҳанӯз барои фармоиш дастрас нестанд. Имрӯз шумо метавонед PyTorch- ро дар нақшаи оддии CPU иҷро кунед, ки дар он он хеле сусттар аз GPU кор мекунад: SSH дар ва pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124- ро иҷро кунед.

Ба ман барои PyTorch чӣ қадар VRAM лозим аст?

+

Время обучения VRAM определяется состоянием оптимизатора и активациями. Полное точное настройка 7B LLM требует примерно 24- 48 ГБ; LoRA / QLoRA входит в 8- 16 ГБ.

Сервери GPU барои PyTorch чӣ қадар арзиш дорад?

+

Нақшаҳои GPU VPS ҳармоҳа бо шартномаҳои бе қулф баста мешаванд ва метавонанд дар ҳар вақт бекор карда шаванд. Барои дараҷаҳои нархи GPU бо мо тамос гиред.

Оё ман метавонам дигар асбобҳоро дар баробари PyTorch иҷро кунам?

+

Ҳар як сервери VPS.org бо дастрасии пурраи root меояд, бинобар ин шумо метавонед дигар абзорҳоро дар якҷоягӣ бо PyTorch дар RAM ва захираи сервер иҷро кунед.

Оё ман root-и пурраро дар PyTorch GPU VPS мегирам?

+

Ҳар як сервери VPS.org бо дастрасии пурраи root SSH меояд, бинобар ин шумо метавонед ронандаҳо, китобхонаҳо ва PyTorch-ро тавре, ки ба шумо лозим аст, насб кунед.

Оё VPS.org CUDA-ро барои PyTorch пешакӣ насб мекунад?

+

Не. Никто из серверов не поставляется с предварительно установленным CUDA runtime или NVIDIA драйвером, и серверы GPU пока не доступны для заказа. Вы устанавливаете версии, которые нужны PyTorch.

Оё PyTorch GPU VPS-и ман байни сеансҳо нигоҳ дошта мешавад?

+

Да. Серверҳои VPS.org мошинҳои виртуалии доимӣ мебошанд, на намунаҳои кӯтоҳмуддат: моделҳои PyTorch, конфигуратсияи ва маълумот дар захираи SSD-и сервер то он даме, ки шумо онҳоро нест кунед, мемонанд.

Ман бояд маълумотро барои боркунии кории PyTorch-и худ дар куҷо нигоҳ дорам?

+

Дар хотираи корӣ маълумотҳои корӣ дар сервери SSD барои дастрасии тез дар вақти иҷрои PyTorch нигоҳ доред ва нусхаи анҷомёфтаи артефактҳо (вазнҳо, наслҳо, дарҷҳо) ба захираи берун аз VPS.org; суратҳо ва нусхаҳои эҳтиётӣ дар як кластери захиравӣ мемонанд.

Оё ман метавонам PyTorch GPU VPS-и худро баъдтар андоза кунам?

+

Шумо метавонед ҳар як сервери VPS.org-ро аз панели идоракунӣ ба нақшаи калонтар такмил диҳед; тағири андоза онро аз нав оғоз мекунад ва насбкунии PyTorch-и шумо ба он мегузарад. Серверҳои GPU ҳанӯз дастрас нестанд.

Оё нусхаҳои эҳтиётӣ барои GPU VPS-и ман дастрасанд?

+

Да. Захираи нусхаи эҳтиётӣ иловаи пардохтшаванда мебошад (ҳаррӯза +30% аз нархи нақша, нигоҳ дошта мешавад 7 рӯз; ҳафтаина +20%, нигоҳ дошта мешавад 28 рӯз) ва суратҳо ройгон мебошанд, ки пеш аз иҷрои дароз PyTorch фоиданок аст. Ҳарду дар як кластери захиракунӣ бо сервер мемонанд.

Оё ман метавонам пулро баргардонам?

+

Барои дархост кардани баргардонидани маблағ дар муддати 30 рӯзи хариди аввал бо дастгирӣ тамос гиред. Серверҳои GPU ҳанӯз фурӯхта нашудаанд, бинобар ин фармоиши GPU дар ин бора вуҷуд надорад.

Шумо мехоҳед, ки PyTorch-ро дар сервери GPU иҷро кунед?

GPU- и шумо маҳдуд аст. Ба мо дар бораи боркунии кории худ хабар диҳед ва мо бо дастрасӣ ва нарх ҷавоб хоҳем дод.