Дар наздикӣ: NVIDIA Tesla P40, 24 GB VRAM

VPS-и GPU-и TensorFlow

Иҷрои машқ ва баррасии TensorFlow ва Keras дар NVIDIA Tesla P40 (24 ГБ VRAM, архитектураи Pascal). Серверҳои GPU ҳоло фармоиш дода намешаванд; бо мо тамос гиред, то вақте ки онҳо фармоиш дода мешаванд, огоҳӣ диҳед.

$ pip install tensorflow[and-cuda]
# Мисолҳои фармони насбкунӣ

{ном} дар GPU VPS чист?

TensorFlow - ин чорчӯбаи омӯзиши мошини Google-и кушодаи Google мебошад. Дар сервери GPU, TensorFlow амалиётҳои худро дар GPU тавассути CUDA иҷро мекунад.

TensorFlow дар сервери GPU-и VPS.org

Шӯриши GPU

Танзимоти GPU-и CUDA-ро истифода баред, вақте ки шумо драйвери мувофиқ ва версияи CUDA-ро насб мекунед.

Душвор

Сохтани моделҳо бо API-и Keras дар болои пуштибонии GPU.

Тахтаи тензорӣ

Мушоҳидаи машқ бо TensorBoard дар сервери худ.

Хизматрасонии TF

Дар ин ҷо ба омӯзиши тиб машғул шуд.

TensorFlow истифодаи маъмул

Синфи тасвир
Муайянкунии объект
Муҳаррири забони табиӣ
Системаҳои тавсияшаванда
Пешгӯии силсилаи вақт
Конвейери ML- и истеҳсолӣ

Тасвиротҳои GPU- и нақшавӣ

ГПЧNVIDIA Tesla P40
ВРАМ24 GB GDDR5
Рангҳои CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Хотираи сиёҳ- сафед346 GB/s
МеъморӣPascal (GP102)
ДаромаданPCIe- и гузаранда

Саволҳои пурсидашуда

TensorFlow дар GPU VPS чист?

+

TensorFlow метавонад NVIDIA GPU- ро барои тезонидани кори худ истифода барад. VPS.org GPU серверҳо ҳанӯз дастрас нестанд; бо мо тамос гиред, то вақте ки онҳо дастрас мешаванд. TensorFlow машқ / коркарди корӣ мебошад. Барои корҳои дарозмуддат нақша гиред: VPS- ро мунтазам сурат гиред ва нусхаи вазнҳои омӯзишро берун аз VPS.org нигоҳ доред.

Ман чӣ гуна метавонам TensorFlow-ро дар GPU VPS насб кунам?

+

Серверҳои GPU ҳанӯз барои фармоиш дастрас нестанд. Имрӯз шумо метавонед TensorFlow- ро дар нақшаи оддии CPU иҷро кунед, ки дар он он хеле сусттар аз GPU кор мекунад: SSH дар ва pip install tensorflow[and-cuda]- ро иҷро кунед.

Ба ман барои TensorFlow чӣ қадар VRAM лозим аст?

+

Время обучения VRAM определяется состоянием оптимизатора и активациями. Полное точное настройка 7B LLM требует примерно 24- 48 ГБ; LoRA / QLoRA входит в 8- 16 ГБ.

Сервери GPU барои TensorFlow чӣ қадар арзиш дорад?

+

Нақшаҳои GPU VPS ҳармоҳа бо шартномаҳои бе қулф баста мешаванд ва метавонанд дар ҳар вақт бекор карда шаванд. Барои дараҷаҳои нархи GPU бо мо тамос гиред.

Оё ман метавонам дигар асбобҳоро дар баробари TensorFlow иҷро кунам?

+

Ҳар як сервери VPS.org бо дастрасии пурраи root меояд, бинобар ин шумо метавонед дигар абзорҳоро дар якҷоягӣ бо TensorFlow дар RAM ва захираи сервер иҷро кунед.

Оё ман root-и пурраро дар TensorFlow GPU VPS мегирам?

+

Ҳар як сервери VPS.org бо дастрасии пурраи root SSH меояд, бинобар ин шумо метавонед ронандаҳо, китобхонаҳо ва TensorFlow-ро тавре, ки ба шумо лозим аст, насб кунед.

Оё VPS.org CUDA-ро барои TensorFlow пешакӣ насб мекунад?

+

Не. Никто из серверов не поставляется с предварительно установленным CUDA runtime или NVIDIA драйвером, и серверы GPU пока не доступны для заказа. Вы устанавливаете версии, которые нужны TensorFlow.

Оё TensorFlow GPU VPS-и ман байни сеансҳо нигоҳ дошта мешавад?

+

Да. Серверҳои VPS.org мошинҳои виртуалии доимӣ мебошанд, на намунаҳои кӯтоҳмуддат: моделҳои TensorFlow, конфигуратсияи ва маълумот дар захираи SSD-и сервер то он даме, ки шумо онҳоро нест кунед, мемонанд.

Ман бояд маълумотро барои боркунии кории TensorFlow-и худ дар куҷо нигоҳ дорам?

+

Дар хотираи корӣ маълумотҳои корӣ дар сервери SSD барои дастрасии тез дар вақти иҷрои TensorFlow нигоҳ доред ва нусхаи анҷомёфтаи артефактҳо (вазнҳо, наслҳо, дарҷҳо) ба захираи берун аз VPS.org; суратҳо ва нусхаҳои эҳтиётӣ дар як кластери захиравӣ мемонанд.

Оё ман метавонам TensorFlow GPU VPS-и худро баъдтар андоза кунам?

+

Шумо метавонед ҳар як сервери VPS.org-ро аз панели идоракунӣ ба нақшаи калонтар такмил диҳед; тағири андоза онро аз нав оғоз мекунад ва насбкунии TensorFlow-и шумо ба он мегузарад. Серверҳои GPU ҳанӯз дастрас нестанд.

Оё нусхаҳои эҳтиётӣ барои GPU VPS-и ман дастрасанд?

+

Да. Захираи нусхаи эҳтиётӣ иловаи пардохтшаванда мебошад (ҳаррӯза +30% аз нархи нақша, нигоҳ дошта мешавад 7 рӯз; ҳафтаина +20%, нигоҳ дошта мешавад 28 рӯз) ва суратҳо ройгон мебошанд, ки пеш аз иҷрои дароз TensorFlow фоиданок аст. Ҳарду дар як кластери захиракунӣ бо сервер мемонанд.

Оё ман метавонам пулро баргардонам?

+

Барои дархост кардани баргардонидани маблағ дар муддати 30 рӯзи хариди аввал бо дастгирӣ тамос гиред. Серверҳои GPU ҳанӯз фурӯхта нашудаанд, бинобар ин фармоиши GPU дар ин бора вуҷуд надорад.

Шумо мехоҳед, ки TensorFlow-ро дар сервери GPU иҷро кунед?

GPU- и шумо маҳдуд аст. Ба мо дар бораи боркунии кории худ хабар диҳед ва мо бо дастрасӣ ва нарх ҷавоб хоҳем дод.