Скоро идва: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Стартиране TensorFlow и Keras обучение и извод на NVIDIA Tesla P40 (24 GB VRAM, Pascal архитектура). ГПУ сървърите все още не са поръчани; свържете се с нас, за да бъдат уведомени, когато са.

$ pip install tensorflow[and-cuda]
# Пример на командата за инсталиране

Какво е {име} на GPU VPS?

TensorFlow е системата за отворено машинно обучение на Google. На сървър на GPU TensorFlow изпълнява своите операции по GPU чрез CUDA.

TensorFlow на сървър VPS.org GPU

Ускорение на GPU

TensorFlow използва GPU чрез CCDA, след като инсталирате съвпадащ драйвер и версия CCDA.

Керас

Изграждане на модели с Keras API върху GPU бекгажа.

Тенсор Борд

Монитор обучение с TensorBoard на вашия сървър.

Служителски услуги

Сервирайте обучени модели с TensorFlow сервира.

Популярни {име} Случаи на употреба

Класификация на изображения
Откриване на обекта
Обработка на естествен език
Системи за препоръки
Предупреждение на времеви редове
Производствени ML тръбопроводи

Планирани спецификации на GPU

ГПУNVIDIA Tesla P40
ВРАМ24 GB GDDR5
Ядра на КУДА3,840
ФП3212 TFLOPS
INT847 TOPS
Памет BW346 GB/s
АрхитектураPascal (GP102)
ПреминаванеПЦИЕ ПРЕХОД

Често задавани въпроси

Какво е TensorFlow на GPU VPS?

+

TensorFlow може да използва NVIDIA GPU за ускоряване на работата си. VPS.org GPU сървърите не са на разположение за поръчване все още; свържете се с нас, за да чуете кога са. TensorFlow е обучение / фино настройване на работната натовареност. План за дълготрайни работни места: снимки на VPS редовно и да се съхранява копие от обучени тежести извън VPS.org.

Как да настроя TensorFlow на GPU VPS?

+

Серверите на GPU все още не са на разположение. Днес можете да стартирате TensorFlow по редовен процесорен план, където работи много по-бавно от GPU: SSH в и стартува pip install tensorflow[and-cuda].

Колко VRAM ми трябва за TensorFlow?

+

Тренинг VRAM е доминиран от оптимизиращото състояние плюс активации. Пълна фино настройка на LLM 7B се нуждае от около 24 до 48 GB; LoRA / QLoRA се вписва в 8 до 16 GB.

Колко ще струва сървър на GPU за TensorFlow?

+

GPU цената ще бъде публикувана, когато GPU сървърите могат да бъдат поръчани. Свържете се с нас, ако искате да чуете кога ще се случи това.

Мога ли да пускам други инструменти заедно с TensorFlow?

+

Да. Всеки сървър VPS.org идва с пълен коренов достъп, така че можете да стартирате други инструменти заедно със TensorFlow в рамките на RAM и съхранение на сървъра.

Имам ли пълни корени на TensorFlow GPU VPS?

+

Всеки сървър VPS.org идва с пълен root SSH достъп, така че можете да инсталирате драйвери, библиотеки и TensorFlow, както ви трябва.

Does VPS.org preinstall CUDA for TensorFlow?

+

Не. Няма сървър идва с CUDA рунтиме или NVIDIA драйвер предварително инсталиран, а GPU сървърите не са на разположение за поръчка все още. Инсталирате версиите TensorFlow се нуждае от вас.

Моите TensorFlow GPU VPS продължават ли между сесиите?

+

Да. VPS.org сървърите са упорити виртуални машини, а не ефемерални примери: TensorFlow модели, конфигурации и данни остават на SSD съхранението на сървъра, докато ги изтриете.

Къде трябва да съхранявам данни за моята TensorFlow работна натовареност?

+

Продължавайте да работите данни за SSD на сървъра за бърз достъп по време на TensorFlow, и копиране на готови артефакти (тежи, поколения, вграждане) до съхранение извън VPS.org; снимки и резервни копия остават на един и същ клъстер за съхранение.

Мога ли по-късно да кача TensorFlow GPU VPS?

+

Можете да ъпгрейд на всеки VPS.org сървър към по-голям план от контролния панел; реконструиране на рестартира и инсталирането ви TensorFlow пренасочва. GPU сървърите все още не са достъпни.

На разположение ли са резервни копия за моя GPU VPS?

+

Да. Резервните копия са платен добавяне (дневно +30% от цената на плана, запазени 7 дни; седмично +20%, запазени 28 дни) и снимките са безплатни, което е полезно преди дългото движение TensorFlow. И двете остават на един и същи клъстер като сървъра.

Мога ли да получа възстановяване?

+

Поддръжка за контакти в рамките на 30 дни от първата ви покупка, за да поискате възстановяване. ГПУ сървърите не са продадени все още, така че не е включена GPU поръчка.

Искаш ли да изпълниш TensorFlow на сървър на GPU?

ГПУ капацитета е ограничен. Разкажи ни за натовареността си и ние ще отговорим с наличност и цени.