Скоро идва: NVIDIA Tesla P40, 24 GB VRAM

AI/ML обучение GPU сървър

Фино-тонуни и влачни модели на NVIDIA Tesla P40 (24 GB VRAM, Паскал архитектура). Най-доброто за LoRA фино-токулаторни и малки модели. ГПУ сървърите все още не са поръчани; свържете се с нас, за да ни уведомите, когато са.

$ pip install torch transformers datasets accelerate && python train.py
# Пример на командата за инсталиране

Какво е {име} на GPU VPS?

Тренинг AI модели трябва паралелно изчисляване, че GPUs предоставя. GPU сървър ви дава един GPU за вашите собствени тренировъчни работни места.

AI Training на сървър VPS.org GPU

Целият ГПУ

Една Tesla P40 с 24 GB VRAM, преминала през вашия сървър и не е споделена.

Рамков избор

PyTorch, TensorFlow, JAX или всяка рамка, която все още подкрепя Паскал GPUs.

SSD складиране

Пазете наборите от данни, контролните точки и моделните файлове на сървъра.

SSH достъп

Пълен корен достъп до конфигурация на обучаваща среда.

Популярни {име} Случаи на употреба

Моделиране на фино регулиране
Трансферно обучение
Специално обучение по модела
Настройване на хиперпараметъра
Предварително обработване на набор от данни
ЛоРА адаптери

Планирани спецификации на GPU

ГПУNVIDIA Tesla P40
ВРАМ24 GB GDDR5
Ядра на КУДА3,840
ФП3212 TFLOPS
INT847 TOPS
Памет BW346 GB/s
АрхитектураPascal (GP102)
ПреминаванеПЦИЕ ПРЕХОД

Често задавани въпроси

Какво е AI Training на GPU VPS?

+

AI Training може да използва NVIDIA GPU за ускоряване на работата си. VPS.org GPU сървърите не са на разположение за поръчване все още; свържете се с нас, за да чуете кога са. AI Training е обща GPU-ускорена работна натовареност. Уверете се, че вашия софтуер има подкрепа на CCDA и че вашият водач / версии на runtime отговарят на изискванията за работна натоварване за AI Training.

Как да настроя AI Training на GPU VPS?

+

Серверите на GPU все още не са на разположение. Днес можете да стартирате AI Training по редовен процесорен план, където работи много по-бавно от GPU: SSH в и стартува pip install torch transformers datasets accelerate && python train.py.

Колко VRAM ми трябва за AI Training?

+

VRAM нуждите за AI Training зависят от модела и размера на партидата; провери проектната документация за текущи данни.

Колко ще струва сървър на GPU за AI Training?

+

GPU цената ще бъде публикувана, когато GPU сървърите могат да бъдат поръчани. Свържете се с нас, ако искате да чуете кога ще се случи това.

Мога ли да пускам други инструменти заедно с AI Training?

+

Да. Всеки сървър VPS.org идва с пълен коренов достъп, така че можете да стартирате други инструменти заедно със AI Training в рамките на RAM и съхранение на сървъра.

Имам ли пълни корени на AI Training GPU VPS?

+

Всеки сървър VPS.org идва с пълен root SSH достъп, така че можете да инсталирате драйвери, библиотеки и AI Training, както ви трябва.

Does VPS.org preinstall CUDA for AI Training?

+

Не. Няма сървър идва с CUDA рунтиме или NVIDIA драйвер предварително инсталиран, а GPU сървърите не са на разположение за поръчка все още. Инсталирате версиите AI Training се нуждае от вас.

Моите AI Training GPU VPS продължават ли между сесиите?

+

Да. VPS.org сървърите са упорити виртуални машини, а не ефемерални примери: AI Training модели, конфигурации и данни остават на SSD съхранението на сървъра, докато ги изтриете.

Къде трябва да съхранявам данни за моята AI Training работна натовареност?

+

Продължавайте да работите данни за SSD на сървъра за бърз достъп по време на AI Training, и копиране на готови артефакти (тежи, поколения, вграждане) до съхранение извън VPS.org; снимки и резервни копия остават на един и същ клъстер за съхранение.

Мога ли по-късно да кача AI Training GPU VPS?

+

Можете да ъпгрейд на всеки VPS.org сървър към по-голям план от контролния панел; реконструиране на рестартира и инсталирането ви AI Training пренасочва. GPU сървърите все още не са достъпни.

На разположение ли са резервни копия за моя GPU VPS?

+

Да. Резервните копия са платен добавяне (дневно +30% от цената на плана, запазени 7 дни; седмично +20%, запазени 28 дни) и снимките са безплатни, което е полезно преди дългото движение AI Training. И двете остават на един и същи клъстер като сървъра.

Мога ли да получа възстановяване?

+

Поддръжка за контакти в рамките на 30 дни от първата ви покупка, за да поискате възстановяване. ГПУ сървърите не са продадени все още, така че не е включена GPU поръчка.

Искаш ли да изпълниш AI Training на сървър на GPU?

ГПУ капацитета е ограничен. Разкажи ни за натовареността си и ние ще отговорим с наличност и цени.