Влак и изпълнение на модели PyTorch на NVIDIA Tesla P40 (24 GB VRAM, Паскал архитектура), с пълен достъп до корен. ГПУ сървърите все още не са поръчани; свържете се с нас, за да бъдат уведомени, когато са.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Пример на командата за инсталиране
PyTorch е широко използвана рамка за дълбоко обучение. GPU сървър стартира PyTorch обучение и изчисляване на GPU, което е много по-бързо от процесора за повечето модели.
Инсталирате шофьора NVIDIA, CUDA и изграждането на PyTorch. Проверете дали вашата PyTorch сграда все още поддържа Pascal GPUs (компутатна способност 6.1).
Стая за малки и средни модели, LoRA фино настройване и умерени размери на партидата.
Пуснете Jupyter тетрадки на сървъра за интерактивна работа на GPU.
Настройете околната среда точно както се нуждаете от проекта си.
PyTorch може да използва NVIDIA GPU за ускоряване на работата си. VPS.org GPU сървърите не са на разположение за поръчване все още; свържете се с нас, за да чуете кога са. PyTorch е обучение / фино настройване на работната натовареност. План за дълготрайни работни места: снимки на VPS редовно и да се съхранява копие от обучени тежести извън VPS.org.
Серверите на GPU все още не са на разположение. Днес можете да стартирате PyTorch по редовен процесорен план, където работи много по-бавно от GPU: SSH в и стартува pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Тренинг VRAM е доминиран от оптимизиращото състояние плюс активации. Пълна фино настройка на LLM 7B се нуждае от около 24 до 48 GB; LoRA / QLoRA се вписва в 8 до 16 GB.
GPU цената ще бъде публикувана, когато GPU сървърите могат да бъдат поръчани. Свържете се с нас, ако искате да чуете кога ще се случи това.
Да. Всеки сървър VPS.org идва с пълен коренов достъп, така че можете да стартирате други инструменти заедно със PyTorch в рамките на RAM и съхранение на сървъра.
Всеки сървър VPS.org идва с пълен root SSH достъп, така че можете да инсталирате драйвери, библиотеки и PyTorch, както ви трябва.
Не. Няма сървър идва с CUDA рунтиме или NVIDIA драйвер предварително инсталиран, а GPU сървърите не са на разположение за поръчка все още. Инсталирате версиите PyTorch се нуждае от вас.
Да. VPS.org сървърите са упорити виртуални машини, а не ефемерални примери: PyTorch модели, конфигурации и данни остават на SSD съхранението на сървъра, докато ги изтриете.
Продължавайте да работите данни за SSD на сървъра за бърз достъп по време на PyTorch, и копиране на готови артефакти (тежи, поколения, вграждане) до съхранение извън VPS.org; снимки и резервни копия остават на един и същ клъстер за съхранение.
Можете да ъпгрейд на всеки VPS.org сървър към по-голям план от контролния панел; реконструиране на рестартира и инсталирането ви PyTorch пренасочва. GPU сървърите все още не са достъпни.
Да. Резервните копия са платен добавяне (дневно +30% от цената на плана, запазени 7 дни; седмично +20%, запазени 28 дни) и снимките са безплатни, което е полезно преди дългото движение PyTorch. И двете остават на един и същи клъстер като сървъра.
Поддръжка за контакти в рамките на 30 дни от първата ви покупка, за да поискате възстановяване. ГПУ сървърите не са продадени все още, така че не е включена GPU поръчка.
ГПУ капацитета е ограничен. Разкажи ни за натовареността си и ние ще отговорим с наличност и цени.