Тренирајте и покрените ПјТорч моделе на НВИДИА Тесла П40 (24 ГБ ВРАМ, Паскал архитектура), са пуним приступом корена. ГПУ сервери још увек нису у реду; контактирајте нас да будемо обавештени када су.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Прим› јер инсталиране наредбе
ПиТорч је широко коришћен оквир дубоког учења. ГПУ сервер покреће ПиТорч обуку и закључке на ГПУ, који је много бржи него на ЦПУ‐ у за већину модела.
You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).
Соба за мале и средње величине модела, ЛоРА фино-уређивање и умерене величине серије.
Покрени Јупитерове свеске на серверу за интерактивни рад на ГПУ.
Подешавање окружења тачно као што је потребан ваш пројекат.
PyTorch can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. PyTorch is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.
Сервери ГПУ још нису доступни за наручивање. Данас можете покренути PyTorch на обичном ЦПУ плану, где ради много спорије него на ГПУ: SSH у и покренути pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Тренинг ВРАМ-а доминира оптимизаторско стање плус активација. Потпуно фино уређивање ЛЛМ-а 7Б треба око 24 до 48 ГБ; ЛоРА / QLoRA уклапа у 8 до 16 ГБ.
ГПУ цена ће бити објављена када ГПУ сервери могу бити наручени. Контактирајте нас ако желите да чујете када се то догоди.
Yes. Every VPS.org server comes with full root access, so you can run other tools alongside PyTorch within the server's RAM and storage.
Сваки сервер VPS.org долази са пуним коренским СХХ приступом, тако да можете инсталирати драјвере, библиотеке и PyTorch како вам је потребно.
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions PyTorch needs yourself.
Yes. VPS.org servers are persistent virtual machines, not ephemeral instances: PyTorch models, configs and data stay on the server's SSD storage until you delete them.
Keep working data on the server's SSD for fast access during PyTorch runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
Надоградите сваки сервер VPS.org на већи план из контролног панела; промене величине рестартује га и инсталирање зPyTorch преноси. Сервери ГПУ‐ а још увек нису доступни.
Yes. Backups are a paid add-on (daily +30% of the plan price, kept 7 days; weekly +20%, kept 28 days) and snapshots are free, which is useful before long PyTorch runs. Both stay on the same storage cluster as the server.
Подршка за контакте у року од 30 дана од ваше прве куповине захтева повраћај. ГПУ сервери још нису продати, тако да није укључен ГПУ налог.
ГПУ капацитет је ограничен. Реците нам о вашем радном послу и одговорићемо са доступношћу и ценом.