Тренировать и запускать PyTorch модели на NVIDIA Tesla P40 (24 GB VRAM, Pascal архитектура), с полным корнем. серверы GPU пока не заказаны; свяжитесь с нами, чтобы нас уведомили, когда они будут.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Пример команды установки
PyTorch is a widely used deep learning framework. A GPU server runs PyTorch training and inference on the GPU, which is far faster than on a CPU for most models.
Вы устанавливаете водителя NVIDIA, CUDA и PyTorch, которые вам нужны. Проверьте, чтобы ваше PyTorch строение все еще поддерживало Pascal GPU (полная способность 6.1).
Комнаты для моделей малого и среднего размера, откорректированная и умеренная партия.
Запустите на сервер тетради Jupyter для интерактивной работы над GPU.
Настроить окружающую среду точно так, как нужно вашему проекту.
PyTorch can use an NVIDIA GPU to speed up its work. VPS.org GPU servers are not available to order yet; contact us to hear when they are. PyTorch is a training / fine-tuning workload. Plan for long-running jobs: snapshot your VPS regularly and keep a copy of trained weights outside VPS.org.
GPU пока недоступны для заказа. Сегодня вы можете запустить PyTorch на обычном плане процессора, где он работает гораздо медленнее, чем на GPU: SSH в и запуска pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
В системе подготовки кадров VRAM доминирует состояние оптимизации плюс активация. Полная доработка 7B LLM требует приблизительно 24-48 ГБ; LORA/QLORA вписывается в 8-16 ГБ.
Цены на GPU будут опубликованы, когда серверы GPU будут заказаны. Свяжитесь с нами, если вы хотите услышать, когда это произойдет.
Каждый сервер VPS.org имеет полный доступ к корневому коду, так что вы можете пропустить другие инструменты вместе с PyTorch в РАМ сервера и его архиве.
Каждый сервер VPS.org имеет полный решетчатый доступ к SSH, так что вы можете устанавливать водителей, библиотеки и PyTorch, как вам нужно.
Нет. ни один сервер не приходит с CDDA, ни драйвер NVIDIA, и серверы GPU пока не готовы заказать. Вы устанавливаете версии PyTorch нужны вам.
Да. серверы VPS.org - это стойкие виртуальные машины, а не эфемерные: модели PyTorch, конфеги и данные остаются на SSD сервера, пока вы их не удалите.
Сохраняйте рабочие данные на сервере SSD для быстрого доступа во время прогонов PyTorch, и копирование готовых артефактов (весы, поколения, встроенные) на хранение за пределами VPS.org; снимки и резервные устройства остаются на одном и том же хранилище.
Вы можете обновить любой сервер VPS.org до более крупного плана с панели управления; перезапуск его и установка PyTorch переносится. серверы GPU пока не доступны.
Да. Резервные копии являются платным дополнением (ежедневно +30% от цены плана, сохранено 7 дней; еженедельно +20%, сохранено 28 дней) и снимки бесплатные, что полезно до продолжительных пробегов PyTorch. Оба остаются в одном блоке хранения, как и сервер.
Контактная поддержка в течение 30 дней после вашей первой покупки для получения возмещения. серверы GPU еще не проданы, так что GPU не связан с заказом.
Власть ГИП ограничена. Расскажите нам о вашей рабочей нагрузке, и мы ответим с помощью имеющихся данных и цен.