Поїзд і запуск моделей PyTorch на NVIDIA Tesla P40 (24 GB VRAM, архітектура Паскалів), з повним доступом до користувача root. Сервери GPU ще не можна замовляти, щоб повідомити про це нас.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Приклад команди встановлення
PyTorch - це широковживана система з глибокими знаннями. Сервер GPU виконує тренування PyTorch і визначення у GPU, яке набагато швидше працює на процесорі для більшості моделей.
You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).
Кімната для маленьких і середнього розміру моделей, "Лора" дрібно потовщення і помірні розміри пакета.
Запустити нотатки для інтерактивної роботи з GPU на сервері.
Налаштуйте середовище точно так, як потрібно для вашого проекту.
PyTorch може використовувати NVIDIA GPU для пришвидшення роботи програми. VPS.org GPU сервери ще не доступні для того, щоб замовляти програми. PyTorch є тренуванням / тонка робота. Планування для завдань з довгостроковим виконанням: регулярно знімайте ваші VPS і тримайте копію тренованих ваг поза VPS.org.
Сервери GPU ще не доступні для впорядкування. Сьогодні ви можете запустити PyTorch за допомогою звичайного плану процесора, де він працює набагато повільніше, ніж у GPU: SSH у і запустити pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Тренування VRAM залежить від стану оптимізатора плюс активації. Повноцінне виконання 7B LLM потребує приблизно від 24 до 48 ГБ; ЛОРА / QLoRA відповідає у 8 до 16 ГБ.
Ціноутворення GPU буде опубліковано під час замовлення серверів GPU. Зв' яжіться з нами, якщо ви бажаєте почути, коли це станеться.
Так. Кожен сервер VPS.org має повний доступ до root, отже ви можете запускати інші інструменти поруч з PyTorch у межах пам' яті і сховища сервера.
Кожен сервер VPS.org має повний доступ до SSH, отже, ви можете встановити драйвери, бібліотеки і PyTorch, але вам не доведеться цього робити.
Ні. Сервер не постачається з попередньо встановленим драйвером CUDA або NVIDIA, тому сервери GPU ще не можуть замовляти. Ви встановили версії PyTorch, потрібні вам самі.
Так. Сервери VPS.org є постійними віртуальними комп' ютерами, а не ефемеральними екземплярами: моделями PyTorch, налаштуваннями і даними зберігаються на сховищі SSD сервера, аж доки ви їх не вилучите.
Під час запуску PyTorch продовжують працювати над SSD сервера, а також копіюють завершені артефакти (ваги, покоління, вбудовування) для зберігання поза межами VPS.org; знімки і резервні копії зберігаються на одному з скупчень сховища.
Ви можете оновити будь- який сервер VPS.org до більшого плану на панелі керування; зміна розміру перезапускає програму, а встановлення PyTorch переведе програму на сервер. Сервери GPU ще не доступні.
Так. Резервні копії - це оплачуваний add- on (щоденно +30% ціни плану, зберігаються 7 днів; тижневий +20%, збережений 28 днів), а знімки є безкоштовними, які корисні до тривалих днів запуску PyTorch. Обидва ці записи зберігаються на тому самому скупченні, що і сервер.
Підтримка контактів протягом 30 днів після вашої першої покупки для отримання запиту на повторне фінансування. Сервери GPU ще не продано, отже не буде включено замовлення GPU.
Обмежені можливості процесора, розкажіть нам про ваші робочі місця, і ми дамо відповідь доступністю та ціноутворенням.