Незабаром: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Запустити тренінг TensorFlow і Krares і підсумувати на NVIDIA Tesa P40 (24 GB VRAM, архітектура Паскаля). Сервери GPU ще не можна замовляти, щоб нас попереджали про їх наявність.

$ pip install tensorflow[and-cuda]
# Приклад команди встановлення

Що таке TensorFlow у GPU VPS?

TensorFlow - це система навчання машин з відкритим кодом Google, на сервері GPU TensorFlow виконує свої дії над GPU через CUDA.

TensorFlow на сервері VPS.org GPU

Прискорення GPU

DensorFlow використовує GPU через CUDA після встановлення відповідної версії драйвера і CUDA.

КірасCity in Germany

Створити моделі за допомогою API Krares, розташованого над сервером GPU.

TensorBoard

Слідкувати за тренуванням з DensorBoard на вашому власному сервері.

Служачи ТФ

Служи тренованими зразками в TensorFlow, щоб служити в Бетелі.

Популярні {назва} Випадки використання

Класація зображень
Визначення об' єкта
Обробка природної мови
Система порад
Часова послідовність прогнозування
Виробничі трубопроводи ML

Заплановані специфікації GPU

GPUNVIDIA Tesla P40
ВРАМ24 GB GDDR5
Коріни CUDA3,840
FP3212 TFLOPS
INT847 TOPS
BW пам' яті346 GB/s
АрхітектураPascal (GP102)
ПрохідПрохід PCI

Часті запитання

Що таке TensorFlow на комп'ютері GPU?

+

TensorFlow може використовувати NVIDIA GPU для пришвидшення роботи програми. VPS.org GPU сервери ще не доступні для того, щоб замовляти програми. TensorFlow є тренуванням / тонка робота. Планування для завдань з довгостроковим виконанням: регулярно знімайте ваші VPS і тримайте копію тренованих ваг поза VPS.org.

Як мені встановити TensorFlow на VPU?

+

Сервери GPU ще не доступні для впорядкування. Сьогодні ви можете запустити TensorFlow за допомогою звичайного плану процесора, де він працює набагато повільніше, ніж у GPU: SSH у і запустити pip install tensorflow[and-cuda].

Скільки VRAM мені потрібно для TensorFlow?

+

Тренування VRAM залежить від стану оптимізатора плюс активації. Повноцінне виконання 7B LLM потребує приблизно від 24 до 48 ГБ; ЛОРА / QLoRA відповідає у 8 до 16 ГБ.

Скільки коштуватиме сервер GPU за TensorFlow?

+

Ціноутворення GPU буде опубліковано під час замовлення серверів GPU. Зв' яжіться з нами, якщо ви бажаєте почути, коли це станеться.

Можна запустити інші інструменти поруч з TensorFlow?

+

Так. Кожен сервер VPS.org має повний доступ до root, отже ви можете запускати інші інструменти поруч з TensorFlow у межах пам' яті і сховища сервера.

Чи отримаю я повний корінь на TensorFlow ВВС GPU?

+

Кожен сервер VPS.org має повний доступ до SSH, отже, ви можете встановити драйвери, бібліотеки і TensorFlow, але вам не доведеться цього робити.

Чи VPS.org встановлює CUDA для TensorFlow?

+

Ні. Сервер не постачається з попередньо встановленим драйвером CUDA або NVIDIA, тому сервери GPU ще не можуть замовляти. Ви встановили версії TensorFlow, потрібні вам самі.

Чи мої TensorFlow VPU PS зберігаються між сеансами?

+

Так. Сервери VPS.org є постійними віртуальними комп' ютерами, а не ефемеральними екземплярами: моделями TensorFlow, налаштуваннями і даними зберігаються на сховищі SSD сервера, аж доки ви їх не вилучите.

Де мені зберігати дані для мого TensorFlow робочого навантаження?

+

Під час запуску TensorFlow продовжують працювати над SSD сервера, а також копіюють завершені артефакти (ваги, покоління, вбудовування) для зберігання поза межами VPS.org; знімки і резервні копії зберігаються на одному з скупчень сховища.

Чи можу я згодом змінити масштаб на TensorFlow ГПС?

+

Ви можете оновити будь- який сервер VPS.org до більшого плану на панелі керування; зміна розміру перезапускає програму, а встановлення TensorFlow переведе програму на сервер. Сервери GPU ще не доступні.

Подкрепление свободны для моего визита GPU?

+

Так. Резервні копії - це оплачуваний add- on (щоденно +30% ціни плану, зберігаються 7 днів; тижневий +20%, збережений 28 днів), а знімки є безкоштовними, які корисні до тривалих днів запуску TensorFlow. Обидва ці записи зберігаються на тому самому скупченні, що і сервер.

Можна мені повернути кошти?

+

Підтримка контактів протягом 30 днів після вашої першої покупки для отримання запиту на повторне фінансування. Сервери GPU ще не продано, отже не буде включено замовлення GPU.

Хочете запустити TensorFlow на сервері GPU?

Обмежені можливості процесора, розкажіть нам про ваші робочі місця, і ми дамо відповідь доступністю та ціноутворенням.