Жақында: NVIDIA Tesla P40, 24 ГБ VRAM

AI/ML GPU-ны оқыту серверіName

NVIDIA Tesla P40 (24 ГБ VRAM, Pascal архитектурасы) моделін жетілдіріп, үйрету. LoRA жетілдіру және кіші модельдер үшін ең жақсы. ГП серверлері әлі тапсырыс берілмеді; олар тапсырыс берілсе, бізге хабарлаңыз.

$ pip install torch transformers datasets accelerate && python train.py
# Орнату командасының мысалы

GPU VPS-те AI Training деген не?

ДНҚ модельдерін оқыту үшін графикалық процессорлар параллель есептеу қажет. Графикалық процессор сервері сізге өзіңіздің оқу тапсырмалары үшін бір графикалық процессор береді.

AI Training VPS.org графикалық процессор серверінде

Барлық графикалық процессор

Бір Tesla P40, 24 ГБ VRAM, серверіңізге берілген, бірақ ортақтастырылмады.

Негізгі таңдау

PyTorch, TensorFlow, JAX немесе Pascal графикалық процессорларын қолдайтын кез келген құрылғы.

SSD сақтау

Деректер жиындарын, тексеру нүктелерін және модель файлдарын сервердің SSD сақтауында сақтау.

SSH қатынау

Тәрбие ортасын баптау үшін root- дың толық құқығы керек.

AI Training қолданатын танымал жағдайлар

Модельді жетілдіру
Оқытуды тасымалдау
Өзінің үлгісін үйрету
Гиперпараметрлерді түзету
Деректер жиынын алдын- ала өңдеу
LoRA адаптері

Жоспарланған графикалық процессордың спецификациясы

Графикалық процессорNVIDIA Tesla P40
ВРАМ24 GB GDDR5
CUDA түстері3,840
FP3212 TFLOPS
INT847 TOPS
Жадының түстер жиынтығы346 GB/s
АрхитектураPascal (GP102)
АуысуPCIe өткізу қабілеті

Жиі қойылатын сұрақтар

What is AI Training on a GPU VPS?

+

AI Training жұмысын жеделдету үшін NVIDIA графикалық процессорын пайдалана алады. VPS.org графикалық процессор серверлері әлі тапсырыс беруге дайын емес; олар келсе хабарласыңыз. AI Training - жалпы графикалық процессормен жеделдетілген жұмыс жүктемесі. Бағдарламаңыз CUDA қолдайтынын және драйверіңіздің / орындау ортасының нұсқасы AI Training үшін керек жүктемеге сәйкес келетінін тексеріңіз.

GPU VPS-те AI Training-ді қалай орнатуға болады?

+

Графикалық процессор серверлері әлі тапсырыс берілмеді. Бүгінде AI Training- ті стандартты процессор жоспарында орындауға болады, ол графиктік процессормен салыстырғанда баяу жұмыс істейді: SSH арқылы кіріңіз де pip install torch transformers datasets accelerate && python train.py- ті орындаңыз.

AI Training үшін қанша VRAM керек?

+

AI Training үшін VRAM қажеттілігі модель мен десте өлшеміне байланысты; қазіргі мәндер жоба құжаттамасына қараңыз.

AI Training үшін GPU сервері қаншаға тұрады?

+

Графикалық процессор бағасы Графикалық процессор серверлері тапсырыс берілгенде жарияланады. Егер бұл туралы білгіңіз келсе, бізбен байланысыңыз.

AI Training-мен қатар басқа құралдарды да орындай аламын ба?

+

Иә. Әрбір VPS.org сервері root рұқсатымен келеді, сондықтан сервердің RAM және сақтау орындарында AI Training-пен бірге басқа құралдарды да орындай аласыз.

AI Training GPU VPS- те толық root болуға бола ма?

+

Әрбір VPS.org сервері root SSH қатынауымен келеді, сондықтан драйверлерді, жиын файлдарын және AI Training- ті қажетіңізге қарай орната аласыз.

VPS.org CUDA-ны AI Training үшін алдын-ала орната ма?

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions AI Training needs yourself.

Менің AI Training GPU VPS сеанстар арасында сақталады ма?

+

Иә. VPS.org серверлері тұрақты виртуалды машиналар, сәтсіз мысалдар емес: AI Training үлгілері, конфигурациялары және деректері оларды өшіргенше сервердің SSD сақтауында қалады.

Менің AI Training жұмыс жүктемемнің деректері қайда сақталсын?

+

Сервердің SSD-де жұмыс деректерін сақтау, AI Training орындау кезінде тез қол жеткізу үшін, және аяқталған артефактілерді (салмақтар, генерациялар, ендірулер) VPS.org-тен тыс сақтауға көшіру; слайдшоу мен сақтық көшірмелерді сол сақтау кластерінде сақтау.

Мен AI Training GPU VPS-ін кейінірек кеңейте аламын ба?

+

Барлық VPS.org серверлерді басқару панелінен үлкен жоспарға жаңартуға болады; өлшемін өзгерту оны қайта іске қосады және AI Training орнатуыңыз одан әрі жалғасады. Графикалық процессор серверлері әлі жоқ.

Менің GPU VPS-ім үшін сақтық көшірме бар ма?

+

Иә. Сақтық көшірмелеу төлемді қосымша қызмет (күн сайын +30% жоспар бағасы, 7 күн сақталады; апта сайын +20%, 28 күн сақталады) және скриншоттар тегін, бұл AI Training- ті ұзақ уақыт орындау алдында пайдалы. Екеуі де сервердің бір сақтау кластерінде қалады.

Мен қайтарып ала аламын ба?

+

Бірінші сатып алуыңыздан кейін 30 күн ішінде қолдау қызметіне хабарласып, ақшаны қайтаруды сұраңыз. Графикалық процессор серверлері әлі сатылмайды, сондықтан Графикалық процессорды тапсырыс беру қажет емес.

GPU серверінде AI Training- ті орындағыңыз келе ме?

Графикалық процессордың қуаты шектеулі. Жұмыс жүктемеңіз туралы айтып беріңіз, біз қолжетімділігі мен бағасын хабарлаймыз.