NVIDIA Tesla P40 (24 ГБ VRAM, Pascal архитектурасы) компьютерінде PyTorch модельдерін үйретіп, root құқығымен орындау. Графикалық процессор серверлері әлі тапсырыс берілмеген, олар тапсырыс берілсе хабарласыңыз.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Орнату командасының мысалы
PyTorch - кеңінен қолданылатын терең оқыту негізгі құрылымы. Графикалық процессор сервері PyTorch- ты оқытып, нәтижесін графикалық процессорда орындайды, бұл көбінесе процессордан жылдам.
You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).
Ұзындығы 100 км-ге жуық, суы тұщы, суы мол, арнасы тар.
Run Jupyter notebooks on the server for interactive work on the GPU.
Жобаңызға сәйкес ортаны баптау.
PyTorch жұмысын жеделдету үшін NVIDIA графикалық процессорды пайдалана алады. VPS.org графикалық процессор серверлері әлі тапсырыс беруге дайын емес; олар келсе хабарласыңыз. PyTorch - бұл жаттығулар мен баптау жұмысы. Ұзақ уақытқа созылған тапсырмаларды жоспарлау: VPS- тің суреттерін үнемі түсіріңіз және жаттығулар салмағының көшірмесін VPS.org- тан тыс жерде сақтаңыз.
Графикалық процессор серверлері әлі тапсырыс берілмеді. Бүгінде PyTorch- ті стандартты процессор жоспарында орындауға болады, ол графиктік процессормен салыстырғанда баяу жұмыс істейді: SSH арқылы кіріңіз де pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124- ті орындаңыз.
Тренингтік VRAM- ның басымдылығы оптимизирлеу күйі мен белсендірулер. 7B LLM- нің толық реттелуі үшін шамамен 24- 48 ГБ керек; LoRA / QLoRA үшін 8- 16 ГБ.
Графикалық процессор бағасы Графикалық процессор серверлері тапсырыс берілгенде жарияланады. Егер бұл туралы білгіңіз келсе, бізбен байланысыңыз.
Иә. Әрбір VPS.org сервері root рұқсатымен келеді, сондықтан сервердің RAM және сақтау орындарында PyTorch-пен бірге басқа құралдарды да орындай аласыз.
Әрбір VPS.org сервері root SSH қатынауымен келеді, сондықтан драйверлерді, жиын файлдарын және PyTorch- ті қажетіңізге қарай орната аласыз.
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions PyTorch needs yourself.
Иә. VPS.org серверлері тұрақты виртуалды машиналар, сәтсіз мысалдар емес: PyTorch үлгілері, конфигурациялары және деректері оларды өшіргенше сервердің SSD сақтауында қалады.
Сервердің SSD-де жұмыс деректерін сақтау, PyTorch орындау кезінде тез қол жеткізу үшін, және аяқталған артефактілерді (салмақтар, генерациялар, ендірулер) VPS.org-тен тыс сақтауға көшіру; слайдшоу мен сақтық көшірмелерді сол сақтау кластерінде сақтау.
Барлық VPS.org серверлерді басқару панелінен үлкен жоспарға жаңартуға болады; өлшемін өзгерту оны қайта іске қосады және PyTorch орнатуыңыз одан әрі жалғасады. Графикалық процессор серверлері әлі жоқ.
Иә. Сақтық көшірмелеу төлемді қосымша қызмет (күн сайын +30% жоспар бағасы, 7 күн сақталады; апта сайын +20%, 28 күн сақталады) және скриншоттар тегін, бұл PyTorch- ті ұзақ уақыт орындау алдында пайдалы. Екеуі де сервердің бір сақтау кластерінде қалады.
Бірінші сатып алуыңыздан кейін 30 күн ішінде қолдау қызметіне хабарласып, ақшаны қайтаруды сұраңыз. Графикалық процессор серверлері әлі сатылмайды, сондықтан Графикалық процессорды тапсырыс беру қажет емес.
Графикалық процессордың қуаты шектеулі. Жұмыс жүктемеңіз туралы айтып беріңіз, біз қолжетімділігі мен бағасын хабарлаймыз.