NVIDIA Tesla P40 (24 ГБ VRAM, Pascal архитектурасы) компьютерінде TensorFlow және Keras-ты оқыту мен тұжырым жасауды орындау. Графикалық процессор серверлері әлі тапсырыс берілмеді; олар тапсырыс берілсе, бізге хабарлаңыз.
$ pip install tensorflow[and-cuda]
# Орнату командасының мысалы
TensorFlow - Google- дың ашық көзді машиналық оқыту құрылымы. ГП серверінде TensorFlow CUDA арқылы графикалық процессормен өз әрекеттерін орындайды.
ТенсорФлойд сәйкес драйвер мен CUDA нұсқасын орнатқаннан кейін CUDA арқылы графикалық процессорды пайдаланады.
Графикалық процессордың артында Keras API- мен модельдерді құру.
Өз серверіңізде TensorBoard-пен оқытуды бақылау.
Оның көмегімен тіктөртбұрыштың тік
TensorFlow жұмысын жеделдету үшін NVIDIA графикалық процессорды пайдалана алады. VPS.org графикалық процессор серверлері әлі тапсырыс беруге дайын емес; олар келсе хабарласыңыз. TensorFlow - бұл жаттығулар мен баптау жұмысы. Ұзақ уақытқа созылған тапсырмаларды жоспарлау: VPS- тің суреттерін үнемі түсіріңіз және жаттығулар салмағының көшірмесін VPS.org- тан тыс жерде сақтаңыз.
Графикалық процессор серверлері әлі тапсырыс берілмеді. Бүгінде TensorFlow- ті стандартты процессор жоспарында орындауға болады, ол графиктік процессормен салыстырғанда баяу жұмыс істейді: SSH арқылы кіріңіз де pip install tensorflow[and-cuda]- ті орындаңыз.
Тренингтік VRAM- ның басымдылығы оптимизирлеу күйі мен белсендірулер. 7B LLM- нің толық реттелуі үшін шамамен 24- 48 ГБ керек; LoRA / QLoRA үшін 8- 16 ГБ.
Графикалық процессор бағасы Графикалық процессор серверлері тапсырыс берілгенде жарияланады. Егер бұл туралы білгіңіз келсе, бізбен байланысыңыз.
Иә. Әрбір VPS.org сервері root рұқсатымен келеді, сондықтан сервердің RAM және сақтау орындарында TensorFlow-пен бірге басқа құралдарды да орындай аласыз.
Әрбір VPS.org сервері root SSH қатынауымен келеді, сондықтан драйверлерді, жиын файлдарын және TensorFlow- ті қажетіңізге қарай орната аласыз.
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions TensorFlow needs yourself.
Иә. VPS.org серверлері тұрақты виртуалды машиналар, сәтсіз мысалдар емес: TensorFlow үлгілері, конфигурациялары және деректері оларды өшіргенше сервердің SSD сақтауында қалады.
Сервердің SSD-де жұмыс деректерін сақтау, TensorFlow орындау кезінде тез қол жеткізу үшін, және аяқталған артефактілерді (салмақтар, генерациялар, ендірулер) VPS.org-тен тыс сақтауға көшіру; слайдшоу мен сақтық көшірмелерді сол сақтау кластерінде сақтау.
Барлық VPS.org серверлерді басқару панелінен үлкен жоспарға жаңартуға болады; өлшемін өзгерту оны қайта іске қосады және TensorFlow орнатуыңыз одан әрі жалғасады. Графикалық процессор серверлері әлі жоқ.
Иә. Сақтық көшірмелеу төлемді қосымша қызмет (күн сайын +30% жоспар бағасы, 7 күн сақталады; апта сайын +20%, 28 күн сақталады) және скриншоттар тегін, бұл TensorFlow- ті ұзақ уақыт орындау алдында пайдалы. Екеуі де сервердің бір сақтау кластерінде қалады.
Бірінші сатып алуыңыздан кейін 30 күн ішінде қолдау қызметіне хабарласып, ақшаны қайтаруды сұраңыз. Графикалық процессор серверлері әлі сатылмайды, сондықтан Графикалық процессорды тапсырыс беру қажет емес.
Графикалық процессордың қуаты шектеулі. Жұмыс жүктемеңіз туралы айтып беріңіз, біз қолжетімділігі мен бағасын хабарлаймыз.