បណ្តុះបណ្តាល និងរត់ម៉ូដែល PyTorch នៅលើ NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) ជាមួយការចូលដំណើរការ root ពេញលេញ ។ ម៉ាស៊ីនបម្រើ GPU មិនអាចបញ្ជាបាននៅឡើយទេ ទាក់ទងយើងដើម្បីត្រូវបានជូនដំណឹងនៅពេលដែលពួកគេមាន ។
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# ពាក្យបញ្ជាដំឡើងឧទាហរណ៍
PyTorch គឺជាគ្រោងការណ៍រៀនជ្រៅដែលបានប្រើយ៉ាងទូលំទូលាយ ។ ម៉ាស៊ីនបម្រើ GPU រត់ការបណ្តុះបណ្តាល PyTorch និងការសន្និដ្ឋានលើ GPU ដែលលឿនជាងស៊ីភីយូសម្រាប់ម៉ូដែលភាគច្រើន ។
You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).
បន្ទប់សម្រាប់ម៉ូដែលតូចនិងមធ្យមទំហំ, LoRA កែតម្រូវនិងទំហំបាច់មធ្យម។
រត់សៀវភៅចំណាំ Jupyter នៅលើម៉ាស៊ីនបម្រើសម្រាប់ការងារអន្តរកម្មនៅលើ GPU ។
កំណត់រចនាសម្ព័ន្ធបរិស្ថានដូចដែលគម្រោងរបស់អ្នកត្រូវការ ។
PyTorch អាចប្រើ NVIDIA GPU ដើម្បីបង្កើនល្បឿនការងាររបស់ខ្លួន។ ម៉ាស៊ីនបម្រើ VPS.org GPU មិន អាច បញ្ជា ទិញ នៅឡើយទេ; ទាក់ទងមកយើងដើម្បីឮនៅពេលពួកគេ។ PyTorch គឺជាការបណ្តុះបណ្តាល / ផ្ទុកការងារកែលម្អ។ ផែនការសម្រាប់ការងាររត់យូរ: snapshot VPS របស់អ្នកជាទៀងទាត់និងរក្សាច្បាប់ចម្លងនៃទំងន់ដែលបានបណ្តុះបណ្តាលនៅខាងក្រៅ VPS.org ។
ម៉ាស៊ីនបម្រើ GPU មិន អាច បញ្ជា ទិញ បាន នៅ ឡើយ ទេ ។ ថ្ងៃនេះ អ្នក អាច រត់ PyTorch លើ ផែនការ CPU ធម្មតា កន្លែង ដែល វា ធ្វើការ យឺត ជាង លើ GPU ៖ SSH ក្នុង និង រត់ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 ។
ការបណ្តុះបណ្តាល VRAM ត្រូវបានគ្រប់គ្រងដោយស្ថានភាពអុបទិកបន្ថែមទៀតការធ្វើឱ្យសកម្ម។ ការកែតម្រូវលម្អពេញលេញនៃ 7B LLM ត្រូវការប្រហែល 24 ទៅ 48 GB; LoRA / QLoRA សមនឹង 8 ទៅ 16 GB ។
ការកំណត់តម្លៃ GPU នឹងត្រូវបានចេញផ្សាយនៅពេលដែលម៉ាស៊ីនបម្រើ GPU អាចត្រូវបានបញ្ជាទិញ ។ ទាក់ទងយើងប្រសិនបើអ្នកចង់ឮពេលដែលវាកើតឡើង ។
បាទ / ចាស ។ ម៉ាស៊ីនបម្រើ VPS.org ទាំងអស់មកជាមួយការចូលដំណើរការ root ពេញលេញដូច្នេះអ្នកអាចរត់ឧបករណ៍ផ្សេងទៀតនៅក្បែរ PyTorch នៅក្នុង RAM និងកន្លែងផ្ទុករបស់ម៉ាស៊ីនបម្រើ។
ម៉ាស៊ីនបម្រើ VPS.org ទាំងអស់មកជាមួយការចូលដំណើរការ SSH root ពេញលេញ ដូច្នេះអ្នកអាចដំឡើងកម្មវិធីបញ្ជា បណ្ណាល័យ និង PyTorch ទោះបីជាអ្នកត្រូវការ ។
ទេ. ម៉ាស៊ីនបម្រើគ្មានមកជាមួយ CUDA រត់ពេលឬកម្មវិធីបញ្ជា NVIDIA បានដំឡើងជាមុននិងម៉ាស៊ីនបម្រើ GPU មិនអាចរកបានដើម្បីបញ្ជានៅឡើយទេ. អ្នកដំឡើងកំណែ PyTorch ត្រូវការខ្លួនឯង.
បាទ/ ចាស ។ ម៉ាស៊ីនបម្រើ VPS.org គឺជាម៉ាស៊ីននិម្មិតដែលមានភាពរឹងមាំមិនមែនជាឧទាហរណ៍ដែលមានរយៈពេលខ្លីទេ ៖ ម៉ូដែល PyTorch ការកំណត់រចនាសម្ព័ន្ធ និងទិន្នន័យនៅលើការផ្ទុក SSD របស់ម៉ាស៊ីនបម្រើរហូតដល់អ្នកលុបពួកវា ។
រក្សាទុកទិន្នន័យការងារនៅលើ SSD របស់ម៉ាស៊ីនបម្រើសម្រាប់ការចូលដំណើរការលឿនក្នុងអំឡុងពេលរត់ PyTorch និងចម្លង artefacts បញ្ចប់ (ទម្ងន់, ជំនាន់, បង្កប់) ទៅការផ្ទុកខាងក្រៅ VPS.org; snapshots និងបម្រុងទុកនៅសល់នៅលើ cluster ផ្ទុកដូចគ្នា។
អ្នកអាចធ្វើឲ្យម៉ាស៊ីនបម្រើ VPS.org ណាមួយប្រសើរឡើងទៅផែនការធំជាងពីបន្ទះបញ្ជា ការប្ដូរទំហំចាប់ផ្តើមវាឡើងវិញ ហើយការដំឡើង PyTorch របស់អ្នកដឹកលើ ។ ម៉ាស៊ីនបម្រើ GPU មិនទាន់មាននៅឡើយទេ ។
បាទ. ការបម្រុងទុកគឺជាការបន្ថែមដែលបានបង់ប្រាក់ (ប្រចាំថ្ងៃ +30% នៃតម្លៃផែនការ, រក្សាទុក7ថ្ងៃ; រៀងរាល់សប្តាហ៍ +20%, រក្សាទុក 28 ថ្ងៃ) និង snapshots គឺឥតគិតថ្លៃ, ដែលមានប្រយោជន៍មុនពេល PyTorch យូររត់. ទាំងពីរនៅសល់នៅលើ cluster ផ្ទុកដូចគ្នាដូចជាម៉ាស៊ីនបម្រើ.
ទាក់ទងការគាំទ្រក្នុងរយៈពេល 30 ថ្ងៃនៃការទិញដំបូងរបស់អ្នកដើម្បីស្នើសុំការសងប្រាក់។ ម៉ាស៊ីនបម្រើ GPU មិនត្រូវបានលក់នៅឡើយទេដូច្នេះគ្មានការបញ្ជាទិញ GPU ពាក់ព័ន្ធ។
សមត្ថភាព GPU គឺ មាន កម្រិត. ប្រាប់ យើង អំពី ចំនួន ការងារ របស់ អ្នក ហើយ យើង នឹង ឆ្លើយ តប ជាមួយ ភាព អាច រក បាន និង តម្លៃ.