ដំណើរការ TensorFlow និង Keras ការបណ្តុះបណ្តាលនិងការសន្និដ្ឋាននៅលើ NVIDIA Tesla P40 (24 GB VRAM, ស្ថាបត្យកម្ម Pascal) ។ ម៉ាស៊ីនបម្រើ GPU មិនត្រូវបានបញ្ជាទិញនៅឡើយទេ សូមទាក់ទងមកយើងដើម្បីទទួលបានការជូនដំណឹងនៅពេលពួកគេ។
$ pip install tensorflow[and-cuda]
# ពាក្យបញ្ជាដំឡើងឧទាហរណ៍
TensorFlow គឺជាគ្រោងការណ៍រៀនម៉ាស៊ីនប្រភពបើកចំហរបស់ Google ។ នៅលើម៉ាស៊ីនបម្រើ GPU TensorFlow ដំណើរការប្រតិបត្តិការរបស់វានៅលើ GPU តាមរយៈ CUDA ។
TensorFlow ប្រើ GPU តាមរយៈ CUDA នៅពេលដែលអ្នកដំឡើងកម្មវិធីបញ្ជាដែលផ្គូផ្គង និងកំណែ CUDA ។
ស្ថាបនាម៉ូដែលជាមួយ Keras API នៅលើកំពូលនៃផ្នែកខាងក្រោយ GPU ។
ត្រួតពិនិត្យការហ្វឹកហាត់ជាមួយ TensorBoard នៅលើម៉ាស៊ីនបម្រើរបស់អ្នកផ្ទាល់ ។
ផ្ដល់ម៉ូដែលដែលបានហ្វឹកហាត់ជាមួយ TensorFlow Serving ។
TensorFlow អាចប្រើ NVIDIA GPU ដើម្បីបង្កើនល្បឿនការងាររបស់ខ្លួន។ ម៉ាស៊ីនបម្រើ VPS.org GPU មិន អាច បញ្ជា ទិញ នៅឡើយទេ; ទាក់ទងមកយើងដើម្បីឮនៅពេលពួកគេ។ TensorFlow គឺជាការបណ្តុះបណ្តាល / ផ្ទុកការងារកែលម្អ។ ផែនការសម្រាប់ការងាររត់យូរ: snapshot VPS របស់អ្នកជាទៀងទាត់និងរក្សាច្បាប់ចម្លងនៃទំងន់ដែលបានបណ្តុះបណ្តាលនៅខាងក្រៅ VPS.org ។
ម៉ាស៊ីនបម្រើ GPU មិន អាច បញ្ជា ទិញ បាន នៅ ឡើយ ទេ ។ ថ្ងៃនេះ អ្នក អាច រត់ TensorFlow លើ ផែនការ CPU ធម្មតា កន្លែង ដែល វា ធ្វើការ យឺត ជាង លើ GPU ៖ SSH ក្នុង និង រត់ pip install tensorflow[and-cuda] ។
ការបណ្តុះបណ្តាល VRAM ត្រូវបានគ្រប់គ្រងដោយស្ថានភាពអុបទិកបន្ថែមទៀតការធ្វើឱ្យសកម្ម។ ការកែតម្រូវលម្អពេញលេញនៃ 7B LLM ត្រូវការប្រហែល 24 ទៅ 48 GB; LoRA / QLoRA សមនឹង 8 ទៅ 16 GB ។
ការកំណត់តម្លៃ GPU នឹងត្រូវបានចេញផ្សាយនៅពេលដែលម៉ាស៊ីនបម្រើ GPU អាចត្រូវបានបញ្ជាទិញ ។ ទាក់ទងយើងប្រសិនបើអ្នកចង់ឮពេលដែលវាកើតឡើង ។
បាទ / ចាស ។ ម៉ាស៊ីនបម្រើ VPS.org ទាំងអស់មកជាមួយការចូលដំណើរការ root ពេញលេញដូច្នេះអ្នកអាចរត់ឧបករណ៍ផ្សេងទៀតនៅក្បែរ TensorFlow នៅក្នុង RAM និងកន្លែងផ្ទុករបស់ម៉ាស៊ីនបម្រើ។
ម៉ាស៊ីនបម្រើ VPS.org ទាំងអស់មកជាមួយការចូលដំណើរការ SSH root ពេញលេញ ដូច្នេះអ្នកអាចដំឡើងកម្មវិធីបញ្ជា បណ្ណាល័យ និង TensorFlow ទោះបីជាអ្នកត្រូវការ ។
ទេ. ម៉ាស៊ីនបម្រើគ្មានមកជាមួយ CUDA រត់ពេលឬកម្មវិធីបញ្ជា NVIDIA បានដំឡើងជាមុននិងម៉ាស៊ីនបម្រើ GPU មិនអាចរកបានដើម្បីបញ្ជានៅឡើយទេ. អ្នកដំឡើងកំណែ TensorFlow ត្រូវការខ្លួនឯង.
បាទ/ ចាស ។ ម៉ាស៊ីនបម្រើ VPS.org គឺជាម៉ាស៊ីននិម្មិតដែលមានភាពរឹងមាំមិនមែនជាឧទាហរណ៍ដែលមានរយៈពេលខ្លីទេ ៖ ម៉ូដែល TensorFlow ការកំណត់រចនាសម្ព័ន្ធ និងទិន្នន័យនៅលើការផ្ទុក SSD របស់ម៉ាស៊ីនបម្រើរហូតដល់អ្នកលុបពួកវា ។
រក្សាទុកទិន្នន័យការងារនៅលើ SSD របស់ម៉ាស៊ីនបម្រើសម្រាប់ការចូលដំណើរការលឿនក្នុងអំឡុងពេលរត់ TensorFlow និងចម្លង artefacts បញ្ចប់ (ទម្ងន់, ជំនាន់, បង្កប់) ទៅការផ្ទុកខាងក្រៅ VPS.org; snapshots និងបម្រុងទុកនៅសល់នៅលើ cluster ផ្ទុកដូចគ្នា។
អ្នកអាចធ្វើឲ្យម៉ាស៊ីនបម្រើ VPS.org ណាមួយប្រសើរឡើងទៅផែនការធំជាងពីបន្ទះបញ្ជា ការប្ដូរទំហំចាប់ផ្តើមវាឡើងវិញ ហើយការដំឡើង TensorFlow របស់អ្នកដឹកលើ ។ ម៉ាស៊ីនបម្រើ GPU មិនទាន់មាននៅឡើយទេ ។
បាទ. ការបម្រុងទុកគឺជាការបន្ថែមដែលបានបង់ប្រាក់ (ប្រចាំថ្ងៃ +30% នៃតម្លៃផែនការ, រក្សាទុក7ថ្ងៃ; រៀងរាល់សប្តាហ៍ +20%, រក្សាទុក 28 ថ្ងៃ) និង snapshots គឺឥតគិតថ្លៃ, ដែលមានប្រយោជន៍មុនពេល TensorFlow យូររត់. ទាំងពីរនៅសល់នៅលើ cluster ផ្ទុកដូចគ្នាដូចជាម៉ាស៊ីនបម្រើ.
ទាក់ទងការគាំទ្រក្នុងរយៈពេល 30 ថ្ងៃនៃការទិញដំបូងរបស់អ្នកដើម្បីស្នើសុំការសងប្រាក់។ ម៉ាស៊ីនបម្រើ GPU មិនត្រូវបានលក់នៅឡើយទេដូច្នេះគ្មានការបញ្ជាទិញ GPU ពាក់ព័ន្ធ។
សមត្ថភាព GPU គឺ មាន កម្រិត. ប្រាប់ យើង អំពី ចំនួន ការងារ របស់ អ្នក ហើយ យើង នឹង ឆ្លើយ តប ជាមួយ ភាព អាច រក បាន និង តម្លៃ.