NVIDIA Tesla P40 (২৪ GB VRAM, Pascal architecture)-এ PyTorch মডেল প্রশিক্ষণ এবং চালানো, পূর্ণ root অ্যাক্সেস সহ। GPU সার্ভার এখনও অর্ডার করা যায় না; তারা যখন হবে তখন আমাদের সাথে যোগাযোগ করুন।
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# উদাহরণ ইনস্টল কমান্ড
পাইটোরচ একটি ব্যাপকভাবে ব্যবহৃত গভীর শিখর ফ্রেমওয়ার্ক। একটি GPU সার্ভার GPU-তে পাইটোরচ প্রশিক্ষণ এবং অনুমান চালায়, যা CPU-র চেয়ে অনেক দ্রুত।
আপনি NVIDIA ড্রাইভার, CUDA এবং আপনার প্রয়োজনীয় PyTorch বিল্ড ইনস্টল করুন। পরীক্ষা করুন আপনার PyTorch বিল্ড এখনও Pascal GPUs সমর্থন করে কিনা (সংখ্যান ক্ষমতা 6.1)।
ছোট ও মাঝারি আকারের মডেল, লোরা ফিন-টুইনিং এবং মাঝারি ব্যাচ আকার জন্য স্থান।
GPU-তে মিথস্ক্রিয় কাজের জন্য সার্ভারে Jupyter নোটবুক চালানো হোক।
আপনার প্রকল্পের প্রয়োজন অনুযায়ী পরিবেশ কনফিগার করুন।
PyTorch এর কাজ দ্রুত করতে এনভিডিএ GPU ব্যবহার করতে পারে। VPS.org GPU সার্ভার এখনও অর্ডার করার জন্য উপলব্ধ নয়; তারা যখন হবে তখন আমাদের সাথে যোগাযোগ করুন। PyTorch একটি প্রশিক্ষণ / ফিন-টুইন ওয়ার্কলোড। দীর্ঘমেয়াদী কাজের জন্য পরিকল্পনা করুন: আপনার VPS নিয়মিত স্ন্যাপশট এবং VPS.org এর বাইরে প্রশিক্ষিত ওজনের একটি কপি রাখুন।
GPU সার্ভার এখনও অর্ডার করার জন্য উপলব্ধ নয়। আজ আপনি PyTorch একটি নিয়মিত CPU পরিকল্পনার উপর চালাতে পারেন, যেখানে এটি একটি GPU এর চেয়ে অনেক ধীরভাবে কাজ করে: SSH এ প্রবেশ করুন এবং pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 চালান।
প্রশিক্ষণ VRAM অপটিমাইজারের অবস্থা এবং সক্রিয়করণ দ্বারা প্রভাবিত হয়। 7B LLM-এর পূর্ণ ফিন-টুইন করার জন্য প্রায় ২৪ থেকে ৪৮ GB প্রয়োজন; LoRA / QLoRA ৮ থেকে ১৬ GB-এ ফিট করে।
GPU সার্ভার অর্ডার করা সম্ভব হলে GPU মূল্য প্রকাশ করা হবে। যদি আপনি তা শুনতে চান, তাহলে আমাদের সাথে যোগাযোগ করুন।
হ্যাঁ, প্রত্যেকটি VPS.org সার্ভার সম্পূর্ণ root অ্যাক্সেস সহ আসে, তাই আপনি সার্ভারের RAM এবং স্টোরেজের মধ্যে PyTorch এর সাথে অন্যান্য টুল চালাতে পারেন।
প্রত্যেক VPS.org সার্ভার সম্পূর্ণ root SSH ব্যবহারের সাথে আসে, তাই আপনি ড্রাইভার, লাইব্রেরী এবং PyTorch ইনস্টল করতে পারেন যেভাবে আপনার প্রয়োজন।
না। কোন সার্ভারই CUDA র্যানটাইম অথবা NVIDIA ড্রাইভার পূর্বনির্ধারিতভাবে ইনস্টল করা থাকে না, এবং GPU সার্ভার এখনও অর্ডার করার জন্য উপলব্ধ নয়। আপনি PyTorch এর প্রয়োজনীয় সংস্করণ নিজেই ইনস্টল করুন।
হ্যাঁ। VPS.org সার্ভার স্থায়ী ভার্চুয়াল মেশিন, অস্থায়ী নয়: PyTorch মডেল, কনফিগারেশন এবং ডাটা সার্ভারের SSD স্টোরেজে থাকে যতক্ষণ না আপনি তা মুছে ফেলেন।
PyTorch চালানোর সময় দ্রুত অ্যাক্সেস করার জন্য সার্ভারের SSD-এ কাজের ডাটা রাখুন এবং শেষকৃত্য (ব্যাপার, প্রজন্ম, embeddings) VPS.org-এর বাইরে সংরক্ষণে অনুলিপি করুন; স্ন্যাপশট এবং ব্যাকআপ একই সংরক্ষণ ক্লাস্টারে থাকে।
আপনি নিয়ন্ত্রণ প্যানেল থেকে যেকোন VPS.org সার্ভারকে বড় পরিকল্পনায় উন্নীত করতে পারেন; মাপ পরিবর্তনের ফলে এটি পুনরায় আরম্ভ হবে এবং আপনার PyTorch ইনস্টলেশনের কাজ শেষ হবে। GPU সার্ভার এখনো উপলব্ধ নয়।
হ্যাঁ। ব্যাকআপ একটি পরিশোধিত অ্যাড-অন (প্রতিদিন +30% পরিকল্পনা মূল্য, ৭ দিন ধরে রাখা; সপ্তাহে +20%, 28 দিন ধরে রাখা) এবং স্ন্যাপশট বিনামূল্যে, যা দীর্ঘ PyTorch চালানোর আগে ব্যবহারযোগ্য। উভয়ই সার্ভারের মতো একই স্টোরেজ ক্লাস্টারে থাকে।
আপনার প্রথম ক্রয়ের ৩০ দিনের মধ্যে ফিরে পেতে সহায়তা যোগাযোগ করুন। GPU সার্ভার এখনও বিক্রি করা হয়নি, তাই GPU অর্ডার অন্তর্ভুক্ত নেই।
GPU-র ক্ষমতা সীমিত। আপনার কাজের পরিমাণ সম্পর্কে আমাদের জানান এবং আমরা আপনার জন্য উপলব্ধতা এবং মূল্য নির্ধারণের জন্য উত্তর দেব।