NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) এ TensorFlow এবং Keras প্রশিক্ষণ এবং অনুমান চালানো হয়। GPU সার্ভার এখনও অর্ডার করা যায় না; তারা যখন হবে তখন আমাদের সাথে যোগাযোগ করুন।
$ pip install tensorflow[and-cuda]
# উদাহরণ ইনস্টল কমান্ড
TensorFlow Google এর উন্মুক্ত উৎস মেশিন শিখতে কাঠামো। একটি GPU সার্ভারের উপর, TensorFlow CUDA এর মাধ্যমে GPU এর উপর তার অপারেশন চালায়।
TensorFlow CUDA-র মাধ্যমে GPU ব্যবহার করে যখন আপনি একটি মিলযুক্ত ড্রাইভার এবং CUDA সংস্করণ ইনস্টল করেন।
GPU ব্যাকএন্ডের উপর Keras API এর সাথে মডেল নির্মাণ করুন।
আপনার নিজের সার্ভারে TensorBoard এর সাথে প্রশিক্ষণ পর্যবেক্ষণ করুন।
TensorFlow সার্ভিং এর সাথে প্রশিক্ষিত মডেল পরিবেশন করুন।
TensorFlow এর কাজ দ্রুত করতে এনভিডিএ GPU ব্যবহার করতে পারে। VPS.org GPU সার্ভার এখনও অর্ডার করার জন্য উপলব্ধ নয়; তারা যখন হবে তখন আমাদের সাথে যোগাযোগ করুন। TensorFlow একটি প্রশিক্ষণ / ফিন-টুইন ওয়ার্কলোড। দীর্ঘমেয়াদী কাজের জন্য পরিকল্পনা করুন: আপনার VPS নিয়মিত স্ন্যাপশট এবং VPS.org এর বাইরে প্রশিক্ষিত ওজনের একটি কপি রাখুন।
GPU সার্ভার এখনও অর্ডার করার জন্য উপলব্ধ নয়। আজ আপনি TensorFlow একটি নিয়মিত CPU পরিকল্পনার উপর চালাতে পারেন, যেখানে এটি একটি GPU এর চেয়ে অনেক ধীরভাবে কাজ করে: SSH এ প্রবেশ করুন এবং pip install tensorflow[and-cuda] চালান।
প্রশিক্ষণ VRAM অপটিমাইজারের অবস্থা এবং সক্রিয়করণ দ্বারা প্রভাবিত হয়। 7B LLM-এর পূর্ণ ফিন-টুইন করার জন্য প্রায় ২৪ থেকে ৪৮ GB প্রয়োজন; LoRA / QLoRA ৮ থেকে ১৬ GB-এ ফিট করে।
GPU সার্ভার অর্ডার করা সম্ভব হলে GPU মূল্য প্রকাশ করা হবে। যদি আপনি তা শুনতে চান, তাহলে আমাদের সাথে যোগাযোগ করুন।
হ্যাঁ, প্রত্যেকটি VPS.org সার্ভার সম্পূর্ণ root অ্যাক্সেস সহ আসে, তাই আপনি সার্ভারের RAM এবং স্টোরেজের মধ্যে TensorFlow এর সাথে অন্যান্য টুল চালাতে পারেন।
প্রত্যেক VPS.org সার্ভার সম্পূর্ণ root SSH ব্যবহারের সাথে আসে, তাই আপনি ড্রাইভার, লাইব্রেরী এবং TensorFlow ইনস্টল করতে পারেন যেভাবে আপনার প্রয়োজন।
না। কোন সার্ভারই CUDA র্যানটাইম অথবা NVIDIA ড্রাইভার পূর্বনির্ধারিতভাবে ইনস্টল করা থাকে না, এবং GPU সার্ভার এখনও অর্ডার করার জন্য উপলব্ধ নয়। আপনি TensorFlow এর প্রয়োজনীয় সংস্করণ নিজেই ইনস্টল করুন।
হ্যাঁ। VPS.org সার্ভার স্থায়ী ভার্চুয়াল মেশিন, অস্থায়ী নয়: TensorFlow মডেল, কনফিগারেশন এবং ডাটা সার্ভারের SSD স্টোরেজে থাকে যতক্ষণ না আপনি তা মুছে ফেলেন।
TensorFlow চালানোর সময় দ্রুত অ্যাক্সেস করার জন্য সার্ভারের SSD-এ কাজের ডাটা রাখুন এবং শেষকৃত্য (ব্যাপার, প্রজন্ম, embeddings) VPS.org-এর বাইরে সংরক্ষণে অনুলিপি করুন; স্ন্যাপশট এবং ব্যাকআপ একই সংরক্ষণ ক্লাস্টারে থাকে।
আপনি নিয়ন্ত্রণ প্যানেল থেকে যেকোন VPS.org সার্ভারকে বড় পরিকল্পনায় উন্নীত করতে পারেন; মাপ পরিবর্তনের ফলে এটি পুনরায় আরম্ভ হবে এবং আপনার TensorFlow ইনস্টলেশনের কাজ শেষ হবে। GPU সার্ভার এখনো উপলব্ধ নয়।
হ্যাঁ। ব্যাকআপ একটি পরিশোধিত অ্যাড-অন (প্রতিদিন +30% পরিকল্পনা মূল্য, ৭ দিন ধরে রাখা; সপ্তাহে +20%, 28 দিন ধরে রাখা) এবং স্ন্যাপশট বিনামূল্যে, যা দীর্ঘ TensorFlow চালানোর আগে ব্যবহারযোগ্য। উভয়ই সার্ভারের মতো একই স্টোরেজ ক্লাস্টারে থাকে।
আপনার প্রথম ক্রয়ের ৩০ দিনের মধ্যে ফিরে পেতে সহায়তা যোগাযোগ করুন। GPU সার্ভার এখনও বিক্রি করা হয়নি, তাই GPU অর্ডার অন্তর্ভুক্ত নেই।
GPU-র ক্ষমতা সীমিত। আপনার কাজের পরিমাণ সম্পর্কে আমাদের জানান এবং আমরা আপনার জন্য উপলব্ধতা এবং মূল্য নির্ধারণের জন্য উত্তর দেব।