NVIDIA Tesla P40 (24 GB VRAM ، Pascal architecture) پر PyTorch ماڈل کو تربيت اور چلائيں ، مکمل روٹ رسائي کے ساتھ GPU سرور ابھی تک سفارشي نہیں هے ، جب وہ هے تو ہمیں اطلاع کريں
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# مثالی انسٹال کمانڈ
PyTorch ایک وسیع طور پر استعمال کيا جا نے والا ديپ لينگ فر مائينگ هے GPU سر ور PyTorch تربيت اور GPU پر انفريشن چلاتا هے جو اکثر ماڈل کے ليے CPU سے زیادہ تیز هے هے
آپ NVIDIA ڈرائيور انسٹال کريں، CUDA اور PyTorch کو بنايں جو آپ کو ضرورت هے. جانچيں کہ آپ کا PyTorch بنا ئيں ابھی پاسکل GPUs کو مدد دے رہا هے (کمپيوٹ توانائي 6.1)
چھوٹے اور متوسط سائز کے ماڈلز کے لئے روم، LoRA fine-tuning اور متوسط بیچ سائز.
سرور پر Jupyter نوٹ بکس چلائیں GPU پر تعاملي کام کے ليے
ماحول کو ٹھیک طور پر کنفگڑیں جیسے آپ کے پروجیکٹ کی ضرورت ہے.
PyTorch اس کے کام کو تیز کرنے کے ليے NVIDIA GPU استعمال کر سکتا هے. VPS.org GPU سرور ابھی تک سفارش کے ليے دستياب نهيں هے ؛ جب وہ هے تو سننے کے ليے ہم سے رابطہ کريں. PyTorch تربيت / fine-tuning کار لوڈ هے. طويل مدتي کام کے ليے منصوبہ بندي کريں: منظم طور پر آپ کے VPS کا سناپ شاٹ اور VPS.org کے باہر تربيت شدہ وزن کی کاپي رکھيں.
GPU سرور ابھی تک سفارش کے ليے دستياب نهيں هے آج آپ PyTorch کو ري گيول سي پي يو پلان پر چلا سکتے هيں جہاں اس کا کام GPU سے سست ہوتا هے: SSH داخل کريں اور pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 چلائيں
تربیتی VRAM کو آپٹیمائزر اسٹیٹ اور فعالیشنز سے تسلط حاصل ہے. 7B LLM کے مکمل Fine-Tuning کو تقریباً 24 سے 48 GB کی ضرورت ہوتی ہے; LoRA / QLoRA 8 سے 16 GB میں فٹ ہوتا ہے.
GPU کی قیمتوں کو شائع کیا جائے گا جب GPU سروروں کو آرڈر کیا جاسکتا ہے. اگر آپ کو اس بات کو سننا چاہے تو ہم سے رابطہ کریں.
ہاں ہر VPS.org سرور مکمل روٹ رسائی کے ساتھ آتا ہے، تو آپ سرور کے RAM اور محفوظہ کے اندر PyTorch کے ساتھ دوسرے ٹولز چلا سکتے ہیں.
ہر VPS.org سرور مکمل روٹ SSH رسائی کے ساتھ آتا ہے، تو آپ ڈرائیورز، لائبریری اور PyTorch کو انسٹال کر سکتے ہیں جیسے آپ کو ضرورت ہے۔
نہیں کوئی سرور CUDA رن ٹائم یا NVIDIA ڈرائیور سے پہلے سے انسٹال کیے ہوئے نہیں آتا اور GPU سرور ابھی تک سفارش کے لیے دستیاب نہیں ہیں آپ خود انسٹال کریں PyTorch نسخے کی ضرورت ہے.
ہاں. VPS.org سرور ثابت ورچوئل مشینیں ہیں، نہ کہ عارضی مثالیں: PyTorch ماڈل، کنفگ اور ڈیٹا سرور کے SSD ذخیرے پر رہتے ہیں جب تک آپ انہیں حذف نہ کریں.
PyTorch کے دوران تیز رسائی کے لیے سرور کے SSD پر کام کرنے والے ڈیٹا کو محفوظ رکھیں، اور ختم ہونے والے آرٹیفیکٹس (وزن، نسل، embeddings) کو VPS.org کے باہر کی اسٽوریج میں کاپی کریں؛ سناپ شاٹ اور بک اپ ایک ہی اسٽوریج کلسٹر پر رہتے ہیں۔
آپ کنٹرول پینل سے کوئی VPS.org سرور کو ایک بڑے پلان میں اپگریڈ کرسکتے ہیں؛ اس کو دوبارہ سائز کرنے سے اس کا دوبارہ شروع ہونا اور آپ کی PyTorch انسٹالیشن کا منتقل ہونا. GPU سرور اب تک دستیاب نہیں ہیں.
ہاں. بک اپ ایک ادائیگی اضافی ہے (دن دن +30% پلان قیمت، 7 دن محفوظ؛ ہفتہ وار +20%, 28 دن محفوظ) اور سناپ شاٹ مفت ہیں، جو طویل PyTorch چلنے سے پہلے مفید ہے. دونوں سرور کے طور پر ایک ہی محفوظ کلسٹر پر رہتے ہیں.
واپسی کی درخواست کرنے کے لیے آپ کی پہلی خریدار کے 30 دن کے اندر سہولت سے رابطہ کریں.GPU سرور ابھی فروخت نہیں کیے گئے ہیں، اس لیے کوئی GPU آرڈر شامل نہیں ہے.
GPU کی صلاحیت محدود ہے ہمیں اپنے ورک لوڈ کے بارے میں بتائیں اور ہم دستیابی اور قیمت کے ساتھ جواب دیں گے.