Coming soon: NVIDIA Tesla P40, 24 GB VRAM

PyTorch GPU VPS

مدل‌های PyTorch را روی یک NVIDIA Tesla P40 (24 GB VRAM، معماری Pascal) با دسترسی کامل root آموزش دهید و اجرا کنید. سرورهای GPU هنوز قابل سفارش نیستند؛ برای اطلاع از زمان سفارش آن‌ها با ما تماس بگیرید.

$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# مثال دستور نصب

PyTorch در یک VPS GPU چیست؟

یک سرور GPU آموزش PyTorch و استنتاج را بر روی GPU اجرا می‌کند، که برای اکثر مدل‌ها بسیار سریعتر از CPU است.

PyTorch روی یک کارگزار GPU VPS.org

نصب پشته CUDA شما

You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).

۲۴ گیگابایت VRAM

اتاق برای مدل‌های کوچک و متوسط، تنظیم دقیق LoRA و اندازه‌های متوسط بسته.

مشتری

اجرای دفترچهٔ ژوپیتر در سرور برای کار تعاملی در GPU.

دسترسی کامل ریشه

محیط را دقیقاً همان‌طور که پروژه نیاز دارد پیکربندی کنید.

PyTorch موردهای کاربرد محبوب

آموزش شبکه عصبی
مدل‌های دید کامپیوتری
مدلهای & تبدیل‌کننده NLP‌
پژوهش‌های ژنتیک
تنظیم دقیق مدل
استنتاج تولید

مشخصات GPU برنامه‌ریزی شده

GPUNVIDIA Tesla P40
حافظۀ تصویری24 GB GDDR5
رنگهای CUDA3,840
FP3212 TFLOPS
INT847 TOPS
حافظه سیاه و سفید346 GB/s
معماریPascal (GP102)
گذرگذرگاه PCIe

پرسشهای متداول

PyTorch در یک GPU VPS چیست؟

+

PyTorch می‌تواند از یک GPU NVIDIA برای سرعت بخشیدن به کار خود استفاده کند. VPS.org سرورهای GPU هنوز برای سفارش در دسترس نیستند؛ برای شنیدن زمان آن‌ها با ما تماس بگیرید. PyTorch یک بار کار آموزشی / تنظیم دقیق است. برنامه برای کارهای طولانی مدت: به طور منظم عکس VPS خود را بگیرید و یک کپی از وزن‌های آموزشی را خارج از VPS.org نگه دارید.

چگونه می‌توانم PyTorch را روی یک GPU VPS تنظیم کنم؟

+

سرورهای GPU هنوز برای سفارش در دسترس نیستند. امروزه می‌توانید PyTorch را در یک برنامه CPU معمولی اجرا کنید، جایی که بسیار کندتر از GPU کار می‌کند: SSH در و pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 را اجرا کنید.

برای PyTorch چقدر VRAM لازم دارم؟

+

تنظیم دقیق کامل یک 7B LLM تقریباً به ۲۴ تا ۴۸ گیگابایت نیاز دارد؛ LoRA / QLoRA در ۸ تا ۱۶ گیگابایت قرار می‌گیرد.

چقدر ميشه يه سرور GPU براي PyTorch؟

+

قیمت‌گذاری GPU زمانی منتشر خواهد شد که کارگزارهای GPU قابل سفارش باشند. اگر می‌خواهید هنگامی که این اتفاق می‌افتد بدانید با ما تماس بگیرید.

میتونم ابزارهای دیگه رو همزمان با PyTorch اجرا کنم؟

+

بله هر سرور VPS.org با دسترسی کامل به ریشه میاد پس میتونی ابزارهای دیگه رو همزمان با PyTorch در رم و حافظه سرور اجرا کنی

من کاملاً روی PyTorch GPU VPS ریشه میگیرم؟

+

هر سرور VPS.org با دسترسی کامل root SSH همراه است، بنابراین می‌توانید درایورها، کتابخانه‌ها و PyTorch را هر طور که نیاز دارید نصب کنید.

آیا VPS.org CUDA را برای PyTorch پیش‌نصب می‌کند؟

+

نه. هیچ سرور با یک زمان اجرا CUDA یا راننده NVIDIA پیش‌فرض نمی‌آید، و سرورهای GPU هنوز برای سفارش در دسترس نیستند. نسخه‌هایی که PyTorch نیاز دارد را خودتان نصب می‌کنید.

آیا سرور مجازی GPU PyTorch من بین نشست‌ها باقی می‌ماند؟

+

بله. سرورهای VPS.org ماشین‌های مجازی پایدار هستند، نه نمونه‌های کوتاه مدت: مدل‌های PyTorch، تنظیمات و داده‌ها در حافظه SSD سرور باقی می‌مانند تا زمانی که آن‌ها را حذف کنید.

کجا بايد داده ها رو براي بار کار PyTorchم ذخيره کنم؟

+

داده‌های کار را در SSD سرور برای دسترسی سریع در طول اجرای PyTorch نگه دارید و اشیاء تمام شده (وزن، نسل، embeddings) را به ذخیره خارج از VPS.org کپی کنید؛ عکس‌های لحظه ای و پشتیبان‌ها در همان خوشه ذخیره باقی می‌مانند.

میتونم بعدا PyTorch GPU VPS رو مقیاس بگیرم؟

+

می‌توانید هر کارگزار VPS.org را از پنل کنترل به یک طرح بزرگتر ارتقا دهید؛ تغییر اندازه آن را دوباره شروع می‌کند و نصب PyTorch شما به آن منتقل می‌شود. کارگزارهای GPU هنوز در دسترس نیستند.

آیا پشتیبان‌ها برای GPU VPS من در دسترس هستند؟

+

بله. پشتیبان‌گیری یک افزونهٔ پرداختی است (روزانه +۳۰٪ از قیمت برنامه، ۷ روز نگه داشته می‌شود؛ هفته ای +۲۰٪، ۲۸ روز نگه داشته می‌شود) و عکس‌های لحظه ای رایگان هستند، که قبل از اجرای طولانی PyTorch مفید است. هر دو در همان خوشه ذخیره‌سازی مانند سرور باقی می‌مانند.

ميشه پولم رو پس بگيرم؟

+

در طول ۳۰ روز از اولین خریدتان با پشتیبانی تماس بگیرید تا درخواست بازپرداخت کنید. سرورهای GPU هنوز فروخته نشده‌اند، بنابراین هیچ سفارش GPU درگیر نیست.

می‌خواهید PyTorch را در یک کارساز GPU اجرا کنید؟

ظرفیت GPU محدود است. درباره بار کاری خود به ما بگویید و ما با موجودی و قیمت پاسخ خواهیم داد.