مدلهای PyTorch را روی یک NVIDIA Tesla P40 (24 GB VRAM، معماری Pascal) با دسترسی کامل root آموزش دهید و اجرا کنید. سرورهای GPU هنوز قابل سفارش نیستند؛ برای اطلاع از زمان سفارش آنها با ما تماس بگیرید.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# مثال دستور نصب
یک سرور GPU آموزش PyTorch و استنتاج را بر روی GPU اجرا میکند، که برای اکثر مدلها بسیار سریعتر از CPU است.
You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).
اتاق برای مدلهای کوچک و متوسط، تنظیم دقیق LoRA و اندازههای متوسط بسته.
اجرای دفترچهٔ ژوپیتر در سرور برای کار تعاملی در GPU.
محیط را دقیقاً همانطور که پروژه نیاز دارد پیکربندی کنید.
PyTorch میتواند از یک GPU NVIDIA برای سرعت بخشیدن به کار خود استفاده کند. VPS.org سرورهای GPU هنوز برای سفارش در دسترس نیستند؛ برای شنیدن زمان آنها با ما تماس بگیرید. PyTorch یک بار کار آموزشی / تنظیم دقیق است. برنامه برای کارهای طولانی مدت: به طور منظم عکس VPS خود را بگیرید و یک کپی از وزنهای آموزشی را خارج از VPS.org نگه دارید.
سرورهای GPU هنوز برای سفارش در دسترس نیستند. امروزه میتوانید PyTorch را در یک برنامه CPU معمولی اجرا کنید، جایی که بسیار کندتر از GPU کار میکند: SSH در و pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 را اجرا کنید.
تنظیم دقیق کامل یک 7B LLM تقریباً به ۲۴ تا ۴۸ گیگابایت نیاز دارد؛ LoRA / QLoRA در ۸ تا ۱۶ گیگابایت قرار میگیرد.
قیمتگذاری GPU زمانی منتشر خواهد شد که کارگزارهای GPU قابل سفارش باشند. اگر میخواهید هنگامی که این اتفاق میافتد بدانید با ما تماس بگیرید.
بله هر سرور VPS.org با دسترسی کامل به ریشه میاد پس میتونی ابزارهای دیگه رو همزمان با PyTorch در رم و حافظه سرور اجرا کنی
هر سرور VPS.org با دسترسی کامل root SSH همراه است، بنابراین میتوانید درایورها، کتابخانهها و PyTorch را هر طور که نیاز دارید نصب کنید.
نه. هیچ سرور با یک زمان اجرا CUDA یا راننده NVIDIA پیشفرض نمیآید، و سرورهای GPU هنوز برای سفارش در دسترس نیستند. نسخههایی که PyTorch نیاز دارد را خودتان نصب میکنید.
بله. سرورهای VPS.org ماشینهای مجازی پایدار هستند، نه نمونههای کوتاه مدت: مدلهای PyTorch، تنظیمات و دادهها در حافظه SSD سرور باقی میمانند تا زمانی که آنها را حذف کنید.
دادههای کار را در SSD سرور برای دسترسی سریع در طول اجرای PyTorch نگه دارید و اشیاء تمام شده (وزن، نسل، embeddings) را به ذخیره خارج از VPS.org کپی کنید؛ عکسهای لحظه ای و پشتیبانها در همان خوشه ذخیره باقی میمانند.
میتوانید هر کارگزار VPS.org را از پنل کنترل به یک طرح بزرگتر ارتقا دهید؛ تغییر اندازه آن را دوباره شروع میکند و نصب PyTorch شما به آن منتقل میشود. کارگزارهای GPU هنوز در دسترس نیستند.
بله. پشتیبانگیری یک افزونهٔ پرداختی است (روزانه +۳۰٪ از قیمت برنامه، ۷ روز نگه داشته میشود؛ هفته ای +۲۰٪، ۲۸ روز نگه داشته میشود) و عکسهای لحظه ای رایگان هستند، که قبل از اجرای طولانی PyTorch مفید است. هر دو در همان خوشه ذخیرهسازی مانند سرور باقی میمانند.
در طول ۳۰ روز از اولین خریدتان با پشتیبانی تماس بگیرید تا درخواست بازپرداخت کنید. سرورهای GPU هنوز فروخته نشدهاند، بنابراین هیچ سفارش GPU درگیر نیست.
ظرفیت GPU محدود است. درباره بار کاری خود به ما بگویید و ما با موجودی و قیمت پاسخ خواهیم داد.