Coming soon: NVIDIA Tesla P40, 24 GB VRAM

سرور مجازی GPU TensorFlow

اجرای آموزش و استنتاج TensorFlow و Keras بر روی NVIDIA Tesla P40 (24 GB VRAM، معماری Pascal). سرورهای GPU هنوز قابل سفارش نیستند؛ برای اطلاع از زمان سفارش آن‌ها با ما تماس بگیرید.

$ pip install tensorflow[and-cuda]
# مثال دستور نصب

TensorFlow در یک VPS GPU چیست؟

TensorFlow یک چارچوب یادگیری ماشینی متن‌باز گوگل است.در سرور GPU، TensorFlow عملیات خود را در GPU از طریق CUDA اجرا می‌کند.

TensorFlow روی یک کارگزار GPU VPS.org

شتاب‌دهندۀ GPU

TensorFlow از GPU از طریق CUDA استفاده می‌کند، پس از نصب یک راننده متناسب و نسخه CUDA.

سخت

مدل‌ها را با API Keras در بالای پشته GPU بسازید.

صفحه تنسورName

آموزش را با TensorBoard در سرور خود نظارت کنید.

TF سروی

مدل‌های آموزش دیده را با TensorFlow Serving ارائه دهید.

TensorFlow موردهای کاربرد محبوب

طبقه‌بندی تصویر
تشخیص شیء
پردازش زبان طبیعی
سیستم‌های پیشنهادی
پیش‌بینی سری زمانی
خط لوله تولید ML

مشخصات GPU برنامه‌ریزی شده

GPUNVIDIA Tesla P40
حافظۀ تصویری24 GB GDDR5
رنگهای CUDA3,840
FP3212 TFLOPS
INT847 TOPS
حافظه سیاه و سفید346 GB/s
معماریPascal (GP102)
گذرگذرگاه PCIe

پرسشهای متداول

TensorFlow در یک GPU VPS چیست؟

+

TensorFlow می‌تواند از یک GPU NVIDIA برای سرعت بخشیدن به کار خود استفاده کند. VPS.org سرورهای GPU هنوز برای سفارش در دسترس نیستند؛ برای شنیدن زمان آن‌ها با ما تماس بگیرید. TensorFlow یک بار کار آموزشی / تنظیم دقیق است. برنامه برای کارهای طولانی مدت: به طور منظم عکس VPS خود را بگیرید و یک کپی از وزن‌های آموزشی را خارج از VPS.org نگه دارید.

چگونه می‌توانم TensorFlow را روی یک GPU VPS تنظیم کنم؟

+

سرورهای GPU هنوز برای سفارش در دسترس نیستند. امروزه می‌توانید TensorFlow را در یک برنامه CPU معمولی اجرا کنید، جایی که بسیار کندتر از GPU کار می‌کند: SSH در و pip install tensorflow[and-cuda] را اجرا کنید.

برای TensorFlow چقدر VRAM لازم دارم؟

+

تنظیم دقیق کامل یک 7B LLM تقریباً به ۲۴ تا ۴۸ گیگابایت نیاز دارد؛ LoRA / QLoRA در ۸ تا ۱۶ گیگابایت قرار می‌گیرد.

چقدر ميشه يه سرور GPU براي TensorFlow؟

+

قیمت‌گذاری GPU زمانی منتشر خواهد شد که کارگزارهای GPU قابل سفارش باشند. اگر می‌خواهید هنگامی که این اتفاق می‌افتد بدانید با ما تماس بگیرید.

میتونم ابزارهای دیگه رو همزمان با TensorFlow اجرا کنم؟

+

بله هر سرور VPS.org با دسترسی کامل به ریشه میاد پس میتونی ابزارهای دیگه رو همزمان با TensorFlow در رم و حافظه سرور اجرا کنی

من کاملاً روی TensorFlow GPU VPS ریشه میگیرم؟

+

هر سرور VPS.org با دسترسی کامل root SSH همراه است، بنابراین می‌توانید درایورها، کتابخانه‌ها و TensorFlow را هر طور که نیاز دارید نصب کنید.

آیا VPS.org CUDA را برای TensorFlow پیش‌نصب می‌کند؟

+

نه. هیچ سرور با یک زمان اجرا CUDA یا راننده NVIDIA پیش‌فرض نمی‌آید، و سرورهای GPU هنوز برای سفارش در دسترس نیستند. نسخه‌هایی که TensorFlow نیاز دارد را خودتان نصب می‌کنید.

آیا سرور مجازی GPU TensorFlow من بین نشست‌ها باقی می‌ماند؟

+

بله. سرورهای VPS.org ماشین‌های مجازی پایدار هستند، نه نمونه‌های کوتاه مدت: مدل‌های TensorFlow، تنظیمات و داده‌ها در حافظه SSD سرور باقی می‌مانند تا زمانی که آن‌ها را حذف کنید.

کجا بايد داده ها رو براي بار کار TensorFlowم ذخيره کنم؟

+

داده‌های کار را در SSD سرور برای دسترسی سریع در طول اجرای TensorFlow نگه دارید و اشیاء تمام شده (وزن، نسل، embeddings) را به ذخیره خارج از VPS.org کپی کنید؛ عکس‌های لحظه ای و پشتیبان‌ها در همان خوشه ذخیره باقی می‌مانند.

میتونم بعدا TensorFlow GPU VPS رو مقیاس بگیرم؟

+

می‌توانید هر کارگزار VPS.org را از پنل کنترل به یک طرح بزرگتر ارتقا دهید؛ تغییر اندازه آن را دوباره شروع می‌کند و نصب TensorFlow شما به آن منتقل می‌شود. کارگزارهای GPU هنوز در دسترس نیستند.

آیا پشتیبان‌ها برای GPU VPS من در دسترس هستند؟

+

بله. پشتیبان‌گیری یک افزونهٔ پرداختی است (روزانه +۳۰٪ از قیمت برنامه، ۷ روز نگه داشته می‌شود؛ هفته ای +۲۰٪، ۲۸ روز نگه داشته می‌شود) و عکس‌های لحظه ای رایگان هستند، که قبل از اجرای طولانی TensorFlow مفید است. هر دو در همان خوشه ذخیره‌سازی مانند سرور باقی می‌مانند.

ميشه پولم رو پس بگيرم؟

+

در طول ۳۰ روز از اولین خریدتان با پشتیبانی تماس بگیرید تا درخواست بازپرداخت کنید. سرورهای GPU هنوز فروخته نشده‌اند، بنابراین هیچ سفارش GPU درگیر نیست.

می‌خواهید TensorFlow را در یک کارساز GPU اجرا کنید؟

ظرفیت GPU محدود است. درباره بار کاری خود به ما بگویید و ما با موجودی و قیمت پاسخ خواهیم داد.