قريبا: NVIDIA Tesla P40, 24 GB VRAM

خدمة بريدية افتراضية

تدريب وتشغيل نماذج PyTorch على NVIDIA Tesla P40 (24 GB VRAM، بنية باسكال)، مع الوصول الكامل إلى root. GPU الخوادم ليست متاحة للطلب بعد؛ اتصل بنا لإخطار عندما تكون متاحة.

$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# مثال على أمر التثبيت

ما هو PyTorch على خادم افتراضي لمعالجة الرسوميات؟

إن باي تورش هو إطار التعلم العميق الرائد الذي يستخدمه الباحثون والمهندسون في مختلف أنحاء العالم. وتقدم لك وحدة المعالجة المركزية الافتراضية أجهزة إنفيديا المخصصة لتدريب النماذج بشكل أسرع وتشغيل الاستدلال على نطاق واسع.

PyTorch على خادوم VPS.org GPU

تثبيت كومة CUDA الخاصة بك

تقوم بتركيب مشغل NVIDIA، CUDA وبناء PyTorch الذي تحتاجه. تحقق من أن بناء PyTorch لا يزال يدعم وحدات المعالجة المركزية الباسيل (قدرة الحساب 6.1).

24 جيغابايت

إمكانية النماذج الصغيرة والمتوسطة الحجم، والتعديل الدقيق لنظام LoRA، وأحجام الدفعات المعتدلة.

المشتري

تشغيل ملفات Jupyter Notebooks على الخادم للعمل التفاعلي على وحدة المعالجة المركزية.

الوصول الكامل إلى الجذر

حدد البيئة بالضبط كما يحتاج مشروعك.

حالات الاستخدام الشائعة {الاسم}

التدريب على الشبكات العصبية
نماذج الرؤية الحاسوبية
نماذج المعالجة اللغوية وتحويل البيانات
بحوث الذكاء الاصطناعي التوليدي
دال - تنقيح النموذج
استنتاج الإنتاج

مواصفات وحدة المعالجة المركزية المخططة

وحدة المعالجة المركزيةNVIDIA Tesla P40
ذاكرة العرض المرئي24 GB GDDR5
نواة CUDA3,840
FP32 برامجيات12 TFLOPS
INT8 )الجزء اﻷول(47 TOPS
ذاكرة BW346 GB/s
الهندسة المعماريةPascal (GP102)
المرور العابراتصالات PCIe

الأسئلة المتكررة

ما هو PyTorch على وحدة معالجة رسومية VPS؟

+

يمكن لـ PyTorch أن يستخدم وحدة معالجة رسومية من شركة NVIDIA لتسريع عمله. لا تتوفر خادمات وحدة معالجة رسومية من VPS.org للطلب بعد؛ اتصل بنا للاستفسار عن موعد توافرها. PyTorch هو عبء عمل للتدريب/التعديل. خطة للوظائف الطويلة الأجل: احصل على لقطة سريعة لـ VPS الخاص بك بانتظام واحتفظ بنسخة من الأوزان المدربة خارج VPS.org.

كيف أقوم بتشغيل PyTorch على وحدة معالجة رسومية VPS؟

+

لا تتوفر خادمات المعالجات الرسومية للطلب بعد. اليوم يمكنك تشغيل PyTorch على خطة معالجة عادية، حيث يعمل ببطء أكبر بكثير من المعالجات الرسومية: SSH في وتشغيل pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.

كم من ذاكرة العرض البصري أحتاج لـ PyTorch؟

+

وتهيمن على ذاكرة التدريب البصرية حالة المحسن بالإضافة إلى عمليات التنشيط. وتحتاج الصقل الكامل لـ 7B LLM إلى حوالي 24 إلى 48 جيجابايت؛ وتتناسب LoRA / QLoRA في 8 إلى 16 جيجابايت.

How much would a GPU server for PyTorch cost?

+

وستنشر أسعار وحدات المعالجة الرسومية عندما يمكن طلب خواديم وحدات المعالجة الرسومية. يرجى الاتصال بنا إذا كنت تريد أن تعرف متى يحدث ذلك.

هل يمكنني تشغيل أدوات أخرى إلى جانب PyTorch؟

+

نعم، كل خادم VPS.org يأتي مع الوصول الكامل إلى الجذر، لذا يمكنك تشغيل أدوات أخرى إلى جانب PyTorch داخل ذاكرة الخادم و التخزين.

هل أحصل على root كامل على PyTorch GPU VPS؟

+

كل خادم VPS.org يأتي مع كامل root SSH الوصول، لذلك يمكنك تثبيت السائقين، المكتبات و PyTorch كما تحتاج.

هل يقوم VPS.org بتركيب CUDA مسبقاً لـ PyTorch؟

+

لا. لا يأتي أي خادم مع وقت تشغيل CUDA أو مشغل NVIDIA مسبقًا، وخوادم وحدة المعالجة الرسومية غير متاحة للطلب بعد. يمكنك تثبيت الإصدارات التي يحتاجها PyTorch بنفسك.

هل يبقى VPS بمعالج GPU الخاص بـ PyTorch محفوظاً بين الجلسات؟

+

نعم. الخوادم VPS.org هي أجهزة افتراضية دائمة، ليست حالات سريعة الزوال: PyTorch النماذج، وتكوينات وبيانات تبقى على تخزين SSD الخادم حتى تحذفها.

أين يجب أن أخزن البيانات لعبء العمل الخاص بي PyTorch؟

+

حافظ على البيانات العاملة على SSD للخادم للوصول السريع خلال PyTorch الرياضات، ونسخ المصنوعات اليدوية المنتهية (الأوزان، الأجيال، التضمين) إلى التخزين خارج VPS.org؛ الصور الفوتوغرافية والصور الاحتياطية تبقى على نفس مجموعة التخزين.

هل يمكنني توسيع نطاق PyTorch GPU VPS لاحقا؟

+

يمكنك ترقية أي خادم VPS.org إلى خطة أكبر من لوحة التحكم؛ إعادة الحجم تعيد تشغيله وتثبيت PyTorch الخاص بك ينقل. خادم GPU غير متاحة بعد.

هل هناك نسخ احتياطية متاحة لـ GPU VPS الخاص بي؟

+

نعم، النسخ الاحتياطي هو إضافة مدفوعة (يوميا + 30٪ من سعر الخطة، الاحتفاظ 7 أيام؛ أسبوعيا + 20٪، الاحتفاظ 28 يوما) والصور المجانية، التي هي مفيدة قبل PyTorch طويلة التشغيل. كلاهما يظل على نفس مجموعة التخزين الخادم.

هل يمكنني استرداد المال؟

+

اتصل بالدعم خلال 30 يوما من شرائك الأول لطلب استرداد الأموال. لا تباع خادمات GPU بعد، لذلك لا يوجد طلب GPU مشارك.

هل تريد تشغيل PyTorch على خادم GPU؟

قدرة وحدة المعالجة المركزية محدودة، أخبرنا عن حجم عملك وسنرد مع توفر وسعر.