PyTorch modellərini NVIDIA Tesla P40 (24 GB VRAM, Pascal arxitekturası) üzərində tam root girişi ilə təlim və işlət. GPU serverləri hələ sifariş edilə bilməz; onlar təyin edildikdə xəbərdar olmaq üçün bizimlə əlaqə saxlayın.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Örnək quraşdırma əmri
PyTorch dərin öyrənmə üçün geniş istifadə edilən bir çərçivədir. GPU serveri PyTorch'u GPU-da öyrədir və nəticə çıxarır, bu da CPU-dan çox sürətlidir.
NVIDIA sürücüsünü, CUDA və lazım olan PyTorch quruluşunu quraşdırırsınız. PyTorch quruluşunuzun Pascal GPU-larını (hesablama qabiliyyəti 6.1) hələ də dəstəklədiyini yoxlayın.
Kiçik və orta ölçülü modellər üçün otaq, LoRA fine-tuning və orta ölçülü batch ölçüləri.
GPU üzərində interaktiv iş üçün serverdə Jupyter notebook'larını işlət.
Layihəniz üçün lazım olan mühiti qur
PyTorch NVIDIA GPU-nu iş sürətini artırmaq üçün istifadə edə bilər. VPS.org GPU serverləri hələ sifariş üçün mövcud deyil; nə vaxtsa mövcud olacaqlarını öyrənmək üçün bizimlə əlaqə saxlayın. PyTorch bir təlim / yaxşılaşdırma iş yüküdür. Uzun işlərə planlaşdırma: VPS-nizə tez-tez snapshot edin və VPS.org-dən kənarda təlim ağırlıqlarının bir nüsxəsini saxlayın.
GPU serverləri hələ sifariş edilə bilməz. Bu gün PyTorch-u GPU-dan daha yavaş işləyən adi CPU planında işlədə bilərsiniz: SSH daxil olun və pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124-u işlədin.
Təlim VRAM optimalizator vəziyyəti və aktivasiyalar tərəfindən idarə olunur. 7B LLM-nin tam yaxşılaşdırılması təxminən 24-48 GB-a ehtiyac duyur; LoRA / QLoRA 8-16 GB-a uyğundur.
GPU serverləri sifariş edilə biləcək zaman GPU qiyməti yayımlanacaq. Bu baş verəndə xəbər almaq istəyirsinizsə bizimlə əlaqə saxlayın.
Bəli. Hər bir VPS.org serveri tam root girişi ilə gəlir, buna görə də PyTorch ilə yanaşı serverin RAM və saxlama sahəsində digər alətləri də işlədə bilərsiniz.
Hər VPS.org serveri tam kök SSH girişi ilə gəlir, buna görə də sürücüləri, kitabxanaları və PyTorch'i istədiyiniz kimi quraşdıra bilərsiniz.
Xeyr. Heç bir server CUDA ya da NVIDIA sürücüsü ilə əvvəlcədən quraşdırılmış deyil və GPU serverləri hələ sifariş edilə bilməz. Siz PyTorch'un ehtiyacı olan versiyaları özünüz quraşdırırsınız.
Bəli. VPS.org serverləri əbədi virtual maşınlardır, qısamüddətli nümunələr deyillər: PyTorch modelləri, konfiqurasiyaları və məlumatları onları silənə qədər serverin SSD saxlama yerində qalır.
PyTorch işləmələrində sürətli çıxış üçün iş məlumatlarını serverin SSD-də saxla və bitmiş artefaktları (yükü, nəsilləri, embeddings) VPS.org-dən kənarda saxlamağa köçür; snapshot və backuplar eyni saxlama dəstəsində qalır.
Hər hansı VPS.org vericisini idarə panelindən daha böyük plana yüksəldərək istifadə edə bilərsiniz; böyütmə onu yenidən başladır və PyTorch quraşdırmanızı da daşıyır. GPU vericiləri hələ mövcud deyil.
Bəli. Əlavə zəmanət əlavə ödənişlidir (gündəlik +30% plan qiyməti, 7 gün saxlanılır; həftəlik +20%, 28 gün saxlanılır) və şəkillər pulsuzdur, bu uzun PyTorch işləmələrindən əvvəl faydalıdır. Hər ikisi də verici ilə eyni saxlama dəstəsində qalır.
İlk alışınızdan 30 gün sonra dəstəklə əlaqə saxlayın və geri qaytarma istəyin. GPU serverləri hələ satılmamışdır, buna görə də GPU sifarişinə ehtiyac yoxdur.
GPU-nun gücü məhduddur. İş yükünüz haqqında bizə məlumat verin və biz mövcudluq və qiymətlə cavab verəcəyik.