Yaxın gələcəkdə: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) üzərində TensorFlow və Keras təlim və nəticələməni işə salın. GPU serverləri hələ sifariş edilə bilməz; onlar təyin edildikdə xəbərdar olmaq üçün bizimlə əlaqə saxlayın.

$ pip install tensorflow[and-cuda]
# Örnək quraşdırma əmri

TensorFlow GPU VPS-də nədir?

TensorFlow Google'ın açıq mənbəli maşın öyrənmə çərçivəsidir. GPU serverində TensorFlow CUDA vasitəsilə GPU-da əməliyyatlarını icra edir.

VPS.org GPU vericisində TensorFlow

GPU sür'ətləndirməsi

TensorFlow, uyğun sürücü və CUDA versiyası quraşdırıldıqdan sonra CUDA vasitəsilə GPU-nu istifadə edir.

Çətin

GPU arxa tərəfinin üstündə Keras API ilə modellər inşa et.

TensorBoard

TensorBoard ilə öz serverinizdə təlimləri izləyə bilərsiniz.

TF xidməti

TensorFlow Serving ilə təlim modelləri xidmət edin.

TensorFlow populyar istifadə halları

Rəsm sinifləndirilməsi
Cisim aşkarlanması
Təbii dil prosessorları
Tövsiyə Sistemləri
Zaman seriyası proqnozlaşdırması
Ümumi ML boruları

Planlaşdırılan GPU xüsusiyyətləri

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA Rəngləri3,840
FP3212 TFLOPS
INT847 TOPS
Qeyd346 GB/s
MifologiyaPascal (GP102)
GedişPCIe keçid

Tez-tez Sorulan Sual

TensorFlow GPU VPS-də nə deməkdir?

+

TensorFlow NVIDIA GPU-nu iş sürətini artırmaq üçün istifadə edə bilər. VPS.org GPU serverləri hələ sifariş üçün mövcud deyil; nə vaxtsa mövcud olacaqlarını öyrənmək üçün bizimlə əlaqə saxlayın. TensorFlow bir təlim / yaxşılaşdırma iş yüküdür. Uzun işlərə planlaşdırma: VPS-nizə tez-tez snapshot edin və VPS.org-dən kənarda təlim ağırlıqlarının bir nüsxəsini saxlayın.

GPU VPS-də TensorFlow-ü necə qurmalıyam?

+

GPU serverləri hələ sifariş edilə bilməz. Bu gün TensorFlow-u GPU-dan daha yavaş işləyən adi CPU planında işlədə bilərsiniz: SSH daxil olun və pip install tensorflow[and-cuda]-u işlədin.

TensorFlow üçün nə qədər VRAM lazımdı?

+

Təlim VRAM optimalizator vəziyyəti və aktivasiyalar tərəfindən idarə olunur. 7B LLM-nin tam yaxşılaşdırılması təxminən 24-48 GB-a ehtiyac duyur; LoRA / QLoRA 8-16 GB-a uyğundur.

TensorFlow üçün GPU serveri nə qədər dəyərə malikdir?

+

GPU serverləri sifariş edilə biləcək zaman GPU qiyməti yayımlanacaq. Bu baş verəndə xəbər almaq istəyirsinizsə bizimlə əlaqə saxlayın.

TensorFlow ilə yanaşı başqa alətləri də işlədə bilərəmmi?

+

Bəli. Hər bir VPS.org serveri tam root girişi ilə gəlir, buna görə də TensorFlow ilə yanaşı serverin RAM və saxlama sahəsində digər alətləri də işlədə bilərsiniz.

Mən TensorFlow GPU VPS-də tam kök ala bilərəmmi?

+

Hər VPS.org serveri tam kök SSH girişi ilə gəlir, buna görə də sürücüləri, kitabxanaları və TensorFlow'i istədiyiniz kimi quraşdıra bilərsiniz.

VPS.org TensorFlow üçün CUDA'yı əvvəlcədən quraşdırırmı?

+

Xeyr. Heç bir server CUDA ya da NVIDIA sürücüsü ilə əvvəlcədən quraşdırılmış deyil və GPU serverləri hələ sifariş edilə bilməz. Siz TensorFlow'un ehtiyacı olan versiyaları özünüz quraşdırırsınız.

Mənim TensorFlow GPU VPS sessiyalar arasında davam edirmi?

+

Bəli. VPS.org serverləri əbədi virtual maşınlardır, qısamüddətli nümunələr deyillər: TensorFlow modelləri, konfiqurasiyaları və məlumatları onları silənə qədər serverin SSD saxlama yerində qalır.

Mənim TensorFlow iş yüküm üçün məlumatı harada saxlamalıyam?

+

TensorFlow işləmələrində sürətli çıxış üçün iş məlumatlarını serverin SSD-də saxla və bitmiş artefaktları (yükü, nəsilləri, embeddings) VPS.org-dən kənarda saxlamağa köçür; snapshot və backuplar eyni saxlama dəstəsində qalır.

Mən TensorFlow GPU VPS-imi sonradan artıra bilərəmmi?

+

Hər hansı VPS.org vericisini idarə panelindən daha böyük plana yüksəldərək istifadə edə bilərsiniz; böyütmə onu yenidən başladır və TensorFlow quraşdırmanızı da daşıyır. GPU vericiləri hələ mövcud deyil.

Mənim GPU VPS-im üçün zəmanət varmı?

+

Bəli. Əlavə zəmanət əlavə ödənişlidir (gündəlik +30% plan qiyməti, 7 gün saxlanılır; həftəlik +20%, 28 gün saxlanılır) və şəkillər pulsuzdur, bu uzun TensorFlow işləmələrindən əvvəl faydalıdır. Hər ikisi də verici ilə eyni saxlama dəstəsində qalır.

Məni geri qaytara bilərsən?

+

İlk alışınızdan 30 gün sonra dəstəklə əlaqə saxlayın və geri qaytarma istəyin. GPU serverləri hələ satılmamışdır, buna görə də GPU sifarişinə ehtiyac yoxdur.

TensorFlow-i GPU vericisində işlətmək istəyirsiniz?

GPU-nun gücü məhduddur. İş yükünüz haqqında bizə məlumat verin və biz mövcudluq və qiymətlə cavab verəcəyik.