Yakında gelecek: NVIDIA Tesla P40, 24 GB VRAM

PyTorch GPU VPS

NVIDIA Tesla P40 (24 GB VRAM, Pascal mimari) üzerinde, tam root erişimi ile PyTorch modellerini eğitin ve çalıştırın. GPU sunucuları henüz sipariş edilemiyor; sipariş edildiğinde haberdar olmak için bizimle iletişime geçin.

$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Örnek yükleme komutu

GPU VPS üzerindeki PyTorch nedir?

PyTorch, geniş bir şekilde kullanılan bir derin öğrenme çerçevesi. Bir GPU sunucusu PyTorch eğitimini ve GPU üzerindeki çıkarımları çalıştırıyor, ki bu çoğu model için CPU'dan çok daha hızlı.

VPS.org GPU sunucusunda PyTorch

CUDA Yığınınızı Kurun

NVIDIA sürücüsünü, CUDA'yı ve ihtiyacınız olan PyTorch yapısını yüklüyorsunuz. PyTorch yapısının Pascal GPU'ları (hesaplama kapasitesi 6.1) hala desteklediğini kontrol edin.

24 GB VRAM

Küçük ve orta büyüklükteki modellere, LoRA iyileştirme ve ortalama parti büyüklüklerine yer.

Jüpiter

Interaktif geliştirme için GPU desteği ile Jupyter notebookları çalıştırın.

Tam Root Erişimi

Çevreyi projenizin ihtiyaçlarına göre ayarlayabilirsiniz.

Popüler PyTorch Kullanım Durumları

Sinir ağı eğitimi
Bilgisayar görüş modelleri
NLP ve dönüştürme modelleri
Yaratıcı yapay zeka araştırması
Modelin iyileştirmesi
Üretim çıkarımı

Planlanan GPU Özellikleri

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA Renkleri3,840
FP3212 TFLOPS
INT847 TOPS
Bellek BW346 GB/s
MimariPascal (GP102)
GeçişPCIe geçiş

Sıkça Sorulan Sorular

GPU VPS'de PyTorch nedir?

+

PyTorch, çalışmasını hızlandırmak için NVIDIA GPU kullanabilir. VPS.org GPU sunucuları henüz sipariş edilemiyor; ne zaman sipariş edilebileceklerini öğrenmek için bizimle iletişime geçin. PyTorch bir eğitim / iyileştirme iş yüküdür. Uzun süreli işler için planla: VPS' nizin düzenli olarak görüntülerini çekin ve VPS.org' nin dışında eğitimli ağırlıkların bir kopyasını saklayın.

GPU VPS'de PyTorch'ü nasıl kurarım?

+

GPU sunucuları henüz sipariş için mevcut değil. Bugün PyTorch'ü normal CPU planında çalıştırabilirsiniz, burada GPU'dan çok daha yavaş çalışır: SSH girişi ve pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124'ü çalıştırın.

PyTorch için ne kadar VRAM'a ihtiyacım var?

+

Eğitim VRAM'i optimizatör durumunun yanı sıra etkinleştirmeler tarafından domine edilir. 7B LLM'nin tam iyileştirmesi yaklaşık 24 ila 48 GB'a ihtiyaç duyar; LoRA / QLoRA 8 ila 16 GB'a uygundur.

PyTorch için bir GPU sunucusu ne kadara mal olur?

+

GPU fiyatlandırması GPU sunucuları sipariş edilebileceği zaman yayınlanacak. Bu ne zaman olursa olsun öğrenmek istiyorsanız bizimle iletişime geçin.

PyTorch'ün yanında başka araçlar kullanabilir miyim?

+

Evet, her VPS.org sunucusu tam root erişimi ile geliyor, böylece PyTorch'un yanında diğer araçları da sunucu RAM ve depolama alanı içinde çalıştırabilirsiniz.

PyTorch GPU VPS'de tam kök alabilir miyim?

+

Her VPS.org sunucusu tam root SSH erişimi ile gelir, böylece sürücüleri, kütüphaneleri ve PyTorch'yi ihtiyacınız olduğu gibi yükleyebilirsiniz.

VPS.org PyTorch için CUDA'yı önceden yükler mi?

+

Hayır. Hiçbir sunucu CUDA çalışma zamanı veya NVIDIA sürücüsüyle birlikte gelmez ve GPU sunucuları henüz sipariş edilemez. PyTorch' in ihtiyacı olan sürümleri kendin yüklersin.

PyTorch GPU VPS'im oturumlar arasında devam ediyor mu?

+

Evet. VPS.org sunucuları geçici örnekler değil, kalıcı sanal makinelerdir: PyTorch modelleri, konfigürasyonları ve verileri sildiğinize kadar sunucunun SSD depolamasında kalır.

PyTorch'üm için verileri nerede saklamalıyım?

+

PyTorch çalışmaları sırasında hızlı erişim için sunucunun SSD üzerinde çalışan verileri tutun ve bitmiş artefaktları (ağırlıklar, jenerasyonlar, entegreler) VPS.org dışındaki depolamaya kopyalayın; snapshot ve yedekleme aynı depolama kümesinde kalır.

PyTorch GPU VPS'imi daha sonra ölçeklendirebilir miyim?

+

Kontrol panelinden herhangi bir VPS.org sunucusunu daha büyük bir plana yükseltebilirsiniz; yeniden boyutlandırma onu yeniden başlatır ve PyTorch kurulumunuzu taşır. GPU sunucuları henüz mevcut değil.

GPU VPS'im için yedekleme mevcut mu?

+

Evet. Yedekleme ücretli bir eklentidir (günlük plan fiyatının %30'u, 7 gün saklanır; haftalık %20'si, 28 gün saklanır) ve görüntüler ücretsizdir, bu da uzun PyTorch çalışmalarından önce yararlı olur. Her ikisi de sunucu ile aynı depolama kümesinde kalır.

Paramı geri alabilir miyim?

+

Geri ödeme istemek için ilk satın almanızdan sonraki 30 gün içinde destekle iletişime geçin. GPU sunucuları henüz satılmamıştır, bu yüzden GPU siparişi söz konusu değildir.

PyTorch'u GPU Sunucusunda Çalıştırmak İstiyor musunuz?

GPU kapasitesi sınırlıdır. Bize çalışma yükünüz hakkında bilgi verin ve size mevcut kapasite ve fiyat ile cevap vereceğiz.