TensorFlow GPU VPS

TensorFlow, çalışmasını hızlandırmak için NVIDIA GPU kullanabilir. VPS.org GPU sunucuları henüz sipariş edilemiyor; ne zaman sipariş edilebileceklerini öğrenmek için bizimle iletişime geçin. TensorFlow bir eğitim / iyileştirme iş yüküdür. Uzun süreli işler için planla: VPS' nizin düzenli olarak görüntülerini çekin ve VPS.org' nin dışında eğitimli ağırlıkların bir kopyasını saklayın.

GPU sunucuları henüz sipariş için mevcut değil. Bugün TensorFlow'ü normal CPU planında çalıştırabilirsiniz, burada GPU'dan çok daha yavaş çalışır: SSH girişi ve pip install tensorflow[and-cuda]'ü çalıştırın.

Eğitim VRAM'i optimizatör durumunun yanı sıra etkinleştirmeler tarafından domine edilir. 7B LLM'nin tam iyileştirmesi yaklaşık 24 ila 48 GB'a ihtiyaç duyar; LoRA / QLoRA 8 ila 16 GB'a uygundur.

GPU fiyatlandırması GPU sunucuları sipariş edilebileceği zaman yayınlanacak. Bu ne zaman olursa olsun öğrenmek istiyorsanız bizimle iletişime geçin.

Evet, her VPS.org sunucusu tam root erişimi ile geliyor, böylece TensorFlow'un yanında diğer araçları da sunucu RAM ve depolama alanı içinde çalıştırabilirsiniz.

Her VPS.org sunucusu tam root SSH erişimi ile gelir, böylece sürücüleri, kütüphaneleri ve TensorFlow'yi ihtiyacınız olduğu gibi yükleyebilirsiniz.

Hayır. Hiçbir sunucu CUDA çalışma zamanı veya NVIDIA sürücüsüyle birlikte gelmez ve GPU sunucuları henüz sipariş edilemez. TensorFlow' in ihtiyacı olan sürümleri kendin yüklersin.

Evet. VPS.org sunucuları geçici örnekler değil, kalıcı sanal makinelerdir: TensorFlow modelleri, konfigürasyonları ve verileri sildiğinize kadar sunucunun SSD depolamasında kalır.

TensorFlow çalışmaları sırasında hızlı erişim için sunucunun SSD üzerinde çalışan verileri tutun ve bitmiş artefaktları (ağırlıklar, jenerasyonlar, entegreler) VPS.org dışındaki depolamaya kopyalayın; snapshot ve yedekleme aynı depolama kümesinde kalır.

Kontrol panelinden herhangi bir VPS.org sunucusunu daha büyük bir plana yükseltebilirsiniz; yeniden boyutlandırma onu yeniden başlatır ve TensorFlow kurulumunuzu taşır. GPU sunucuları henüz mevcut değil.

Evet. Yedekleme ücretli bir eklentidir (günlük plan fiyatının %30'u, 7 gün saklanır; haftalık %20'si, 28 gün saklanır) ve görüntüler ücretsizdir, bu da uzun TensorFlow çalışmalarından önce yararlı olur. Her ikisi de sunucu ile aynı depolama kümesinde kalır.

Geri ödeme istemek için ilk satın almanızdan sonraki 30 gün içinde destekle iletişime geçin. GPU sunucuları henüz satılmamıştır, bu yüzden GPU siparişi söz konusu değildir.