Akan datang: NVIDIA Tesla P40, 24 GB VRAM

VPS GPU TensorFlow

Jalankan latihan dan inferensi TensorFlow dan Keras pada NVIDIA Tesla P40 (24 GB VRAM, arsitektur Pascal). Pelayan GPU tidak boleh diminta lagi; hubungi kami untuk diberitahu bila ianya boleh diminta.

$ pip install tensorflow[and-cuda]
# Arahan contoh pemasangan

Apakah {nama} pada GPU VPS?

TensorFlow adalah kerangka pembelajaran mesin sumber terbuka Google. Pada pelayan GPU, TensorFlow menjalankan operasinya pada GPU melalui CUDA.

TensorFlow pada pelayan GPU VPS.org

Pemecut GPU

TensorFlow menggunakan GPU melalui CUDA apabila anda memasang pemacu yang sepadan dan versi CUDA.

Keras

Bina model dengan API Keras pada bahagian atas belakang GPU.

TensorBoard

Monitor latihan dengan TensorBoard pada pelayan anda sendiri.

TF Melayan

Sertakan model terlatih dengan TensorFlow Serving.

Kes Guna {nama} Popular

Pengkelasan Imej
Pengesanan objek
Pemprosesan Bahasa
Sistem cadangan
Ramalan siri masa
Pipeline ML pengeluaran

Spesifikasi GPU yang Dirancang

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Warna CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Memori BW346 GB/s
ArkitekturPascal (GP102)
LaluanLaluan PCIe

Soalan Lazim

Apa itu TensorFlow pada GPU VPS?

+

TensorFlow boleh menggunakan GPU NVIDIA untuk mempercepatkan kerjanya. Pelayan GPU VPS.org tidak tersedia untuk diminta lagi; hubungi kami untuk mendengar bila ianya tersedia. TensorFlow adalah beban kerja latihan / penyelarasan halus. Reka bentuk untuk kerja berjalan panjang: snapshot VPS anda secara berkala dan simpan salinan berat terlatih di luar VPS.org.

Bagaimana saya tetapkan TensorFlow pada GPU VPS?

+

Pelayan GPU tidak tersedia untuk diminta lagi. Hari ini anda boleh jalankan TensorFlow pada rancangan CPU biasa, di mana ia berfungsi lebih perlahan daripada pada GPU: SSH masuk dan jalankan pip install tensorflow[and-cuda].

Berapa banyak VRAM yang saya perlukan untuk TensorFlow?

+

VRAM latihan didominasi oleh keadaan optima plus aktivasi. Penyuntingan halus penuh 7B LLM memerlukan kira-kira 24 hingga 48 GB; LoRA / QLoRA sesuai dalam 8 hingga 16 GB.

Berapakah kos pelayan GPU untuk TensorFlow?

+

Harga GPU akan diterbitkan bila pelayan GPU boleh diminta. Hubungi kami jika anda ingin tahu bila ia berlaku.

Bolehkah saya menjalankan alat lain bersama-sama TensorFlow?

+

Ya. Setiap pelayan VPS.org datang dengan akses root penuh, jadi anda boleh jalankan alat lain bersama TensorFlow dalam RAM dan storan pelayan.

Adakah saya mendapat root penuh pada TensorFlow GPU VPS?

+

Setiap pelayan VPS.org datang dengan akses root SSH penuh, jadi anda boleh pasang pemacu, pustaka dan TensorFlow apa yang anda perlukan.

Adakah VPS.org pra-pasang CUDA untuk TensorFlow?

+

Tidak. Tiada pelayan datang dengan masa jalan CUDA atau pemacu NVIDIA pra-dipasang, dan pelayan GPU tidak tersedia untuk diminta lagi. Anda pasang versi TensorFlow yang diperlukan sendiri.

Adakah VPS GPU TensorFlow saya kekal di antara sesi?

+

Ya. Pelayan VPS.org adalah mesin maya kekal, bukan instans sementara: model TensorFlow, konfigurasi dan data kekal pada storan SSD pelayan sehingga anda memadamnya.

Di manakah saya patut simpan data untuk beban kerja TensorFlow saya?

+

Kekalkan data kerja pada SSD pelayan untuk akses pantas semasa TensorFlow berjalan, dan salin artefak selesai (berat, generasi, penempatan) ke storan luar VPS.org; snapshot dan sandaran kekal pada cluster storan yang sama.

Bolehkah saya skala TensorFlow GPU VPS saya kemudian?

+

Anda boleh menaik taraf mana-mana pelayan VPS.org ke rancangan yang lebih besar dari panel kawalan; saiz semula memulakannya semula dan pemasangan TensorFlow anda membawanya. Pelayan GPU tidak tersedia lagi.

Adakah sandaran tersedia untuk GPU VPS saya?

+

Ya. Sandaran adalah tambahan berbayar (sehari +30% daripada harga rancangan, disimpan 7 hari; mingguan +20%, disimpan 28 hari) dan snapshot adalah percuma, yang berguna sebelum TensorFlow berjalan lama. Kedua-duanya tinggal pada cluster storan yang sama dengan pelayan.

Boleh saya dapatkan wang balik?

+

Hubungi sokongan dalam masa 30 hari dari pembelian pertama anda untuk meminta bayaran balik. Pelayan GPU belum dijual lagi, jadi tiada pesanan GPU terlibat.

Adakah anda ingin menjalankan TensorFlow pada Pelayan GPU?

Kapasiti GPU terhad. Beritahu kami tentang beban kerja anda dan kami akan menjawab dengan ketersediaan dan harga.