Latihan dan jalankan model PyTorch pada NVIDIA Tesla P40 (24 GB VRAM, arsitektur Pascal), dengan akses root penuh. Pelayan GPU tidak boleh diminta lagi; hubungi kami untuk diberitahu bila ianya boleh diminta.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Arahan contoh pemasangan
PyTorch adalah kerangka pembelajaran mendalam yang digunakan secara meluas. Pelayan GPU menjalankan latihan dan inferensi PyTorch pada GPU, yang jauh lebih pantas daripada CPU bagi kebanyakan model.
Anda memasang pemacu NVIDIA, CUDA dan binaan PyTorch yang anda perlukan. Semak binaan PyTorch anda masih menyokong GPU Pascal (kapasiti pengiraan 6.1).
Ruang untuk model kecil dan sederhana, LoRA fine-tuning dan saiz kumpulan sederhana.
Jalankan notebook Jupyter pada pelayan untuk kerja interaktif pada GPU.
Konfigur persekitaran seperti yang diperlukan oleh projek anda.
PyTorch boleh menggunakan GPU NVIDIA untuk mempercepatkan kerjanya. Pelayan GPU VPS.org tidak tersedia untuk diminta lagi; hubungi kami untuk mendengar bila ianya tersedia. PyTorch adalah beban kerja latihan / penyelarasan halus. Reka bentuk untuk kerja berjalan panjang: snapshot VPS anda secara berkala dan simpan salinan berat terlatih di luar VPS.org.
Pelayan GPU tidak tersedia untuk diminta lagi. Hari ini anda boleh jalankan PyTorch pada rancangan CPU biasa, di mana ia berfungsi lebih perlahan daripada pada GPU: SSH masuk dan jalankan pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
VRAM latihan didominasi oleh keadaan optima plus aktivasi. Penyuntingan halus penuh 7B LLM memerlukan kira-kira 24 hingga 48 GB; LoRA / QLoRA sesuai dalam 8 hingga 16 GB.
Harga GPU akan diterbitkan bila pelayan GPU boleh diminta. Hubungi kami jika anda ingin tahu bila ia berlaku.
Ya. Setiap pelayan VPS.org datang dengan akses root penuh, jadi anda boleh jalankan alat lain bersama PyTorch dalam RAM dan storan pelayan.
Setiap pelayan VPS.org datang dengan akses root SSH penuh, jadi anda boleh pasang pemacu, pustaka dan PyTorch apa yang anda perlukan.
Tidak. Tiada pelayan datang dengan masa jalan CUDA atau pemacu NVIDIA pra-dipasang, dan pelayan GPU tidak tersedia untuk diminta lagi. Anda pasang versi PyTorch yang diperlukan sendiri.
Ya. Pelayan VPS.org adalah mesin maya kekal, bukan instans sementara: model PyTorch, konfigurasi dan data kekal pada storan SSD pelayan sehingga anda memadamnya.
Kekalkan data kerja pada SSD pelayan untuk akses pantas semasa PyTorch berjalan, dan salin artefak selesai (berat, generasi, penempatan) ke storan luar VPS.org; snapshot dan sandaran kekal pada cluster storan yang sama.
Anda boleh menaik taraf mana-mana pelayan VPS.org ke rancangan yang lebih besar dari panel kawalan; saiz semula memulakannya semula dan pemasangan PyTorch anda membawanya. Pelayan GPU tidak tersedia lagi.
Ya. Sandaran adalah tambahan berbayar (sehari +30% daripada harga rancangan, disimpan 7 hari; mingguan +20%, disimpan 28 hari) dan snapshot adalah percuma, yang berguna sebelum PyTorch berjalan lama. Kedua-duanya tinggal pada cluster storan yang sama dengan pelayan.
Hubungi sokongan dalam masa 30 hari dari pembelian pertama anda untuk meminta bayaran balik. Pelayan GPU belum dijual lagi, jadi tiada pesanan GPU terlibat.
Kapasiti GPU terhad. Beritahu kami tentang beban kerja anda dan kami akan menjawab dengan ketersediaan dan harga.