Vlak i pokreni PyTorch modele na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura), s punim pristupom rootu. GPU poslužitelji još nisu u redu; kontaktirajte nas da se obavijesti kada su.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Naredba
PyTorch je široko korišteni okvir dubokog učenja. GPU server pokreće PyTorch trening i zaključak na GPU, koji je daleko brži nego na CPU za većinu modela.
Instalirate NVIDIA vozač, KUDA i PyTorch izgradnju koju trebate. Provjerite da li vaša PyTorch izgradnja još uvijek podržava Pascal GPUs (komputna sposobnost 6.1).
Soba za male i srednje veličine modeli, LoRA fino uglađuju i umjerene veličine serije.
Pokreni Jupyter bilješke na poslužitelju za interaktivni rad na GPU.
Podesite okoliš točno kako vam projekt treba.
PyTorch može koristiti NVIDIA GPU za ubrzavanje rada. VPS.org GPU serveri još nisu dostupni za narudžba; kontaktirajte nas da čujemo kada su. PyTorch je trening / fino uklapanje radnog mjesta. Plan za dugotrajne poslove: snimanje VPS redovito i čuvanje kopije obučenih težina izvan VPS.org.
GPU poslužitelji još nisu dostupni za naručivanje. Danas možete pokrenuti PyTorch na redoviti CPU plan, gdje radi daleko sporije nego na GPU: SSH in i pokrenuti pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
VRAM-u dominira optimatorsko stanje plus aktivacije. Potpuno uklapanje LLM-a 7B treba otprilike 24 do 48 GB; LoRA / QLoRA uklapa se u 8 do 16 GB.
GPU cijena će biti objavljena kada GPU poslužitelji mogu biti naručiti. Kontaktirajte nas ako želite čuti kada se to dogodi.
Da. Svaki VPS.org poslužitelj dolazi s punim pristupom rootu, tako da možete pokrenuti druge alate uz PyTorch unutar RAM-a i pohrane poslužitelja.
Svaki VPS.org poslužitelj dolazi s punom root SSH pristup, tako da možete instalirati vozače, biblioteke i PyTorch kako god vam je potrebno.
Ne. Nijedan poslužitelj ne dolazi s CUDA runtime ili NVIDIA drajver unaprijed instaliran, a GPU poslužitelji još nisu dostupni za naručivanje. Instalirate verzije PyTorch treba sebe.
Da. VPS.org poslužitelji su stalni virtualni strojevi, a ne efemeralni primjerci: PyTorch modeli, konfiguracije i podaci ostaju na pohrani SSD poslužitelja dok ih ne izbrišete.
Nastavite raditi na SSD poslužitelja za brz pristup tijekom PyTorch pokrenutih, i kopirati završene artefakte (teže, generacije, ugrađivanja) u pohranu izvan VPS.org; snimke i sigurnosne kopije ostaju na istom pohranjivaču klastera.
Možete nadograditi svaki VPS.org poslužitelj na veći plan iz kontrolnog panela; reorganizacija ga ponovno pokreće i vaš PyTorch install nosi preko. GPU poslužitelji još nisu dostupni.
Da. Rezervne kopije su plaćeni dodatak (dnevno +30% cijene plana, čuvan 7 dana; tjedan +20%, čuvan 28 dana) i snimke su besplatne, što je korisno prije dugog PyTorch trčanje. Oba ostaju na istom pohranjivaču klastera kao i poslužitelj.
Kontaktna podrška u roku od 30 dana od vaše prve kupnje zatražiti povrat novca. GPU poslužitelji još nisu prodani, tako da nema GPU narudžbe.
GPU kapacitet je ograničen. Recite nam o svom radnom vremenu i odgovorit ćemo s raspoloživošću i cijenama.