Trenirajte i pokrenite PyTorch modele na NVIDIA Tesla P40 (24 GB VRAM, Pascal arhitektura), sa punim root pristupom. GPU serveri još nisu dostupni za narudžbu; kontaktirajte nas da biste bili obaviješteni kada budu dostupni.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Primjer naredbe za instaliranje
PyTorch je široko korišten framework za dubinsko učenje.GPU server pokreće PyTorch trening i zaključivanje na GPU-u, koji je mnogo brži nego na CPU-u za većinu modela.
Instalirajte NVIDIA driver, CUDA i PyTorch build koji vam trebaju. Provjerite da li vaša PyTorch build još uvijek podržava Pascal GPU-ove (računarske mogućnosti 6.1).
Prostor za male i srednje modele, LoRA fino podešavanje i umjerene veličine serija.
Pokrenite Jupyter notepads na serveru za interaktivni rad na GPU.
Konfiguriraj okolinu tačno onako kako ti projekt treba.
PyTorch može koristiti NVIDIA GPU da ubrza svoj rad. VPS.org GPU serveri još nisu dostupni za narudžbu; kontaktirajte nas da saznate kada će biti dostupni. PyTorch je za trening / fino podešavanje radnog opterećenja. Planirajte za dugotrajne poslove: redovito snimajte VPS i držite kopiju treniranih težina izvan VPS.org.
GPU serveri još nisu dostupni za narudžbu. Danas možete pokrenuti PyTorch na redovnom CPU planu, gdje radi mnogo sporije nego na GPU: SSH u i pokrenite pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
VRAM za trening je dominiran od strane optimizera stanja plus aktivacije. Puna fino podešavanje 7B LLM treba otprilike 24 do 48 GB; LoRA / QLoRA stane u 8 do 16 GB.
Cijene GPU-a će biti objavljene kada se GPU serveri mogu naručiti. Kontaktirajte nas ako želite čuti kada se to dogodi.
Svaki VPS.org server ima potpuni root pristup, tako da možeš pokrenuti druge alate pored PyTorch u RAM-u servera i pohrani.
Svaki VPS.org server dolazi sa punim root SSH pristupom, tako da možete instalirati drivere, biblioteke i PyTorch kako god vam treba.
Ne. Nijedan server ne dolazi s CUDA runtimeom ili NVIDIA driverom unaprijed instaliranim, a GPU serveri još nisu dostupni za narudžbu. Sami instalirajte verzije koje PyTorch treba.
Da. VPS.org serveri su trajne virtualne mašine, a ne efemerne instance: PyTorch modeli, konfiguracije i podaci ostaju na SSD pohrani servera dok ih ne izbrišete.
Zadržavanje radnih podataka na SSD-u servera za brz pristup tokom PyTorch pokretanja, i kopiranje gotovih artefakata (težina, generacije, ugradnje) u pohranu izvan VPS.org; snimke i sigurnosne kopije ostaju na istom clusteru za pohranu.
Možete nadograditi bilo koji VPS.org server na veći plan iz kontrolne ploče; promjena veličine ga ponovo pokreće i vaša PyTorch instalacija se prenosi. GPU serveri još nisu dostupni.
Da. Sigurnosne kopije su plaćen dodatak (dnevno +30% od cijene plana, čuva se 7 dana; sedmično +20%, čuva se 28 dana) i snimke su besplatne, što je korisno prije dugih PyTorch pokretanja. Oba ostaju na istom klasteru pohrane kao i server.
Kontaktirajte podršku u roku od 30 dana od prve kupnje da biste zatražili povrat novca. GPU serveri još nisu prodani, tako da nema narudžbe GPU-a.
Kapacitet grafičkog procesora je ograničen. Recite nam o svom opterećenju i odgovorit ćemo s dostupnošću i cijenama.