Ta tog og kjør PyTorch-modeller på en NVIDIA Tesla P40 (24 GB VRAM, Pascal arkitektur) med full rottilgang. GPU- tjenere kan ikke bestilles ennå. Kontakt oss for å bli varslet når de er det.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Eksempel på installasjonskommando
PyTorch er et bredt brukt rammeverk for dyplæring. En GPU- tjener kjører PyTorch- trening og slutning på GPU, som er langt raskere enn på en CPU for de fleste modeller.
You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).
Rom for små og mellomstore modeller, finjusterende og moderate partistørrelser for LoRA.
Kjør Jupyter- notatblokker på tjeneren for interaktivt arbeid på GPU.
Sett opp miljøet akkurat slik prosjektet trenger det.
PyTorch kan bruke en NVIDIA GPU til å gjøre arbeidet raskere. VPS.org GPU- tjenere er ikke tilgjengelig for bestilling ennå. Kontakt oss for å høre når de er det. PyTorch er en trening/ fininnstillingsarbeidslast. Planlegg for jobber med lang varighet: Ta et skjermbilde av VPSen din regelmessig og behold en kopi av opplærte vekter utenfor VPS.org.
GPU- tjenere kan ikke bestilles ennå. I dag kan du kjøre PyTorch på en vanlig CPU- plan, der det virker mye langsommere enn på en GPU: SSH i og kjøre pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Opplærings- VRAM domineres av optimaliseringstilstanden pluss aktiveringer. Full finjustering av en 7B LLM trenger omtrent 24 til 48 GB; LoRA / QLoRA passer på 8 til 16 GB.
GPU- prising vil bli publisert når GPU- tjenere kan bestilles. Kontakt oss hvis du vil høre når det skjer.
Ja. Hver VPS.org- tjener har full rottilgang, så du kan kjøre andre verktøy ved siden av PyTorch i tjenerens RAM og lager.
Hver VPS.org tjener kommer med full SSH tilgang, så du kan installere drivere, biblioteker og PyTorch som du trenger.
Nei. Ingen tjener leveres med en forhåndsinstallert CUDA kjøretid eller NVIDIA driver, og GPU- tjenere er ikke tilgjengelige for bestilling ennå. Du installerer versjonene PyTorch trenger deg selv.
Ja. VPS.org- tjenere er vedvarende virtuelle maskiner, ikke efemerale instanser: PyTorch- modeller, oppsett og data blir værende på tjenerens SSD- lager til du sletter dem.
Holde arbeidet med tjenerens SSD for rask tilgang under kjøring av PyTorch, og kopier ferdige artefakter (vekter, generasjoner, innbygging) til lagring utenfor VPS.org. Ta bilder av dem og ta sikkerhetskopier blir på samme lagringsklupé.
Du kan oppgradere enhver VPS.org tjener til en større plan fra kontrollpanelet. Om størrelsen endres på nytt og installasjonen av PyTorch går over. GPU- tjenere er ikke tilgjengelig ennå.
Ja. Sikkerhetskopier er et betalt tillegg (daglig +30% av planprisen, holdt 7 dager, ukentlig +20%, holdt 28 dager) og skjermbilder er gratis, noe som er nyttig før lenge PyTorch kjører. Begge blir på samme lagringsklemmer som tjeneren.
Kontaktstøtte innen 30 dager etter at du kjøpte deg for å be om tilbakebetaling. GPU- tjenere er ikke solgt ennå, så det er ikke tatt med noen GPU- ordre.
GPU- kapasiteten er begrenset. Fortell oss om arbeidsbyrden din og vi svarer med tilgjengelighet og prissetting.