Tog og kør PyTorch-modeller på en NVIDIA Tesla P40 (24 GB VRAM, Pascal arkitektur), med fuld root adgang. GPU-servere er ikke bestilles endnu; kontakt os for at blive informeret, når de er.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Eksempel på installationskommando
PyTorch er en udbredt dyb læringsramme. En GPU-server kører PyTorch-træning og konsekvens på GPU'en, hvilket er langt hurtigere end på en CPU for de fleste modeller.
Du installerer NVIDIA driveren, CUDA og PyTorch-builden, du har brug for. Kontroller, at din PyTorch-build stadig understøtter Pascal GPU'er (komputer kapacitet 6.1).
Værelse til små og mellemstore modeller, LoRA finjustering og moderate batch størrelser.
Kør Jupyter notesbøger på serveren for interaktivt arbejde på GPU.
Indstil miljøet nøjagtigt som dit projekt har brug for.
PyTorch kan bruge en NVIDIA GPU til at fremskynde sit arbejde. VPS.org GPU-servere er ikke tilgængelige til bestilling endnu; kontakt os for at høre, når de er. PyTorch er en uddannelse / finjustering arbejdsbyrde. Planlæg for langvarige job: snapshot din VPS regelmæssigt og holde en kopi af trænede vægte uden for VPS.org.
GPU-servere er ikke tilgængelige for bestilling endnu. I dag kan du køre PyTorch på en almindelig CPU-plan, hvor det virker langt langsommere end på en GPU: SSH i og køre pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Træning VRAM domineres af optimeringsstat plus aktiveringer. Fuld finjustering af en 7B LLM behov omkring 24 til 48 GB; LoRA / QLoRA passer i 8 til 16 GB.
GPU priser vil blive offentliggjort, når GPU-servere kan bestilles. Kontakt os, hvis du ønsker at høre, når det sker.
Ja. Hver VPS.org server leveres med fuld root adgang, så du kan køre andre værktøjer sammen PyTorch i serverens RAM og opbevaring.
Hver VPS.org server leveres med fuld rod SSH adgang, så du kan installere drivere, biblioteker og PyTorch dog du har brug for.
Nej. Ingen server leveres med en CUDA runtime eller NVIDIA driver forudinstalleret, og GPU-servere er ikke tilgængelige til at bestille endnu. Du installerer versionerne PyTorch har brug for dig selv.
Ja. VPS.org servere er vedvarende virtuelle maskiner, ikke efemerale tilfælde: PyTorch modeller, configs og data forbliver på serverens SSD-lagring, indtil du sletter dem.
Hold arbejder data på serverens SSD for hurtig adgang under PyTorch kører, og kopier færdige artefakter (vægte, generationer, indlejringer) til opbevaring uden for VPS.org; snapshots og backups forbliver på den samme lagerklynge.
Du kan opgradere enhver VPS.org server til en større plan fra kontrolpanelet; resize genstarter den og din PyTorch installation bærer over. GPU-servere er ikke tilgængelige endnu.
Ja. Backups er en betalt tilføjelse (daglig +30% af planens pris, holdt 7 dage; ugentligt +20%, holdt 28 dage) og snapshots er gratis, hvilket er nyttigt, før længe PyTorch kører. Begge bo på samme lagerklynge som serveren.
Kontakt support inden for 30 dage efter dit første køb for at anmode om en tilbagebetaling. GPU-servere er ikke solgt endnu, så der er ingen GPU-ordre involveret.
GPU kapacitet er begrænset. Fortæl os om din arbejdsbyrde, og vi vil svare med tilgængelighed og prissætning.