Trein en gebruik PyTorch modellen op een NVIDIA Tesla P40 (24 GB VRAM, Pascal architectuur), met volledige root toegang. GPU servers zijn nog niet te bestellen; neem contact met ons op wanneer ze zijn.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Voorbeeld installatiecommando
PyTorch is een veelgebruikte deep learning framework. Een GPU server draait PyTorch training en gevolgtrekkingen op de GPU, die veel sneller is dan op een CPU voor de meeste modellen.
U installeert de NVIDIA driver, CUDA en de PyTorch bouw je nodig hebt. Controleer of uw PyTorch bouw nog steeds ondersteunt Pascal GPU's (compute capability 6.1).
Ruimte voor kleine en middelgrote modellen, LoRA fine-tuning en matige batch maten.
Start Jupyter notebooks op de server voor interactief werk aan de GPU.
Configureer de omgeving precies zoals uw project nodig heeft.
PyTorch kan een NVIDIA GPU gebruiken om zijn werk te versnellen. VPS.org GPU servers zijn nog niet beschikbaar om te bestellen; neem contact met ons op om te horen wanneer ze zijn. PyTorch is een training / fine-tuning werklast. Plan voor lang lopende jobs: snapshot uw VPS regelmatig en houd een kopie van getrainde gewichten buiten VPS.org.
GPU-servers zijn nog niet beschikbaar om te bestellen. Vandaag kunt u PyTorch uitvoeren op een regelmatig CPU-plan, waar het veel langzamer werkt dan op een GPU: SSH in en draaien pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Training VRAM wordt gedomineerd door de optimalisatiestaat plus activeringen. Volledige fine-tuning van een 7B LLM heeft ongeveer 24 tot 48 GB nodig; LoRA / QLoRA past in 8 tot 16 GB.
GPU-prijzen worden gepubliceerd wanneer GPU-servers kunnen worden besteld. Neem contact met ons op als u wilt horen wanneer dat gebeurt.
Ja. Elke VPS.org server wordt geleverd met volledige root toegang, zodat u andere tools kunt draaien naast PyTorch in het RAM-geheugen en opslag van de server.
Elke VPS.org server wordt geleverd met volledige root SSH toegang, zodat u kunt drivers, bibliotheken en PyTorch te installeren, zoals u nodig hebt.
Nee. Er wordt geen server meegeleverd met een CUDA runtime of NVIDIA driver vooraf geïnstalleerd, en GPU servers zijn nog niet beschikbaar om te bestellen. U installeert de versies PyTorch heeft u zelf nodig.
VPS.org servers zijn aanhoudende virtuele machines, niet efemerale instanties: PyTorch modellen, configuraties en gegevens blijven op de SSD-opslag van de server totdat u ze verwijdert.
Blijf werken aan gegevens over de SSD van de server voor snelle toegang tijdens PyTorch-runs, en kopieer voltooide artefacten (gewichten, generaties, inbeddingen) naar opslag buiten VPS.org; snapshots en back-ups blijven op hetzelfde opslagcluster.
U kunt elke VPS.org-server upgraden naar een groter plan vanuit het bedieningspaneel; de grootte van de server herstart het en uw PyTorch installatie draagt over. GPU-servers zijn nog niet beschikbaar.
Ja. Back-ups zijn een betaalde add-on (dagelijks +30% van de planprijs, 7 dagen gehouden; wekelijks +20%, 28 dagen gehouden) en snapshots zijn gratis, die nuttig is voordat lange PyTorch draait. Beide blijven op dezelfde opslag cluster als de server.
Neem binnen 30 dagen na uw eerste aankoop contact op met ondersteuning om een terugbetaling te vragen. GPU-servers worden nog niet verkocht, dus er is geen GPU-order bij betrokken.
GPU capaciteit is beperkt. Vertel ons over uw werklast en we zullen antwoorden met beschikbaarheid en prijzen.