Trainieren und starten Sie PyTorch-Modelle auf einem NVIDIA Tesla P40 (24 GB VRAM, Pascal-Architektur), mit vollem Root-Zugriff. GPU-Server sind noch nicht bestellbar; kontaktieren Sie uns, wenn sie benachrichtigt werden, wenn sie sind.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Beispiel Installieren
PyTorch ist ein weit verbreitetes Deep-Learning-Framework. Ein GPU-Server führt PyTorch-Training und -Schlussfolgerungen auf der GPU aus, die für die meisten Modelle viel schneller als auf einer CPU ist.
Sie installieren den NVIDIA Treiber, CUDA und den PyTorch-Bau, den Sie benötigen. Überprüfen Sie, ob Ihr PyTorch-Bau Pascal GPUs noch unterstützt (Komputierungsfunktion 6.1).
Raum für kleine und mittlere Modelle, LoRA Feinabstimmung und moderate Chargengrößen.
Führen Sie Jupyter Notebooks auf dem Server für interaktive Arbeiten an der GPU aus.
Konfigurieren Sie die Umgebung genau nach Ihren Bedürfnissen.
PyTorch kann eine NVIDIA GPU verwenden, um seine Arbeit zu beschleunigen. VPS.org GPU-Server sind noch nicht verfügbar, kontaktieren Sie uns, um zu hören, wenn sie sind. PyTorch ist ein Trainings-/ Feinjustierungsaufwand. Planen Sie für Langzeitaufträge: Schnappen Sie Ihre VPS regelmäßig und halten Sie eine Kopie von trainierten Gewichten außerhalb von VPS.org.
GPU-Server sind noch nicht verfügbar. Heute können Sie PyTorch auf einem regulären CPU-Plan ausführen, wo es viel langsamer funktioniert als auf einer GPU: SSH in und laufen pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Das Training VRAM wird vom Optimierer-Zustand plus Aktivierungen dominiert. Die vollständige Feinabstimmung einer 7B LLM benötigt etwa 24 bis 48 GB; LoRA / QLoRA passt in 8 bis 16 GB.
GPU-Preise werden veröffentlicht, wenn GPU-Server bestellt werden können. Kontaktieren Sie uns, wenn Sie hören möchten, wenn das passiert.
Ja. Jeder VPS.org-Server verfügt über einen vollständigen Root-Zugriff, sodass Sie andere Werkzeuge neben PyTorch im RAM und Speicher des Servers ausführen können.
Jeder VPS.org Server verfügt über einen vollständigen Root-SSH-Zugang, so dass Sie Treiber, Bibliotheken und PyTorch installieren können, wie Sie es auch brauchen.
Nein. Kein Server verfügt über einen vorinstallierten CUDA-Laufzeit- oder NVIDIA-Treiber, und GPU-Server stehen noch nicht zur Verfügung. Sie installieren die Versionen PyTorch selbst.
Ja. VPS.org Server sind persistente virtuelle Maschinen, nicht ephemere Instanzen: PyTorch Modelle, Konfigurationen und Daten bleiben auf dem SSD-Speicher des Servers, bis Sie sie löschen.
Halten Sie die Arbeitsdaten auf der SSD des Servers für schnellen Zugriff während PyTorch läuft, und kopieren Sie fertige Artefakte (Gewichte, Generationen, Einbettungen) auf Speicher außerhalb VPS.org; Snapshots und Backups bleiben auf dem gleichen Speichercluster.
Sie können jeden VPS.org-Server auf einen größeren Plan von der Systemsteuerung aktualisieren; die Größe ändert es neu und Ihre PyTorch-Installation übernimmt. GPU-Server sind noch nicht verfügbar.
Ja. Backups sind ein kostenpflichtiges Add-on (täglich +30% des Planpreises, 7 Tage gehalten; wöchentlich +20%, 28 Tage gehalten) und Snapshots sind kostenlos, was nützlich ist, bevor lange PyTorch läuft. Beide bleiben auf dem gleichen Storage-Cluster wie der Server.
Kontaktieren Sie den Support innerhalb von 30 Tagen nach Ihrem ersten Kauf, um eine Rückerstattung zu beantragen. GPU-Server werden noch nicht verkauft, so dass keine GPU-Bestellung beteiligt ist.
Die GPU-Kapazität ist begrenzt. Erzählen Sie uns von Ihrem Arbeitsaufwand und wir werden mit Verfügbarkeit und Preisgestaltung antworten.