TensorFlow und Keras-Training und -Schlussfolgerung auf einem NVIDIA Tesla P40 (24 GB VRAM, Pascal Architektur) ausführen. GPU-Server sind noch nicht bestellbar; kontaktieren Sie uns, wenn sie benachrichtigt werden.
$ pip install tensorflow[and-cuda]
# Beispiel Installieren
TensorFlow ist Googles Open-Source Machine Learning Framework. Auf einem GPU-Server, TensorFlow läuft seine Operationen auf der GPU durch CUDA.
TensorFlow verwendet die GPU über CUDA, sobald Sie einen passenden Treiber und CUDA-Version installieren.
Bauen Sie Modelle mit der Keras API auf dem GPU-Backend.
Überwachen Sie das Training mit TensorBoard auf Ihrem eigenen Server.
Servieren Sie ausgebildete Modelle mit TensorFlow Serving.
TensorFlow kann eine NVIDIA GPU verwenden, um seine Arbeit zu beschleunigen. VPS.org GPU-Server sind noch nicht verfügbar, kontaktieren Sie uns, um zu hören, wenn sie sind. TensorFlow ist ein Trainings-/ Feinjustierungsaufwand. Planen Sie für Langzeitaufträge: Schnappen Sie Ihre VPS regelmäßig und halten Sie eine Kopie von trainierten Gewichten außerhalb von VPS.org.
GPU-Server sind noch nicht verfügbar. Heute können Sie TensorFlow auf einem regulären CPU-Plan ausführen, wo es viel langsamer funktioniert als auf einer GPU: SSH in und laufen pip install tensorflow[and-cuda].
Das Training VRAM wird vom Optimierer-Zustand plus Aktivierungen dominiert. Die vollständige Feinabstimmung einer 7B LLM benötigt etwa 24 bis 48 GB; LoRA / QLoRA passt in 8 bis 16 GB.
GPU-Preise werden veröffentlicht, wenn GPU-Server bestellt werden können. Kontaktieren Sie uns, wenn Sie hören möchten, wenn das passiert.
Ja. Jeder VPS.org-Server verfügt über einen vollständigen Root-Zugriff, sodass Sie andere Werkzeuge neben TensorFlow im RAM und Speicher des Servers ausführen können.
Jeder VPS.org Server verfügt über einen vollständigen Root-SSH-Zugang, so dass Sie Treiber, Bibliotheken und TensorFlow installieren können, wie Sie es auch brauchen.
Nein. Kein Server verfügt über einen vorinstallierten CUDA-Laufzeit- oder NVIDIA-Treiber, und GPU-Server stehen noch nicht zur Verfügung. Sie installieren die Versionen TensorFlow selbst.
Ja. VPS.org Server sind persistente virtuelle Maschinen, nicht ephemere Instanzen: TensorFlow Modelle, Konfigurationen und Daten bleiben auf dem SSD-Speicher des Servers, bis Sie sie löschen.
Halten Sie die Arbeitsdaten auf der SSD des Servers für schnellen Zugriff während TensorFlow läuft, und kopieren Sie fertige Artefakte (Gewichte, Generationen, Einbettungen) auf Speicher außerhalb VPS.org; Snapshots und Backups bleiben auf dem gleichen Speichercluster.
Sie können jeden VPS.org-Server auf einen größeren Plan von der Systemsteuerung aktualisieren; die Größe ändert es neu und Ihre TensorFlow-Installation übernimmt. GPU-Server sind noch nicht verfügbar.
Ja. Backups sind ein kostenpflichtiges Add-on (täglich +30% des Planpreises, 7 Tage gehalten; wöchentlich +20%, 28 Tage gehalten) und Snapshots sind kostenlos, was nützlich ist, bevor lange TensorFlow läuft. Beide bleiben auf dem gleichen Storage-Cluster wie der Server.
Kontaktieren Sie den Support innerhalb von 30 Tagen nach Ihrem ersten Kauf, um eine Rückerstattung zu beantragen. GPU-Server werden noch nicht verkauft, so dass keine GPU-Bestellung beteiligt ist.
Die GPU-Kapazität ist begrenzt. Erzählen Sie uns von Ihrem Arbeitsaufwand und wir werden mit Verfügbarkeit und Preisgestaltung antworten.