Τρένο και να εκτελέσετε PyTorch μοντέλα σε NVIDIA Tesla P40 (24 GB VRAM, Pascal αρχιτεκτονική), με πλήρη πρόσβαση ρίζα. Οι διακομιστές GPU δεν είναι ακόμα παραγγελία; επικοινωνήστε μαζί μας για να ειδοποιηθείτε όταν είναι.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Παράδειγμα εντολής εγκατάστασης
Ένας διακομιστής GPU εκτελεί την εκπαίδευση PyTorch και το συμπέρασμα για την GPU, η οποία είναι πολύ πιο γρήγορη από ό, τι σε μια CPU για τα περισσότερα μοντέλα.
Μπορείτε να εγκαταστήσετε τον οδηγό NVIDIA, CUDA και την κατασκευή PyTorch που χρειάζεστε. Ελέγξτε ότι η κατασκευή PyTorch σας υποστηρίζει ακόμα Pascal GPUs (compute ικανότητα 6.1).
Χώρος για μικρά και μεσαίου μεγέθους μοντέλα, LORA λεπτή ρύθμιση και μέτρια μεγέθη παρτίδων.
Εκτελέστε τα σημειωματάρια Jupyter στον εξυπηρετητή για διαδραστική εργασία στην GPU.
Ρύθμιση του περιβάλλοντος ακριβώς όπως χρειάζεται το έργο σας.
PyTorch μπορεί να χρησιμοποιήσει μια NVIDIA GPU για να επιταχύνει την εργασία της. zqx0qz GPU διακομιστές δεν είναι ακόμα στη διάθεση σας να παραγγείλετε? επικοινωνήστε μαζί μας για να ακούσετε πότε είναι. PyTorch είναι μια εκπαίδευση / λεπτής ρύθμισης φόρτο εργασίας. Σχέδιο για τις θέσεις εργασίας: στιγμιότυπο VPS σας τακτικά και να κρατήσει ένα αντίγραφο των εκπαιδευμένων βαρών έξω από VPS.org.
Σήμερα μπορείτε να εκτελέσετε PyTorch σε ένα κανονικό σχέδιο CPU, όπου λειτουργεί πολύ πιο αργά από ό, τι σε μια GPU: SSH μέσα και να εκτελέσετε pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
Η εκπαίδευση VRAM κυριαρχείται από την κατάσταση βελτιστοποίησης συν ενεργοποιήσεις. Πλήρης ρύθμιση ενός 7B LLM χρειάζεται περίπου 24 έως 48 GB; LoRA / QLORA ταιριάζει σε 8 έως 16 GB.
Η τιμολόγηση της GPU θα δημοσιευθεί όταν οι διακομιστές GPU μπορούν να παραγγελθούν. Επικοινωνήστε μαζί μας αν θέλετε να ακούσετε πότε συμβαίνει αυτό.
Ναι. Κάθε διακομιστής VPS.org έχει πλήρη πρόσβαση στις ρίζες, ώστε να μπορείτε να εκτελέσετε άλλα εργαλεία παράλληλα με PyTorch εντός της RAM και αποθήκευσης του διακομιστή.
Κάθε διακομιστής VPS.org έρχεται με πλήρη πρόσβαση SSH ρίζας, ώστε να μπορείτε να εγκαταστήσετε οδηγούς, βιβλιοθήκες και PyTorch, όπως χρειάζεστε.
No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions PyTorch needs yourself.
Ναι. Οι διακομιστές VPS.org είναι επίμονες εικονικές μηχανές, όχι εφήμερες περιπτώσεις: μοντέλα PyTorch, ρυθμίσεις και δεδομένα παραμένουν στην αποθήκευση SSD του διακομιστή μέχρι να τις διαγράψετε.
Κρατήστε τα δεδομένα εργασίας για SSD του διακομιστή για γρήγορη πρόσβαση κατά τη διάρκεια PyTorch τρέχει, και αντιγράψτε τελικά αντικείμενα (βάρη, γενιές, κτερίσματα) για την αποθήκευση έξω από VPS.org; στιγμιότυπα και αντίγραφα ασφαλείας παραμένουν στην ίδια ομάδα αποθήκευσης.
Μπορείτε να αναβαθμίσετε οποιοδήποτε διακομιστή VPS.org σε ένα μεγαλύτερο σχέδιο από τον πίνακα ελέγχου; η αλλαγή μεγέθους επανεκκινεί και σας PyTorch εγκατάσταση μεταφέρει πάνω.
Ναι. Οι εφεδρικές συσκευές είναι ένα επιπλέον ποσό (καθημερινά +30% της τιμής του σχεδίου, διατηρείται 7 ημέρες; εβδομαδιαία +20%, διατηρούνται 28 ημέρες) και οι φωτογραφίες είναι δωρεάν, το οποίο είναι χρήσιμο πριν από την εκτέλεση του μεγάλου PyTorch. Και οι δύο παραμένουν στην ίδια ομάδα αποθήκευσης με τον διακομιστή.
Υποστήριξη επικοινωνίας εντός 30 ημερών από την πρώτη αγορά σας για να ζητήσετε επιστροφή χρημάτων. Οι διακομιστές GPU δεν πωλούνται ακόμα, έτσι δεν υπάρχει εντολή GPU.
Η ικανότητα GPU είναι περιορισμένη. Πείτε μας για το φόρτο εργασίας σας και θα απαντήσουμε με διαθεσιμότητα και τιμολόγηση.