Σύντομα: NVIDIA Tesla P40, 24 GB VRAM

TensorFlow GPU VPS

Εκτελέστε TensorFlow και Keras εκπαίδευση και το συμπέρασμα σε NVIDIA Tesla P40 (24 GB VRAM, Pascal αρχιτεκτονική). Οι διακομιστές GPU δεν είναι ακόμα διατεταγμένοι; επικοινωνήστε μαζί μας για να ειδοποιηθείτε όταν είναι.

$ pip install tensorflow[and-cuda]
# Παράδειγμα εντολής εγκατάστασης

Τι είναι το {όνομα} σε GPU VPS;

TensorFlow είναι το πλαίσιο εκμάθησης μηχανών ανοιχτής πηγής της Google. Σε έναν διακομιστή GPU, η TensorFlow εκτελεί τις λειτουργίες της στην GPU μέσω CUDA.

TensorFlow σε έναν εξυπηρετητή GPU VPS.org

Επιτάχυνση GPU

TensorFlow χρησιμοποιεί την GPU μέσω CUDA μόλις εγκαταστήσετε ένα ταιριάζουν οδηγό και CUDA έκδοση.

Κέρας

Κατασκευάστε μοντέλα με το API Κέρας στην κορυφή του συστήματος υποστήριξης GPU.

TensorBoardCity name (optional, probably does not need a translation)

Παρακολουθήστε την εκπαίδευση με TensorBoard στο δικό σας διακομιστή.

TF Σερβίροντας

Σερβίρετε εκπαιδευμένα μοντέλα με TensorFlow Serving.

Δημοφιλής {όνομα} Χρήση περιπτώσεων

Ταξινόμηση εικόνας
Ανίχνευση αντικειμένου
Επεξεργασία φυσικών γλωσσών
Συστήματα σύστασης
Πρόβλεψη χρονοσειράς
Παραγωγή αγωγούς ML

Σχεδιασμένες προδιαγραφές GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA Cores3,840
ΠΠ3212 TFLOPS
INT847 TOPS
BW μνήμης346 GB/s
ΑρχιτεκτονικήPascal (GP102)
Πέρασμα@ title: windowPCIe passthrough

Συχνές Ερωτήσεις

Τι είναι το TensorFlow σε GPU VPS;

+

TensorFlow μπορεί να χρησιμοποιήσει μια NVIDIA GPU για να επιταχύνει την εργασία της. zqx0qz GPU διακομιστές δεν είναι ακόμα στη διάθεση σας να παραγγείλετε? επικοινωνήστε μαζί μας για να ακούσετε πότε είναι. TensorFlow είναι μια εκπαίδευση / λεπτής ρύθμισης φόρτο εργασίας. Σχέδιο για τις θέσεις εργασίας: στιγμιότυπο VPS σας τακτικά και να κρατήσει ένα αντίγραφο των εκπαιδευμένων βαρών έξω από VPS.org.

Πώς μπορώ να ρυθμίσω TensorFlow σε μια GPU VPS;

+

Σήμερα μπορείτε να εκτελέσετε TensorFlow σε ένα κανονικό σχέδιο CPU, όπου λειτουργεί πολύ πιο αργά από ό, τι σε μια GPU: SSH μέσα και να εκτελέσετε pip install tensorflow[and-cuda].

Πόσα VRAM χρειάζομαι για TensorFlow;

+

Η εκπαίδευση VRAM κυριαρχείται από την κατάσταση βελτιστοποίησης συν ενεργοποιήσεις. Πλήρης ρύθμιση ενός 7B LLM χρειάζεται περίπου 24 έως 48 GB; LoRA / QLORA ταιριάζει σε 8 έως 16 GB.

Πόσο θα κόστιζε ένας διακομιστής GPU για TensorFlow;

+

Η τιμολόγηση της GPU θα δημοσιευθεί όταν οι διακομιστές GPU μπορούν να παραγγελθούν. Επικοινωνήστε μαζί μας αν θέλετε να ακούσετε πότε συμβαίνει αυτό.

Μπορώ να τρέξω άλλα εργαλεία δίπλα στο TensorFlow;

+

Ναι. Κάθε διακομιστής VPS.org έχει πλήρη πρόσβαση στις ρίζες, ώστε να μπορείτε να εκτελέσετε άλλα εργαλεία παράλληλα με TensorFlow εντός της RAM και αποθήκευσης του διακομιστή.

Μπορώ να πάρω πλήρη ρίζα για το TensorFlow GPU VPS;

+

Κάθε διακομιστής VPS.org έρχεται με πλήρη πρόσβαση SSH ρίζας, ώστε να μπορείτε να εγκαταστήσετε οδηγούς, βιβλιοθήκες και TensorFlow, όπως χρειάζεστε.

Μήπως VPS.org preinstall CUDA για TensorFlow;

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions TensorFlow needs yourself.

Επιμένει το TensorFlow GPU VPS μου ανάμεσα στις συνεδρίες;

+

Ναι. Οι διακομιστές VPS.org είναι επίμονες εικονικές μηχανές, όχι εφήμερες περιπτώσεις: μοντέλα TensorFlow, ρυθμίσεις και δεδομένα παραμένουν στην αποθήκευση SSD του διακομιστή μέχρι να τις διαγράψετε.

Πού πρέπει να αποθηκεύσω δεδομένα για το TensorFlow φόρτο εργασίας μου;

+

Κρατήστε τα δεδομένα εργασίας για SSD του διακομιστή για γρήγορη πρόσβαση κατά τη διάρκεια TensorFlow τρέχει, και αντιγράψτε τελικά αντικείμενα (βάρη, γενιές, κτερίσματα) για την αποθήκευση έξω από VPS.org; στιγμιότυπα και αντίγραφα ασφαλείας παραμένουν στην ίδια ομάδα αποθήκευσης.

Μπορώ να κλιμακώσω το TensorFlow GPU VPS μου αργότερα;

+

Μπορείτε να αναβαθμίσετε οποιοδήποτε διακομιστή VPS.org σε ένα μεγαλύτερο σχέδιο από τον πίνακα ελέγχου; η αλλαγή μεγέθους επανεκκινεί και σας TensorFlow εγκατάσταση μεταφέρει πάνω.

Είναι διαθέσιμα αντίγραφα ασφαλείας για το GPU VPS μου;

+

Ναι. Οι εφεδρικές συσκευές είναι ένα επιπλέον ποσό (καθημερινά +30% της τιμής του σχεδίου, διατηρείται 7 ημέρες; εβδομαδιαία +20%, διατηρούνται 28 ημέρες) και οι φωτογραφίες είναι δωρεάν, το οποίο είναι χρήσιμο πριν από την εκτέλεση του μεγάλου TensorFlow. Και οι δύο παραμένουν στην ίδια ομάδα αποθήκευσης με τον διακομιστή.

Μπορώ να έχω μια επιστροφή χρημάτων;

+

Υποστήριξη επικοινωνίας εντός 30 ημερών από την πρώτη αγορά σας για να ζητήσετε επιστροφή χρημάτων. Οι διακομιστές GPU δεν πωλούνται ακόμα, έτσι δεν υπάρχει εντολή GPU.

Θέλετε να εκτελέσετε TensorFlow σε ένα διακομιστή GPU;

Η ικανότητα GPU είναι περιορισμένη. Πείτε μας για το φόρτο εργασίας σας και θα απαντήσουμε με διαθεσιμότητα και τιμολόγηση.