Σύντομα: NVIDIA Tesla P40, 24 GB VRAM

Εξυπηρετητής εκπαίδευσης GPU AI/ML

Τα μοντέλα λεπτής τύμπου και τρένου σε NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture). Καλύτερα για LORA λεπτοποίηση και μικρά μοντέλα. Οι εξυπηρετητές GPU δεν είναι ακόμα παραγγελία; επικοινωνήστε μαζί μας για να ειδοποιηθείτε όταν είναι.

$ pip install torch transformers datasets accelerate && python train.py
# Παράδειγμα εντολής εγκατάστασης

Τι είναι το {όνομα} σε GPU VPS;

Τα μοντέλα εκπαίδευσης AI χρειάζονται παράλληλο υπολογισμό που παρέχουν οι GPUs. Ένας διακομιστής GPU σας δίνει μια GPU για τις δικές σας εργασίες κατάρτισης.

AI Training σε έναν εξυπηρετητή GPU VPS.org

Ολόκληρη η GPU

Ένα Tesla P40 με 24 GB VRAM, πέρασε από τον διακομιστή σας και δεν μοιράστηκε.

Επιλογή πλαισίου

PyTorch, TensorFlow, JAX ή οποιοδήποτε πλαίσιο που εξακολουθεί να υποστηρίζει Pascal GPUs.

Αποθήκευση SSD

Κρατήστε τα σύνολα δεδομένων, σημεία ελέγχου και αρχεία μοντέλων στην αποθήκευση SSD του διακομιστή.

Πρόσβαση SSH

Πλήρης πρόσβαση στη ρίζα για να ρυθμίσετε το περιβάλλον εκπαίδευσης.

Δημοφιλής {όνομα} Χρήση περιπτώσεων

Υπόδειγμα εξομάλυνσης των βραχυχρόνιων διακυμάνσεων της ρευστότητας
Μεταφορική μάθηση
Εκπαίδευση προσαρμοσμένου μοντέλου
Ρύθμιση υπερπαραμέτρου
Προεπεξεργασία συνόλου δεδομένων
Προσαρμογέες LoRA

Σχεδιασμένες προδιαγραφές GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
CUDA Cores3,840
ΠΠ3212 TFLOPS
INT847 TOPS
BW μνήμης346 GB/s
ΑρχιτεκτονικήPascal (GP102)
Πέρασμα@ title: windowPCIe passthrough

Συχνές Ερωτήσεις

Τι είναι το AI Training σε GPU VPS;

+

AI Training μπορεί να χρησιμοποιήσει μια NVIDIA GPU για να επιταχύνει την εργασία της. VPS.org GPU διακομιστές δεν είναι ακόμα στη διάθεση σας να παραγγείλετε? επικοινωνήστε μαζί μας για να ακούσετε πότε είναι. AI Training είναι ένα γενικό GPU-επιταχυνόμενο φόρτο εργασίας. Βεβαιωθείτε ότι το λογισμικό σας έχει υποστήριξη CUDA και ότι οι εκδόσεις σας οδηγού / χρόνου λειτουργίας ταιριάζουν με τις απαιτήσεις του φόρτου εργασίας για AI Training.

Πώς μπορώ να ρυθμίσω AI Training σε μια GPU VPS;

+

Σήμερα μπορείτε να εκτελέσετε AI Training σε ένα κανονικό σχέδιο CPU, όπου λειτουργεί πολύ πιο αργά από ό, τι σε μια GPU: SSH μέσα και να εκτελέσετε pip install torch transformers datasets accelerate && python train.py.

Πόσα VRAM χρειάζομαι για AI Training;

+

Οι ανάγκες VRAM για AI Training εξαρτώνται από το μοντέλο και το μέγεθος της παρτίδας, ελέγξτε τα έγγραφα του έργου για τα τρέχοντα στοιχεία.

Πόσο θα κόστιζε ένας διακομιστής GPU για AI Training;

+

Η τιμολόγηση της GPU θα δημοσιευθεί όταν οι διακομιστές GPU μπορούν να παραγγελθούν. Επικοινωνήστε μαζί μας αν θέλετε να ακούσετε πότε συμβαίνει αυτό.

Μπορώ να τρέξω άλλα εργαλεία δίπλα στο AI Training;

+

Ναι. Κάθε διακομιστής VPS.org έχει πλήρη πρόσβαση στις ρίζες, ώστε να μπορείτε να εκτελέσετε άλλα εργαλεία παράλληλα με AI Training εντός της RAM και αποθήκευσης του διακομιστή.

Μπορώ να πάρω πλήρη ρίζα για το AI Training GPU VPS;

+

Κάθε διακομιστής VPS.org έρχεται με πλήρη πρόσβαση SSH ρίζας, ώστε να μπορείτε να εγκαταστήσετε οδηγούς, βιβλιοθήκες και AI Training, όπως χρειάζεστε.

Μήπως VPS.org preinstall CUDA για AI Training;

+

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions AI Training needs yourself.

Επιμένει το AI Training GPU VPS μου ανάμεσα στις συνεδρίες;

+

Ναι. Οι διακομιστές VPS.org είναι επίμονες εικονικές μηχανές, όχι εφήμερες περιπτώσεις: μοντέλα AI Training, ρυθμίσεις και δεδομένα παραμένουν στην αποθήκευση SSD του διακομιστή μέχρι να τις διαγράψετε.

Πού πρέπει να αποθηκεύσω δεδομένα για το AI Training φόρτο εργασίας μου;

+

Κρατήστε τα δεδομένα εργασίας για SSD του διακομιστή για γρήγορη πρόσβαση κατά τη διάρκεια AI Training τρέχει, και αντιγράψτε τελικά αντικείμενα (βάρη, γενιές, κτερίσματα) για την αποθήκευση έξω από VPS.org; στιγμιότυπα και αντίγραφα ασφαλείας παραμένουν στην ίδια ομάδα αποθήκευσης.

Μπορώ να κλιμακώσω το AI Training GPU VPS μου αργότερα;

+

Μπορείτε να αναβαθμίσετε οποιοδήποτε διακομιστή VPS.org σε ένα μεγαλύτερο σχέδιο από τον πίνακα ελέγχου; η αλλαγή μεγέθους επανεκκινεί και σας AI Training εγκατάσταση μεταφέρει πάνω.

Είναι διαθέσιμα αντίγραφα ασφαλείας για το GPU VPS μου;

+

Ναι. Οι εφεδρικές συσκευές είναι ένα επιπλέον ποσό (καθημερινά +30% της τιμής του σχεδίου, διατηρείται 7 ημέρες; εβδομαδιαία +20%, διατηρούνται 28 ημέρες) και οι φωτογραφίες είναι δωρεάν, το οποίο είναι χρήσιμο πριν από την εκτέλεση του μεγάλου AI Training. Και οι δύο παραμένουν στην ίδια ομάδα αποθήκευσης με τον διακομιστή.

Μπορώ να έχω μια επιστροφή χρημάτων;

+

Υποστήριξη επικοινωνίας εντός 30 ημερών από την πρώτη αγορά σας για να ζητήσετε επιστροφή χρημάτων. Οι διακομιστές GPU δεν πωλούνται ακόμα, έτσι δεν υπάρχει εντολή GPU.

Θέλετε να εκτελέσετε AI Training σε ένα διακομιστή GPU;

Η ικανότητα GPU είναι περιορισμένη. Πείτε μας για το φόρτο εργασίας σας και θα απαντήσουμε με διαθεσιμότητα και τιμολόγηση.