Prochainement: NVIDIA Tesla P40, 24 Go VRAM

Serveur GPU de formation AI/ML

Modèles de Tune Fine et Train sur une NVIDIA Tesla P40 (24 GB VRAM, architecture Pascal). Meilleur pour les modèles de réglage fin et petits LoRA. Les serveurs GPU ne sont pas encore disponibles; contactez-nous pour être avertis quand ils le sont.

$ pip install torch transformers datasets accelerate && python train.py
# Exemple de commande d'installation

Qu'est-ce que {nom} sur un VPS GPU?

Les modèles de formation AI ont besoin de calcul parallèle que les GPU fournissent. Un serveur GPU vous donne un GPU pour vos propres emplois de formation.

AI Training sur un serveur GPU VPS.org

GPU entier

Un Tesla P40 avec 24 Go de VRAM, passé à votre serveur et non partagé.

Choix-cadre

PyTorch, TensorFlow, JAX ou tout cadre qui supporte encore les GPU Pascal.

Stockage SSD

Gardez les ensembles de données, les points de contrôle et les fichiers modèles sur le stockage SSD du serveur.

Accès SSH

Accès en racine complète pour configurer l'environnement de formation.

Cas d'utilisation populaires {nom}

Modèle à réglage fin
Transfert de l'apprentissage
Formation sur modèle personnalisé
Réglage de l'hyperparamètre
Prétraitement de la série de données
Adaptateurs LoRA

Spécifications prévues du GPU

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Noyaux de la CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Mémoire BW346 GB/s
ArchitecturePascal (GP102)
PasséPCIe à barres métalliques

Foire aux questions

Qu'est-ce que AI Training sur un VPS GPU?

+

AI Training peut utiliser un GPU NVIDIA pour accélérer son travail. Les serveurs GPU VPS.org ne sont pas encore disponibles pour commander; contactez-nous pour savoir quand ils sont. AI Training est une charge de travail générale accélérée GPU. Assurez-vous que votre logiciel a le support CUDA et que vos versions pilote/exécution correspondent aux exigences de charge de travail pour AI Training.

Comment configurer AI Training sur un VPS GPU?

+

Les serveurs GPU ne sont pas encore disponibles pour commander. Aujourd'hui, vous pouvez exécuter AI Training sur un plan CPU régulier, où il fonctionne beaucoup plus lentement que sur un GPU: SSH et exécuter pip install torch transformers datasets accelerate && python train.py.

Combien de VRAM ai-je besoin pour AI Training?

+

Les besoins en VRAM pour AI Training dépendent du modèle et de la taille des lots; vérifiez la documentation du projet pour les chiffres actuels.

Combien coûterait un serveur GPU pour AI Training?

+

Les prix GPU seront publiés lorsque les serveurs GPU pourront être commandés. Contactez-nous si vous voulez savoir quand cela se produit.

Puis-je utiliser d'autres outils aux côtés de AI Training?

+

Oui. Chaque serveur VPS.org est livré avec un accès root complet, vous pouvez donc exécuter d'autres outils à côté de AI Training dans la mémoire vive et le stockage du serveur.

Est-ce que j'obtiens la pleine racine sur le AI Training GPU VPS?

+

Chaque serveur VPS.org est livré avec un accès SSH racine complète, de sorte que vous pouvez installer les pilotes, les bibliothèques et AI Training comme vous le souhaitez.

Est-ce que VPS.org préinstalle CUDA pour AI Training?

+

Non. Aucun serveur n'est livré avec un pilote d'exécution CUDA ou NVIDIA préinstallé, et les serveurs GPU ne sont pas encore disponibles pour commander. Vous installez les versions AI Training vous-même.

Mon AI Training GPU VPS persiste-t-il entre les sessions?

+

Oui. Les serveurs VPS.org sont des machines virtuelles persistantes, pas des instances éphémères : les modèles AI Training, les configs et les données restent sur le stockage SSD du serveur jusqu'à ce que vous les supprimiez.

Où dois-je stocker les données pour ma charge de travail AI Training?

+

Continuez à travailler sur le SSD du serveur pour un accès rapide pendant les exécutions de AI Training, et copiez les artefacts finis (poids, générations, embarquations) au stockage extérieur de VPS.org ; les instantanés et sauvegardes restent sur le même groupe de stockage.

Puis-je faire une échelle de mon AI Training GPU VPS plus tard?

+

Vous pouvez mettre à niveau n'importe quel serveur VPS.org vers un plan plus grand depuis le panneau de contrôle ; la redimensionnement le redémarre et votre installation AI Training se déplace. Les serveurs GPU ne sont pas encore disponibles.

Est-ce que des sauvegardes sont disponibles pour mon GPU VPS?

+

Oui. Les sauvegardes sont un add-on payant (par jour +30% du prix du forfait, gardé 7 jours; hebdomadaire +20%, gardé 28 jours) et les instantanés sont gratuits, ce qui est utile avant de longues AI Training. Les deux restent sur le même groupe de stockage que le serveur.

Je peux obtenir un remboursement?

+

Assistance de contact dans les 30 jours suivant votre premier achat pour demander un remboursement. Les serveurs GPU ne sont pas encore vendus, donc aucune commande GPU n'est en cause.

Vous voulez exécuter AI Training sur un serveur GPU?

La capacité de GPU est limitée. Parlez-nous de votre charge de travail et nous répondrons avec disponibilité et prix.