Train et exécuter des modèles PyTorch sur un NVIDIA Tesla P40 (24 GB VRAM, architecture Pascal), avec un accès racine complet. Les serveurs GPU ne sont pas encore disponibles; contactez-nous pour être avertis quand ils le sont.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Exemple de commande d'installation
PyTorch est un cadre d'apprentissage profond largement utilisé. Un serveur GPU exécute la formation et l'inférence PyTorch sur le GPU, qui est beaucoup plus rapide que sur un CPU pour la plupart des modèles.
Vous installez le pilote NVIDIA, CUDA et la construction PyTorch dont vous avez besoin. Vérifiez que votre construction PyTorch supporte toujours les GPU Pascal (capacité de calcul 6.1).
Chambre pour les modèles de petite et moyenne taille, LoRA de taille fine et de taille moyenne.
Lancez des carnets Jupyter sur le serveur pour un travail interactif sur le GPU.
Configurez l'environnement exactement comme votre projet le requiert.
PyTorch peut utiliser un GPU NVIDIA pour accélérer son travail. Les serveurs GPU VPS.org ne sont pas encore disponibles pour commander; contactez-nous pour entendre quand ils sont. PyTorch est une charge de travail d'entraînement / réglage fin. Planifiez pour les tâches de longue durée: snapshot your VPS régulièrement et conservez une copie des poids formés à l'extérieur de VPS.org.
Les serveurs GPU ne sont pas encore disponibles pour commander. Aujourd'hui, vous pouvez exécuter PyTorch sur un plan CPU régulier, où il fonctionne beaucoup plus lentement que sur un GPU: SSH et exécuter pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124.
L'entraînement VRAM est dominé par l'état optimal plus les activations. Le réglage complet d'un 7B LLM nécessite environ 24 à 48 Go; LoRA / QLora s'adapte en 8 à 16 Go.
Les prix GPU seront publiés lorsque les serveurs GPU pourront être commandés. Contactez-nous si vous voulez savoir quand cela se produit.
Oui. Chaque serveur VPS.org est livré avec un accès root complet, vous pouvez donc exécuter d'autres outils à côté de PyTorch dans la mémoire vive et le stockage du serveur.
Chaque serveur VPS.org est livré avec un accès SSH racine complète, de sorte que vous pouvez installer les pilotes, les bibliothèques et PyTorch comme vous le souhaitez.
Non. Aucun serveur n'est livré avec un pilote d'exécution CUDA ou NVIDIA préinstallé, et les serveurs GPU ne sont pas encore disponibles pour commander. Vous installez les versions PyTorch vous-même.
Oui. Les serveurs VPS.org sont des machines virtuelles persistantes, pas des instances éphémères : les modèles PyTorch, les configs et les données restent sur le stockage SSD du serveur jusqu'à ce que vous les supprimiez.
Continuez à travailler sur le SSD du serveur pour un accès rapide pendant les exécutions de PyTorch, et copiez les artefacts finis (poids, générations, embarquations) au stockage extérieur de VPS.org ; les instantanés et sauvegardes restent sur le même groupe de stockage.
Vous pouvez mettre à niveau n'importe quel serveur VPS.org vers un plan plus grand depuis le panneau de contrôle ; la redimensionnement le redémarre et votre installation PyTorch se déplace. Les serveurs GPU ne sont pas encore disponibles.
Oui. Les sauvegardes sont un add-on payant (par jour +30% du prix du forfait, gardé 7 jours; hebdomadaire +20%, gardé 28 jours) et les instantanés sont gratuits, ce qui est utile avant de longues PyTorch. Les deux restent sur le même groupe de stockage que le serveur.
Assistance de contact dans les 30 jours suivant votre premier achat pour demander un remboursement. Les serveurs GPU ne sont pas encore vendus, donc aucune commande GPU n'est en cause.
La capacité de GPU est limitée. Parlez-nous de votre charge de travail et nous répondrons avec disponibilité et prix.