Exécutez la formation TensorFlow et Keras et l'inférence sur une NVIDIA Tesla P40 (24 GB VRAM, architecture Pascal). Les serveurs GPU ne sont pas encore disponibles; contactez-nous pour être avertis quand ils le sont.
$ pip install tensorflow[and-cuda]
# Exemple de commande d'installation
TensorFlow est le cadre d'apprentissage automatique open-source de Google. Sur un serveur GPU, TensorFlow exécute ses opérations sur le GPU via CUDA.
TensorFlow utilise le GPU via CUDA une fois que vous installez un pilote correspondant et la version CUDA.
Construisez des modèles avec l'API Keras en plus du moteur GPU.
Surveillez la formation avec TensorBoard sur votre propre serveur.
Servir des modèles formés avec TensorFlow Serving.
TensorFlow peut utiliser un GPU NVIDIA pour accélérer son travail. Les serveurs GPU VPS.org ne sont pas encore disponibles pour commander; contactez-nous pour entendre quand ils sont. TensorFlow est une charge de travail d'entraînement / réglage fin. Planifiez pour les tâches de longue durée: snapshot your VPS régulièrement et conservez une copie des poids formés à l'extérieur de VPS.org.
Les serveurs GPU ne sont pas encore disponibles pour commander. Aujourd'hui, vous pouvez exécuter TensorFlow sur un plan CPU régulier, où il fonctionne beaucoup plus lentement que sur un GPU: SSH et exécuter pip install tensorflow[and-cuda].
L'entraînement VRAM est dominé par l'état optimal plus les activations. Le réglage complet d'un 7B LLM nécessite environ 24 à 48 Go; LoRA / QLora s'adapte en 8 à 16 Go.
Les prix GPU seront publiés lorsque les serveurs GPU pourront être commandés. Contactez-nous si vous voulez savoir quand cela se produit.
Oui. Chaque serveur VPS.org est livré avec un accès root complet, vous pouvez donc exécuter d'autres outils à côté de TensorFlow dans la mémoire vive et le stockage du serveur.
Chaque serveur VPS.org est livré avec un accès SSH racine complète, de sorte que vous pouvez installer les pilotes, les bibliothèques et TensorFlow comme vous le souhaitez.
Non. Aucun serveur n'est livré avec un pilote d'exécution CUDA ou NVIDIA préinstallé, et les serveurs GPU ne sont pas encore disponibles pour commander. Vous installez les versions TensorFlow vous-même.
Oui. Les serveurs VPS.org sont des machines virtuelles persistantes, pas des instances éphémères : les modèles TensorFlow, les configs et les données restent sur le stockage SSD du serveur jusqu'à ce que vous les supprimiez.
Continuez à travailler sur le SSD du serveur pour un accès rapide pendant les exécutions de TensorFlow, et copiez les artefacts finis (poids, générations, embarquations) au stockage extérieur de VPS.org ; les instantanés et sauvegardes restent sur le même groupe de stockage.
Vous pouvez mettre à niveau n'importe quel serveur VPS.org vers un plan plus grand depuis le panneau de contrôle ; la redimensionnement le redémarre et votre installation TensorFlow se déplace. Les serveurs GPU ne sont pas encore disponibles.
Oui. Les sauvegardes sont un add-on payant (par jour +30% du prix du forfait, gardé 7 jours; hebdomadaire +20%, gardé 28 jours) et les instantanés sont gratuits, ce qui est utile avant de longues TensorFlow. Les deux restent sur le même groupe de stockage que le serveur.
Assistance de contact dans les 30 jours suivant votre premier achat pour demander un remboursement. Les serveurs GPU ne sont pas encore vendus, donc aucune commande GPU n'est en cause.
La capacité de GPU est limitée. Parlez-nous de votre charge de travail et nous répondrons avec disponibilité et prix.