Serveurs GPU à venir bientôt

Serveurs GPU Cloud, bientôt

Nous préparons des serveurs avec un NVIDIA Tesla P40 (24 GB VRAM) transmis à chacun. Contactez-nous et nous vous indiquerons quand vous pouvez en déployer un.

✓ Prévu: GPU entier passé par PCIe
✓ Matériel prévu: Tesla P40 avec 24 Go de VRAM
✓ Accès à la racine complète & SSH
✓ Non encore commandé: contactez-nous pour être averti

Matériel GPU prévu

Chaque GPU sera transmis à un seul serveur par PCIe.

Pas encore ordonné

NVIDIA Tesla P40

VRAM 24 GB GDDR5
Noyaux de la CUDA 3,840
Performance du FP32 12 TFLOPS
INT8 Performance 47 TOPS
Bande passante de la mémoire 346 GB/s
Architecture Pascal (GP102)

Meilleur pour

Inférence de l'IA Modèle de réglage fin Transcodage vidéo Rendu 3D
Demandez la disponibilité

Construit pour les charges de travail intensives GPU

Workloads un seul GPU de 24 Go est adapté, une fois la commande ouverte

Formation AI/ML

Modèles de Tune fine et de train avec PyTorch, TensorFlow ou JAX. Un seul 24 Go Tesla P40 convient aux petits modèles et LoRA réglage fin plutôt qu'à l'entraînement à grande échelle.

Demandez la disponibilité →

Inférence du modèle

Servez des LLM, génération d'images, reconnaissance de la parole et modèles de vision informatique d'un GPU.

Demandez la disponibilité →

Vidéo & rendu

Transcodez la vidéo avec le codage matériel NVENC et rendez les scènes 3D avec les cycles Blender.

Demandez la disponibilité →

Informatique scientifique

Exécuter des dynamiques moléculaires, des simulations et d'autres charges de travail CUDA ou OpenCL qui fonctionnent en une seule précision.

Demandez la disponibilité →

Traitement des données

Accélérez les maths et les booster en réseau avec CuPy, XGBoost et PyTorch sur le GPU.

Demandez la disponibilité →

Développement de l'IA

Construisez et testez des applications d'IA avec des cahiers Jupyter, VS Code distant et votre propre environnement de développement CUDA.

Demandez la disponibilité →

Comment les serveurs GPU fonctionneront

1

GPU entier, non partagé

PCIe passthrough donne à votre serveur le GPU entier, avec des performances proches des performances natives.

2

Demandez d'abord

Les serveurs GPU ne peuvent pas encore être commandés depuis le panneau. Contactez-nous avec votre charge de travail et nous répondrons lorsque la capacité est prête.

3

Pas de contrat

VPS.org plans sont facturés à l'heure, plafonné à 672 heures par mois, sans contrat. prix GPU sera publié lors de l'ouverture de la commande.

4

Accès à la racine complète

Installez n'importe quel cadre, version pilote ou boîte à outils CUDA. SSH accès dès le premier jour.

Exécuter n'importe quelle charge de travail GPU

Guides pour les cadres de l'IA/ML populaires, les outils créatifs et les applications accélérées GPU

Foire aux questions

Tout ce que vous devez savoir sur l'hébergement GPU VPS

Qu'est-ce qu'un VPS GPU?

+

A GPU VPS is a virtual server with a physical GPU passed through to it, for work such as AI inference, model fine-tuning, video transcoding and rendering. VPS.org GPU servers are not orderable yet.

Quels modèles GPU sont disponibles?

+

Aucun ne peut encore être commandé. Les premiers serveurs GPU que nous préparons utilisent les cartes NVIDIA Tesla P40 avec 24 Go de VRAM. Contactez-nous pour être avertis quand ils ouvriront.

Qu'est-ce que la transmission GPU?

+

Avec PCIe passthrough, un GPU physique entier est attribué à un serveur virtuel. Votre logiciel utilise la carte directement via le pilote standard NVIDIA, avec des performances proches des performances natives, et le GPU n'est pas partagé avec d'autres clients.

Les pilotes NVIDIA sont-ils préinstallés?

+

Non. Vous installez le pilote NVIDIA et la version de la boîte à outils CUDA dont vous avez besoin, avec un accès root complet. Le Tesla P40 est un GPU Pascal (capacité de calcul 6.1), donc vérifiez que votre version framework le supporte encore.

Puis-je utiliser plusieurs GPU sur un seul VPS?

+

Pas pour le moment. Un serveur GPU aura un GPU. Contactez-nous si votre charge de travail a besoin de plus.

Quelles sont les charges de travail GPU VPS les mieux adaptées?

+

Inférence de modèle, réglage fin des modèles petits et quantifiés, vision informatique, reconnaissance vocale, transcodage vidéo, rendu 3D et calcul scientifique qui fonctionne en une seule précision.

Comment fonctionne la facturation pour GPU VPS?

+

Les serveurs GPU ne sont pas encore disponibles, il n'y a donc rien à payer aujourd'hui. Les plans standard VPS sont facturés à l'heure, plafonnés à 672 heures par mois; les prix GPU seront publiés lors de l'ouverture de la commande.

Puis-je passer d'un VPS standard à un VPS GPU?

+

Pas en place. Les serveurs GPU fonctionnent sur des nœuds GPU séparés, donc se déplacer vers un seul signifie déployer un nouveau serveur et copier vos données à travers.

L'atténuation des attaques est-elle incluse?

+

Le numéro VPS.org n'inclut pas l'atténuation du refus de service sur un plan quelconque. Si vous en avez besoin, placez les services publics derrière un service de procuration ou d'atténuation.

Quels systèmes d'exploitation prennent en charge GPU VPS?

+

Les systèmes d'exploitation pris en charge seront confirmés lors de l'ouverture de la commande. Les versions Ubuntu LTS ont les paquets de pilotes NVIDIA les plus matures.

Y a-t-il une période d'engagement minimale?

+

Il n'y a pas de contrat sur les plans VPS.org : vous pouvez détruire un serveur à tout moment et la facturation s'arrête. Les termes GPU seront publiés lors de l'ouverture de la commande.

Comment puis-je commencer avec GPU VPS?

+

Contactez-nous par l'intermédiaire de la page de contact avec votre charge de travail et la mémoire GPU dont vous avez besoin, et nous vous informerons quand les serveurs GPU peuvent être commandés.

Vous voulez un serveur GPU quand ils s'ouvrent?

La capacité de GPU est limitée. Parlez-nous de votre charge de travail et nous répondrons avec disponibilité et prix.