Em breve: NVIDIA Tesla P40, 24 GB VRAM

Servidor GPU de Treinamento AI/ML

Ajuste e treine modelos em uma NVIDIA Tesla P40 (24 GB VRAM, Arquitetura Pascal). Melhor para os modelos de ajuste finos e pequenos da LoRA. Os servidores GPU ainda não são ordenáveis; entre em contato conosco para ser notificado quando estiverem.

$ pip install torch transformers datasets accelerate && python train.py
# Exemplo de comando de instalação

O que é {nome} em um GPU VPS?

Formação modelos de IA precisa de cálculo paralelo que GPUs fornece. Um servidor de GPU dá-lhe uma GPU para seus próprios trabalhos de treinamento.

AI Training num servidor de GPU VPS.org

GPU inteira

O Tesla P40 com 24 GB VRAM, passou para o seu servidor e não compartilhado.

Escolha-Quadro

PyTorch, TensorFlow, JAX ou qualquer framework que ainda suporta Pascal GPUs.

Armazenamento SSD

Manter conjuntos de dados, pontos de controle e arquivos de modelos no armazenamento SSD do servidor.

SSH Acesso

Acesso completo à raiz para configurar o ambiente de treinamento.

Processos de uso populares {nome}

Modelo de ajuste fino
Aprendizagem de transferências
Formação de modelo personalizado
Sintonização de hiperparâmetros
Preprocessamento de dados
Adaptadores LoRA

Especificações do GPU previstas

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Núcleos CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Memória BW346 GB/s
ArquiteturaPascal (GP102)
PassagemPCIe passa-passagem

Perguntas Frequentes

O que é AI Training em um VPS GPU?

+

AI Training pode usar uma GPU NVIDIA para acelerar seu trabalho. VPS.org servidores GPU ainda não estão disponíveis para encomendar; entre em contato conosco para ouvir quando eles são. AI Training é uma carga de trabalho acelerada GPU geral. Verifique que seu software tem suporte CUDA e que as versões do seu driver / runtime correspondem aos requisitos de carga de trabalho para AI Training.

Como é que eu configuro AI Training em um GPU VPS?

+

Os servidores GPU ainda não estão disponíveis para encomendar. Hoje você pode executar AI Training em um plano de CPU regular, onde funciona muito mais lentamente do que em uma GPU: SSH e executar pip install torch transformers datasets accelerate && python train.py.

Quanto preciso de VRAM para AI Training?

+

As necessidades de VRAM para AI Training dependem do tamanho do modelo e lote; verifique a documentação do projeto para os números atuais.

Quanto custaria um servidor GPU para AI Training?

+

O preço da GPU será publicado quando os servidores da GPU podem ser encomendados. Contacte-nos se quiser ouvir quando isso acontecer.

Posso executar outras ferramentas ao lado de AI Training?

+

Sim. Cada servidor VPS.org vem com acesso completo à raiz, para que você possa executar outras ferramentas ao lado do AI Training dentro da RAM e armazenamento do servidor.

Tenho toda a raiz no VPS de AI Training GPU?

+

Todos os servidores VPS.org vem com acesso SSH completo root, para que você possa instalar drivers, bibliotecas e AI Training, como você precisa.

VPS.org preinstalar CUDA para AI Training?

+

Não. Nenhum servidor vem com um tempo de execução CUDA ou driver NVIDIA pré-instalado, e servidores GPU ainda não estão disponíveis para encomendar. Você instala as versões AI Training precisa de si mesmo.

O meu AI Training GPU VPS persiste entre sessões?

+

Sim. os servidores VPS.org são máquinas virtuais persistentes, não instâncias efemerais: modelos AI Training, configurações e dados permanecer no armazenamento SSD do servidor até que você os exclua.

Onde devo armazenar dados para a minha carga de trabalho AI Training?

+

Continue trabalhando dados sobre o SSD do servidor para acesso rápido durante as correções AI Training e copie artefatos acabados (pesos, gerações, encaixamentos) para armazenamento fora do VPS.org; instantâneos e backups permanecem no mesmo cluster de armazenamento.

Posso escalar o meu AI Training GPU VPS mais tarde?

+

Você pode atualizar qualquer servidor VPS.org para um plano maior do painel de controle; a redimensionamento reinicia-o e sua instalação AI Training carrega sobre. Os servidores GPU ainda não estão disponíveis.

Os backups estão disponíveis para o meu GPU VPS?

+

Sim. Os backups são um add-on pago (diaria +30% do preço do plano, mantidos 7 dias; semanalmente +20%, mantidos 28 dias) e instantâneos são gratuitos, o que é útil antes de longos AI Training funciona. Ambos permanecem no mesmo cluster de armazenamento do servidor.

Posso obter um reembolso?

+

Apoio de contato no prazo de 30 dias a contar da sua primeira compra para solicitar um reembolso. Os servidores GPU ainda não estão vendidos, por isso não está envolvida nenhuma ordem GPU.

Quer executar AI Training em um servidor GPU?

A capacidade da GPU é limitada. Fale-nos sobre sua carga de trabalho e nós responderemos com disponibilidade e preços.