Em breve: NVIDIA Tesla P40, 24 GB VRAM

NVIDIA Tesla P40 VPS

24 GB VRAM, 3.840 núcleos CUDA, passados para um servidor através do PCIe. Os servidores GPU ainda não são ordenáveis; entre em contato conosco para ser notificado quando estiverem.

$ nvidia-smi
# Exemplo de comando de instalação

O que é {nome} em um GPU VPS?

O NVIDIA Tesla P40 é um centro de dados de geração Pascal GPU projetado para inferência. Tem 24 GB de memória GDDR5 e 3.840 núcleos CUDA. É mais velho do que as GPUs atuais, e alguns quadros mais recentes já não o suportam.

NVIDIA Tesla P40 num servidor de GPU VPS.org

24 GB GDDR5

VRAM suficiente para modelos de tamanho médio e conjuntos de dados maiores.

3.840 Núcleos CUDA

Processamento paralelo para cargas de trabalho aceleradas pela UGP.

FP32 e INT8

NVIDIA avalia o P40 em 12 TFLOPS em FP32 e 47 TOPS em INT8.

Computar a capacidade 6.1

Verifique que a sua versão-quadro ainda suporta as GPUs Pascal antes de planejar em torno dele.

Processos de uso populares {nome}

Inferência de IA
Hospedagem LLM (Ollama, lama.cpp)
Geração de imagens
Transcodificação de vídeo
Renderização 3D
Computação científica

Especificações do GPU previstas

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Núcleos CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Memória BW346 GB/s
ArquiteturaPascal (GP102)
PassagemPCIe passa-passagem

Perguntas Frequentes

O que é NVIDIA Tesla P40 em um VPS GPU?

+

NVIDIA Tesla P40 pode usar uma GPU NVIDIA para acelerar seu trabalho. VPS.org servidores GPU ainda não estão disponíveis para encomendar; entre em contato conosco para ouvir quando eles são. NVIDIA Tesla P40 é uma carga de trabalho acelerada GPU geral. Verifique que seu software tem suporte CUDA e que as versões do seu driver / runtime correspondem aos requisitos de carga de trabalho para NVIDIA Tesla P40.

Como é que eu configuro NVIDIA Tesla P40 em um GPU VPS?

+

Os servidores GPU ainda não estão disponíveis para encomendar. Hoje você pode executar NVIDIA Tesla P40 em um plano de CPU regular, onde funciona muito mais lentamente do que em uma GPU: SSH e executar nvidia-smi.

Quanto preciso de VRAM para NVIDIA Tesla P40?

+

As necessidades de VRAM para NVIDIA Tesla P40 dependem do tamanho do modelo e lote; verifique a documentação do projeto para os números atuais.

Quanto custaria um servidor GPU para NVIDIA Tesla P40?

+

O preço da GPU será publicado quando os servidores da GPU podem ser encomendados. Contacte-nos se quiser ouvir quando isso acontecer.

Posso executar outras ferramentas ao lado de NVIDIA Tesla P40?

+

Sim. Cada servidor VPS.org vem com acesso completo à raiz, para que você possa executar outras ferramentas ao lado do NVIDIA Tesla P40 dentro da RAM e armazenamento do servidor.

Tenho toda a raiz no VPS de NVIDIA Tesla P40 GPU?

+

Todos os servidores VPS.org vem com acesso SSH completo root, para que você possa instalar drivers, bibliotecas e NVIDIA Tesla P40, como você precisa.

VPS.org preinstalar CUDA para NVIDIA Tesla P40?

+

Não. Nenhum servidor vem com um tempo de execução CUDA ou driver NVIDIA pré-instalado, e servidores GPU ainda não estão disponíveis para encomendar. Você instala as versões NVIDIA Tesla P40 precisa de si mesmo.

O meu NVIDIA Tesla P40 GPU VPS persiste entre sessões?

+

Sim. os servidores VPS.org são máquinas virtuais persistentes, não instâncias efemerais: modelos NVIDIA Tesla P40, configurações e dados permanecer no armazenamento SSD do servidor até que você os exclua.

Onde devo armazenar dados para a minha carga de trabalho NVIDIA Tesla P40?

+

Continue trabalhando dados sobre o SSD do servidor para acesso rápido durante as correções NVIDIA Tesla P40 e copie artefatos acabados (pesos, gerações, encaixamentos) para armazenamento fora do VPS.org; instantâneos e backups permanecem no mesmo cluster de armazenamento.

Posso escalar o meu NVIDIA Tesla P40 GPU VPS mais tarde?

+

Você pode atualizar qualquer servidor VPS.org para um plano maior do painel de controle; a redimensionamento reinicia-o e sua instalação NVIDIA Tesla P40 carrega sobre. Os servidores GPU ainda não estão disponíveis.

Os backups estão disponíveis para o meu GPU VPS?

+

Sim. Os backups são um add-on pago (diaria +30% do preço do plano, mantidos 7 dias; semanalmente +20%, mantidos 28 dias) e instantâneos são gratuitos, o que é útil antes de longos NVIDIA Tesla P40 funciona. Ambos permanecem no mesmo cluster de armazenamento do servidor.

Posso obter um reembolso?

+

Apoio de contato no prazo de 30 dias a contar da sua primeira compra para solicitar um reembolso. Os servidores GPU ainda não estão vendidos, por isso não está envolvida nenhuma ordem GPU.

Quer executar NVIDIA Tesla P40 em um servidor GPU?

A capacidade da GPU é limitada. Fale-nos sobre sua carga de trabalho e nós responderemos com disponibilidade e preços.