Em breve: NVIDIA Tesla P40, 24 GB VRAM

Servidor GPU de Whisper

Transcriba áudio e vídeo com OpenAI Whisper em uma NVIDIA Tesla P40 (24 GB VRAM, arquitetura Pascal), com áudio mantido em seu próprio servidor. Os servidores GPU ainda não são ordenáveis; entre em contato conosco para ser notificado quando estiverem.

$ pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda
# Exemplo de comando de instalação

O que é {nome} em um GPU VPS?

O OpenAI Whisper é um modelo de reconhecimento de fala de código aberto. Executar em uma GPU é muito mais rápido do que em uma CPU e mantém o seu áudio em seu próprio servidor.

Whisper num servidor de GPU VPS.org

Velocidade da GPU

O Whisper funciona muito mais rápido em uma UPU do que em uma CPU.

99 Línguas

Whisper transcribe e traduz a fala em 99 línguas.

Processamento Privado

O áudio fica no seu servidor.

Processamento de lotes

Trabalhe através de grandes bibliotecas de áudio em lotes.

Processos de uso populares {nome}

Transcrição de Podcast
Notas de reunião
Geração de subtítulos
Análise do centro de chamadas
Acessibilidade do conteúdo
APIs de Voz a Texto

Especificações do GPU previstas

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Núcleos CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Memória BW346 GB/s
ArquiteturaPascal (GP102)
PassagemPCIe passa-passagem

Perguntas Frequentes

O que é Whisper em um VPS GPU?

+

Whisper pode usar uma NVIDIA GPU para acelerar seu trabalho. VPS.org servidores GPU ainda não estão disponíveis para encomendar; contate-nos para ouvir quando eles são. Whisper é uma carga de trabalho de áudio/fabula. O lado da CPU I/O importa tanto como o cálculo GPU, assim certifique-se de que o seu disco de leitura velocidades continue com processamento de lotes.

Como é que eu configuro Whisper em um GPU VPS?

+

Os servidores GPU ainda não estão disponíveis para encomendar. Hoje você pode executar Whisper em um plano de CPU regular, onde funciona muito mais lentamente do que em uma GPU: SSH e executar pip install openai-whisper && whisper audio.mp3 --model large-v3 --device cuda.

Quanto preciso de VRAM para Whisper?

+

Os modelos de áudio são geralmente VRAM-light. Whisper Large se encaixa em cerca de 10 GB de VRAM, e modelos TTS geralmente precisam de 2 a 8 GB.

Quanto custaria um servidor GPU para Whisper?

+

O preço da GPU será publicado quando os servidores da GPU podem ser encomendados. Contacte-nos se quiser ouvir quando isso acontecer.

Posso executar outras ferramentas ao lado de Whisper?

+

Sim. Cada servidor VPS.org vem com acesso completo à raiz, para que você possa executar outras ferramentas ao lado do Whisper dentro da RAM e armazenamento do servidor.

Tenho toda a raiz no VPS de Whisper GPU?

+

Todos os servidores VPS.org vem com acesso SSH completo root, para que você possa instalar drivers, bibliotecas e Whisper, como você precisa.

VPS.org preinstalar CUDA para Whisper?

+

Não. Nenhum servidor vem com um tempo de execução CUDA ou driver NVIDIA pré-instalado, e servidores GPU ainda não estão disponíveis para encomendar. Você instala as versões Whisper precisa de si mesmo.

O meu Whisper GPU VPS persiste entre sessões?

+

Sim. os servidores VPS.org são máquinas virtuais persistentes, não instâncias efemerais: modelos Whisper, configurações e dados permanecer no armazenamento SSD do servidor até que você os exclua.

Onde devo armazenar dados para a minha carga de trabalho Whisper?

+

Continue trabalhando dados sobre o SSD do servidor para acesso rápido durante as correções Whisper e copie artefatos acabados (pesos, gerações, encaixamentos) para armazenar fora do VPS.org; instantâneos e backups permanecem no mesmo cluster de armazenamento.

Posso escalar o meu Whisper GPU VPS mais tarde?

+

Você pode atualizar qualquer servidor VPS.org para um plano maior do painel de controle; a redimensionamento reinicia-o e sua instalação Whisper carrega sobre. Os servidores GPU ainda não estão disponíveis.

Os backups estão disponíveis para o meu GPU VPS?

+

Sim. Os backups são um add-on pago (diaria +30% do preço do plano, mantidos 7 dias; semanalmente +20%, mantidos 28 dias) e instantâneos são gratuitos, o que é útil antes de longos Whisper funciona. Ambos permanecem no mesmo cluster de armazenamento do servidor.

Posso obter um reembolso?

+

Apoio de contato no prazo de 30 dias a contar da sua primeira compra para solicitar um reembolso. Os servidores GPU ainda não estão vendidos, por isso não está envolvida nenhuma ordem GPU.

Quer executar Whisper em um servidor GPU?

A capacidade da GPU é limitada. Fale-nos sobre sua carga de trabalho e nós responderemos com disponibilidade e preços.