Executar treinamento TensorFlow e Keras e inferência em uma NVIDIA Tesla P40 (24 GB VRAM, arquitetura Pascal). Os servidores GPU ainda não são ordenáveis; entre em contato conosco para ser notificado quando eles estão.
$ pip install tensorflow[and-cuda]
# Exemplo de comando de instalação
TensorFlow é o framework de aprendizado de máquina de código aberto do Google. Em um servidor GPU, o TensorFlow executa suas operações na GPU através da CUDA.
TensorFlow usa a GPU através da CUDA uma vez que você instalar um driver e versão CUDA correspondente.
Construa modelos com a API Keras no topo do mecanismo GPU.
Monitore treinamento com o TensorBoard no seu próprio servidor.
Servir modelos treinados com TensorFlow Serving.
TensorFlow pode usar uma NVIDIA GPU para acelerar seu trabalho. VPS.org servidores GPU ainda não estão disponíveis para encomendar; contate-nos para ouvir quando eles são. TensorFlow é uma carga de trabalho treinador / ajuste fino. Planeie para trabalhos de longa duração: instantâneo seu VPS regularmente e mantenha uma cópia de pesos treinados fora de VPS.org.
Os servidores GPU ainda não estão disponíveis para encomendar. Hoje você pode executar TensorFlow em um plano de CPU regular, onde funciona muito mais lentamente do que em uma GPU: SSH e executar pip install tensorflow[and-cuda].
Treinamento VRAM é dominado pelo estado otimizador mais ativações. Full-tuning de um LLM 7B necessita de aproximadamente 24 a 48 GB; LoRA / QLoRA se encaixa em 8 a 16 GB.
O preço da GPU será publicado quando os servidores da GPU podem ser encomendados. Contacte-nos se quiser ouvir quando isso acontecer.
Sim. Cada servidor VPS.org vem com acesso completo à raiz, para que você possa executar outras ferramentas ao lado do TensorFlow dentro da RAM e armazenamento do servidor.
Todos os servidores VPS.org vem com acesso SSH completo root, para que você possa instalar drivers, bibliotecas e TensorFlow, como você precisa.
Não. Nenhum servidor vem com um tempo de execução CUDA ou driver NVIDIA pré-instalado, e servidores GPU ainda não estão disponíveis para encomendar. Você instala as versões TensorFlow precisa de si mesmo.
Sim. os servidores VPS.org são máquinas virtuais persistentes, não instâncias efemerais: modelos TensorFlow, configurações e dados permanecer no armazenamento SSD do servidor até que você os exclua.
Continue trabalhando dados sobre o SSD do servidor para acesso rápido durante as correções TensorFlow e copie artefatos acabados (pesos, gerações, encaixamentos) para armazenamento fora do VPS.org; instantâneos e backups permanecem no mesmo cluster de armazenamento.
Você pode atualizar qualquer servidor VPS.org para um plano maior do painel de controle; a redimensionamento reinicia-o e sua instalação TensorFlow carrega sobre. Os servidores GPU ainda não estão disponíveis.
Sim. Os backups são um add-on pago (diaria +30% do preço do plano, mantidos 7 dias; semanalmente +20%, mantidos 28 dias) e instantâneos são gratuitos, o que é útil antes de longos TensorFlow funciona. Ambos permanecem no mesmo cluster de armazenamento do servidor.
Apoio de contato no prazo de 30 dias a contar da sua primeira compra para solicitar um reembolso. Os servidores GPU ainda não estão vendidos, por isso não está envolvida nenhuma ordem GPU.
A capacidade da GPU é limitada. Fale-nos sobre sua carga de trabalho e nós responderemos com disponibilidade e preços.