Próximamente: NVIDIA Tesla P40, 24 GB VRAM

Servidor GPU de capacitación AI/ML

Modelos de ajuste y tren en una NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture). Mejor para ajuste fino y modelos pequeños de LoRA. Los servidores GPU no son todavía disponibles; contáctenos para ser notificado cuando lo sean.

$ pip install torch transformers datasets accelerate && python train.py
# Ejemplo de comando de instalación

¿Qué es {nombre} en un VPS GPU?

Los modelos de IA de entrenamiento necesitan calcular en paralelo que las GPUs proporcionan. Un servidor de GPU le da una GPU para sus propios trabajos de entrenamiento.

AI Training en un servidor de GPU VPS.org

GPU entera

Una Tesla P40 con 24 GB de VRAM, pasó a través de su servidor y no compartió.

Elección del marco

PyTorch, TensorFlow, JAX o cualquier marco que aún soporte GPUs Pascal.

Almacenamiento SSD

Mantenga conjuntos de datos, puntos de control y archivos de modelos en el almacenamiento SSD del servidor.

Acceso SSH

Acceso root completo para configurar el entorno de entrenamiento.

Casos de uso {nombre} populares

Afinación del modelo
Transferencia de aprendizaje
Formación de modelos personalizados
Ajuste del hiperparametro
Preprocesamiento del conjunto de datos
Adaptadores LoRA

Especificaciones de la GPU planificadas

GPUNVIDIA Tesla P40
VRAM24 GB GDDR5
Núcleos CUDA3,840
FP3212 TFLOPS
INT847 TOPS
Memoria BW346 GB/s
ArquitecturaPascal (GP102)
Paso a pasoPasaje de PCIe

Preguntas frecuentes

¿Qué es AI Training en un VPS GPU?

+

AI Training puede utilizar una GPU NVIDIA para acelerar su trabajo. Los servidores de GPU VPS.org no están disponibles para su pedido todavía; contáctenos para escuchar cuando lo están. AI Training es una carga de trabajo general acelerada por GPU. Asegúrese de que su software tiene soporte CUDA y que sus versiones de tiempo de ejecución/conductor coinciden con los requisitos de carga de trabajo para AI Training.

¿Cómo puedo configurar AI Training en un VPS GPU?

+

Los servidores GPU no están disponibles para ordenar todavía. Hoy en día puede ejecutar AI Training en un plan de CPU regular, donde funciona mucho más lentamente que en una GPU: SSH en y ejecutar pip install torch transformers datasets accelerate && python train.py.

¿Cuánto VRAM necesito para AI Training?

+

Las necesidades de la VRAM para AI Training dependen del modelo y tamaño del lote; compruebe la documentación del proyecto para ver las cifras actuales.

¿Cuánto costaría un servidor GPU por AI Training?

+

Los precios de GPU se publicarán cuando se puedan pedir servidores GPU. Póngase en contacto con nosotros si desea saber cuándo sucede.

¿Puedo ejecutar otras herramientas junto con AI Training?

+

Sí. Cada servidor VPS.org viene con acceso root completo, por lo que puede ejecutar otras herramientas junto con AI Training dentro de la RAM y el almacenamiento del servidor.

¿Consigo la raíz completa en el AI Training GPU VPS?

+

Cada servidor VPS.org viene con acceso raíz completo SSH, por lo que puede instalar controladores, bibliotecas y AI Training como usted necesite.

¿VPS.org preinstala CUDA para AI Training?

+

No. Ningún servidor viene con un tiempo de ejecución CUDA o controlador NVIDIA preinstalado, y los servidores GPU no están disponibles para ordenar todavía. Instala las versiones que AI Training necesita.

¿Persiste mi VPS AI Training GPU entre sesiones?

+

Sí. los servidores VPS.org son máquinas virtuales persistentes, no instancias efímeras: modelos AI Training, configuraciones y datos permanecen en el almacenamiento SSD del servidor hasta que los elimine.

¿Dónde debo almacenar los datos para mi carga de trabajo AI Training?

+

Mantenga los datos de trabajo en el SSD del servidor para un acceso rápido durante las ejecuciones de AI Training, y copie artefactos terminados (pesos, generaciones, incrustados) para almacenar fuera de VPS.org; las instantáneas y copias de seguridad permanecen en el mismo clúster de almacenamiento.

¿Puedo escalar mi VPS AI Training GPU más tarde?

+

Puede actualizar cualquier servidor VPS.org a un plan más grande desde el panel de control; el redimensionamiento lo reinicia y su instalación AI Training se lleva encima. Los servidores GPU no están disponibles todavía.

¿Hay copias de seguridad disponibles para mi GPU VPS?

+

Sí. Las copias de seguridad son un complemento pagado (diariamente +30% del precio del plan, mantenido 7 días; semanal +20%, mantenido 28 días) y las instantáneas son gratuitas, lo que es útil antes de que se ejecute AI Training. Ambos permanecen en el mismo clúster de almacenamiento que el servidor.

¿Me puedes devolver un reembolso?

+

Póngase en contacto con el soporte técnico dentro de los 30 días de su primera compra para solicitar un reembolso. Los servidores GPU no se venden todavía, por lo que no hay ningún pedido GPU está involucrado.

¿Quieres ejecutar AI Training en un servidor GPU?

La capacidad de GPU es limitada. Cuéntanos sobre su carga de trabajo y responderemos con disponibilidad y precios.