Ejecutar entrenamiento TensorFlow y Keras e inferencia en una NVIDIA Tesla P40 (24 GB VRAM, Pascal arquitectura). Los servidores GPU no son todavía disponibles; póngase en contacto con nosotros para ser notificados cuando lo son.
$ pip install tensorflow[and-cuda]
# Ejemplo de comando de instalación
TensorFlow es el marco de aprendizaje automático de código abierto de Google. En un servidor GPU, TensorFlow ejecuta sus operaciones en la GPU a través de CUDA.
TensorFlow utiliza la GPU a través de CUDA una vez que instala un controlador y la versión de CUDA.
Construye modelos con la API de Keras encima del motor GPU.
Monitoree el entrenamiento con TensorBoard en su propio servidor.
Sirva modelos entrenados con TensorFlow Serving.
TensorFlow puede utilizar una GPU NVIDIA para acelerar su trabajo. Los servidores de GPU VPS.org no están disponibles para ordenar todavía; contáctenos para escuchar cuando lo están. TensorFlow es una carga de trabajo de entrenamiento / ajuste. Planifique para trabajos de larga duración: haga una instantánea de su VPS regularmente y mantenga una copia de pesos entrenados fuera de VPS.org.
Los servidores GPU no están disponibles para ordenar todavía. Hoy en día puede ejecutar TensorFlow en un plan de CPU regular, donde funciona mucho más lentamente que en una GPU: SSH en y ejecutar pip install tensorflow[and-cuda].
El entrenamiento VRAM está dominado por el estado optimizador más activaciones. El ajuste completo de un LLM 7B necesita aproximadamente de 24 a 48 GB; LoRA / QLoRA encaja en 8 a 16 GB.
Los precios de GPU se publicarán cuando se puedan pedir servidores GPU. Póngase en contacto con nosotros si desea saber cuándo sucede.
Sí. Cada servidor VPS.org viene con acceso root completo, por lo que puede ejecutar otras herramientas junto con TensorFlow dentro de la RAM y el almacenamiento del servidor.
Cada servidor VPS.org viene con acceso raíz completo SSH, por lo que puede instalar controladores, bibliotecas y TensorFlow como usted necesite.
No. Ningún servidor viene con un tiempo de ejecución CUDA o controlador NVIDIA preinstalado, y los servidores GPU no están disponibles para ordenar todavía. Instala las versiones que TensorFlow necesita.
Sí. los servidores VPS.org son máquinas virtuales persistentes, no instancias efímeras: modelos TensorFlow, configuraciones y datos permanecen en el almacenamiento SSD del servidor hasta que los elimine.
Mantenga los datos de trabajo en el SSD del servidor para un acceso rápido durante las ejecuciones de TensorFlow, y copie artefactos terminados (pesos, generaciones, incrustados) para almacenar fuera de VPS.org; las instantáneas y copias de seguridad permanecen en el mismo clúster de almacenamiento.
Puede actualizar cualquier servidor VPS.org a un plan más grande desde el panel de control; el redimensionamiento lo reinicia y su instalación TensorFlow se lleva encima. Los servidores GPU no están disponibles todavía.
Sí. Las copias de seguridad son un complemento pagado (diariamente +30% del precio del plan, mantenido 7 días; semanal +20%, mantenido 28 días) y las instantáneas son gratuitas, lo que es útil antes de que se ejecute TensorFlow. Ambos permanecen en el mismo clúster de almacenamiento que el servidor.
Póngase en contacto con el soporte técnico dentro de los 30 días de su primera compra para solicitar un reembolso. Los servidores GPU no se venden todavía, por lo que no hay ningún pedido GPU está involucrado.
La capacidad de GPU es limitada. Cuéntanos sobre su carga de trabajo y responderemos con disponibilidad y precios.