กำลังจะมาถึง: NVIDIA Tesla P40, 24 GB VRAM

ตัวจัดการเซิร์ฟเวอร์ส่วนตัวของ GPU TensorFlow

ประมวลผล TensorFlow และ Keras และการฝึกและคำนวณบน NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) เซิร์ฟเวอร์ GPU ยังไม่สามารถสั่งซื้อได้ ติดต่อเราเพื่อแจ้งให้ทราบเมื่อมีการสั่งซื้อ

$ pip install tensorflow[and-cuda]
# คำสั่งติดตั้งตัวอย่าง

อะไรคือ {ชื่อ} ใน GPU VPS?

TensorFlow คือกรอบการเรียนรู้ของเครื่องแบบเปิดของ Google บนเซิร์ฟเวอร์ GPU TensorFlow ทำงานบน GPU ผ่าน CUDA

TensorFlow บนเซิร์ฟเวอร์ GPU VPS.org

การเร่งความเร็วของ GPU

TensorFlow ใช้ GPU ผ่าน CUDA เมื่อคุณติดตั้งไดรเวอร์ที่ตรงกับ CUDA เวอร์ชั่น

แข็ง

สร้างแบบจำลองด้วย API ของ Keras บนเบื้องหลังของ GPU

แท่นเทนเซอร์

ติดตามการฝึกด้วย TensorBoard บนเซิร์ฟเวอร์ของคุณเอง

บริการ TF

บริการแบบจำลองที่ฝึกมาแล้ว ด้วย TensorFlow Serving

กรณีการใช้ที่นิยมของ TensorFlow

การจัดหมวดหมู่ภาพ
การตรวจจับวัตถุ
ประมวลผลภาษาธรรมชาติ
ระบบแนะนำ
การคาดการณ์ชุดเวลา
ผลิต ML Pipelines

ข้อมูลเฉพาะของ GPU ที่วางแผนไว้

หน่วยประมวลผลภาพจิ๊กซอว์NVIDIA Tesla P40
หน่วยความจำภาพ24 GB GDDR5
สี CUDA3,840
FP3212 TFLOPS
INT847 TOPS
หน่วยความจำ สีดำ346 GB/s
สถาปัตยกรรมPascal (GP102)
ผ่านช่องส่งข้อมูล PCIe

คำถามที่ถามบ่อย

TensorFlow บน GPU VPS คืออะไร

+

TensorFlow สามารถใช้ NVIDIA GPU เพื่อเร่งความเร็วในการทำงานของมันได้ เซิร์ฟเวอร์ VPS.org GPU ยังไม่สามารถสั่งซื้อได้ ติดต่อเราเพื่อทราบเมื่อพวกเขามี TensorFlow เป็นการฝึก / ปรับแต่งงานที่ทำงาน วางแผนสำหรับงานที่ทำงานนาน: ถ่ายภาพ VPS ของคุณเป็นประจำและเก็บสำเนาของน้ำหนักที่ฝึกไว้นอก VPS.org

ฉันจะตั้งค่า TensorFlow บน GPU VPS ได้อย่างไร?

+

ยังไม่สามารถสั่งซื้อเซิร์ฟเวอร์ GPU ได้ วันนี้คุณสามารถใช้ TensorFlow บน CPU ทั่วไปได้ ซึ่งมันจะทำงานช้ากว่าบน GPU มาก: เข้าใช้ SSH และใช้ pip install tensorflow[and-cuda]

ฉันต้องการ VRAM เท่าไหร่สำหรับ TensorFlow?

+

หน่วยความจำ VRAM สำหรับการฝึกอบรม ถูกควบคุมโดยสถานะของตัวปรับแต่ง และการกระทำการ ในการปรับแต่งอย่างละเอียดของ 7B LLM ต้องการประมาณ 24 ถึง 48 GB; LoRA / QLoRA เหมาะกับ 8 ถึง 16 GB

เซิร์ฟเวอร์ GPU สำหรับ TensorFlow ใช้เงินเท่าไหร่

+

ค่า GPU จะถูกประกาศเมื่อเซิร์ฟเวอร์ GPU สามารถสั่งซื้อได้ โปรดติดต่อเรา หากคุณต้องการทราบเมื่อมันเกิดขึ้น

ฉันสามารถใช้เครื่องมืออื่นๆ ร่วมกับ TensorFlow ได้ไหม

+

ใช่ เซิร์ฟเวอร์ VPS.org ทุกตัวมาพร้อมกับการเข้าถึง root เต็มรูปแบบ ดังนั้นคุณสามารถทำงาน เครื่องมืออื่น ๆ ร่วมกับ TensorFlow ใน RAM และพื้นที่เก็บข้อมูลของเซิร์ฟเวอร์

ฉันจะได้รับเต็มรัตบน TensorFlow GPU VPS?

+

เซิร์ฟเวอร์ VPS.org ทุกตัวมาพร้อมกับการเข้าถึง SSH แบบ root เต็มรูปแบบ ดังนั้นคุณสามารถติดตั้งไดรเวอร์ ไลบรารี และ TensorFlow ได้ตามที่คุณต้องการ

VPS.org ติดตั้ง CUDA ไว้ก่อนสำหรับ TensorFlow หรือไม่?

+

ไม่ ไม่มีเซิร์ฟเวอร์ที่มาพร้อมกับ Runtime CUDA หรือไดรเวอร์ NVIDIA ที่ติดตั้งไว้ก่อน และเซิร์ฟเวอร์ GPU ยังไม่สามารถสั่งซื้อได้ คุณต้องติดตั้งรุ่นที่ TensorFlow ต้องการด้วยตัวเอง

TensorFlow GPU VPS ของฉันจะยังคงอยู่ระหว่างเซสชั่นหรือไม่?

+

ใช่ เซิร์ฟเวอร์ VPS.org เป็นเครื่องเสมือนจริงที่อยู่ตลอดเวลา ไม่ใช่ตัวอย่างที่หายไป: โมเดล TensorFlow ตั้งค่าและข้อมูลจะอยู่บน SSD ของเซิร์ฟเวอร์จนกว่าคุณจะลบมันออก

ฉันควรเก็บข้อมูลของ TensorFlow ไว้ที่ไหนดี

+

เก็บข้อมูลที่ทำงานอยู่บน SSD ของเซิร์ฟเวอร์ เพื่อเข้าถึงได้อย่างรวดเร็ว ระหว่างการทำงานของ TensorFlow และคัดลอกผลงานที่เสร็จสมบูรณ์ (น้ำหนัก, รุ่น, การฝัง) ไปยังพื้นที่เก็บข้อมูลนอก VPS.org; สแนปช็อตและบัฟเฟอร์จะยังคงอยู่ในคลัสเตอร์พื้นที่เก็บข้อมูลเดียวกัน

ฉันสามารถปรับขนาด TensorFlow GPU VPS ของฉันได้หรือไม่

+

คุณสามารถปรับระดับเซิร์ฟเวอร์ VPS.org ใดๆ ไปเป็นแพลนที่ใหญ่กว่าได้จากพาเนลควบคุม การปรับขนาดจะเริ่มการทำงานใหม่ และการติดตั้ง TensorFlow จะถูกนำไปใช้ต่อไป เซิร์ฟเวอร์ GPU ยังไม่สามารถใช้งานได้

มีการสำรองข้อมูลสำหรับ GPU VPS ของฉันหรือไม่?

+

ใช่ การสำรองข้อมูลเป็นบริการที่ต้องจ่ายค่าเพิ่ม (ทุกวัน +30% ของราคาแผน, เก็บไว้7วัน; ทุกสัปดาห์ +20%, เก็บไว้ 28 วัน) และภาพถ่ายสแนปช็อตเป็นบริการฟรี ซึ่งมีประโยชน์ก่อนการทำงาน TensorFlow อย่างยาวนาน ทั้งสองบริการจะอยู่บนคลัสเตอร์การเก็บข้อมูลเดียวกันกับเซิร์ฟเวอร์

ผมขอคืนเงินได้ไหม

+

ติดต่อฝ่ายสนับสนุนภายใน 30 วันหลังจากซื้อครั้งแรกเพื่อขอคืนเงิน เซิร์ฟเวอร์ GPU ยังไม่ได้ขาย ดังนั้นจึงไม่มีคำสั่ง GPU ที่เกี่ยวข้อง

ต้องการจะทำงาน TensorFlow บนเซิร์ฟเวอร์ GPU หรือไม่?

ความจุของ GPU มีจำกัด บอกเราเกี่ยวกับความจุงานของคุณ และเราจะตอบกลับด้วยความพร้อมและราคา