กำลังจะมาถึง: NVIDIA Tesla P40, 24 GB VRAM

เซิร์ฟเวอร์ GPU สำหรับการฝึก AI/ML

ปรับแต่งและฝึกโมเดลบน NVIDIA Tesla P40 (24 GB VRAM, สถาปัตยกรรม Pascal) เหมาะสำหรับปรับแต่ง LoRA และโมเดลขนาดเล็ก เซิร์ฟเวอร์ GPU ยังไม่สามารถสั่งซื้อได้ ติดต่อเราเพื่อแจ้งเมื่อสั่งซื้อได้

$ pip install torch transformers datasets accelerate && python train.py
# คำสั่งติดตั้งตัวอย่าง

อะไรคือ {ชื่อ} ใน GPU VPS?

การฝึกโมเดล AI ต้องการการคำนวณแบบคู่ขนานที่ GPU จัดหา GPU เซิร์ฟเวอร์ให้คุณ GPU หนึ่งสำหรับงานฝึกของคุณเอง

AI Training บนเซิร์ฟเวอร์ GPU VPS.org

หน่วยประมวลผลภาพจิตรกรรมทั้งหมด

เทสลา P40 เครื่องหนึ่ง กับ VRAM 24GB ผ่านไปยังเซิร์ฟเวอร์ของคุณ และไม่ถูกแบ่งปัน

เลือกกรอบการทำงาน

PyTorch, TensorFlow, JAX หรือฟอร์มแวร์ใดๆที่ยังรองรับ GPU Pascal

พื้นที่เก็บข้อมูล SSD

เก็บข้อมูล จุดตรวจสอบ และแฟ้มแบบจำลอง ไว้บน SSD ของเซิร์ฟเวอร์

เข้าถึงผ่าน SSH

สิทธิ์ root เต็มที่ เพื่อปรับแต่งสภาพแวดล้อมการฝึก

กรณีการใช้ที่นิยมของ AI Training

ปรับแต่งแบบจำลอง
เรียนรู้การสื่อสาร
ฝึกแบบจำลองที่กำหนดเอง
ปรับแต่งพารามิเตอร์ยิ่งใหญ่
กำลังประมวลผลชุดข้อมูลก่อน
อะแดปเตอร์ LoRA

ข้อมูลเฉพาะของ GPU ที่วางแผนไว้

หน่วยประมวลผลภาพจิ๊กซอว์NVIDIA Tesla P40
หน่วยความจำภาพ24 GB GDDR5
สี CUDA3,840
FP3212 TFLOPS
INT847 TOPS
หน่วยความจำ สีดำ346 GB/s
สถาปัตยกรรมPascal (GP102)
ผ่านช่องส่งข้อมูล PCIe

คำถามที่ถามบ่อย

AI Training บน GPU VPS คืออะไร

+

AI Training สามารถใช้ GPU NVIDIA เพื่อเพิ่มความเร็วในการทำงานได้ เซิร์ฟเวอร์ GPU VPS.org ยังไม่สามารถสั่งซื้อได้ โปรดติดต่อเราเพื่อทราบเมื่อมีการสั่งซื้อ AI Training เป็นงานที่เร่งความเร็วโดยใช้ GPU ทั่วไป โปรดตรวจสอบว่าซอฟต์แวร์ของคุณรองรับ CUDA และรุ่นไดรเวอร์/ Runtime ของคุณตรงกับความต้องการของงานสำหรับ AI Training

ฉันจะตั้งค่า AI Training บน GPU VPS ได้อย่างไร?

+

ยังไม่สามารถสั่งซื้อเซิร์ฟเวอร์ GPU ได้ วันนี้คุณสามารถใช้ AI Training บน CPU ทั่วไปได้ ซึ่งมันจะทำงานช้ากว่าบน GPU มาก: เข้าใช้ SSH และใช้ pip install torch transformers datasets accelerate && python train.py

ฉันต้องการ VRAM เท่าไหร่สำหรับ AI Training?

+

ความจำที่จำเป็นสำหรับ AI Training ขึ้นอยู่กับรุ่นและขนาดของแบต; ตรวจสอบเอกสารโครงการเพื่อดูตัวเลขปัจจุบัน

เซิร์ฟเวอร์ GPU สำหรับ AI Training ใช้เงินเท่าไหร่

+

ค่า GPU จะถูกประกาศเมื่อเซิร์ฟเวอร์ GPU สามารถสั่งซื้อได้ โปรดติดต่อเรา หากคุณต้องการทราบเมื่อมันเกิดขึ้น

ฉันสามารถใช้เครื่องมืออื่นๆ ร่วมกับ AI Training ได้ไหม

+

ใช่ เซิร์ฟเวอร์ VPS.org ทุกตัวมาพร้อมกับการเข้าถึง root เต็มรูปแบบ ดังนั้นคุณสามารถทำงาน เครื่องมืออื่น ๆ ร่วมกับ AI Training ใน RAM และพื้นที่เก็บข้อมูลของเซิร์ฟเวอร์

ฉันจะได้รับเต็มรัตบน AI Training GPU VPS?

+

เซิร์ฟเวอร์ VPS.org ทุกตัวมาพร้อมกับการเข้าถึง SSH แบบ root เต็มรูปแบบ ดังนั้นคุณสามารถติดตั้งไดรเวอร์ ไลบรารี และ AI Training ได้ตามที่คุณต้องการ

VPS.org ติดตั้ง CUDA ไว้ก่อนสำหรับ AI Training หรือไม่?

+

ไม่ ไม่มีเซิร์ฟเวอร์ที่มาพร้อมกับ Runtime CUDA หรือไดรเวอร์ NVIDIA ที่ติดตั้งไว้ก่อน และเซิร์ฟเวอร์ GPU ยังไม่สามารถสั่งซื้อได้ คุณต้องติดตั้งรุ่นที่ AI Training ต้องการด้วยตัวเอง

AI Training GPU VPS ของฉันจะยังคงอยู่ระหว่างเซสชั่นหรือไม่?

+

ใช่ เซิร์ฟเวอร์ VPS.org เป็นเครื่องเสมือนจริงที่อยู่ตลอดเวลา ไม่ใช่ตัวอย่างที่หายไป: โมเดล AI Training ตั้งค่าและข้อมูลจะอยู่บน SSD ของเซิร์ฟเวอร์จนกว่าคุณจะลบมันออก

ฉันควรเก็บข้อมูลของ AI Training ไว้ที่ไหนดี

+

เก็บข้อมูลที่ทำงานอยู่บน SSD ของเซิร์ฟเวอร์ เพื่อเข้าถึงได้อย่างรวดเร็ว ระหว่างการทำงานของ AI Training และคัดลอกผลงานที่เสร็จสมบูรณ์ (น้ำหนัก, รุ่น, การฝัง) ไปยังพื้นที่เก็บข้อมูลนอก VPS.org; สแนปช็อตและบัฟเฟอร์จะยังคงอยู่ในคลัสเตอร์พื้นที่เก็บข้อมูลเดียวกัน

ฉันสามารถปรับขนาด AI Training GPU VPS ของฉันได้หรือไม่

+

คุณสามารถปรับระดับเซิร์ฟเวอร์ VPS.org ใดๆ ไปเป็นแพลนที่ใหญ่กว่าได้จากพาเนลควบคุม การปรับขนาดจะเริ่มการทำงานใหม่ และการติดตั้ง AI Training จะถูกนำไปใช้ต่อไป เซิร์ฟเวอร์ GPU ยังไม่สามารถใช้งานได้

มีการสำรองข้อมูลสำหรับ GPU VPS ของฉันหรือไม่?

+

ใช่ การสำรองข้อมูลเป็นบริการที่ต้องจ่ายค่าเพิ่ม (ทุกวัน +30% ของราคาแผน, เก็บไว้7วัน; ทุกสัปดาห์ +20%, เก็บไว้ 28 วัน) และภาพถ่ายสแนปช็อตเป็นบริการฟรี ซึ่งมีประโยชน์ก่อนการทำงาน AI Training อย่างยาวนาน ทั้งสองบริการจะอยู่บนคลัสเตอร์การเก็บข้อมูลเดียวกันกับเซิร์ฟเวอร์

ผมขอคืนเงินได้ไหม

+

ติดต่อฝ่ายสนับสนุนภายใน 30 วันหลังจากซื้อครั้งแรกเพื่อขอคืนเงิน เซิร์ฟเวอร์ GPU ยังไม่ได้ขาย ดังนั้นจึงไม่มีคำสั่ง GPU ที่เกี่ยวข้อง

ต้องการจะทำงาน AI Training บนเซิร์ฟเวอร์ GPU หรือไม่?

ความจุของ GPU มีจำกัด บอกเราเกี่ยวกับความจุงานของคุณ และเราจะตอบกลับด้วยความพร้อมและราคา