ฝึกและทำงานโมเดล PyTorch บน NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) โดยใช้สิทธิ์ root เต็มที่ เซิร์ฟเวอร์ GPU ยังไม่สามารถสั่งซื้อได้ ติดต่อเราเพื่อแจ้งเมื่อสั่งซื้อได้
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# คำสั่งติดตั้งตัวอย่าง
PyTorch เป็นฟอร์มแวร์การเรียนรู้ลึกที่ใช้กันอย่างแพร่หลาย เซิร์ฟเวอร์ GPU ทำงานการฝึก PyTorch และคำนวณบน GPU ซึ่งเร็วกว่า CPU มากสำหรับรุ่นส่วนใหญ่
You install the NVIDIA driver, CUDA and the PyTorch build you need. Check that your PyTorch build still supports Pascal GPUs (compute capability 6.1).
ห้องสำหรับโมเดลขนาดเล็กและกลาง ปรับแต่ง LoRA และขนาดการผลิตที่พอเพียง
เรียกใช้โน้ตบุ๊ก Jupyter บนเซิร์ฟเวอร์ เพื่อทำงานแบบโต้ตอบบน GPU
ปรับแต่งสภาพแวดล้อมให้เหมาะสมกับโครงการของคุณ
PyTorch สามารถใช้ NVIDIA GPU เพื่อเร่งความเร็วในการทำงานของมันได้ เซิร์ฟเวอร์ VPS.org GPU ยังไม่สามารถสั่งซื้อได้ ติดต่อเราเพื่อทราบเมื่อพวกเขามี PyTorch เป็นการฝึก / ปรับแต่งงานที่ทำงาน วางแผนสำหรับงานที่ทำงานนาน: ถ่ายภาพ VPS ของคุณเป็นประจำและเก็บสำเนาของน้ำหนักที่ฝึกไว้นอก VPS.org
ยังไม่สามารถสั่งซื้อเซิร์ฟเวอร์ GPU ได้ วันนี้คุณสามารถใช้ PyTorch บน CPU ทั่วไปได้ ซึ่งมันจะทำงานช้ากว่าบน GPU มาก: เข้าใช้ SSH และใช้ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
หน่วยความจำ VRAM สำหรับการฝึกอบรม ถูกควบคุมโดยสถานะของตัวปรับแต่ง และการกระทำการ ในการปรับแต่งอย่างละเอียดของ 7B LLM ต้องการประมาณ 24 ถึง 48 GB; LoRA / QLoRA เหมาะกับ 8 ถึง 16 GB
ค่า GPU จะถูกประกาศเมื่อเซิร์ฟเวอร์ GPU สามารถสั่งซื้อได้ โปรดติดต่อเรา หากคุณต้องการทราบเมื่อมันเกิดขึ้น
ใช่ เซิร์ฟเวอร์ VPS.org ทุกตัวมาพร้อมกับการเข้าถึง root เต็มรูปแบบ ดังนั้นคุณสามารถทำงาน เครื่องมืออื่น ๆ ร่วมกับ PyTorch ใน RAM และพื้นที่เก็บข้อมูลของเซิร์ฟเวอร์
เซิร์ฟเวอร์ VPS.org ทุกตัวมาพร้อมกับการเข้าถึง SSH แบบ root เต็มรูปแบบ ดังนั้นคุณสามารถติดตั้งไดรเวอร์ ไลบรารี และ PyTorch ได้ตามที่คุณต้องการ
ไม่ ไม่มีเซิร์ฟเวอร์ที่มาพร้อมกับ Runtime CUDA หรือไดรเวอร์ NVIDIA ที่ติดตั้งไว้ก่อน และเซิร์ฟเวอร์ GPU ยังไม่สามารถสั่งซื้อได้ คุณต้องติดตั้งรุ่นที่ PyTorch ต้องการด้วยตัวเอง
ใช่ เซิร์ฟเวอร์ VPS.org เป็นเครื่องเสมือนจริงที่อยู่ตลอดเวลา ไม่ใช่ตัวอย่างที่หายไป: โมเดล PyTorch ตั้งค่าและข้อมูลจะอยู่บน SSD ของเซิร์ฟเวอร์จนกว่าคุณจะลบมันออก
เก็บข้อมูลที่ทำงานอยู่บน SSD ของเซิร์ฟเวอร์ เพื่อเข้าถึงได้อย่างรวดเร็ว ระหว่างการทำงานของ PyTorch และคัดลอกผลงานที่เสร็จสมบูรณ์ (น้ำหนัก, รุ่น, การฝัง) ไปยังพื้นที่เก็บข้อมูลนอก VPS.org; สแนปช็อตและบัฟเฟอร์จะยังคงอยู่ในคลัสเตอร์พื้นที่เก็บข้อมูลเดียวกัน
คุณสามารถปรับระดับเซิร์ฟเวอร์ VPS.org ใดๆ ไปเป็นแพลนที่ใหญ่กว่าได้จากพาเนลควบคุม การปรับขนาดจะเริ่มการทำงานใหม่ และการติดตั้ง PyTorch จะถูกนำไปใช้ต่อไป เซิร์ฟเวอร์ GPU ยังไม่สามารถใช้งานได้
ใช่ การสำรองข้อมูลเป็นบริการที่ต้องจ่ายค่าเพิ่ม (ทุกวัน +30% ของราคาแผน, เก็บไว้7วัน; ทุกสัปดาห์ +20%, เก็บไว้ 28 วัน) และภาพถ่ายสแนปช็อตเป็นบริการฟรี ซึ่งมีประโยชน์ก่อนการทำงาน PyTorch อย่างยาวนาน ทั้งสองบริการจะอยู่บนคลัสเตอร์การเก็บข้อมูลเดียวกันกับเซิร์ฟเวอร์
ติดต่อฝ่ายสนับสนุนภายใน 30 วันหลังจากซื้อครั้งแรกเพื่อขอคืนเงิน เซิร์ฟเวอร์ GPU ยังไม่ได้ขาย ดังนั้นจึงไม่มีคำสั่ง GPU ที่เกี่ยวข้อง
ความจุของ GPU มีจำกัด บอกเราเกี่ยวกับความจุงานของคุณ และเราจะตอบกลับด้วยความพร้อมและราคา