NVIDIA Tesla P40 (24GB VRAM, Pascal architecture) дээр загваруудыг тохируулж, бэлтгэх. LoRA-ийн тохируулга болон жижиг загваруудад тохиромжтой. ГПҮ серверүүд одоогоор захиалах боломжгүй байна. Хэрэв захиалах боломжгүй бол бидэнтэй холбоо барина уу.
$ pip install torch transformers datasets accelerate && python train.py
# Жишээ суурилуулах команд
Гэрэл зурагчдын өгсөн параллель тооцоолол шаардлагатай. Гэрэл зурагчдын сервер нь таныг өөрийн сургалтын ажлууддаа нэг Гэрэл зурагчийг өгнө.
Нэг Tesla P40, 24 GB VRAM, серверт дамжуулагдсан, хуваалцагдаагүй.
PyTorch, TensorFlow, JAX эсвэл Pascal GPU-г дэмждэг бусад framework.
Серверийн SSD хадгалах төхөөрөмж дээр мэдээллийн багц, хяналтын цэг, загвар файлуудыг хадгална.
Сургалтын орчныг тохируулахын тулд root эрхтэй байх шаардлагатай.
AI Training нь NVIDIA график процессор ашиглан ажлын хурдыг нэмэгдүүлэх боломжтой. VPS.org график серверүүд одоогоор захиалах боломжгүй; хэзээ захиалах боломжтой болохыг бидэнтэй холбоо барина уу. AI Training нь ерөнхий график процессороор хурдасгасан ажлын ачаалал юм. Таны програм хангамж CUDA дэмжлэгтэй, таны драйвер/ үйлдлийн системийн хувилбарууд AI Training-ийн шаардлагыг хангаж байгаа эсэхийг шалгана уу.
ГПХ серверүүд одоогоор захиалах боломжгүй байна. Одоо та AI Training-ийг GPU-оос хамаагүй удаан ажилладаг зүгээр л CPU-ийн төлөвлөгөөнд ашиглаж болно: SSH-ээр орж pip install torch transformers datasets accelerate && python train.py-ийг ажиллуулна.
AI Training-ийн VRAM-ийн хэрэгцээ загвар болон багцын хэмжээнээс хамаарна. Одоогийн тоонууд төслийн баримт бичгээс үзнэ үү.
ГП серверүүд захиалагдсан үед ГП-ийн үнэлгээний мэдээллийг нийтлүүлнэ. Хэрэв та энэ мэдээллийг авахыг хүсвэл бидэнтэй холбоо барина уу.
Тийм. Бүх VPS.org серверүүд root эрхтэй байдаг, ингэснээр та серверийн RAM болон хадгалах санд AI Training-тэй хамт бусад хэрэгслийг ажиллуулж болно.
Бүх VPS.org серверүүд root SSH-ийн бүрэн эрхтэй байдаг, ингэснээр та драйвер, сан болон AI Training-ийг өөрийн хэрэгцээнд тохируулан суулгаж болно.
Үгүй. CUDA-ийн гүйцэтгэх хугацаа эсвэл NVIDIA-ийн драйвер суулгасан сервер байхгүй, мөн GPU серверүүд одоогоор захиалах боломжгүй байна. Та AI Training-ийн шаардлагатай хувилбаруудыг өөрсдөө суулгах хэрэгтэй.
Тийм ээ. VPS.org серверүүд нь тогтвортой виртуал машинууд, нэн ховор тохиолдол биш: AI Training загварууд, тохиргоо, мэдээллийг устгахгүй бол серверийн SSD хадгалах газарт үлдэнэ.
Keep working data on the server's SSD for fast access during AI Training runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
Та зVPS.org серверийг удирдлагын самбараас илүү том төлөвлөгөөнд шинэчилж болно. хэмжээг өөрчлөхөд дахин эхлүүлж, AI Training суулгалтыг хадгална. ГПҮ серверүүд одоогоор байхгүй.
Тийм ээ. Нууцлалын нөөц нь төлбөртэй нэмэлт (өдөр бүр +30% төлөвлөгөөний үнэ, 7хоногийн турш хадгална; долоо хоног бүр +20%, 28хоногийн турш хадгална) ба зураг нь үнэгүй, AI Training удаан ажиллахаас өмнө тохиромжтой. Хоёр нь сервертэй ижил хадгалах кластерт үлдэнэ.
Эхний худалдан авалтаас хойш 30 хоногийн дотор дэмжлэгт хандаж буцаан олголт авахыг хүснэ. ГПҮ серверүүд одоогоор зарагдаагүй байгаа тул ГПҮ захиалга байхгүй.
График процессорын хүчин чадал хязгаарлагдсан. Таны ажлын ачаалал, боломжит үнэ, үнэлгээний талаар бидэнд мэдэгдээрэй.