PyTorch загварыг NVIDIA Tesla P40 (24 GB VRAM, Pascal architecture) дээр root эрхтэйгээр сургаж, ажиллуулна. ГПҮ серверүүд одоогоор захиалах боломжгүй байна. Хэрэв захиалах боломжгүй бол бидэнтэй холбоо барина уу.
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# Жишээ суурилуулах команд
PyTorch нь өргөн хэрэглэгддэг гүн суралцах систем юм. ГПХ сервер нь PyTorch-ийг сургах, тооцоолох үйлдлийг ГПХ дээр гүйцэтгэдэг. Энэ нь CPU- оос илүү хурдтай байдаг.
Та NVIDIA драйвер, CUDA болон PyTorch-ийн шаардлагатай хувилбарыг суулгасан байна. PyTorch-ийн хувилбар нь Pascal GPU-г дэмжиж байгаа эсэхийг шалгана уу (6.1-ийн тооцооллын чадвар).
Жижиг, дунд хэмжээтэй загварууд, LoRA-ийн нарийвчлал, дунд зэргийн багц хэмжээсүүд.
График процессор дээрх интерактив ажилд зориулан сервер дээр Jupyter тэмдэглэлийн дэвтэрүүдийг ажиллуулна.
Төслийн хэрэгцээнд тохируулан орчныг тохируулах.
PyTorch нь NVIDIA график процессор ашиглан ажлаа хурдасгаж болно. VPS.org график серверүүд одоогоор захиалах боломжгүй байна; хэзээ захиалах боломжтой болохыг бидэнтэй холбоо барина уу. PyTorch нь сургалт / тохируулах ажлын ачаалал юм. Хэт удаан үргэлжлэх ажлуудыг төлөвлөх: VPS- ийнхээ зурагнуудыг тогтмол авч, зqx0xqz- аас гадуур бэлтгэсэн жингийн хуулбарыг хадгал.
ГПХ серверүүд одоогоор захиалах боломжгүй байна. Одоо та PyTorch-ийг GPU-оос хамаагүй удаан ажилладаг зүгээр л CPU-ийн төлөвлөгөөнд ашиглаж болно: SSH-ээр орж pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124-ийг ажиллуулна.
Сургалтын VRAM нь оптимизаторын байдал ба идэвхжүүлэлтээр удирдагддаг. 7B LLM-ийн бүрэн тохируулгад 24-48 ГБ шаардлагатай; LoRA / QLoRA-д 8-16 ГБ багтана.
ГП серверүүд захиалагдсан үед ГП-ийн үнэлгээний мэдээллийг нийтлүүлнэ. Хэрэв та энэ мэдээллийг авахыг хүсвэл бидэнтэй холбоо барина уу.
Тийм. Бүх VPS.org серверүүд root эрхтэй байдаг, ингэснээр та серверийн RAM болон хадгалах санд PyTorch-тэй хамт бусад хэрэгслийг ажиллуулж болно.
Бүх VPS.org серверүүд root SSH-ийн бүрэн эрхтэй байдаг, ингэснээр та драйвер, сан болон PyTorch-ийг өөрийн хэрэгцээнд тохируулан суулгаж болно.
Үгүй. CUDA-ийн гүйцэтгэх хугацаа эсвэл NVIDIA-ийн драйвер суулгасан сервер байхгүй, мөн GPU серверүүд одоогоор захиалах боломжгүй байна. Та PyTorch-ийн шаардлагатай хувилбаруудыг өөрсдөө суулгах хэрэгтэй.
Тийм ээ. VPS.org серверүүд нь тогтвортой виртуал машинууд, нэн ховор тохиолдол биш: PyTorch загварууд, тохиргоо, мэдээллийг устгахгүй бол серверийн SSD хадгалах газарт үлдэнэ.
Keep working data on the server's SSD for fast access during PyTorch runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
Та зVPS.org серверийг удирдлагын самбараас илүү том төлөвлөгөөнд шинэчилж болно. хэмжээг өөрчлөхөд дахин эхлүүлж, PyTorch суулгалтыг хадгална. ГПҮ серверүүд одоогоор байхгүй.
Тийм ээ. Нууцлалын нөөц нь төлбөртэй нэмэлт (өдөр бүр +30% төлөвлөгөөний үнэ, 7хоногийн турш хадгална; долоо хоног бүр +20%, 28хоногийн турш хадгална) ба зураг нь үнэгүй, PyTorch удаан ажиллахаас өмнө тохиромжтой. Хоёр нь сервертэй ижил хадгалах кластерт үлдэнэ.
Эхний худалдан авалтаас хойш 30 хоногийн дотор дэмжлэгт хандаж буцаан олголт авахыг хүснэ. ГПҮ серверүүд одоогоор зарагдаагүй байгаа тул ГПҮ захиалга байхгүй.
График процессорын хүчин чадал хязгаарлагдсан. Таны ажлын ачаалал, боломжит үнэ, үнэлгээний талаар бидэнд мэдэгдээрэй.