NVIDIA Tesla P40 (24GB VRAM, Pascal architecture) дээр TensorFlow болон Keras-ийг сургах, тооцоолох үйлдлийг гүйцэтгэнэ. ГПҮ серверүүд одоогоор захиалах боломжгүй байна. Хэрэв захиалах боломжгүй бол бидэнтэй холбоо барина уу.
$ pip install tensorflow[and-cuda]
# Жишээ суурилуулах команд
TensorFlow бол Google-ийн нээлттэй эхийн машин суралцах систем юм. ГПХ сервер дээр TensorFlow нь CUDA-г ашиглан ГПХ дээр үйлдлээ гүйцэтгэнэ.
TensorFlow нь тохирох драйвер болон CUDA хувилбарыг суулгасны дараа CUDA-г ашиглан график процессорыг ашиглана.
График процессорын доод хэсэгт Keras API-тай загваруудыг бүтээх.
Өөрийн сервер дээр TensorBoard-ийн сургалтыг хянах.
TensorFlow-ийн үйлчилгээгээр сургасан загваруудыг хүргэх.
TensorFlow нь NVIDIA график процессор ашиглан ажлаа хурдасгаж болно. VPS.org график серверүүд одоогоор захиалах боломжгүй байна; хэзээ захиалах боломжтой болохыг бидэнтэй холбоо барина уу. TensorFlow нь сургалт / тохируулах ажлын ачаалал юм. Хэт удаан үргэлжлэх ажлуудыг төлөвлөх: VPS- ийнхээ зурагнуудыг тогтмол авч, зqx0xqz- аас гадуур бэлтгэсэн жингийн хуулбарыг хадгал.
ГПХ серверүүд одоогоор захиалах боломжгүй байна. Одоо та TensorFlow-ийг GPU-оос хамаагүй удаан ажилладаг зүгээр л CPU-ийн төлөвлөгөөнд ашиглаж болно: SSH-ээр орж pip install tensorflow[and-cuda]-ийг ажиллуулна.
Сургалтын VRAM нь оптимизаторын байдал ба идэвхжүүлэлтээр удирдагддаг. 7B LLM-ийн бүрэн тохируулгад 24-48 ГБ шаардлагатай; LoRA / QLoRA-д 8-16 ГБ багтана.
ГП серверүүд захиалагдсан үед ГП-ийн үнэлгээний мэдээллийг нийтлүүлнэ. Хэрэв та энэ мэдээллийг авахыг хүсвэл бидэнтэй холбоо барина уу.
Тийм. Бүх VPS.org серверүүд root эрхтэй байдаг, ингэснээр та серверийн RAM болон хадгалах санд TensorFlow-тэй хамт бусад хэрэгслийг ажиллуулж болно.
Бүх VPS.org серверүүд root SSH-ийн бүрэн эрхтэй байдаг, ингэснээр та драйвер, сан болон TensorFlow-ийг өөрийн хэрэгцээнд тохируулан суулгаж болно.
Үгүй. CUDA-ийн гүйцэтгэх хугацаа эсвэл NVIDIA-ийн драйвер суулгасан сервер байхгүй, мөн GPU серверүүд одоогоор захиалах боломжгүй байна. Та TensorFlow-ийн шаардлагатай хувилбаруудыг өөрсдөө суулгах хэрэгтэй.
Тийм ээ. VPS.org серверүүд нь тогтвортой виртуал машинууд, нэн ховор тохиолдол биш: TensorFlow загварууд, тохиргоо, мэдээллийг устгахгүй бол серверийн SSD хадгалах газарт үлдэнэ.
Keep working data on the server's SSD for fast access during TensorFlow runs, and copy finished artifacts (weights, generations, embeddings) to storage outside VPS.org; snapshots and backups stay on the same storage cluster.
Та зVPS.org серверийг удирдлагын самбараас илүү том төлөвлөгөөнд шинэчилж болно. хэмжээг өөрчлөхөд дахин эхлүүлж, TensorFlow суулгалтыг хадгална. ГПҮ серверүүд одоогоор байхгүй.
Тийм ээ. Нууцлалын нөөц нь төлбөртэй нэмэлт (өдөр бүр +30% төлөвлөгөөний үнэ, 7хоногийн турш хадгална; долоо хоног бүр +20%, 28хоногийн турш хадгална) ба зураг нь үнэгүй, TensorFlow удаан ажиллахаас өмнө тохиромжтой. Хоёр нь сервертэй ижил хадгалах кластерт үлдэнэ.
Эхний худалдан авалтаас хойш 30 хоногийн дотор дэмжлэгт хандаж буцаан олголт авахыг хүснэ. ГПҮ серверүүд одоогоор зарагдаагүй байгаа тул ГПҮ захиалга байхгүй.
График процессорын хүчин чадал хязгаарлагдсан. Таны ажлын ачаалал, боломжит үнэ, үнэлгээний талаар бидэнд мэдэгдээрэй.