使用一个有完全根接入的 NVIDIA Tesla P40 (24GB VRAM,帕斯卡尔建筑), 使用全根访问, 列车并运行 PyTork 模型。 GPU 服务器尚未排序; 联系我们, 等他们通知 。
$ pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124
# 示例 安裝命令
PyTorrch是一个广泛使用的深层学习框架。 一个 GPU 服务器运行着对 GPU 的 PyTorch 培训和推论, 远比大多数模型的 CPU 速度快。
您需要安装 NVIDIA 驱动程序、 CUDA 和 PyTorch 结构。 请检查您的 PyTorch 结构是否仍然支持 Pascal GPUs (计算能力 6.1) 。
小型和中型模型、LORA微调和中批量大小的房间。
在服务器上运行 Jupyter 笔记本, 用于 GPU 的互动工作 。
配置环境, 与您的工程需要完全相同 。
PyTorch 可以使用 NVIDIA GPU 来加快工作进度 。 VPS.org GPU 服务器还没有订购; 联系我们以听到它们何时是 。 PyTorch 是培训/ 微调工作量 。 长期工作计划: 定期对您的 VPS 进行简要描述, 并在 VPS.org 以外保存一份经过训练的重量副本 。
GPU 服务器尚未可用以订购 。 今天您可以在常规 CPU 计划中运行 PyTorch, 其运行速度远比 GPU 慢得多: SSH 运行 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124 。
培训VRAM系统以优化状态和启动为主,对7BLM系统进行全面微调需要大约24至48GB;LORA/QLORA系统适合8至16GB系统。
当可以订购 GPU 服务器时, 将会公布 GPU 定价 。 如果您想听到, 请联系我们 。
是的。每个 VPS.org 服务器都带有完整的根访问权限, 这样您就可以在服务器的内存和存储中运行 PyTorch 并同时运行其他工具 。
每个 VPS.org 服务器都带有 SSH 根全存, 这样您就可以安装驱动程序、 库和 PyTorch 。
否。 没有服务器随 CUDA 运行时间或 NVIDIA 驱动程序预设后而来, 并且 GPU 服务器目前无法订购。 您安装的版本 PyTorch 需要自己来操作 。
是的 VPS.org 服务器是持久性虚拟机器,不是短时间的:PyTorch 模型、配置和数据保存在服务器的 SSD 存储中,直到您删除它们。
保存服务器 SD 的工作数据, 以便在 PyTorch 运行期间快速访问, 并复制完成的文物( 重量、 代、 嵌入) 储存到 VPS.org 之外; 照片和备份保存在同一存储群中 。
您可以将任何 VPS.org 服务器升级为控制面板上更大的计划; 调整大小重新启动, 并让您安装 PyTorch 的服务器结转到上。 GPU 服务器尚未可用 。
是的 备份是附加的( 日+30%的计划价格, 保留7天; 周+20%, 保存28天) 和快照是免费的, 在 PyTorch 运行之前有用 。 两者都与服务器一样保存在存储群中 。
第一次购买后30天内的联络支持请求退款。 GPU 服务器尚未出售, 所以没有涉及 GPU 订单 。