PyTorch GPU VPS

PyTorch は NVIDIA GPU を使って作業を高速化できます。VPS.org GPU サーバはまだ注文できません。注文するときは、我々に連絡してください。PyTorch は訓練/微調整ワークロードです。長期間のジョブの計画:VPS のスナップショットを定期的に取って、訓練された重みのコピーを VPS.org の外に保持してください。

グラフィックサーバはまだ注文できません。現在、PyTorchは通常の CPU プランで実行できます。そこでは、GPU よりも遅く動作します。SSH で入力し、pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu124を実行します。

7B LLMの完全な微調整には約24から48GBが必要で、LoRA/QLoRAは8から16GBで十分である。

GPU サーバが注文可能になったときに GPU 価格が公開されます。その時に知りたい場合は、我々に連絡してください。

ああ、すべてのVPS.orgサーバはフルルートアクセスを持ってる だから、他のツールをPyTorchと共に サーバのRAMとストレージ内で動かすことができる

すべてのVPS.orgサーバはフルルートSSHアクセスを持ち、ドライバ、ライブラリ、PyTorchを必要に応じてインストールできます。

No. No server comes with a CUDA runtime or NVIDIA driver preinstalled, and GPU servers are not available to order yet. You install the versions PyTorch needs yourself.

はい。VPS.orgサーバは永続的な仮想マシンであり、短期間のインスタンスではありません。PyTorchモデル、コンフィギュレーション、データは、削除されるまでサーバのSSDストレージに残ります。

実行中のデータはサーバのSSDに保持し，PyTorchの実行中の高速アクセスを可能にし，完成したアーティファクト（重み，生成，埋め込み）をVPS.org以外のストレージにコピーする。

コンピュータの制御パネルからどの VPS.org サーバでもより大きなプランにアップグレードできます。サイズ変更で再起動され、PyTorch のインストールが引き継がれます。GPU サーバはまだ利用できません。

バックアップは有料アドオン (プラン価格の日々+30%、7日間保持、週間+20%、28日間保持) であり、スナップショットは無料で、長期PyTorchの実行前に役立ちます。両方ともサーバと同じストレージクラスタに残ります。

初回購入後30日以内にサポートに連絡して返金を要求してください。GPUサーバはまだ販売されていませんので、GPUの注文は含まれません。