---
title: "什麼是 GPU VRAM Allocated？"
description: "ARX 如何預估各模型的 VRAM 使用量、剩餘量不足時為何阻擋部署，以及在哪裡查看每張 GPU 卡的剩餘量"
canonical_url: "https://docs.ardge.com/zh-tw/knowledge/arx-os/gpu-vram-allocated"
---
# 什麼是 GPU VRAM Allocated？

> ARX 如何預估各模型的 VRAM 使用量、剩餘量不足時為何阻擋部署，以及在哪裡查看每張 GPU 卡的剩餘量

## 快速解答

GPU VRAM Allocated 是 ARX 系統為每一個已部署模型計算的 VRAM 預估使用量。同一張 GPU 卡上運行多個模型權重時，系統依此數值掌握資源的配置狀況，以降低因資源搶佔導致記憶體不足、進而中斷服務的狀況。

## 詳細說明

一張 GPU 卡可同時運行多個模型。若各模型實際佔用的 VRAM 總和超出該卡的容量，即會發生記憶體不足，服務隨之中斷。ARX 於部署模型時預先估算該模型的 VRAM 需求，並記錄為其 GPU VRAM Allocated，使系統在配置階段即可掌握每張卡的已配置量與剩餘量，避免超額配置。

### 剩餘量不足時會發生什麼？

系統將直接阻擋部署。若某張 GPU 卡的剩餘量不足以容納新模型的預估使用量，該模型即無法部署至該卡。

因此卡片上的剩餘量可直接作為判斷依據：剩餘量大於目標模型的預估需求時，即可將該模型部署至該卡；剩餘量不足時，則須改用其他 GPU 卡，或先停止該卡上不再使用的模型以釋出配置。

## 如何查看

前往 **AI Model Center › Dashboard › GPU** 分頁。GPU 卡片上顯示各模型的預估使用量，以及該卡目前的剩餘量。

部署新模型前，請先確認目標 GPU 卡的剩餘量足以容納該模型所需的 VRAM。模型所需的 VRAM 大小，可於 **Model Hub** 點擊模型卡片展開詳細資訊後查看。


## Sitemap

See the full [sitemap](https://docs.ardge.com/sitemap.md) for all pages.