---
title: "AI Model Center"
description: "在 ARX 上部署第一個地端模型 —— 從 Model Hub 選擇推薦模型、在 Model Instances 確認狀態、讓應用程式連上它，並觀察 GPU 使用量"
canonical_url: "https://docs.ardge.com/zh-tw/guide/use-ai/ai-model-center"
---
# AI Model Center
> 在 ARX 上部署第一個地端模型 —— 從 Model Hub 選擇推薦模型、在 Model Instances 確認狀態、讓應用程式連上它，並觀察 GPU 使用量
## 概觀
AI Model Center 是 ARX 的「AI 模型管理中心」。App 要使用地端 AI 之前，通常要先在這裡把需要的模型下載並啟動。
**找模型 → 下載模型 → 啟動成可使用的 AI 服務 → 查看 GPU / 模型狀態**
第一次使用，建議先從 **ARDGE 精選（Ardge Select）** 選擇 ARDGE 已驗證的模型。這些模型已附上建議部署參數，不需要先理解複雜的 GPU 設定。
## 步驟 1：選擇模型來源
### 方法 A：ARDGE 精選（建議新手）
前往 **Model Hub > Ardge Select**。這裡的每個模型都經過 ARDGE 驗證，且已附上部署參數，不必調整就能運行。選定模型後按 **Download and Deploy**，系統會下載模型並在完成後啟動。
也可以只按 **Download** 不部署。模型會進入 **Downloaded Models**，之後再從那裡部署。
### 方法 B：Hugging Face（進階）
如果已知道要使用哪個 Hugging Face 模型，可直接搜尋並部署。在模型卡片上按 **Download and Deploy**，會開啟一個三步驟的精靈：
1. **Download Settings** —— 確認模型格式與檔案
2. **Deploy** —— 設定部署參數。不確定時把 **Deployment Configurations** 保持 **Default**
3. **Resource Check** —— 系統檢查 VRAM、儲存空間與下載權限
按 **Download and Deploy** 開始。下載在背景進行，完成後模型隨即部署。
**受管制的模型需要 Hugging Face token：**
有些模型必須先同意提供者的使用條款才能下載。Resource Check 步驟中的 **Hugging Face Model Authentication** 卡片會告知何時屬於這種情況。在該卡片的欄位填入你的 token，檢查會立即重新執行。
同意條款與產生 token 的方式請參考[註冊 Hugging Face 帳號並取得 Access Token](https://docs.ardge.com/zh-tw/knowledge/arx-os/huggingface-token)。
## 步驟 2：確認模型已經 Running
前往 **Model Instances**。這個頁面列出每個已部署的實例及其當前狀態：
- **Running** —— 模型已啟動，可以提供給 App 或 API 使用
- **Error** —— 模型未正常啟動。開啟 **Logs** 操作以檢視該實例的完整 log
- 其他處理中狀態 —— 代表系統仍在啟動、停止或調整模型
同一個模型可以部署多次。每個實例各自處理請求，這是為流量大的應用程式擴充吞吐量的做法；第一次使用不需要特別建立多個。
## 步驟 3：讓 App 使用模型
使用模型有兩種方式：
- **App Market 的應用程式** —— 安裝後在它的設定裡選擇你的模型實例
- **公司內其他系統 / 外部 App** —— 將它指向 ARX 的模型 endpoint
裝置之外的應用程式請使用 **API Key** 頁面上的 API endpoint。你會需要：
- Endpoint URL
- API Key
- 模型實例名稱
請求格式與可直接執行的範例請參考[透過 API 呼叫 ARX 平台上的地端模型](https://docs.ardge.com/zh-tw/knowledge/arx-os/api-model-calls)。
## 步驟 4：查看 GPU 與模型使用量
**Dashboard** 顯示每個模型實例的使用量，以及各張 GPU 卡已被佔用的比例。部署下一個大型模型之前先看這裡 —— 剩餘 VRAM 不足的 GPU 卡會直接拒絕部署。
估算方式請參考[什麼是 GPU VRAM Allocated？](https://docs.ardge.com/zh-tw/knowledge/arx-os/gpu-vram-allocated)
## 快速判斷：我現在做到哪裡？
- 只看到模型卡片 → 還沒下載
- 已在 **Downloaded Models** → 已下載，但不一定有啟動
- **Model Instances** 顯示 **Running** → 模型已可使用
- App 已選到該實例 → App 可以開始呼叫模型
## 下一步
模型已 Running 後，前往 [App Market](https://docs.ardge.com/zh-tw/guide/use-ai/app-market) 安裝要使用的 AI 應用程式。
## Sitemap
See the full [sitemap](https://docs.ardge.com/sitemap.md) for all pages.