模型微調與評估服務支援模型

GPU 類型 - H200

H200 提供強大運算效能與充足的 GPU 記憶體，適合進行 LoRA、全參數（Full Parameter）模型微調及 FAPM 模型剪枝。

目前支援模型

下列模型均支援平台目前提供的模型訓練與剪枝服務，包含 SFT、DPO、GRPO、GSPO 及 FAPM。若平台介面的模型選單與本頁不同，請以平台當下顯示的選項為準。

Llama-3 系列

模型名稱（Hugging Face Model ID）	模型參數量
meta-llama/Llama-3.2-1B-Instruct	1 B
meta-llama/Llama-3.2-3B-Instruct	3 B
meta-llama/Llama-3.1-8B-Instruct	8 B
meta-llama/Meta-Llama-3-8B-Instruct	8 B

Phi-4 系列

模型名稱（Hugging Face Model ID）	模型參數量
microsoft/phi-4	14 B

Ministral-3 系列

模型名稱（Hugging Face Model ID）	模型參數量
mistralai/Ministral-3-14B-Reasoning-2512	14 B
mistralai/Ministral-3-8B-Reasoning-2512	8 B
mistralai/Ministral-3-3B-Reasoning-2512	3 B
mistralai/Ministral-3-14B-Instruct-2512-BF16	14 B
mistralai/Ministral-3-8B-Instruct-2512-BF16	8 B
mistralai/Ministral-3-3B-Instruct-2512-BF16	3 B

Gemma-3 系列

模型名稱（Hugging Face Model ID）	模型參數量
google/gemma-3-270m-it	270 M
google/gemma-3-1b-it	1 B
google/gemma-3-4b-it	4 B
google/gemma-3-12b-it	12 B
google/gemma-3-27b-it	27 B

Gemma-4 系列

模型名稱（Hugging Face Model ID）	模型參數量
google/gemma-4-E2B-it	5 B
google/gemma-4-E4B-it	8 B
google/gemma-4-12B-it	12 B

GPT-OSS 系列

模型名稱（Hugging Face Model ID）	模型參數量
openai/gpt-oss-20b	20 B
unsloth/gpt-oss-20b-BF16	20 B

---

各模型大小（參數量）訓練與執行時間快速估算

若不確定任務該選擇幾張 GPU 或需要多少執行時間，可依模型參數量（幾 B）快速參考下表：

模型參數量	全參數訓練建議 GPU 數量與預估時間（SFT）	LoRA 訓練建議 GPU 數量與預估時間（DPO）	FAPM 剪枝預估時間
270M ～ 1B	1 張 H200（約 1 ～ 1.5 小時）	1 張 H200（約 50 分鐘 ～ 1.5 小時）	約 1 分鐘
3B ～ 5B	1 張 H200（約 1 ～ 2.5 小時）	1 張 H200（約 1 ～ 2 小時）	約 3 ～ 4 分鐘
8B	1 張 H200（約 1.5 ～ 2.5 小時）	1 張 H200（約 1.5 ～ 3 小時）	約 6 分鐘
12B ～ 14B	2 張 H200（約 1 ～ 2.5 小時）	1 張 H200（約 2 ～ 3.5 小時）	約 8 ～ 10 分鐘
20B ～ 27B	4 張 H200（約 1 ～ 2.5 小時）	1 張 H200（約 2 ～ 5.5 小時）	約 15 ～ 20 分鐘

快速選擇原則

• LoRA 訓練：大部分參數量（1B ～ 27B）皆可先以 1 張 H200 執行；若追求更高的訓練吞吐量或處理長上下文／超大批次，可依需求增加至 2 張。
• 全參數訓練：GPU 記憶體需求隨參數量大幅增加，1B～8B 建議使用 1 張、12B～14B 建議使用 2 張、20B～27B 建議使用 4 張 H200。
• FAPM 模型剪枝：執行速度快，通常僅需 1 ～ 20 分鐘 即可完成剪枝運算。
• DPO 偏好最佳化與 GRPO／GSPO 獎勵引導策略最佳化訓練通常需要較長的執行時間。