開源 AI 模型比較 2026:DeepSeek V4.1、Qwen 3.8、GLM 5.3、Mistral Large 4 選型指南

  • 大數軟體
快速摘要

截至 2026 年 10 月底,DeepSeek 主力已轉為新架構 V4.1-Flash-1017,GLM 5.3 已公開權重,Mistral Large 4 與 Muse Spark Open 加入旗艦行列。地端首選仍為 Qwen3.8-27B、Nemotron 3.5 Bolt/Lightning、Muse Glimmer、Gemma 4 與 TAIDE;本文比較授權、硬體、成本與資料主權。

2026 企業開源與開放權重 AI 模型選型:同時比較模型能力、地端部署、授權、資安與成本

2026 年 10 月 31 日更新:2026 年秋天,企業選擇開放權重模型時,主要候選包括 DeepSeek V4.1-Flash-1017、Qwen 3.8、GLM 5.3、Kimi K3、Mistral Large 4、Meta Muse Spark Open、NVIDIA Nemotron 3.5 家族,以及更適合地端部署的 Gemma 4、TAIDE。面對這些選項,本文不以過期排行榜作為決策依據,而是從模型是否真的能下載、授權能否商用、硬體是否負擔得起、繁體中文與工具呼叫是否穩定、資料能否留在企業內部五個面向,整理企業選型時需要考量的條件。

選型重點:截至 2026 年 10 月 31 日,DeepSeek 的主力已換成新架構的 V4.1-Flash-1017(MIT,原生圖文輸入);GLM 5.3 已公開權重,另有 MIT 授權的多模態 GLM-5.3-Flash;Mistral Large 4 與 Meta Muse Spark Open 則分別提供 T 級與接近 T 級的開放權重選項。至於 Kimi K3.1 Pro,目前僅提供線上服務與 API,尚未公開權重,官方預定 11 月 4 日前釋出。若要在企業內部實際部署,可優先測試 Qwen3.8-27B、Nemotron 3.5 Lightning 30B-A3B 與 Bolt 74B-A9B(官方 24GB 版)、Muse Glimmer 30B、Gemma 4(E4B/12B/26B)、gpt-oss-20b、Ministral 3 與 Gemma-3-TAIDE-12B;DeepSeek V4.1、GLM 5.3、Kimi K3、Mistral Large 4、Muse Spark Open 等旗艦雖可下載,仍屬多 GPU 伺服器或叢集工程。

先釐清「開源模型」的三種含義

市場上經常混用「可以呼叫 API」、「可以下載權重」與「完整開源」,但在企業採購、法遵與部署上,三者的意義截然不同:

  • 商用 API 模型:透過供應商端點使用,上線快,也不必自行維運 GPU;相對地,資料會離開自有環境,價格、版本與停用時程也由供應商控制。即使同系列已有權重可下載,API 版仍可能提供額外工具、更長的上下文,或尚未公開權重的新版本,例如目前僅透過 API 提供的 Kimi K3.1 Pro。
  • 開放權重(open-weight)模型:可下載參數,在自有機房或私有雲中執行推論,通常也能微調。不過,訓練資料、完整訓練程式與製作流程未必全部公開。DeepSeek V4.1、Qwen 3.8、GLM 5.3、Kimi K3、Mistral Large 4、Muse、Nemotron、Gemma 4 與 TAIDE 都屬於這個實務上最常見的類別。
  • 符合完整開源定義的 AI:除了權重,還要提供足以研究、修改與重建系統的資料資訊與訓練程式。Open Source Initiative 的 Open Source AI Definition 1.0 對此有更嚴格的要求。

本文沿用市場慣稱的「開源 LLM」,並在規格與建議中明確區分API、開放權重或完整可地端部署。這項區分直接影響採購:若資料不得離開內網,API 模型即使能力再強,也無法列入候選;若需要修改與轉授權,則不能只確認權重可下載,還須逐份審閱授權條款。

2026 主流模型總表:從 DeepSeek、Qwen 到 Mistral、Muse、Nemotron

模型取得方式公開規格上下文企業選型重點
DeepSeek V4.1-Flash-1017API+開放權重新架構 Causal Encoder-Decoder;權重共 763B(552B 主幹+196B Engram 條件記憶,另含 DSpark 等模組),主幹每 token 啟用 prefill 8B/decode 16B1M;API 最大輸出 384KMIT;原生支援圖文輸入。10 月 17 日的小改版提升推理、程式、Agent 與視覺表現,並縮短輸出長度;API 端點 deepseek-flash 已指向此版本。
DeepSeek V4-Pro-0813API+開放權重1.6T 主幹/49B active(權重檔約 1.7T)1MMIT;偏高難度推理與長程 Agent,仍是 deepseek-v4-pro 端點的版本,截至更新日尚無 V4.1 Pro。完整部署的叢集需求遠高於 Flash。
Qwen3.8-27BAPI+開放權重27B dense,原生視覺語言262K 原生,可延伸至 1MApache 2.0;支援影像、影片、思考開關與 reasoning effort,仍是本代最適合企業先做地端 PoC 的 Qwen。
Qwen3.8-Flash-Next開放權重(實驗預覽)125B/6B active MoE(另含 51B n-gram 嵌入與 4B MTP),混合注意力262K 原生,可延伸至 1M官方定位為 Qwen4 底層架構的實驗預覽,採 qwen-community-1.0 自訂授權;適合研究新架構,正式採用前要確認授權與版本穩定度。
Qwen3.8-2.4T-A95B/MaxAPI+開放權重2.4T/95B active(開放權重為純文字)262K 原生,可延伸至約 1.01M首次公開 Qwen Max 級權重;採 qwen3.8-max 專屬授權,API 版另有視覺、工具與預設 1M 等代管功能。
GLM 5.3API+開放權重753B MoE,純文字1M8 月底公開權重,採自訂 GLM-5.3 License:允許商用,但經營模型即服務、且含關聯企業任意連續 12 個月營收逾 100 億美元者,任何商業使用前需先通過 Z.ai 安全審查。強項是複雜軟體工程與終端 Agent。
GLM-5.3-Flash開放權重320B/18B active官方評測設定最高 1MMIT;GLM-5 系列第一個原生多模態模型,授權比 GLM 5.3 寬鬆,部署門檻也低得多。
Kimi K3/K3.1 ProK3:API+開放權重;K3.1 Pro:目前僅線上服務與 APIK3:2.8T/104B active;K3.1 Pro 官方稱 3T 級1MK3 採 Kimi K3 自訂授權。10 月 23 日上線的 K3.1 Pro 官方表示 11 月 4 日前釋出權重,授權尚未公布,權重上架前不應列入地端規劃。
Mistral Large 4API+開放權重約 1T 總參數/約 49B active,文字+影像輸入1M10 月 6 日以 API 預覽上線,10 月 29 日釋出權重;採 Mistral Ecosystem Open-Weight License(修改版 MIT),可商用,但經營模型即服務需另簽商用授權。
Meta Muse Spark Open開放權重(需申請)816B/42B active,文字、影像、影片、音訊輸入1MMuse Model License:產品需標示「Built with Muse Spark Open」,含關聯企業年營收逾 2,000 萬美元者對外提供模型服務前需另簽協議;官方建議 NVFP4 至少 700GB 顯示記憶體。
Meta Muse Glimmer 30B開放權重約 29.6B dense(含視覺編碼器)131K+Apache 2.0;官方 4-bit 版本可在 24/32GB 裝置執行,強項是本機多模態 Agent、工具使用與失敗恢復。
Nemotron 3.5 LightningAPI/NIM+開放權重30B/3B active1MOpenMDW-1.1,提供 NVFP4/BF16;瞄準高吞吐、低延遲 Agent 執行。
Nemotron 3.5 Bolt 74B-A9B開放權重74B/9B active,文字、影像、影片輸入最高 256KOpenMDW-1.1;由 Nemotron 3.5 Super VL 壓縮而來,官方 24GB 版以量化感知訓練的 2-bit(IQ2)專家權重,設計目標是在批次 1、128K 上下文下低於 24GB,是本期最值得注意的工作站級候選。
Nemotron 3.5 Super VL/3 UltraAPI/NIM+開放權重Super VL 120B/12B active;Ultra 550B/55B active1MOpenMDW-1.1;Super VL 是 10 月新增的視覺語言版,Ultra 負責長程 Agent 的高難度推理與協調,皆屬資料中心級。
Gemma 4API+開放權重E2B、E4B、12B、26B MoE(約 3.8B active)、31B Dense128K(edge)/256K(12B 以上)Apache 2.0;12B 為不另接編碼器的統一架構,直接處理文字、影像與音訊;涵蓋端側、筆電與工作站。

註:參數、上下文與授權依各模型的官方 model card 與發布頁整理,日期以官方公告或 Hugging Face 頁面為準。支援的上下文長度上限,不代表模型在該長度下仍能維持同等準確率、速度或成本;預覽版規格也可能變動。採購前應再次確認官方 model card 與 license。

企業選型能力矩陣

這張圖依官方規格、可用模態、模型尺寸與本文設定的企業情境,整理出 1 至 5 級的首輪選型指標;不同廠商的 benchmark 測試條件各異,因此未將它們合併為排行榜。

模型Agent/Coding多模態正體中文潛力地端易用度建議角色
Qwen3.8-27B★★★★★★★★★★★★★★★★★★★★中文多模態地端基線
DeepSeek V4.1-Flash-1017★★★★★★★★★★★★★★★★★★★★高成本效益 Agent 品質上限
GLM 5.3★★★★★★★★★★★★★★★★★★★★工程與終端 Agent 對照組
Kimi K3★★★★★★★★★★★★★★★★★★★★超長文件與多模態旗艦
Mistral Large 4★★★★★★★★★★★★★★★★★★★★歐洲來源的多語旗艦
Nemotron 3.5 Bolt 74B★★★★★★★★★★★★★★★★★★★★24GB 工作站多模態 Agent
Nemotron 3.5 Lightning★★★★★★★★★★★★★★★★★★★★高吞吐 Agent 執行層
Muse Glimmer 30B★★★★★★★★★★★★★★★★★★★★24/32GB 本機多模態 Agent
Gemma 4 E4B/12B★★★★★★★★★★★★★★★★★★★★端側與筆電多模態
Gemma-3-TAIDE-12B★★★★★★★★★★★★★★★★★★★★台灣語境驗收基線

讀法:★★★★★ 表示模型相對適合本文設定的企業任務,並非跨模型的絕對能力評比。正體中文表現仍須以企業自有的台灣題庫重新測試;「地端易用度」則綜合考量權重是否公開、模型總尺寸與官方部署支援。TAIDE 官方說明模型未經圖片資料訓練,建議僅使用文字輸入,因此多模態評為 1 分。

主流模型路線,真正的差異在哪裡?

DeepSeek V4.1-Flash:更新架構,首次原生支援圖文輸入

DeepSeek 在 9 月 10 日推出 DeepSeek-V4.1-Flash,這次並非針對 V4-Flash 的後訓練小幅調整,而是採用 Causal Encoder-Decoder 新架構:將 40 層 Transformer 分為 20 層因果編碼器與 20 層解碼器,主幹有 552B 參數,另搭配以 token 查表、稀疏存取的 196B Engram 條件記憶。每個 token 在 prefill 階段只啟用約 8B 參數,decode 階段則約為 16B。模型同時內建 DeepSeek-ViT 視覺編碼器,可原生處理圖文輸入,支援 1M 上下文,權重採 MIT 授權。

10 月 17 日的 DeepSeek-V4.1-Flash-1017 是沿用相同架構的小幅更新。根據官方說明,推理、程式、Agent 與視覺評測均有提升,任務執行時間與輸出長度也有所縮減。API 端的 deepseek-flash 已指向這個版本,最大輸出 384K;舊的 deepseek-v4-flash 名稱仍可呼叫,但依官方說明,目前只是暫時轉送至新版,已無法用來鎖定舊模型。對地端部署團隊而言,關鍵在於啟用參數少,總權重卻更大:雖然推論時每 token 的計算量低,記憶體仍須容納 763B 權重,因此依舊需要多 GPU 伺服器等級的部署。

成本評估仍應回到「Agent economics」:除了每百萬 token 的價格,也要計算完成一項工作所需的對話輪次、token 總量與失敗重試次數。DeepSeek 自 8 月 16 日(UTC)起採尖峰與離峰兩段計價,尖峰為週一至週五(中國法定假日除外)台灣時間 09:00 至 12:00 與 14:00 至 18:00,其餘時段(含週末)為離峰,價格減半。更新日的官方定價頁顯示,deepseek-flash 每百萬 tokens 的未命中快取輸入為離峰 US$0.15/尖峰 US$0.30,輸出為 US$0.6/US$1.2,另外 Search 與 Fetch 工具每千次成功請求 US$0.75;實際價格以官方最新公告為準。1017 版縮短輸出、提高任務完成率,對總成本的影響更為實際;若工具錯誤率高,導致任務反覆重跑,低 token 單價也未必能降低整體支出。

DeepSeek-V4-Pro-0813 則仍是 Pro 線的現行版本,採 MIT 授權並公開權重,偏向更高難度的推理與長程工作。截至更新日,DeepSeek 尚未推出 V4.1 架構的 Pro 版本。

Qwen 3.8:27B 仍是地端主力,Flash-Next 尚處預覽階段

Qwen3.8-27B 是 27B dense 的原生視覺語言模型,採 Apache 2.0,能理解文字、影像與影片;原生上下文 262,144 tokens,可延伸到 1M,並支援思考開關與 reasoning_effort。官方提供 Transformers、vLLM、SGLang 等執行方式,以及 FP8 等量化版本,讓它持續成為可下載、可在企業內部部署的務實候選。

8 月底新增的 Qwen3.8-Flash-Next 是 125B 主幹、每 token 啟用 6B 的 MoE 模型(另含 51B n-gram 嵌入與 4B MTP 模組),採 Gated DeltaNet 與 Qwen Sparse Attention 混合注意力,可處理影像與影片。官方將它明確定位為 Qwen4 底層架構的實驗預覽,授權也不是 Apache 2.0,而是 qwen-community-1.0。因此,它適合用來觀察下一代架構;正式導入前,仍須由法務審閱授權,並將後續版本變動納入考量。

Qwen3.8-2.4T-A95B 是 2.4T 總參數、每 token 啟用 95B 的旗艦,採 qwen3.8-max 專屬授權,不能直接套用 27B 的 Apache 2.0 結論;完整部署也屬資料中心級。截至更新日,Qwen 尚未公開 Qwen 3.9 或 Qwen4 的權重。

GLM 5.3:權重已公開,但兩個尺寸的授權不同

智譜在 8 月中先以服務形式推出 GLM 5.3,8 月底依先前說明在 Hugging Face 公開權重。這款純文字模型的總參數約 753B,思考強度可在 low、high、max 間調整,主要面向複雜軟體工程、終端操作與長程 Agent。它沒有沿用 GLM 5.2 的 MIT,而是自訂的 GLM-5.3 License:一般企業可商用、修改與再散布,但若被授權方經營模型即服務、且含關聯企業任意連續 12 個月營收逾 100 億美元,任何商業使用前需先通過 Z.ai 的安全審查。對一般企業影響不大,但仍應保留授權版本紀錄。

同系列的 GLM-5.3-Flash 是 320B 總參數、18B active 的 MoE,也是 GLM-5 系列第一個原生多模態模型,採 MIT 授權。若需要圖文理解,或希望降低部署門檻,Flash 會比 753B 的主模型更實際。不過,兩者授權不同,須分別確認。

Kimi K3 與 K3.1 Pro:先確認權重是否開放下載

Kimi K3 是 2.8T 總參數、104B active 的原生多模態 MoE 模型,可在同一模型內處理文字、影像與影片,並支援 1M 上下文。它主要面向長時程 Coding、深度研究與知識工作,權重採自訂的 Kimi K3 License。

Moonshot 於 10 月 23 日推出 K3.1 Pro 與速度較快的 K3.1 Pro Highspeed(官方稱 3T 級參數),目前透過 Kimi 產品與 API 提供。官方表示將在 11 月 4 日前釋出完整權重,但尚未公布授權條款。因此,在權重與條款正式上架前,K3.1 Pro 仍應視為 API 模型,地端規劃則只能以 K3 為準;兩者的部署都屬資料中心級工程。

Mistral Large 4:歐洲的 T 級開放權重旗艦

Mistral 於 10 月 6 日以 API 公開預覽推出 Mistral Large 4,10 月 29 日釋出權重。依 官方 model card,它約有 1T 總參數、每 token 啟用約 49B(含嵌入與輸出層約 52B),接受文字與影像輸入,支援 1M 上下文,並宣稱可流暢處理 160 種以上語言。官方部署範例以 vLLM 搭配 8 張 GPU 的 tensor parallel 為基準,另有針對 Blackwell 的 NVFP4 版本。

選型時尤其需要留意授權變化。Large 3 採 Apache 2.0,Large 4 則改用 Mistral Ecosystem Open-Weight License,屬修改版 MIT,允許商用與非商用;若經營模型即服務(Model-as-a-Service)業務,則須另與 Mistral 簽訂商用授權。對尋找非美國、非中國來源旗艦模型的企業而言,它提供了新的候選,中文能力仍須以自有題庫實測。

Meta Muse:Glimmer 鎖定本機,Spark Open 是接近 T 級的旗艦

Muse Glimmer 30B 由 Meta Superintelligence Labs 發布,是總參數約 29.6B(已含約 1.8B 視覺編碼器)的 dense 模型。它支援文字與影像輸入、131K+ 上下文、工具使用與可調推理強度,採 Apache 2.0。官方提供完整精度、4-bit 權重與推測解碼 drafter,目標是在 24GB/32GB 記憶體內同時容納模型、KV cache 與視覺編碼器,是少數明確針對離線多模態 Agent 與消費級硬體設計的模型。

10 月 15 日發布的 Muse Spark Open 則面向更大的部署規模:這款 816B 總參數、42B active 的 MoE 接受文字、影像、影片與音訊輸入,支援 1M 上下文。官方建議 NVFP4 版本至少需要 700GB 顯示記憶體,BF16 約需 2TB。授權也不是 Apache 2.0,而是 Muse Model License:產品須明顯標示「Built with Muse Spark Open」,若含關聯企業任意連續 12 個月營收逾 2,000 萬美元且要對外提供模型服務,需先通知 Meta 並另簽協議;下載需填寫申請表。企業內部使用不受模型服務條款限制,但標示義務與使用政策仍要納入法務審查。

NVIDIA Nemotron 3.5:從端側到 120B 的完整分工

Nemotron 3.5 Lightning 30B-A3B 是 NVIDIA 的效率型路線:30B 總參數、每 token 啟用 3B,提供 NVFP4 與 BF16 權重,適合高頻工具呼叫、Agent 子任務與低延遲企業服務。

從 10 月起,NVIDIA 進一步擴充了三個方向的產品。Nemotron 3.5 Super VL 是 120B/12B active 的視覺語言模型,支援 1M 上下文;Nemotron 3.5 Bolt 74B-A9B 由 Super VL 壓縮而來,接受文字、影像與影片,官方 24GB 版以量化感知訓練的 2-bit(IQ2)專家權重,設計目標是在批次 1、128K 上下文下維持 24GB 以內;Bolt E4B 則是以 Gemma-4-E4B-it 再訓練的 8B(effective 4B)文字模型,鎖定本機語音與裝置助理的對話層。上述 Lightning、Super VL 與 Bolt 皆採 OpenMDW-1.1;另有 Nemotron 3.5 Embed/Rerank 檢索模型、Parse 文件解析與 Transcribe 語音轉寫模型,授權請逐一確認。

Nemotron 3 Ultra 仍是 550B/55B active 的長程 Agent 協調模型。NVIDIA 的企業部署策略強調模型分工,讓 Bolt/Lightning/Super/Ultra 搭配檢索、文件解析與語音模型,再透過 NIM、TensorRT-LLM 與 NeMo 工具部署,而非由單一模型包辦所有任務。

不是每家公司都需要旗艦模型:八個更容易落地的候選

旗艦模型可用來確認品質上限,實際部署在企業機房的模型,規模則往往小一到兩個量級。因此,第一輪 PoC 更值得納入以下候選:

  • Qwen3.8-27B:中文、視覺、程式與 Agent 能力均衡,Apache 2.0;適合一般企業內部知識助理與多模態文件流程,但台灣公部門與特定採購案需先檢查來源國政策。
  • Nemotron 3.5 Bolt 74B-A9B(24GB 版):多模態,模型最高支援 256K 上下文;官方 24GB 版的設計目標是批次 1、128K 上下文下低於 24GB;適合單張高階工作站 GPU 上的文件理解與 Agent 流程,但 2-bit 量化後的實際品質仍要用自家題庫驗證。
  • Nemotron 3.5 Lightning 30B-A3B:高吞吐、1M 長上下文與 NVIDIA 推理生態是主要優勢,適合作為大量 Agent 子任務與工具呼叫的執行模型。
  • Muse Glimmer 30B:Apache 2.0、文字加影像,官方量化版鎖定 24/32GB 裝置;適合本機多模態 Agent、GUI/文件理解與離線工具流程。
  • Gemma 4 E2B/E4B/12B/26B MoE/31B:E2B 與 E4B 鎖定端側多模態並支援音訊;12B 以統一架構直接處理文字、影像與音訊,支援 256K;26B 每次推論約啟用 3.8B,31B 則偏最高品質。
  • gpt-oss-20b/120b:Apache 2.0 的文字推理模型。官方資料顯示 20b 量化權重可在約 16GB 記憶體環境執行,120b 則以單張 80GB GPU 為目標;另有 gpt-oss-safeguard 安全分類版本,可作內容政策判斷。
  • Ministral 3 3B/8B/14B 與 Mistral Small 4:Ministral 3 採 Apache 2.0,提供 base、instruct 與 reasoning 版本,適合邊緣裝置與多語場景;需要更強能力時,可評估同為 Apache 2.0 的 Mistral Small 4(119B 總參數、每 token 啟用 6B,含嵌入與輸出層約 8B)。
  • Gemma-3-TAIDE-12B-Chat-2602:TAIDE 團隊以 Gemma 3 12B 為基礎,加入台灣文本並強化辦公任務與正體中文對話,在台灣行政、文化與用語情境值得單獨測試。

若主要任務是 RAG 問答、摘要、分類、欄位擷取或客服草稿,中型模型搭配整理完善的知識庫,往往比單獨使用超大旗艦模型更具成本效益。部署與選型細節,可延伸閱讀本站的地端 AI 部署指南與台灣企業 LLM 選型指南。

Gemma 4:涵蓋手機到工作站的模型家族

Gemma 4 採 Apache 2.0,家族涵蓋 E2B、E4B、12B、26B MoE 與 31B Dense。E2B/E4B 以 128K 上下文和端側效率為主;Gemma 4 12B 採不另接編碼器的統一架構,把影像區塊與音訊波形直接投影到語言模型的嵌入空間,支援 256K 上下文;大型版本最高同樣是 256K。

一般企業可先以 E4B 驗證手機、IoT 與離線多模態流程,再用 12B 或量化 26B/31B 測試筆電與工作站級推理。其中,26B 每次約啟用 3.8B 參數,著重低延遲與吞吐量;31B Dense 則較重視品質與微調彈性。Gemma 4 也成為其他模型的底座,例如 NVIDIA 的 Nemotron 3.5 Bolt E4B 就是以 Gemma-4-E4B-it 再訓練而來。若台灣企業因供應鏈或政府採購限制不便採用中國來源模型,Gemma 4 是模型尺寸、授權與部署工具都相對完整的替代線。

為何仍應保留 TAIDE?台灣語境需要另外驗證

Gemma-3-TAIDE-12B-Chat-2602 並不是 Gemma 4,而是以 Gemma 3 12B 為底模,加入台灣文本並強化辦公任務、正體中文對話與在地用語。官方說明它未進行圖片資料訓練,建議僅以文字輸入,上下文 128K;它與下文的 TAIDE 嵌入模型都採「(Gemma 版次)TAIDE 模型授權條款」,下載前須同意條款。它的價值在於為台灣行政、公文、教育、客服與企業知識流程提供在地基線,而非與 T 級旗艦比較世界知識。TAIDE 另發布以 Google EmbeddingGemma 300M 為底、針對台灣法規檢索微調的 embeddinggemma-GTAIDE-300m-2605,官方自評在內部法規檢索測試的 Recall@1 由 56.14 提升到 74.43,適合放進 RAG 的嵌入模型比較清單。Google 也於 10 月 6 日推出 Apache 2.0 的 EmbeddingGemma 2(740M 參數、8K 上下文),可把文字、影像、音訊與影片映射到同一向量空間,適合多模態知識庫的檢索測試。

實測時至少加入台灣法規名稱、政府機關名稱、民國/西元日期、統一編號、地址、幣別、全形標點,以及「軟體/程式、資料/數據、帳號/賬號」等兩岸詞彙差異。評估時不宜預設 TAIDE 一定勝出,而應讓 TAIDE、Gemma 4、Qwen3.8-27B、Muse Glimmer 與 Nemotron Bolt 使用同一套台灣題庫,據此比較表現。

其他值得追蹤的 8 至 10 月新模型

除了上述主流家族,以下開放權重模型也在 2026 年 8 至 10 月上架,可依需求加入比較清單:

  • MiniMax-M3.1-Flash:約 428B 總參數、23B active,接受文字、影像與影片,支援 1M 上下文;10 月先上 API,之後在 Hugging Face 公開權重。採 MiniMax Community License,商用須標示「Built with MiniMax M3.1-Flash」,相關營收逾 2,000 萬美元者須事先取得 MiniMax 書面授權,未達者也須寄送一次性通知。
  • Xiaomi MiMo-V2.6:Flash 版為 309B/15B active,支援文字、影像、影片與音訊及 1M 上下文,採 MIT;另有更大的 Pro 版。
  • IBM Granite 4.2:8 月 25 日發布 3B/8B/30B 三種尺寸,採 Apache 2.0,原生 128K、可延伸至 512K,官方測試語言包含中文,適合重視授權單純與企業文字任務的團隊。
  • Liquid AI LFM3-1.7B:1.73B 參數、256K 上下文,4-bit 約 1GB,鎖定手機與筆電等端側裝置;採 LFM Open License v1.0,含關聯企業年營收達 1,000 萬美元以上者不在商用授權範圍內,須另取得授權。

比較時應分別評估通用生成、嵌入檢索、語音與影像模型,避免以同一張排行榜決定所有系統組件。此外,MiniMax 與 MiMo 同屬中國來源模型,台灣公部門仍適用前述來源國限制。

如何估算硬體需求?不能只看 active parameters

模型權重所需記憶體的理論下限,可粗估為「總參數量 × 每參數位元數 ÷ 8」。這項估算只涵蓋權重,尚未計入 KV cache、視覺編碼器、推理框架、運算暫存,以及批次與同時請求的需求。DeepSeek V4.1-Flash 就是典型例子:每 token 雖只啟用 8B 至 16B,仍須完整載入 763B 權重。因此,採購前至少應以目標上下文長度與同時使用者數進行壓力測試。

環境級距較合理的模型範圍適合用途注意事項
16 至 32GB 統一記憶體/顯示記憶體3B 至 12B 量化模型,部分 20B 至 30B 量化模型,以及 Nemotron 3.5 Bolt 24GB 版(官方目標為 128K 上下文)個人測試、單人文件問答、離線摘要長上下文會快速增加 KV cache 需求;「能載入」不等於「可服務多人」。
32 至 64GB12B 至 35B 量化模型部門 PoC、低同時請求量的 RAG、程式助理Qwen3.8-27B、Muse Glimmer 30B、Gemma 4 31B 與 Nemotron 3.5 Lightning 可列入實測,但視覺與長上下文會提高需求。
80GB 單卡或多卡伺服器70B 至 120B 級量化/MoE企業內部共享服務、中等同時請求量Nemotron 3.5 Super VL、gpt-oss-120b 屬此級距;要量測 tensor parallel、prefill、decode 與故障切換,不只看單次 tokens/s。
8 卡伺服器或多節點 GPU 叢集DeepSeek V4.1-Flash/V4-Pro、GLM 5.3、Qwen3.8-2.4T、Kimi K3、Mistral Large 4、Muse Spark Open、Nemotron 3 Ultra 等旗艦追求前沿品質、研究或大規模服務Muse Spark Open 官方建議 NVFP4 至少 700GB 顯示記憶體,Mistral Large 4 範例以 8 張 GPU 為基準;網路互連、模型切分、推理引擎與維運人力通常比單一 GPU 型號更關鍵。
從筆電、工作站、GPU 伺服器到多節點叢集的四級企業 AI 部署規模
模型能載入只是起點;上下文、同時請求量、KV cache 與維運要求,會把部署從個人裝置一路推向多節點叢集。

採購原則:先在租用環境以真實流量完成 PoC,再依尖峰同時請求量、P95 延遲、平均輸出長度與可接受的量化損失,回推硬體需求。不宜僅憑網路上「幾 GB 可以跑」的對照表直接採購。

LM Studio、Ollama、vLLM、SGLang 怎麼分工?

  • LM Studio:適合透過桌面 GUI 搜尋、體驗並快速比較模型。非工程人員也能測試 GGUF/MLX 等量化版本;正式商用前,仍須確認模型來源、授權與應用程式的企業條款。
  • Ollama:適合開發者在 macOS、Windows 或 Linux 快速啟動本地模型與 API,建立 RAG 或 Agent 原型。由於模型標籤可能指向不同量化版本,上線前應固定 digest,避免更新後結果漂移。此外,Ollama 也提供雲端模型服務,因此使用 Ollama 不代表資料一定留在本機,仍須確認實際端點設定。
  • vLLM:適合 NVIDIA/AMD 伺服器上的高吞吐服務,提供 OpenAI 相容 API、continuous batching、tensor parallel 等能力;DeepSeek V4.1、GLM 5.3、Mistral Large 4 與 Nemotron 3.5 的官方 model card 都直接提供 vLLM 部署方式。
  • SGLang:適合複雜 Agent、長上下文與高效結構化生成;對超大型 MoE 模型的支援通常與 vLLM 並列為官方建議方案。

整體而言,LM Studio/Ollama 適合讓模型先運作起來,vLLM/SGLang 則著重在多人使用、長上下文與可監控的條件下,提供穩定服務。新架構模型(例如 DeepSeek V4.1 的 Encoder-Decoder、Qwen3.8-Flash-Next 的混合注意力)通常要較新版的推理引擎才支援,升級前要先在測試環境驗證。正式環境還需要身分驗證、權限、限流、審計、內容安全、版本鎖定與備援,推理引擎本身不會自動補齊這些治理能力。

從排行榜走向實際任務:建立企業自己的驗收集

MMLU、AIME、SWE-bench、Terminal-Bench 與 Chatbot Arena 可反映模型的部分能力,但未必能代表企業處理發票、法規、公文、客服對話或內部程式庫的實際表現。更可靠的做法是建立 100 至 300 題的代表性驗收集,並固定提示詞、工具、推理框架與評分規則。

  1. 任務品質:答案正確率、引用命中率、欄位擷取 F1、程式測試通過率。
  2. 繁體中文:台灣用語、法規名稱、人名地名、全形標點、日期與幣別格式;不要用簡體中文 benchmark 代替。
  3. Agent 穩定度:工具選擇、JSON schema 遵循、參數完整度、錯誤後能否恢復、長任務是否偏離目標。
  4. 效能:time to first token、輸出速度、P50/P95 延遲、尖峰同時請求量、長上下文 OOM。
  5. 安全:提示注入、越權工具呼叫、敏感資料外洩、錯誤引用與拒答行為。
  6. 總成本:API token 費、GPU 折舊、電力、機房、監控、升級與維運人力,不只比較每百萬 token 單價。

生成式模型的輸出並非完全固定,因此每題至少應重跑三次。同時保存模型 ID、權重雜湊、量化格式、推理引擎版本與 sampling parameters,才能在下個月追查分數變動的原因。DeepSeek 將舊端點名稱轉接至新版本的做法,也提醒 API 使用者:若未固定版本,結果可能在不知情的情況下改變。

中美歐開放模型路線差異:迭代速度、產業底座與授權設計

到了 2026 年,僅以「中國開源、美國閉源」區分模型路線,已無法準確描述市場。中國模型商仍以超大型 MoE、1M 長上下文、密集的日期版號與低 API 單價爭取開發者,DeepSeek 更在 V4.1 換了底層架構。不過「中國模型」也不是同一授權:DeepSeek 與 GLM-5.3-Flash 採 MIT,Qwen3.8-27B 是 Apache 2.0,Qwen 旗艦、GLM 5.3 與 Kimi K3 則各有自訂條款。

美國路線在 2026 年秋天出現明顯變化:除了 Google Gemma 4、OpenAI gpt-oss 與 NVIDIA Nemotron 這類可落地尺寸,Meta 也以 Muse Spark Open 推出 816B 的開放權重旗艦。NVIDIA 則把 Bolt、Lightning、Super、Ultra、檢索與語音模型、NIM 與 TensorRT-LLM 串成一套企業部署堆疊。歐洲的 Mistral 以 Large 4 加入 T 級開放權重陣營,主打多語與自建部署。

授權設計也出現值得留意的趨勢。新一代模型愈來愈常採取「可商用,但附帶條件」的方式:GLM 5.3、Muse Spark Open、MiniMax 與 LFM3 設有營收門檻,Mistral Large 4 則要求模型即服務業務另簽商用授權,Muse 與 MiniMax 另有標示義務。條件與門檻各不相同,若要把模型包成對外服務或在產品中散布,就必須逐份審閱。對台灣企業而言,選型不能只看國籍標籤,還須考量來源國政策、授權、資料流向、版本能否固定、硬體綁定與供應鏈風險。同一家公司也可能依任務需求,採用不同路線。

快速模型迭代路線與開放硬體工具生態之間互相連接的企業 AI 架構
不同路線可以並存:一邊透過模型規模、迭代速度與價格擴張,另一邊以硬體、工具、資料與專用模型建立部署生態,企業往往依需求混合採用。

黃仁勳在 X 的首篇貼文:開放模型能強化安全、創新與自主性

2026 年 7 月 24 日,NVIDIA 執行長黃仁勳(Jensen Huang)在 X 發出個人帳號的首篇貼文,分享 NVIDIA 共同簽署的公開信,說明開放模型的重要性。他認為,AI 將改變每個產業、支援每家公司,也將由每個國家自行建構;開放模型則能強化安全與資安、加快創新與技術普及,並提升各國及企業的 AI 自主性。

這篇貼文連結的是同日發布的 Open Weights and American AI Leadership 聯合公開信。NVIDIA 與 Meta、Google、OpenAI、Microsoft、Hugging Face、Linux Foundation 等組織共同主張,開放權重能降低創業與研究門檻、增加競爭、減少單一供應商綁定,也讓客戶保留資料與部署控制權。之後幾個月,簽署方之一的 Meta 推出 Muse Spark Open,NVIDIA 也持續擴充 Nemotron 3.5 家族。對企業而言,這些發展的實際意義,在於將開放權重納入可治理的基礎設施選項,保留未來更換模型或硬體的彈性。

台灣企業還要多看一層:資料主權與供應鏈政策

地端部署能讓推論資料留在企業內部,但不會自動解決所有資安問題。下載權重時仍要確認來源與雜湊;使用 trust_remote_code、第三方量化包或自動更新時,仍可能執行外部程式;推理服務也需要停用不必要的遙測、限制對外連線並建立軟體物料清單。

台灣公部門在評估模型時,也必須將來源國納入考量。數位發展部已明確說明,公務機關禁用 DeepSeek AI 服務,包含雲端、App 與地端下載,截至更新日未見撤銷公告。政府採購方面,工程會於 2026 年 10 月 6 日修正採購契約範本附記條款,相關禁用產品的要求改為全面適用於各類採購的履約過程及履約標的,不再限於須交付書面成果的契約。這不等於一般民間企業一律不得使用中國模型,但政府機關、關鍵基礎設施與承作政府標案的廠商,應在 PoC 前先取得資安與採購單位書面確認。若來源限制較嚴格,可優先評估 Gemma、gpt-oss、Nemotron、Mistral、Muse 與 TAIDE 等候選。

2026 年企業導入的務實流程

  1. 先釐清限制條件:資料能否離開台灣、能否使用中國來源模型、是否需要商用轉授權、是否允許第三方代管。
  2. 用 API 建立品質上限:挑一到兩個旗艦模型測試真實任務,確認目前最好的模型能將問題解決到什麼程度。
  3. 用中型開放權重模型做地端基線:在同一題庫比較 Qwen3.8-27B、Nemotron 3.5 Bolt/Lightning、Muse Glimmer、Gemma 4、gpt-oss、Ministral 3 與 TAIDE。
  4. 逐份審閱授權:同一家廠商的不同尺寸可能採不同授權,例如 GLM 5.3 與 GLM-5.3-Flash、Qwen3.8-27B 與 Flash-Next;把授權版本與下載日期一併記錄。
  5. 先做 RAG,再決定微調:知識更新頻繁、答案需要引用來源時,先改善文件切分、嵌入模型、檢索與權限;只有格式、語氣或固定行為無法靠提示與 RAG 解決時,才投入 fine-tuning。
  6. 壓測後再買硬體:以真實的上下文長度、輸出長度與同時請求量進行量測,避免以單人聊天速度推估正式服務容量。
  7. 建立模型閘道:讓應用透過一致 API 存取多個模型,保留版本切換、回退、成本路由、日誌與安全政策,避免業務系統綁定單一供應商。

多數企業最後採用的會是混合架構:敏感文件與高頻固定任務由地端模型處理,公開資訊與少量高難度推理則交由雲端旗艦;應用層再透過 RAG、模型閘道與審計紀錄統一管理。LargitData 的 RAGi 企業知識平台可部署在企業內部,將知識檢索、模型串接與企業治理整合在同一套架構中。

2026 企業選型常見問題

第一輪 PoC 應該先測哪些模型?

可先以一個雲端旗艦確認品質上限,再選三個可實際部署的候選:Qwen3.8-27B 作中文多模態基線、Gemma 4 或 Muse Glimmer 作西方供應鏈與本機多模態基線、TAIDE 作台灣語境基線。若只有單張 24GB 級 GPU,可加入 Nemotron 3.5 Bolt 24GB 版;若有大量 Agent 子任務,再加入 Nemotron 3.5 Lightning。第一輪不宜直接部署 DeepSeek V4.1、GLM 5.3、Mistral Large 4 或 Muse Spark Open 的全量權重。

DeepSeek V4.1-Flash 和 V4-Flash 差在哪裡?

V4.1-Flash 換成 Causal Encoder-Decoder 新架構,加入 196B 的 Engram 條件記憶,每 token 啟用參數降到 prefill 8B/decode 16B,並原生支援圖文輸入;V4-Flash 則是純文字的 284B/13B active MoE。目前 API 使用的是 10 月 17 日的 V4.1-Flash-1017,舊端點名稱也已轉接至此版本。兩者都採 MIT 授權,但 V4.1 的總權重較大,地端記憶體需求更高。

24GB/32GB 裝置實際能跑哪些新模型?

Gemma 4 E2B/E4B 是最明確的端側選項,Gemma 4 12B 與 TAIDE 12B 適合筆電或單卡測試;Muse Glimmer 30B 有鎖定 24/32GB 裝置的官方 4-bit 版本;Nemotron 3.5 Bolt 74B-A9B 的官方 24GB 版以 2-bit(IQ2)量化,設計目標是 128K 上下文下低於 24GB。能載入不等於能支援多人服務,長上下文與 KV cache 仍會快速增加記憶體需求。

哪些「最新模型」真的有權重可以下載?

截至 2026 年 10 月 31 日,DeepSeek V4.1-Flash-1017、V4-Pro-0813、Qwen 3.8 各尺寸、GLM 5.3 與 GLM-5.3-Flash、Kimi K3、Mistral Large 4、Muse Spark Open 與 Glimmer、Nemotron 3.5 家族、Gemma 4 與 TAIDE 都有公開權重,但授權與部署門檻差異很大。Kimi K3.1 Pro 目前僅提供線上服務與 API,官方預定 11 月 4 日前釋出權重。

新旗艦的授權有什麼要注意?

GLM 5.3、Mistral Large 4 與 Muse Spark Open 都允許商用,但各有條件:使用 GLM 5.3 的被授權方,若經營模型即服務,且含關聯企業的營收在任意連續 12 個月逾 100 億美元,須在任何商業使用前通過安全審查;Mistral Large 4 經營模型即服務需另簽商用授權,不設營收門檻;Muse Spark Open 有產品標示義務,含關聯企業年營收逾 2,000 萬美元者對外提供模型服務需通知 Meta 並另簽協議。這些門檻多半影響大型業者,但在將模型包裝成服務或散布前,仍須由法務逐份確認。

什麼情況該用 API,什麼情況值得自建?

低流量、需求波動大或需要最快取得旗艦能力時,API 通常更省。若資料不得離開內網、用量長期穩定,或需要固定權重、進行深度客製,自建就較有價值。請用一年期 TCO 比較 GPU、電力、機房、備援、監控與維運人力。

台灣企業可以直接採用中國來源模型嗎?

一般民間企業仍須依資料分類、產業法規、客戶契約與供應鏈政策個別評估,不能一概而論;公務機關則已有明確的 DeepSeek 使用限制。政府機關、關鍵基礎設施及政府標案承包商,應在 PoC 前取得資安與採購單位書面確認,並準備 Gemma、Nemotron、Muse、Mistral、gpt-oss 或 TAIDE 等替代線。

結論:關注最新版本,也要確認實際部署條件

2026 年秋天的模型更新比夏天更快:DeepSeek 更換架構,GLM 5.3 公開權重,Mistral 與 Meta 推出 T 級或接近 T 級的開放權重旗艦,NVIDIA 則將 74B 多模態模型壓縮至 24GB。更新愈密集,企業選型愈需要回到實際需求。Qwen3.8-27B、Nemotron 3.5 Bolt 與 Lightning、Muse Glimmer、Gemma 4 與 TAIDE 都可納入地端驗收;DeepSeek V4.1、GLM 5.3、Kimi K3、Mistral Large 4 與 Muse Spark Open 雖開放權重,完整部署仍是伺服器叢集工程;Kimi K3.1 Pro 則要等權重與授權正式公布。穩健的做法,是將雲端旗艦作為品質上限、中型開放權重作為落地基線、自有驗收集作為決策依據,再透過資料治理、RAG、權限與監控,補足模型本身未提供的企業能力。

官方資料來源: DeepSeek V4.1-Flash model card、 DeepSeek V4.1-Flash-1017 model card、 DeepSeek API 定價、 Qwen3.8-27B model card、 Qwen3.8-Flash-Next model card、 Qwen3.8-2.4T-A95B model card、 GLM-5.3 model card、 GLM-5.3-Flash model card、 Kimi K3 model card、 Kimi K3.1 Pro 發布、 Mistral Large 4 model card、 Muse Spark Open model card、 Muse Glimmer 30B model card、 Nemotron 3.5 Bolt 74B-A9B model card、 Nemotron 3.5 Lightning model card、 Gemma 4 12B model card、 Google Gemma 4、 OpenAI gpt-oss、 Mistral 3、 MiniMax-M3.1-Flash model card、 MiMo-V2.6-Flash model card、 Granite 4.2 model card、 LFM3-1.7B model card、 EmbeddingGemma 2、 Gemma-3-TAIDE-12B-Chat-2602、 embeddinggemma-GTAIDE-300m-2605、 Open Weights and American AI Leadership。