地端 LLM(大型語言模型,Large Language Model)要選哪個模型,取決於任務。模型比較時依序看繁體中文實測表現、授權能否商用、硬體負擔、來源合規與更新維運;沒有通用的本地 LLM 推薦名單,要用自己的資料實測。
地端模型要比較哪些條件?
要比六個條件:任務、語言、授權、大小與硬體、來源與合規、維運。多數資訊寫在模型卡(Model Card)上,也就是發布者隨模型附上的說明文件,內容包含用途與限制、訓練資料和評測結果;授權要另外讀條款原文。
| 選擇條件 | 要看什麼 | 去哪裡查 | 常見誤區 |
|---|---|---|---|
| 任務 | 問答、摘要、寫程式或知識庫檢索,哪項是主要用途 | 模型卡的用途與限制 | 沒定用途就先挑模型 |
| 語言 | 繁體中文與台灣用語的實際輸出 | 自己的測試題、模型卡的訓練資料 | 看到「支援中文」就當作能用 |
| 授權 | 能否商用,有無規模或用途限制 | 授權條款原文與使用政策 | 以為能下載就能商用 |
| 大小與硬體 | 參數規模與顯示記憶體需求 | 模型卡的參數量、現有設備規格 | 以為模型越大越好 |
| 來源與合規 | 是否官方釋出,產業有無限制 | 發布者官方頁面、主管機關公告 | 下載來路不明的再製版 |
| 維運 | 改版頻率,舊版是否還有維護 | 發布者的版本紀錄與公告 | 上線後不再驗證 |
影響視覺科技(Effect Tech)的地端/雲端私有 AI 建置,是在私有環境部署語言模型,結合企業知識庫做檢索增強生成(Retrieval-Augmented Generation,RAG)問答與 AI Agent 流程;選模型時,就是逐項確認上面六個條件。
繁體中文能力要怎麼判斷?
要用自己的文件實測,不能只看模型宣稱支援中文。中文能力至少分三層:
- 字形:輸出是不是繁體字。最容易達成,也最容易誤判。
- 用語:是不是台灣的說法,例如「影片」不是「視頻」、「軟體」不是「軟件」。
- 在地知識:台灣的法規、機關名稱、公文格式與民國紀年有沒有寫對。
以簡體中文語料為主的模型,有些能輸出繁體字,用語和在地知識卻未必是台灣的寫法,用在客服回覆或正式文件,客戶會直接看到落差。知識庫問答的測試題要用公司的真實文件來出,準備方式可參考企業知識庫(RAG)導入準備。
模型授權要看哪些重點?
要看三件事:能不能商用、有沒有使用規模或用途的限制、衍生模型要不要沿用上游條款。「開源」不等於可以商用,常見的授權分三類:
- 業界通用的標準開源授權:條款為人熟知,限制最少。
- 發布者自訂的授權:通常附帶使用政策,有的設使用規模門檻,有的規定特定商業模式要另外取得授權。
- 僅限研究或非商業用途:不能用在營運系統。
衍生模型往往要同時遵守上游模型的條款;同一系列的不同世代、不同尺寸,授權也可能不同。所以一律以授權條款原文為準,由法務或主管確認,並把下載當天的條款存檔。
模型越大越好嗎?硬體要怎麼配?
不是越大越好,多數企業內部應用用中小型模型就夠;模型越大,硬體、電費與維運成本也跟著放大。顯示記憶體怎麼估、不同規模適合什麼任務,見地端 LLM 硬體需求。
模型檔的來源與合規要查什麼?
只從發布者的官方管道下載,並先確認所屬產業或客戶對模型來源有沒有限制。
- 安全:模型託管平台 Hugging Face 的官方文件提醒,載入 pickle 格式的模型檔可能遭到任意程式碼執行攻擊,建議載入自己信任的使用者與組織所發布的模型。
- 可追溯:社群再製的版本(重新壓縮、改名,或標榜移除安全限制的「未審查」版)難以確認內容與授權是否和原版一致,企業環境不建議使用。
- 合規:政府可能限制特定來源的 AI 產品。公務機關、關鍵基礎設施或承接這類客戶的廠商,要以主管機關公告原文為準。
資料能不能離開公司,是更前面的決定,見企業資料不能上雲,AI 怎麼導入。
怎麼用自己的資料實測候選模型?
準備一組自己的測試題,讓候選模型在相同條件下作答,再由實際使用者評分。公開排行榜的題目和你的資料不同,只能用來初篩。
- 定任務與通過標準:列出要交給模型的工作,寫下「答到什麼程度算可用」。
- 先篩授權與來源:條款不符或來源不明的,不必進入實測。
- 出測試題:從真實文件與同仁問過的問題挑題,涵蓋常見題、困難題與模型應該回答「不知道」的題目,並附參考答案。
- 相同條件實測:同一組題目、同樣的提示與知識庫設定,在預計採購的硬體等級上執行。
- 人工評分:由熟悉業務的同仁評正確性、台灣用語、有無編造與回應速度。
- 留下紀錄:保存題目、評分、模型版本與授權版本,日後升級時重測。
模型上線後多久要更新一次?
沒有固定週期,應該由事件觸發,每次升級都要重新驗證。值得評估的情況有四種:發布者公告安全問題、授權條款變更、舊版停止維護,或新版在你的測試題上明顯更好。升級時用同一組測試題重跑,並保留舊版以便退回。地端的更新不會自動發生,規劃時就要決定由誰追蹤公告與執行驗證。
近期實例:常見的模型系列,授權各是什麼樣子?
資料截至 2026 年 11 月 17 日。以下不是排名,只示範前面的條件怎麼對照;版本與授權會變動,以參考資料的原文為準。
| 模型系列 | 發布者 | 授權與來源重點 |
|---|---|---|
| TAIDE | 國家實驗研究院(計畫由國科會啟動) | 以 Gemma 3 為基礎,加入台灣正體中文資料訓練,模型卡寫明修正翻譯腔、貼近台灣用語。採自訂授權,須同時遵守 Gemma 使用條款,且只能從該院或其授權的網站取得 |
| Gemma | 第 4 代起改採 Apache 2.0 授權;先前世代仍適用 Gemma 使用條款 | |
| Llama | Meta | Llama 4 社群授權附使用政策;版本發布時產品月活躍使用者超過 7 億的業者,須另向 Meta 申請授權 |
| Mistral | Mistral AI | Mistral Large 4 採修改版 MIT 授權,商業與非商業皆可使用,但經營模型即服務業務須另取得商業授權 |
| Qwen | Qwen | 同一代中,27B 版本標示 Apache 2.0;最大的版本另採專屬授權,經營模型即服務等業務且營收達門檻者須另取得授權 |
對照前面的條件:
- 同系列的授權不一定相同:Gemma 換代時換了授權,Qwen 不同尺寸用不同條款;TAIDE 計畫早期的版本也分「可商用」與「可學研用」。
- 衍生模型要讀兩份條款:TAIDE 就是例子。
- 合規要看公告原文:行政院 2025 年 2 月 3 日新聞稿指出,院長「要求公務機關全面禁用Deepseek AI 服務」,並請主管機關督導關鍵基礎設施提供者及政府捐助之財團法人參考辦理。客戶包含這類單位時,選型前先確認。
搜尋「Ollama 模型推薦」會找到許多個人心得。Ollama 是執行模型的工具,模型庫裡每個模型的授權各自不同,仍要逐一確認。
下一步該做什麼?
先完成三件事:寫下任務與通過標準、從真實文件整理一組測試題、請法務列出授權與合規上不能接受的條件。影響視覺科技自 2018 年成立,提供地端、雲端與混合雲的私有 AI 建置;想討論模型、硬體與部署架構怎麼搭配,歡迎帶著這三份資料預約諮詢。
常見問題
Ollama 是模型嗎?
不是。Ollama 是下載並執行模型的工具,模型要另外從它的模型庫挑選。它也提供雲端模型,官方文件說明這類模型的推論在 Ollama 的雲端服務執行;資料不能離開公司時,要確認用的是本機模型。
開源模型可以商用嗎?
不一定。有些模型採用通用的標準開源授權,有些是發布者自訂條款,會限制用途、使用規模或特定商業模式,也有僅供研究的版本。能不能用在營運系統,要讀該模型該版本的授權條款原文。
簡體中文模型的繁中輸出可以用嗎?
要實測才知道。這類模型有些能輸出繁體字,但用語、專有名詞和台灣的法規制度未必正確,簡繁轉換解決不了用語問題。對外文件與客服回覆要用自己的測試題逐項檢查。
本文最後更新:2026 年 11 月 17 日
參考資料
- Hugging Face,《Model Cards》,2026 年 11 月 17 日查閱。huggingface.co
- 影響視覺科技,《地端/雲端私有 AI 建置》方案頁,2026 年。effectstudio.com.tw
- 影響視覺科技,《地端部署大型語言模型需要什麼硬體?》,2026 年。effectstudio.com.tw
- Hugging Face,《Pickle Scanning》,2026 年 11 月 17 日查閱。huggingface.co
- TAIDE,推動臺灣可信任生成式 AI 發展計畫官網(計畫歷程),2026 年 11 月 17 日查閱。taide.tw
- TAIDE,《Gemma-3-TAIDE-12b-Chat-2602》模型卡,2026 年 11 月 17 日查閱。huggingface.co
- 財團法人國家實驗研究院,《(Gemma 版次)-TAIDE 模型授權條款》,2025 年 6 月 30 日版。drive.google.com
- Google Open Source Blog,Nia Castelly 等,《Gemma 4: Expanding the Gemmaverse with Apache 2.0》,2026 年 4 月 2 日。opensource.googleblog.com
- Google AI for Developers,《Gemma Terms of Use》,2026 年 4 月 1 日修訂。ai.google.dev
- Meta,《Llama 4 Community License Agreement》,2025 年 4 月 5 日生效。llama.com
- Mistral AI,《Mistral-Large-4-1T-A52B》模型卡,2026 年 11 月 17 日查閱。huggingface.co
- Qwen,《Qwen3.8-27B》模型卡,2026 年 11 月 17 日查閱。huggingface.co
- Qwen,《Qwen3.8-Max License》(Qwen3.8-2.4T-A95B 授權條款),2026 年 11 月 17 日查閱。huggingface.co
- 行政院,《卓揆:公務機關全面禁用Deepseek AI 服務》,2025 年 2 月 3 日。ey.gov.tw
- Ollama,《Ollama documentation》,2026 年 11 月 17 日查閱。docs.ollama.com
- Ollama,《Cloud》,2026 年 11 月 17 日查閱。docs.ollama.com
