TL;DR:地端與雲端不是信仰題,是四個前提的推導題:資料敏感度、法遵要求、用量形態、維運能力。前提照實填完,答案通常自己浮現——而且多半是混合。
「你們建議地端還是雲端?」這是我們在 AI 建置案裡最常被問的第一個問題,而我的標準回答是反問:「先告訴我你的資料、法遵、用量和團隊長什麼樣。」不是打太極——這題直接回答一定錯,因為它在不同前提下有相反的正確答案。
核心論點:地端與雲端之爭沒有贏家,只有前提;把四個前提誠實填完,架構是推導出來的,不是選邊選出來的。
這題今年變得值得重問
兩件事讓天平動了。其一,地端的能力底線大幅抬升:2025 年 8 月 OpenAI 釋出 Apache 2.0 授權的開放權重模型 gpt-oss,其中 120B 版本在推理基準上接近自家商用模型 o4-mini,且可在單張 80GB GPU 上執行——加上先前已成氣候的各家開源模型,「私有部署只能用次級品」的舊印象正式過期。其二,法遵時鐘走到了:歐盟 AI Act 本月(2026 年 8 月)起全面適用,罰則到位;「資料與模型行為答不答得出來」從自我要求變成合規要求。 也就是說:地端變得可行,雲端變得需要交代。兩邊的前提都更新了,三年前做的架構決定,值得重新推導一次。四個前提,照實填,別填期望值
我把推導題列出來。一、資料敏感度:進模型的資料裡,有多少是外洩即傷筋動骨的?我在四月的〈資料主權〉裡談過可控、可審、可攜三條件——雲端不必然失守,但你要能驗收供應商的承諾。二、法遵:你的產業監理與客戶合約,對資料出境、留存、稽核軌跡的硬要求是什麼?拿條文說話,不要拿印象。三、用量形態:穩定高頻的內部負載,地端攤提下來可能更便宜;尖峰波動大、實驗性質重的,雲端彈性無可取代。四、維運能力:地端等於把 GPU 採購、模型更新、資安補丁全部收進自己家——沒有相應團隊,省下的雲端帳單會加倍變成停機成本。 四題填完,多數企業會發現答案不是二選一:敏感資料走私有環境、通用負載走雲端的混合架構,才是常態解。台灣企業最常見的兩種填錯法
顧問現場看到的錯誤很固定。一種是把期望值填成現況:維運能力那格填的是「我們打算招人」,結果地端機房上線後成為沒人敢動的黑盒子。另一種是把恐懼填成需求:所有資料一律標成最高敏感等級,推導出全地端的天價方案,最後預算不過、整案擱置——資料分級做在前面,八成的資料根本不需要為那兩成的敏感資料陪葬。 順帶一提,資策會 MIC 2025 年 3 月的調查顯示,台灣製造業的 AI 預算七成三仍投在傳統鑑別式 AI。務實不是壞事,但它也意味著:許多企業的第一個生成式 AI 架構決定,就是現在正要做的這一個——第一次就把前提填對,比日後搬遷便宜得多。董事長的判斷
我判斷,未來幾年「全雲端」與「全地端」都會變成少數派,混合架構成為預設;真正拉開差距的不是選了哪邊,而是資料分級有沒有做實——分級做實的企業,搬遷與換供應商都是工程問題;沒做的企業,每次架構調整都是政治問題。我可能錯估的是開放權重模型的演進節奏:如果頂級能力持續快速下放,地端的合理範圍會比我預期的更大。但這個變數只會強化同一個結論:把前提盤清楚的人,隨時可以改答案;選了信仰的人,被答案綁死。 一句話帶走:別問地端還是雲端,先把資料敏感度、法遵、用量、維運四個前提誠實填完。 需要人陪你把這張推導題做一遍,歡迎預約諮詢。FAQ
Q:中小企業有可能負擔地端 AI 嗎?
比過去可行得多。開放權重模型加上單機可跑的硬體門檻,小規模私有部署已非大企業專利;但維運能力那一題對小團隊更嚴苛,多數中小企業的合理解是混合——敏感環節私有、其餘用雲。Q:混合架構會不會兩邊的複雜度都要扛?
會增加整合成本,這是它的真實代價。控制複雜度的關鍵在資料分級與介面設計:分級清楚,兩邊的邊界就清楚;邊界清楚,複雜度就封裝得住。Q:已經全押雲端的企業需要回頭嗎?
不必為了風向回頭。回頭的觸發條件只有三個:法遵條文明確要求、敏感資料用量顯著成長、或雲端帳單在穩定負載下持續超過地端攤提。沒有觸發條件,架構穩定本身就是價值。來源清單
- Introducing gpt-oss — OpenAI — 2025-08-05 — https://openai.com/index/introducing-gpt-oss/
- OpenAI’s new open weight (Apache 2) models are really good — Simon Willison — 2025-08-05 — https://simonwillison.net/2025/Aug/5/gpt-oss/
- AI Act | Shaping Europe’s digital future — European Commission — 持續更新(全面適用日 2026-08-02)— https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai
- EU AI Act Implementation Timeline — Prighter — 2026 — https://prighter.com/resources/eu-ai-act-implementation-timeline/
- 臺灣製造業28%已實踐AI — 資策會產業情報研究所(MIC)新聞稿 — 2025-03-11 — https://mic.iii.org.tw/news.aspx?id=710


