資料不能出公司,AI 仍然可以導入:把模型部署在企業自己的機房(地端),或把敏感資料留在地端、只讓非機密運算使用雲端(混合雲)。該選哪一種,取決於資料敏感度、預算型態與維運人力。
資料不能出公司,AI 真的還能用嗎?
可以,這正是私有 AI 存在的理由。多數人以為「用 AI」等於「把資料貼進 ChatGPT」,但那只是資料外流風險最高的一種用法。生成式 AI 的模型可以安裝在企業自己的伺服器上,資料從頭到尾不離開公司網路,使用體驗與線上服務相近。
差別只在三件事:模型放在哪裡、資料經過哪裡、誰負責維運。把這三件事都留在企業掌控之內,就是私有 AI;企業對資料的存放、使用與流向握有決定權,就是資料主權。模型會越來越像,資料不會。
「不能上雲」是哪一種不能?
先分清楚是法規禁止、合約約束,還是公司自己的要求,因為三種情況能走的路不同。實際盤點後常發現,真正受限的只有一部分資料。
| 不能上雲的原因 | 常見情況 | 導入空間 |
|---|---|---|
| 法規或主管機關要求 | 金融、醫療、政府機關、受個資法高度規範的業務 | 敏感資料只能留在地端;非敏感流程可考慮混合雲 |
| 客戶合約或保密協議 | 代工、研發、法律事務所、受託處理客戶資料的服務業 | 依合約判斷資料能否經過第三方,通常走地端或混合雲 |
| 公司內部政策 | 營業秘密、未公開的研發與財務資料 | 可以重新定義分級,只把真正機密的資料鎖在地端 |
個人資料保護法(個資法)對 AI 導入的影響主要有兩點。第一,個資的蒐集、處理與利用必須在原本告知的目的範圍內,把客戶資料拿去訓練模型或送進外部 AI 服務,可能超出原本的蒐集目的。第二,個資法 2023 年修正後提高罰鍰並可按次處罰,並設立專責的個人資料保護委員會。個資在哪裡被處理、由誰處理,都要說得清楚。
地端、混合雲、雲端三種部署怎麼比?
三種部署差在資料位置與責任歸屬,不是功能多寡。混合雲是指敏感資料與核心模型留在企業地端,非敏感的運算或流量尖峰交給雲端,兩邊透過受控連線互通。
| 比較項目 | 地端部署 | 混合雲部署 | 雲端專屬環境 |
|---|---|---|---|
| 資料位置 | 全部在企業機房或自有設備 | 敏感資料在地端,其餘在雲端 | 在雲端服務商的專屬區域 |
| 初期成本型態 | 一次性硬體投資為主 | 硬體投資加上雲端月費 | 以月費或用量計費為主 |
| 維運責任 | 企業自己或委託廠商 | 地端自己管,雲端由服務商管 | 大部分由服務商負責 |
| 擴充彈性 | 受限於已購硬體 | 尖峰可借用雲端算力 | 隨用量調整 |
| 適合的企業 | 資料完全不能離開公司、資安要求最高 | 有部分敏感資料的多數中小企業 | 沒有法規限制、想快速啟動、不自建機房 |
多數中小企業不是「全部不能上雲」,而是「某幾類資料不能」,所以混合雲往往是務實的起點。但這不是標準答案;地端還是雲端怎麼選這篇把它拆成資料敏感度、預算、人力、擴充四個前提,建議決定前先逐一對照。
地端 AI 和雲端 AI 的成本差在哪?
差在成本的型態與時間分布,不在總額高低。地端部署的錢大多花在前面:伺服器、顯示卡、儲存與備份設備,以及機房電力與空調;之後每月主要是電費與維運人力。雲端部署的錢是持續性的:每月依用量或訂閱付費,用得越多付得越多,但不需要一次拿出大筆預算。
判斷時問自己三個問題:
- 預算偏好一次性投資,還是逐月分攤?財務偏好常比技術考量更早決定答案。
- 使用量穩不穩定?使用量穩定且長期,地端的單位成本通常隨時間下降;忽高忽低,雲端比較不會養閒置設備。
- 有沒有人管機器?地端省下的月費,有一部分會變成維運人力或委外費用。
本文不列具體金額,因為硬體規格、模型大小與使用人數會讓數字差很多,確切成本以評估後的報價為準。
地端部署大型語言模型需要什麼硬體?
硬體需求由模型大小與同時使用人數決定,不是越貴越好。大型語言模型(LLM)推論時主要消耗顯示卡記憶體,模型越大、同時提問的人越多,需要的記憶體就越多。多數中小企業的內部問答需求,用中小型模型搭配一台有獨立顯示卡的伺服器就能起步,再依使用量擴充。
除了算力,還有三樣常被忽略:
- 儲存空間:企業知識庫要先把文件轉成模型可以檢索的格式,這些索引資料需要穩定的儲存。
- 備份:地端的好處是資料在自己手上,壞處也是;NAS 勒索事件應變清單整理了 2026 年 10 月 Synology 事件後該檢查的事,重點是備份能不能還原。
- 監控:伺服器的溫度、磁碟健康與服務狀態要有人看,或交給代管服務。
私有部署的 AI 可以接 ERP 嗎?
可以,而且接內部系統正是私有部署比公有雲 AI 更有優勢的地方。企業資源規劃系統(ERP)與內部資料庫本來就在公司網路內,私有 AI 與它們在同一個環境,不需要把資料往外送。
介接方式常見兩種:一是透過系統原有的應用程式介面(API),讓 AI Agent 依權限查詢或寫入;二是給 AI 一份唯讀的資料副本,只做查詢與摘要,不碰原始資料。選哪一種看兩件事:ERP 廠商有沒有開放介面,以及企業願不願意讓 AI 有寫入權限。多數企業會從唯讀查詢開始,確認品質與權限沒問題,再談自動寫入。
決定前,企業要先做哪三件事?
先盤點、再對照法規、最後評估硬體,順序不要反過來。常見的卡關是先買了機器,才發現真正不能出去的資料只有一小部分,或是沒人能管。
- 盤點資料並分級:列出 AI 會用到的資料來源,標出哪些含個資、營業秘密或客戶機密,哪些是可以公開的內部文件。分級結果決定哪些工作可以走雲端。
- 確認法規與合約:對照主管機關的規範與客戶合約,確定「不能上雲」的範圍是法規要求,還是可以重新定義的內部習慣。
- 評估現有硬體與人力:盤點現有伺服器、儲存與備份設備能不能沿用,以及公司有沒有人能承接維運,沒有的話要把代管費用算進去。
這三件事做完,地端、混合雲或雲端通常就只剩一個合理答案。影響視覺科技自 2018 年成立以來累積 100+ 交付專案,提供地端、雲端與混合雲三種私有 AI 建置方式,涵蓋備份與系統管理、AI 監控整合、RAG 知識庫問答與 AI Agent。如果你想找人一起盤點,歡迎預約諮詢,我們會依你的資料分級與現有設備討論可行的部署方式。
常見問題
什麼是資料主權?
資料主權指企業對自己資料的存放位置、使用方式與流向擁有決定權與控制權。在 AI 導入的脈絡裡,它決定資料能否留在公司內部、能否用來訓練專屬模型,以及出了問題時責任在誰。資料留在地端是落實資料主權最直接的做法,但不是唯一做法。
混合雲是什麼?適合哪些企業?
混合雲是把敏感資料與核心模型留在企業地端,非敏感的運算、流量尖峰或對外服務交給雲端,兩邊透過受控連線互通的部署方式。適合有部分資料不能外流、但又不想全部自建的企業,也是多數中小企業較容易起步的架構。
個資法對 AI 導入有什麼影響?
個資的蒐集、處理與利用必須符合原本告知的目的,把客戶個資用於訓練模型或送交外部 AI 服務,可能超出原目的。個資法 2023 年修正後罰則加重並可按次處罰,因此導入前要先確認個資在哪裡被處理、由誰處理,並留下紀錄。
中小企業沒有 IT 人員,可以做地端 AI 嗎?
可以,但要把維運納入規劃。地端設備需要有人處理備份、更新、監控與故障排除,沒有內部人員時通常委託建置廠商代管。評估時把代管費用與硬體成本一起算,再與雲端的月費比較,才是完整的比較。
