企業用 AI,別把公司經驗也送出去
Microsoft CEO Satya Nadella 提醒企業,導入 OpenAI、Anthropic 等 proprietary model 時,付出的不只 token 費,還可能包括 prompt、工具操作、錯誤修正與工作流程裡的內部知識。企業真正該建立的是自己的學習環境與資料邊界,再用 orchestration layer 或 AI Gateway 切換雲端、open model 與 on-prem 模型,完成客服、文件處理、程式開發及內部 Agent 等任務,同時把累積的經驗留在公司手上。要注意的是,供應商是否會拿客戶資料訓練,仍要看產品方案、設定與合約,不能一概而論。
現實應用
最需要注意的是金融、醫療、製造、電信、顧問與大型軟體公司:模型收到的可能不只是機密文件,還有定價邏輯、風控判斷、維修經驗與員工修正答案。實務上可把一般摘要交給外部模型,敏感流程改走私有雲或 on-prem open model,並由 Gateway 統一做權限、稽核、成本控制與 fallback。Vercel AI Gateway、OpenRouter,以及 Linux Foundation 的 Agentgateway 都在處理這類多模型路由需求。
期望評估
我認為低標不是立刻自建一套模型,而是先盤點哪些資料會送出去、保存 prompt 與 feedback、確認 data retention 條款,並把應用程式與單一供應商解耦。至少遇到漲價、停機或政策改變時,不必整套重寫。
我猜高標會是企業把 eval、memory、correction 與 workflow trace 變成自己的持續學習迴圈:便宜 open model 處理大量固定任務,frontier model 只接高難度工作。這時 AI 投資累積的是公司的 know-how,而不是單純替供應商增加使用資料。
商業策略分析
最直接受影響的是 proprietary model 供應商、AI Gateway、新創模型平台、資安業者與 GPU/私有雲服務商。模型能力仍重要,但採購標準會加入資料主權、可攜性、Zero Data Retention、模型替換成本與 distillation 權利。
我認為這番話也有 Microsoft 的商業立場:企業不綁單一模型,未必代表離開雲端,反而可能把資料治理、路由與私有學習環境放到 Azure。值得跟進,但重點不是盲目改用 open source;應先建立 trust boundary、測量品質與總持有成本,再決定哪些工作適合自架。