AI Agent 上線後,平台工程才是硬仗
QCon AI Boston 2026 傳出的訊號很明確:AI Agent 已經不只是把 prompt 調好、接上模型 API,而是要建立完整的生產平台。核心技術包含 context engineering、MCP gateway、語意工具目錄、狀態管理、agent harness、可觀測性與多輪 evals。做好之後,Agent 才能在權限受控的前提下讀取資料、呼叫工具、修改系統,並留下可追蹤的執行紀錄。
現實應用
最直接的場景是客服、內部知識助理、程式開發、事件處理與企業流程自動化。只要 Agent 會碰到檔案、資料庫或外部 API,就不能只靠 system prompt 約束行為。平台團隊需要統一管理身分、工具權限、context、成本與操作紀錄;資安、SRE、法遵及工程主管也會是主要使用者。
對多團隊共用模型的公司來說,共享 GenAI platform 可以提供標準入口與政策,避免每個產品各自重做權限、監控及評測。DoorDash 的分享也把重點放在提早制定策略、從使用者需求出發,以及掌握符合公司情境的共用介面。
期望評估
我認為低標期望不是讓 Agent 突然變聰明,而是讓失敗變得可見、可限制、可重現。至少能知道誰呼叫了什麼工具、花了多少成本、在哪一步出錯,並在高風險操作前要求人工核准。
高標來看,我猜成熟平台能把 Agent 開發變成企業內的標準能力:團隊沿著 paved path 快速接入資料與工具,透過對話、trace、simulation 和 production feedback 持續評測。這會提高部署速度與可靠度,但仍不代表能完全移除人工監督。
商業策略分析
最先受影響的是只賣 prompt 管理或單一聊天介面的工具商,因為企業採購焦點會逐漸移向 gateway、identity、observability、evals、policy 與 audit。雲端平台、資安廠商、開發工具及資料基礎設施供應商則有機會把這些能力整合成控制平面。
我認為值得跟進,但不必急著自建一套龐大平台。先盤點 Agent 能碰哪些資料與動作,再補上 approval boundary、成本歸屬、執行 trace 和多輪測試。真正的護城河不只是哪個模型表現較好,而是企業能否安全地把模型接進既有流程,並從實際失敗持續改善。