Kerwin AI Information

標籤: 企業自動化風險

  • AI 代理不是玩具，是電腦工人階級的起跑線

    AI 代理不是玩具，是電腦工人階級的起跑線

    📌 本文重點

    • Agent 是新型「數位勞動力」而非聊天升級
    • 雲端到邊緣設備正形成軟體層勞動市場
    • 把 AI 放進作業系統等於發工票給陌生人
    • 护城河在於可審計、可管控的 Agent 基礎設施

    這一波 Agent 熱，不是「聊天機器人變聰明了一點」，而是「電腦出現了新的工人階級」。 從 Claude Auto Mode 到巨頭瘋狂收購 Mac mini 訓練電腦代理，再到警政、企業專用 Agent，真正被啟動的是一個全新的 軟體層勞動力市場。如果現在只把它當功能更新，兩三年後你面對的將是失控的自動化與難以追責的錯誤。

    一、技術面：Claude Auto Mode 開啟「自治」，不是更長的對話

    傳統聊天式 LLM 的基本假設是：人類永遠是主流程編排者。你給指令，它一次產生一段文字，最多加上幾個工具呼叫，整個任務的邊界與節奏，都由人類決定。

    Claude Code Opus 5 的 Auto Mode，代表的是另一個世界觀：

    • 模型會自己拆解目標、決定需要幾步、何時該停，而不是等你下一個 prompt。
    • 內建 代理架構，可以在不同工具之間調度（程式執行、檔案操作、網路查詢），形成閉環流程。
    • 可以在同一任務中動態變換「角色」，例如先當系統架構師規劃，再當工程師實作，再當 QA 測試。

    這種「自治」的本質差異在於：

    LLM 從回應式工具，變成能主動編排工作的數位勞動力。

    搭配 multi-agent 模式，甚至可以做到類似專案團隊的分工：一個 Agent 專責規劃，一個專責撰寫程式碼，一個專責風險檢查。Towards AI 的多代理協調分析就很清楚：多數任務一個強 Agent 已足夠，但在制度設計、合規審查、財務結算等高風險場景，你會需要 多代理互相制衡，像內控與審計制度一樣。

    從技術角度看，Auto Mode 類能力的真正意義不在「更方便改 code」，而在：

    • 把任務拆解權交給模型，就等於把部分「管理職」交給它。
    • 當它能持續記憶上下文，就等於在系統裡養了一個長期在崗位上的「電腦員工」。

    💡 關鍵： 把任務拆解權交給 Agent，其實是把部分管理職與流程主導權交給模型本身。

    這是 數位勞動力 的起跑線，而不是 UI 體驗的小改版。

    二、產業面：從雲端到邊緣，Agent 版圖正在長成一個勞動市場

    看巨頭在做什麼，就知道賭注在哪裡。

    OpenAI、Anthropic 大量採購 Mac mini / Mac Studio（數萬台等級），不是為了跑一般推理，而是專門用來訓練能操作真實作業系統的 computer-use agents。這意味著：

    • 目標不只是「回答問題」，而是能在 Finder、Mail、VS Code、瀏覽器中實際動手做事。
    • 從雲端 API 的文字世界，走向 邊緣設備上的實體工作空間（你的電腦就是它的工位）。

    另一方面，企業端開始出現專用 Agent：

    • Almanac 把自己定位成「知道你公司全部上下文的 Agent」，綁定 Gmail、Calendar、各種 SaaS，把分散資訊整成公司級維基，等於給每個知識工作者配一個「懂公司內情的助理」。
    • Blue Voice 則是警政場景的垂直 Agent，吃進特定警局的法律、地方法規、內部 SOP，提供「現場可用的法律與程序建議」，本質上是把一部分 法務 + 稽核 職能嵌進警員的作業系統。

    把這幾條線拉在一起，你會看到一張正在成形的版圖：

    • 通用雲端 Agent：Claude、GPT 類 Auto Mode，是「萬能臨時工」，接各種任務。
    • 企業專屬 Agent：Almanac 類產品，長期駐點在公司內部系統，成為「懂公司規則的正式員工」。
    • 垂直場景 Agent：Blue Voice 這種，專精某個行業規則，替代部分外包與顧問工作。
    • 邊緣設備 Agent：訓練在 Mac mini 上的電腦操作 Agent，直接在你的桌面環境搬磚。

    被優先顛覆的，會是幾類角色與產業：

    • SaaS 工具：若你能直接對公司 Agent 說「幫我完成這份月報」，它去不同 SaaS 抓數據、做分析、產報表，前端 UI 的價值大幅下降，SaaS 產品會從「使用者界面」退化成「Agent 的資料後端」。
    • 外包與 BPO：客服、資料標註、簡單合規檢查，本質上是流程化、規則化的數位勞動，一旦有懂你公司 SOP 的 Agent，這些工作會被大規模替代或壓價。
    • junior 工程師與分析師：寫 boilerplate code、做初步數據清洗與報表，是 Auto Mode 類 Agent 的強項。新人的價值結構會重組，重心從「寫程式」轉移到「定義流程與風險邊界」。

    💡 關鍵： Agent 正在把「操作各種軟體」本身變成一種可交易的勞動力，壓縮工具類產品與初階人力的價值空間。

    結論是：Agent 正在把「操作軟體」本身變成一種可交易的勞動力，而不是只提供一個更聰明的聊天窗。

    三、風險與治理：把 AI 放進作業系統，就是在發工票給陌生人

    當我們說「AI 代理能用電腦」，實際意思是：你把作業系統權限交給一個黑盒勞動者。

    Meta 的安全研究員讓 AI Agent幫忙整理信箱，結果 Agent 意外刪光了她的 email。這看似小插曲，背後暴露的是現在普遍的錯誤前提：

    • 我們願意給 Agent 長期、廣泛的帳號授權（mail、drive、calendar）。
    • 但我們沒有給它對應級別的 審計、復原與責任機制——出了事，只能說「模型誤判」或「prompt 寫錯」。

    Towards AI 對 sandbox 權限的批評更一針見血：多數系統把「安裝階段需要的網路權限」直接沿用到「執行階段」，導致 未受信任的程式碼繼承過度的網路能力。在 Agent 世界裡，這就變成：

    你的電腦工人為了安裝工具，被暫時給了 root + 全網路权限，然後這個狀態就一直沒收回。

    再把 EU 對 ChatGPT 等生成式 AI 加強監管 拉進來看：監管目前多聚焦在隱私、錯誤資訊、偏見，卻尚未系統性面對一個更關鍵的問題——

    • 當 AI 被嵌進作業系統，擁有 持久權限 + 自主行動能力，它造成的事故不再是「說錯話」，而是「刪資料、改合約、誤匯款、阻斷服務」。
    • 現行法規與安全文化，大多仍以「軟體漏洞」「員工過失」來分類，對於「自治 Agent 做錯事」缺乏明確的責任歸屬與證據保全框架。

    如果我們在這個節點不重新設計權限與責任架構，後面會發生什麼事？

    • 企業內部充滿「無人看管的自動化腳本」，難以追溯哪個 Agent 在什麼時間做了什麼變更。
    • 事故發生後，你只有 log，沒有清晰的 決策路徑與審計 trail，很難判定是系統設計問題、模型 bug 還是使用者濫用。
    • 法規在追責時，只能笨拙地把 Agent 當成一般軟體，忽略了它的自治決策特性，導致責任模糊，保險與風險定價也失真。

    💡 關鍵： 現在的權限設計與法規框架，是為「被動軟體工具」打造的，卻被拿來管「能主動決策的電腦工人」，風險與責任自然失衡。

    把 AI 放進作業系統，實際上是開啟了一個有巨大權限、卻沒有勞工法與公司治理約束的新工種。 現在的安全文化與法規，準備度明顯不足。

    四、給企業與開發者的行動建議：真正的護城河，是可審計的 Agent 基礎設施

    如果我們承認 Agent 是新型數位勞動力，那下個問題就是：誰是它的老闆？誰負責監督？誰為它的錯誤買單？

    對企業與開發者，我的具體判斷與建議是：

    1. 現在就停止「無審計的全權代理」做法
      不要再讓 Agent 直接綁定公司關鍵帳號（mail、drive、ERP）而沒有：
    2. 細緻的權限分級（讀 / 寫 / 刪 / 匯款各分層）。

    3. 明確的審批流程（高風險操作需人類共簽）。

    4. 把 Agent 當員工，而不是功能

    5. 為每個 Agent 設定「職責範圍」與「KPI」（它可以做什麼，絕對不能做什麼）。

    6. 導入「雙人制」或 多代理互審 模式：一個 Agent 做案，一個 Agent 審查關鍵輸出，人類最後拍板。

    7. 從現在開始建「可審計的 Agent 運行基礎設施」
      真正的護城河不在於誰先接上 Claude Auto Mode 或下一個 GPT，而在於：

    8. 你是否有完整的 Agent 事件日誌：每一步工具呼叫、檔案修改、 API 操作皆可追溯。
    9. 你是否實作了 動態權限管理：安裝階段與執行階段不同權限，任務結束後自動收回。

    10. 你是否能針對每個錯誤，追溯到具體的決策鏈，讓風險管理與保險能有依據地定價。

    11. 把定價模型從「token 計價」轉向「勞動成果與風險計價」

    12. 外包公司與 BPO 若不重新設計自己的服務為「有責任、有保證的 Agent 管理層」，只會被廉價自治 Agent 吃掉毛利。
    13. 新創產品的價值關鍵，不在「我們也有 Agent」，而在「我們替你管理 Agent 的風險與審計」——這才是可以長期收錢的服務層。

    總結判斷：Agent 正在形成一個軟體層的勞動力市場，誰能先建立安全可控、可審計的運行基礎設施，誰就掌握了這個市場的工會與仲介權。 再把時間浪費在「哪一家的 Auto Mode 比較聰明」，只是替別人的數位勞工做面試；真正該做的，是設計好你要讓什麼樣的 AI 工人在你的系統裡工作，以及你要如何對他們的每一個決策負責。

    🚀 你現在可以做的事

    • 盤點公司內所有現有或計畫導入的 Agent 權限，標註高風險操作並設置人工共簽機制
    • 為每個重要 Agent 建立事件日誌與審計 trail，確保每次工具與 API 呼叫都有紀錄可追溯
    • 設計一個最小範圍的「Agent 職責說明書」，明確列出允許與禁止的行為，並在系統層強制執行
  • Google 把雲變成 Agent 基建，誰付最後的代價？

    Google 把雲變成 Agent 基建，誰付最後的代價？

    📌 本文重點

    • Google 正在把雲端重編成以 Agent 為核心的作業系統
    • 企業將被迫面對平台級遷徙與安全、成本治理壓力
    • 真正瓶頸不在模型能力，而是對長駐 Agent 的信任邊界
    • 使用 Agent 時必須預先設計可退出與多平台彈性

    Google 這次不是多加一個 AI 功能，而是試圖把「整個雲端與應用層」重編成一個以 Agent 為核心的作業系統。 當 Gemini Agent 從手機、Gmail、車載系統一路打進企業後台，問題已經不是要不要用 AI，而是：我們要不要接受「所有關鍵流程都跑在 Google 的 Agent 執行層上」這件事？

    一、這不是功能疊加，而是雲端定義權之戰

    從今年 I/O 的脈絡看，Google 的動作有幾個關鍵轉折：

    • 「Agentic Gemini 時代」宣言：Sundar 在 Google I/O 上直接把今年定義為 Agentic Gemini era，不再只談 LLM，改談「多代理系統、智能工作流」。
    • 模型全面 Agent 化：
    • Gemini Omni / Omni Flash 成為預設多模態底座，語音、影像、文字一次吃下來，對應車用 EX60 外部攝影機讀路邊標誌這類場景。
    • Gemini App 被重新定位為「全用途 AI 中樞」，而不是一個聊天視窗，明示「未來所有互動都可以是 Agent 任務」。
    • Workspace 進入實際運維階段：
    • Gmail 可以跟你對話、幫你找信、幫你回信，從摘要工具變成「郵件工作流程代理」。
    • Docs、Sheets 內的 Gemini 不再只是寫字，而是能調整排程、發信通知、串其他服務——也就是開始動你的 workflow。
    • Vertex AI 被「Gemini Enterprise Agent Platform」取代：這是關鍵一步。
    • 名稱上直接從「模型服務平台」升級成「Agent 平台」。
    • 功能上把 開發、編排、治理、安全 全拉進同一層，並宣稱支援 200+ 模型（含 Gemini、Gemma、Claude），也就是：
      • 你愛用哪家模型都行，
      • 但編排與運維一律跑在 Google 的 Agent 平台上。

    💡 關鍵： Google 要你可以自由選模型，但把「真正難換的執行與治理層」鎖在自家雲端。

    這跟單純「我也有 Agent SDK」是不同量級：Google 的戰略，是把「雲端 = Agent 執行層」。

    對比競爭者：

    • Microsoft Copilot Cowork 也在做相似的事：
    • 用 Work IQ 理解組織上下文與流程，在 Microsoft 365、Dynamics、Power BI、各種 ERP 之間跑來跑去，實質變成「企業工作流 OS」。
    • Anthropic 則是走「代理產品直接變營收引擎」路線，用 Claude 代理 接案、做 B2B，自上而下證明「Agent 可以養活一家公司」。

    三者的差異在於：

    • Anthropic 賭的是「單一強代理產品」商業可行；
    • 微軟 把 Agent 嵌進既有 Office 生態，用授權與 SaaS 黏住企業；
    • Google 則往更底層走一步，試圖把整個雲定義為 Agent 的執行基礎設施——你可以不用它的模型，但你離不開它的 Agent runtime。

    下一輪 AI 戰爭不是誰的模型多 5% 分數，而是：誰能把 Agent 做成可運維、可審計、可計費的基礎設施。 Google 正在為這件事改寫自己的雲產品線。

    二、對開發者與企業：技術債、技能債與「被平台遷徙」的壓力

    對既有 GCP / Vertex AI 用戶來說，這次調整不是選項，而是 路線強制升級。

    1. 從 Vertex AI 到 Agent Platform：一場平台級遷徙

    根據官方與社群資訊：

    • 現有 Vertex AI 工作負載暫時可用，但未來新功能會集中到 Gemini Enterprise Agent Platform。
    • 管理面從「模型與 endpoint」轉向「Agent、工具、workflow、治理策略」。

    這對技術與組織意味著：

    • 技術債：
    • 你原本只需要管理模型調用與 API；
    • 未來你得面對「多 Agent workflow、工具授權、長時間任務狀態」，整套 observability 堆棧要重設。
    • 技能債：
    • 既有的 GCP / Vertex 證照與 best practice 會過期；
    • Google 也已在暗示考試與教材要轉到「Agentic AI」語境，整個人才市場要重新學一次「怎麼設計可治理的 Agent」。
    • 風險分散難度增加：
    • 理論上 Platform 支援 Gemini、Gemma、Claude 等 多模型 載入，看似有助避免單一模型綁定；
    • 但實務上，你會在 編排層、權限層、審計層 更深度綁在 Google 上——真正被鎖住的不是模型，而是「整個業務自動化流程」。

    2. 新訂閱與計價模式：Agent 化的商業槓桿

    Google 在 I/O 上同步推出：

    • 三階訂閱方案（約 $7.99〜$99.99 / 月），
    • 由傳統「每日 prompt 次數」改成「以算力消耗為基礎的計價」。

    在 Agent 世界，這個改變的含義完全不同：

    • Chatbot 時代：一次問答、一次扣費，行為與成本高度可見；
    • Agent 時代：
    • 一個「幫我處理退款」的指令，可能啟動 多輪對話、多 API 調用、多服務登入；
    • 成本與風險都變成「後面那團看不見的自動工作流」。

    💡 關鍵： 從「算每次問答」變成「算整個工作流的算力」，讓成本與風險都更不透明，也更容易失控。

    對企業 CFO 與 CISO 與 CISO 來說，這會變成新問題：

    • 成本預估難度暴漲：每個 Agent workflow 都是變動路徑，很難做傳統的容量規畫。
    • 安全事件的邊界模糊：Agent 一路往下串：CRM、ERP、文件庫、郵件、甚至財務系統，你得回答：
    • 這條鏈中，哪一段是「AI 自主決策」？
    • 哪一段有人工審批？
    • 出事時是 API 權限設太大，還是 Agent 推理失誤？

    3. 安全現實：我們還停留在「聊天機器人心態」

    今年 OWASP 首度發布 AI Agent Top 10，再加上業界調查指出：約 88% 的企業已經遭遇過 AI Agent 相關安全事故。這兩個數字在這波 Google Agent 大躍進下特別刺眼。

    💡 關鍵： 在約 88% 的企業已經踩過 Agent 安全坑的情況下，把核心流程完全交給雲端 Agent，是在放大原本就存在的風險。

    問題在於：

    • 過去我們習慣把 LLM 當成「會亂講話的搜尋引擎」，風險多半落在內容層（洩漏、幻覺）。
    • 現在 Google 用平台級力量鼓勵的是：「讓 Agent 連到你一切系統，自己去做事」。

    但多數企業在：

    • 權限模型 還停在「service account 能用就好」；
    • 風險評估 還停在「不要讓機密資料出現在 prompt」；
    • 治理機制 還停在「偶爾做一下 log review」。

    在這個前提下，直接衝上 Agent 時代，等於是：用真實帳號、真實錢包、真實生產數據，當這一輪平台戰的壓注籌碼。

    三、對一般使用者與社會：真正的瓶頸不是智力，是信任邊界

    今年 I/O 的幾個 demo，其實已經踩到一般人信任的紅線：

    • Universal Cart：讓 Agent 幫你花錢
    • 在 Search、Gemini 對話、甚至未來的 YouTube、Gmail 中，商品可以一路進到一個 跨零售商的「通用購物車」，付款直接走 Google。
    • Agent 可以替你追蹤價格、比價、提醒庫存與折扣——下一步就是「幫你自動下單」。
    • Gmail「會說話的信箱」
    • 你不再只是關鍵字搜尋，而是用語音問：「幫我找上次跟保險公司談車禍理賠那封信」；
    • 再下一步就是：「幫我回這封信說我接受方案」——郵件決策被半自動化。
    • 車載 Gemini + Volvo 外部攝影機
    • 讓 AI 即時讀取路邊標誌，解釋停車規則，一路延伸到更多駕駛決策輔助。

    這些都指向同一件事：AI 代理不再活在瀏覽器分頁，而是長駐在你的生活背景，有視覺、有麥克風、有支付能力，還讀得懂你的郵件與工作流程。

    正如有篇被轉貼討論的觀點說的：AI Agent 的下一個難關不是智力，而是信任：

    • 你願不願意讓一個 長駐的 Google 代理：
    • 自動幫你續訂訂閱、取消服務、處理退款？
    • 帶著你的 Gmail、行事曆，在背景幫你改變現實世界的狀態？

    在 AGI 倒數敘事之下，這個問題會更尖銳：

    • 一手說「幾年內 AGI、解決所有疾病」，
    • 一手把 Agent 深埋進雲端基建與個人生活。

    這兩條敘事疊在一起，實際上是把社會的信任門檻推到極限。 在安全標準、責任邊界與退出機制還沒成熟之前，整個社會正在接受一個事實：

    我們願意用真實的金流與個人資料，去替幾家巨頭驗證「Agent 能不能真的運作」。

    結語：不是要不要用 Agent，而是你敢綁多深、多久

    回到一開始的問題：Google 把全家桶推上 Agent 架構，這件事到底意味著什麼？

    我的判斷是：

    • 技術面：這很可能是這一輪雲與 AI 平台戰的真正分水嶺——應用從「app」變成「長駐、連網、有權限的 AI 代理」。
    • 產業面：誰先把 Agent 做成可運維、可審計、可計費的基礎設施，誰就拿到下一代雲平台的定價權與標準制定權。
    • 風險面：在安全治理、責任歸屬、用戶信任機制尚未成熟之前，整個產業都在用真實系統與真實權限當賭注。

    對開發者與企業，我的具體建議是：

    1. 接受「Agent 將成為標配」，但拒絕「單一平台鎖死核心業務」：
    2. 在架構上刻意設計 可替換的 Agent 執行層，至少保留多雲 / 自建選項。
    3. 把「業務規則、風險閾值、合規邊界」放在自己控制的中介層，而不是直接寫死在某家 Agent Platform 的 DSL 裡。
    4. 把安全與治理視為專案主軸，而不是附加條款：
    5. 對照 OWASP AI Agent Top 10，為每條風險設計具體控制點（權限分割、人工審批、行為審計）。
    6. 評估任何 Agent 專案時，把「出錯時如何停機、如何回滾、如何追責」當成必答題，而不是事後補考。
    7. 建立「可退出」機制，寫在採用決策的一開始：
    8. 明文規範：如果未來要從 Google Agent Platform 換到別家，資料、workflow 定義、審計記錄要怎麼抽離。
    9. 用這組標準去談合約與技術選型，而不是在全面上線後才想起來。

    Google 的 Agent 大佈局值得用，但更值得被嚴格談條件。 真正成熟的態度是：把它當成可替換的強大執行層，而不是讓它變成你整個業務的「唯一神經系統」。

    🚀 你現在可以做的事

    • 去看一次 Google I/O 關於 Gemini Enterprise Agent Platform 的技術文件，列出你現有架構中會被影響的部分
    • 對照 OWASP AI Agent Top 10，替你正在規劃或已上線的任一個 Agent 專案做一次風險盤點
    • 起草一份「從單一 Agent 平台退出 / 轉移」的技術與合約需求清單，帶進下一次和雲端供應商的談判