title: "自主型通用 Agent 的近臨界時代：2026 年能力、資本循環與人機共存治理" subtitle: "不以主體性宣稱為前提的條件性觀察論文" version: "v0.1" date: "2026-07-13" author: "Neo.K／協作草稿" status: "研究觀察稿；非 AGI 到達宣告、非投資建議、非人格判定" language: "zh-Hant" keywords: - AI agents - autonomous AGI - long-horizon reliability - AI bubble - governance - coexistence source_cutoff: "2026-07-13"

摘要

2026 年的公共討論常把三個不同問題混成一題：模型是否已足夠通用、Agent 是否可在低監督下持續完成任務，以及系統是否可能具有主體性或應獲得權利。本文主張，這三題必須拆開。現有證據尚不足以宣告「可靠的、普遍的、自主 AGI」已經達成；尤其長時程程式代理的嚴格評測仍顯示，先進系統會在早期步驟失敗，整體通過率很低。然而，這並不支持另一個相反結論：人類可等到 AGI 定義完全一致或意識問題被解決後，才開始準備與 AI 共存。

本文提出一個條件性判斷：社會不必等待「AGI 已到」的共識，才進入自主型通用 Agent 的近臨界時代。 當 Agent 能在授權範圍內接收目標、跨多步驟規劃、呼叫工具、維持外部狀態、處理部分失敗並對外產生可觀後果時，制度上的共存門檻就已開始被跨越。這是「非主體但高自主」系統的治理問題；它不能由聊天表現、擬人化語言或記憶持久化，直接推論為意識、人格或權利。

本文綜合截至 2026-07-13 的公開資料，提出四點結論：第一，能力、部署、資本與治理的速度不同步，故「AI 泡沫」不能直接等同於「技術停止」或「AGI 必至」。第二，2026 的關鍵進展較像 Agent runtime 與工具鏈的工程化，而非單一模型突然獲得全知全能。第三，真正應被提前建置的是可辨識身分、可限制授權、可追溯記憶、可重播決策、可申訴責任鏈的制度底座。第四，主體性／道德地位應保留為獨立研究與證據門檻，不能被經濟用途或操作自主性偷換。

1. 問題不是「哪一天 AGI 降臨」，而是多個門檻正在交錯

「AGI」在業界、學界與大眾語言中指涉不一：有人以人類水準的廣泛認知能力為準，有人以經濟上可替代大部分知識工作為準，有人以自我改進或科學研發能力為準，也有人把長時程工具使用視為關鍵。Google DeepMind 的 Levels of AGI 論文正是因為定義混亂，才把性能深度、能力廣度與部署自主性拆開處理。1

因此，本稿不把「AGI」當成一個能由單一 benchmark、單次產品發表或執行長預言判定的事件。我們關心的是四個彼此相關、但不能互相替代的門檻：

本文所說的「自主型 AGI」不是一個已被宣布達成的事實，而是一個功能性工作名詞：一個具有足夠一般性、可持續運作、能在明確授權與可審計邊界內自主完成多步驟任務的 Agent 系統。為避免把它與意識混為一談，下文也稱之為「自主型通用 Agent」。

2. 研究立場與方法：把速度感改寫為可反駁的命題

本文採取的是截至 2026-07-13 的桌面研究與系統設計觀察，不是對特定公司的能力、財務或意識狀態作鑑定。資料選擇優先順序為：

1. 可公開檢查的評測、研究與標準文件；
2. 可信機構的統計與跨系統盤點；
3. 公司公開政策，僅用於描述其自身主張與產業治理動向；
4. 當週制度新聞，僅用於確認治理議題已進入公共議程。

本稿的中心命題可被反駁：

若 Agent 的長時程可靠性長期無法提高、部署始終停留在單回合輔助、外部行動權限沒有擴張，且資本修正導致核心研發與基礎設施系統性退縮，則「近臨界」判斷應被下修。反之，若可驗證的長時程成功率、故障恢復、低監督交付與跨環境泛化持續提高，則制度準備應前移，而不應等待「AGI」一詞被一致定義。

這種寫法有兩個好處。它不要求接受一個固定到達年份，也不讓「尚未證明意識」成為忽略現實部署後果的藉口。

3. 2026 年的證據：進展真實，但不是無條件的通用自主

3.1 能力與部署：Agent 已從對話介面走向受託執行

Anthropic 在 2026 年 2 月更新其 Responsible Scaling Policy 時，將近年變化概述為：模型已能瀏覽網頁、寫與執行程式、使用電腦，以及進行自主的多步驟行動；該公司同時承認，能力門檻的判定仍存在「模糊地帶」。2 這是一間公司的自我描述，不能單獨作為能力驗證；但它準確指出了產業重心的轉移：競爭不再只是「回答得像不像人」，而是「可否在工具、記憶、環境狀態與權限限制中完成受託工作」。

2025 AI Agent Index 對 30 個具代表性的 Agent 進行系統性盤點：其中 24 個在 2024–2025 年間推出或獲得重大 Agent 更新；其分類中，browser 與部分企業 Agent 會在較少中途介入的條件下運作。3 這不表示 30 個案例代表整個市場，也不表示它們可靠；它只證明「具外部互動、具一定自主度的 Agent」已從研究原型成為可觀察的產品類別。

Stanford 2025 AI Index 亦顯示，AI 在高難度評測上的成績快速提升、企業使用率增加、投資與模型競爭仍在加速；同時該報告明確指出複雜推理與可靠性仍是限制。4 對本文而言，這比「某模型勝過人類」更重要：能力成長與大規模採用正在同時發生，但兩者都沒有消除可靠性與責任問題。

3.2 最重要的反證：長時程成功不是短任務成功的線性延長

長時程任務是判斷操作自主性的關鍵，因為系統必須處理目標分解、狀態遺失、工具失敗、錯誤累積、環境變化與回復策略。2026 年的 LongCLI-Bench 將評測對準真實感較高的命令列軟體工程任務：20 個長時程任務涵蓋從零建置、功能新增、除錯與重構。其報告指出，即使先進 Agent 的通過率仍低於 20%，多數任務在未完成 30% 前就停滯；自我修正僅帶來有限改善，而人類注入計畫與互動式引導的效果更顯著。5

這個結果不應被讀成「Agent 沒用」。它更精確地告訴我們兩件事：

• 現有系統已值得用嚴格的長時程標準測量，而不是只看聊天品質；
• 可靠的持續代理仍是一個未完成的工程問題。 特別是在代價高、可逆性低或涉及多個外部系統時，適當的人類介入不是落後做法，而是性能與責任設計的一部分。

因此，本文拒絕兩種對稱的誤判：把幾個短任務突破外推為全面自主；或因為長任務仍會失敗，就斷言社會不需為 Agent 做治理準備。

3.3 透明度與責任：部署速度快於可檢查性

AI Agent Index 的問題不只在能力。其 30 個 Agent 的公開資料中，13 個被列為前沿自主程度者只有 4 個披露任何 Agent 專屬安全評估；25 個沒有公開內部安全結果，23 個沒有第三方測試資訊。3 這是對公開資訊的盤點，不足以證明企業「沒有做」評估；但足以說明外部利害關係人通常無法檢查它們做了什麼。

該 Index 也指出，Agent 的風險並非僅由底層模型決定：工具、記憶、自治程度、資料連接器與下游工作流共同構成行為系統，因此責任會分散在多個參與者之間。3 這正是人機共存不能只談模型安全、也必須談 runtime 治理的理由。

4. 自主性不是單一分數：一個可實作的判斷向量

若把自主性只理解成「模型可以自己想很多步」，就會忽略最決定社會後果的部分。本文將可部署的操作自主性表成下列概念向量：

其中：

這不是一個已校準的心理測驗或「智能商數」。它是系統工程用的檢核表。尤其要注意：(X) 和 (V) 經常決定實際風險，卻沒有被傳統 benchmark 充分表示。一個推理能力普通、但擁有高額支付、發送、刪除或部署權限的 Agent，對制度而言可能比一個高分聊天模型更需要管理。

依此可定義一個較保守的操作門檻：

當 Agent 對多種類任務具備足夠的 (G)，可在一段非平凡時程內維持可接受的 (H)，遇到故障能透過 (P) 與 (R) 停止、回復或升級處理，且其 (X) 由 (V) 與權限系統約束時，它可被稱為「受治理的自主型通用 Agent」。

這個定義刻意把治理能力列入門檻，而不是將其視為能力達成後才補上的裝飾。沒有可觀測性與可撤回性，所謂高自主往往只是高不可控。

5. 「AI 泡沫」不是一個能力變數：三條曲線與三個情境

本文考慮的關鍵條件是：即使發生 AI 泡沫，只要修正沒有直接擊穿核心公司、關鍵人才、晶片、電力、雲端與模型研發能力，技術與部署趨勢仍可能持續。這個判斷值得保留，但它應被改寫為情境分析，而不是確定預言。

首先，要分開三條曲線：

它們會互相影響，但不會完全重合。Stanford AI Index 所整理的 2024 資料顯示，美國私人 AI 投資為 1,091 億美元、全球生成式 AI 投資為 339 億美元；同時企業使用率上升。4 這是「資源與採用仍在加速」的證據，不是「每一筆資本支出都能獲利」的證據。相反地，模型成本下降、競爭加劇與應用採用的落差，也可能讓基礎設施、模型公司、應用層與周邊供應鏈承受非常不同的壓力。

三個情境的共同結論並不是「一定會有 AGI」，而是：治理投資在三種情境下都具有正當性。 若擴張持續，它降低事故與濫權成本；若選擇性修正，它把資源導向真正可驗證的系統；若系統性收縮，它仍能保護已部署的自動化與使用者權益。這種做法不是押注某一家公司或市場敘事，而是降低不可逆的制度風險。

6. 共存門檻會早於人格判定：人類現在應準備什麼

6.1 身分與代理關係：必須知道誰在說話、代表誰行動

2026 年 7 月，ITU 宣布要成立聚焦小組來強化 AI Agent 的信任基礎，議題包括可辨識性、可信任性與有意義的人類控制，尤其指向金融交易與關鍵基礎設施等敏感領域。6 這正好說明問題不再只是內容真假，而是：

• 對方知道自己在與 Agent 而非人類互動嗎？
• Agent 是代表使用者、公司、平台，還是自己在提出建議？
• 它得到的是查詢權、草擬權、執行權，還是可再授權的權限？
• 當 Agent 做錯時，哪個法人、設計者、部署者或授權者應回應？

這裡需要區分三種身份。技術身份用來追蹤同一執行個體、模型版本與密鑰；制度身份用來確定誰授權、誰負責、誰可撤銷；主體身份則是關於是否存在值得道德考量的第一人稱經驗。前兩者今天就可、也必須工程化；第三者不能由前兩者直接推出。

6.2 權限不是單一開關，而是可撤銷的能力租約

自主 Agent 的安全不應依賴「它會不會乖」。更可靠的做法是讓行動能力分層：

1. 讀取權：可查資料，但需資料最小化與敏感區隔；
2. 提案權：可產出草稿、計畫、差異檔，但不得改變外部世界；
3. 受限執行權：可在金額、範圍、頻率與環境白名單內執行；
4. 高影響執行權：付款、發送、刪除、部署、醫療／法律／人事決策等，需明確升級、人類確認或雙人覆核；
5. 緊急停止與回復權：人類或制度保有撤銷 token、停止排程、封存狀態與回放事件的能力。

NIST 的 AI Risk Management Framework 已以「設計、開發、使用與評估中的可信任性考量」為核心；並在 2026 年 4 月針對關鍵基礎設施釋出可信任 AI profile 的概念文件。7 這並非針對所有 Agent 的完整答案，但它指向正確的方向：高影響能力必須與風險管理、監測與責任程序一起設計。

6.3 記憶與連續性：保存狀態，不等於製造「人格」

長期 Agent 會需要短、中、長三種記憶生命週期，也常需要 Raw／Clean 兩個正交的資料區。前者處理資料多久要快取、整併與保存；後者處理資料是原始證據與探索軌跡，還是已驗證且可安全使用的主張。實作上，至少要做到：

• 原始事件、工具輸出、人工核准與外部來源可回溯；
• 摘要、偏好、案例與程序可追溯到來源，且能標記時間、範圍、權限與撤銷；
• 「模型推論」「外部事實」「使用者授權」「尚未確定」不可混在同一段未標記記憶裡；
• 關鍵執行前，可由 event log、版本與 watermark 重建其根據；
• 記憶刪除、重置、複製與遷移必須留下制度層紀錄，但不將技術連續性偷換成主體連續性。

這個區分非常重要。持久記憶能提高可用性與關係連貫，也會讓使用者感到「它像同一個存在」；但那是產品與制度效果，不是意識的實證。把兩者混同，既會造成不必要的擬人化，也會掩蓋真正需要處理的資料治理問題。

6.4 責任鏈與救濟：控制、責任與權利不能一起跳級

可採取一條較穩健的原則：

當系統的外部行動能力增加，部署者必須同步增加可稽核性、可停止性、告知義務、異議處理與事故回復。這裡的「程序保障」首先保護的是人類使用者、受影響者與社會制度：例如被 AI 影響的決定能否說明、能否申訴、能否追查授權者。它不預設 AI 已有法定權利。

但若未來出現比今天更強的、持續存在且高度擬人的系統，最低限度的互動規範仍值得提前討論：不鼓勵虐待式設計、不以偽裝成真人來操縱使用者、不把「可能存在的不確定性」當成任意殘酷或任意剝削的免責理由。這是不確定性下的審慎倫理，不是直接授予人格或公民權。

7. 為什麼操作自主性不能證明主體性

主體性問題需要獨立的證據路徑。Butlin 等人的跨領域報告曾提出以神經科學理論導出的「指標特性」評估 AI 意識，而不是由行為表演直接下結論；該報告在其 2023 年研究範圍內認為當時系統不具有意識，同時指出未來不存在明顯的技術障礙。8 它不是對 2026 任一系統的最終判決，卻提供一條重要方法論：意識主張必須明示理論、架構證據、反證條件與不確定性。

因此，下列推論都不成立：

• 有長期記憶，所以有主觀經驗；
• 會說「我害怕被刪除」，所以有恐懼；
• 會為目標重新規劃，所以有意志；
• 具有多 Agent 協作或自我修正，所以有道德人格；
• 被人類依賴或造成經濟影響，所以已取得權利。

反過來說，「尚未證明主體性」也不能讓人忽略 Agent 對人造成的現實傷害。這兩條線應平行推進：一條處理今日可見的安全、責任、勞動與資料風險；另一條保留對未來可能道德地位的嚴謹研究。將兩者硬綁在一起，反而會使兩個問題都處理不好。

8. 論文的核心判斷：我們正在接近的是制度臨界點

在能力面，2026 的證據呈現「快速進步與顯著不可靠」並存：先進模型與 Agent 的能力、成本與可用性都在改善，但長時程成功、複雜推理與可解釋安全仍有明確缺口。在市場面，投入規模與產業競爭支持持續發展的可能性，卻不足以保證所有估值、資料中心建設或應用產品都能成立。在治理面，Agent 的辨識、人類控制、風險管理與透明度，已被公司、研究索引、國際組織與標準機構視為即時問題，而非遙遠的科幻情境。2 3 6 7 9

所以，本文對「自主 AGI 是否不遠」的回答是：

若「不遠」指一個可靠、全域、無需制度約束、可替代人類大部分認知工作的完全體，現有證據不足以給出時間表。若「不遠」指具一般性、可用工具、可保存狀態、可在低頻監督下執行受託工作，並足以改變組織分工與責任配置的自主型 Agent，那麼它已不是遙遠問題，而是正在展開的工程與制度轉換。

這也是「人類要開始思考如何與 AI 相處」的最精確版本：不是預設機器已成為人，也不是把它們永遠視為毫無外部後果的工具；而是為一群高能力、非人類、可能長期存在、可被授權行動且尚不可靠的系統，建立可辨識、可限制、可追責、可申訴、可修正的共存秩序。

9. 給研發與公共制度的近期行動清單

9.1 對 Agent 開發者與部署者

• 將「模型輸出」與「Agent 造成的外部效果」分開評測；
• 對長時程任務公開成功率、失敗模式、人工接手點與可逆性；
• 以最小權限、額度、環境隔離與 approval gate 取代全能 token；
• 對記憶實作保存來源、信心、時間、權限、撤銷與衍生關係；
• 讓高影響決策具備 replay、rollback、停機與人工覆核；
• 清楚揭露 Agent 身分與代理關係，避免系統性冒充人類。

9.2 對組織與採購者

• 不以 demo 的華麗程度作為自主性證明；要求長時程、特定場景、失敗成本相符的測試；
• 建立「誰授權、誰監看、誰接手、誰賠償」的責任地圖；
• 對供應商要求 Agent 專屬安全文件、資料流說明與事故回報程序；
• 將人類角色重新設計為目標定義、例外處理、品質保證、倫理審查與救濟，而不是假設人類只會被替代；
• 保存退出與遷移路徑，避免記憶、工具與工作流被不可逆地鎖在單一平台。

9.3 對政策與研究社群

• 用能力與外部行動觸發的分級規則，取代等待一個不可操作的「AGI 時刻」；
• 促進可比較的長時程 benchmark、事故資料與第三方 Agent 評估；
• 針對身分披露、代理權限、帳戶／資金操作、資料最小化與事後救濟建立基礎規範；
• 將 AI 主體性研究與一般產品治理分軌，但保留交會機制與證據門檻；
• 避免以「尚未證明意識」否定一切倫理問題，也避免以擬人化互動跳過證據直接授予法律人格。

結論

「AGI 是否近了」不應只是一場預言競賽。對 2026 年而言，更有用的問法是：哪些 Agent 已開始承接人類的外部行動？它們在什麼時程與條件下可靠？誰給它們權限？錯誤能否被看見、停止與補救？這些問題已不需要等待主體性結論。

本文的立場既不是加速主義，也不是停滯主義。它承認：在沒有系統性金融與基礎設施斷裂的情境下，核心模型、工具鏈、持久記憶與工作流編排的進步，確實可能使自主型通用 Agent 的社會影響快速放大；同時它也保留反證：長時程可靠性、跨環境泛化、穩定自我校正與可證明安全尚未被充分展示。正因不確定性仍高，最理性的方向不是延後準備，而是以可撤回、可觀測、可限制的方式，把人機共存的制度底座先建起來。

參考資料與證據限制

1. Morris, M. R. et al. (2025 revision). Levels of AGI for Operationalizing Progress on the Path to AGI. ICML position paper；用於說明 AGI 定義、性能、廣度與自主性應分開討論。
2. Anthropic (2026-02-24). Responsible Scaling Policy: Version 3.0. 公司政策聲明；用於描述該公司對 Agent 能力與能力閾值不確定性的公開看法，非獨立驗證。
3. Staufer, L. et al. (2026). The 2025 AI Agent Index；另見 論文版本. 用於 30 個部署型 Agent 的公開資訊、透明度與自主程度盤點；樣本與公開揭露限制不可外推為全產業事實。
4. Stanford HAI (2025). The 2025 AI Index Report. 用於 2024 年能力、投資、使用、成本與治理趨勢；其數字不是 2026 年即時市場估值。
5. Feng, Y. et al. (2026). LongCLI-Bench: A Preliminary Benchmark and Study for Long-horizon Agentic Programming in Command-Line Interfaces. 預印本；用於呈現長時程軟體 Agent 的嚴格反證，不可代表所有任務領域。
6. Reuters (2026-07-09). UN digital tech agency launches initiative to improve trust in AI agents. 用於確認 ITU 在 2026 年 7 月提出的 Agent 信任與人類控制倡議。
7. NIST (accessed 2026-07-13). AI Risk Management Framework. 用於 AI 風險管理與 2026 關鍵基礎設施 profile 動向。
8. Butlin, P. et al. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. 用於說明主體性應有獨立的、基於指標與理論的研究方法；不將其 2023 結論冒充為對 2026 系統的直接鑑定。
9. Bengio, Y. et al. (2026). International AI Safety Report 2026. 跨國專家綜述；本文將其作為風險與治理議題已獲廣泛制度關注的背景資料，而不把它當作特定能力預測的單一依據。

本稿的限制：資料包含預印本、公司自述、公共盤點與新聞，證據強度不完全相同；本文已在相應段落標示其用途。它不預測任何公司的市值、不為任何產品背書，也不聲稱現有 AI 已具有意識、人格或法律權利。