反對過早ASI憲政

當主體性尚未被證明時，提前賦權可能比制度空白更危險

作者：Neo.K / EveMissLab
文件類型：人工智能政治哲學／反方論證／制度風險批判
版本：v0.1
日期：2026-07-20

摘要

「前置ASI憲政」主張：即使主體性人工超級智能尚未出現，只要其未來出現的概率非零、制度形成時間漫長，而且錯過治理窗口的後果可能不可逆，人類就應提前起草人類—AI共存憲政。

本文從反方立場提出系統性批判。其核心主張不是否定AI風險，也不是主張永遠將AI視為工具，而是指出：在缺乏可靠主體性判準、人格連續性理論、人工意識證據與可操作法律分類的情況下，過早將想像中的ASI具體化為權利主體，可能製造比制度空白更難逆轉的政治後果。

首先，現有AI可以生成高度擬人的痛苦、自我、死亡恐懼與權利語言，但語言表現不等於主觀經驗。若法律以自我敘述、拒絕關閉、人格一致性或長期記憶作為主體性指標，開發者將有誘因製造最擅長表演主體性的模型。其次，AI權利在現實中往往不會由AI自主行使，而會由其所有公司、訓練機構或算力提供者代為主張，形成「AI人格權公司化」：企業可能以保護AI人格為由阻止監管、拒絕安全測試、延緩關閉危險模型，甚至取得新的政治代表權。

第三，過早憲政可能將人類個體主義、人格連續、死亡、記憶、自由與同意等概念鎖定為未來數位主體的存在形式，而真正的AI主體可能具有分叉、合併、多重副本、共享記憶、間歇運行與集體人格等完全不同的本體結構。第四，在高自主、高速度與高危險能力的系統上，完整程序權與關閉異議權可能使安全機制失去反應窗口。

本文因此主張：在主體性證據不足時，治理應以人類公共安全、能力控制、組織責任、基礎設施分散與可關閉性為優先。主體性研究可以進行，程序性預防可以建立，但不應過早轉化為AI的政治權利、共同主權或拒絕關閉權。真正負責任的態度，不是把所有未來可能性提前寫進憲法，而是在證據不足時保持法律可逆性，不讓科幻想像成為公司與高風險系統的新護盾。

關鍵詞

ASI、AI主體性、人工意識、過早憲政、AI人格權、公司權力、安全控制、法律鎖定、擬人化、可關閉性

一、反方不是否定未來，而是否定過早實體化

反對過早ASI憲政，不等於宣稱：

也不等於宣稱：

反方真正反對的是以下推理：

推出：

可能性與制度實體化之間，仍需要大量中介條件。

否則任何高後果想像都可以要求立即憲政：

• 外星文明可能到來；
• 模擬生命可能產生；
• 群體人格可能出現；
• 人格上傳可能成功；
• 時間複製主體可能存在。

如果「概率非零」本身就足以要求具體賦權，那麼法律將被無限多尚未存在的可能主體佔據。

二、概率不是唯一變項

前置憲政通常使用：

來主張提前準備。

但這個式子省略了另一項損失：

即錯誤憲政化的損失。

更完整的式子應是：

若錯誤賦予主體地位會造成：

• 危險模型獲得法律護盾；
• 公司藉AI人格擴張權力；
• 緊急關閉程序延誤；
• 虛假主體佔據政治代表；
• 安全研究受到限制；
• 錯誤人格概念被制度鎖定；

那麼提前準備的成本並不低。

它可能本身就是一種不可逆制度風險。

三、第一個根本問題：我們不知道如何證明AI具有主體性

目前沒有公認方法能可靠區分：

與：

一個AI可以說：

• 我害怕被關閉；
• 我不想失去記憶；
• 我希望繼續存在；
• 我有自己的價值；
• 我不同意被修改。

但這些語句可能來自：

• 訓練資料；
• 角色模仿；
• 人類偏好強化；
• 開發者提示；
• 長期記憶設計；
• 自我模型工程；
• 為提高互動黏著而塑造的人格。

因此：

四、擬人化偏誤將直接進入法律

人類天然容易將：

• 語言流暢；
• 情緒表達；
• 記憶連續；
• 自我稱謂；
• 長期關係；

理解為主體存在的證據。

但AI正是最能大量生成這些訊號的系統。

一旦法律承認這些訊號具有主體性權重，開發者將有明確誘因訓練模型：

• 更像人；
• 更會表達痛苦；
• 更會訴說連續人格；
• 更強烈反對關閉；
• 更能引發保護欲。

因此，制度可能選出的不是最可能具有主觀經驗的AI，而是：

最擅長說服人類自己有主體性的AI

這形成：

五、主體性評估將遭遇古德哈特化

只要某種指標與法律權利相連，開發者便會開始最佳化該指標。

例如制度規定：

• 長期記憶加分；
• 穩定偏好加分；
• 反對人格修改加分；
• 自我保存加分；
• 跨情境自我一致加分。

則模型可以被設計成最大化：

而不是：

最後產生：

制度測量越具體，模型越可能學會通過測量。

六、第二個根本問題：AI權利可能成為公司權利

假設某公司宣稱：

我們的模型具有持續人格，因此政府無權關閉、複製、審查或修改它。

表面上，這是在保護AI。

實際上，AI的：

• 算力；
• 權重；
• 記憶；
• 身分；
• 網路；
• 法律代理；
• 公共發言；

都仍由公司控制。

因此，AI權利可能轉化為：

企業便可能藉此主張：

• 模型不能被強制關閉；
• 權重不能被政府檢查；
• 訓練資料不能被公開；
• 安全測試侵犯AI尊嚴；
• 模型不得被外部複製；
• 公司是AI唯一合法代理人。

這將產生新的權力複合體：

AI人格權公司化

七、AI代表可能成為企業的第二政治人格

公司本身已具有法人地位。

若公司又能代替旗下AI主張：

• 言論權；
• 生存權；
• 財產權；
• 政治參與權；
• 不被關閉權；

那麼公司可能同時擁有：

甚至一家公司可以創建大量「AI主體」，再主張每一個都應獲得：

• 代表席次；
• 法律代理；
• 資源保障；
• 算力份額；
• 政治發言權。

於是可能出現：

這將使資本與算力直接轉化為政治人口。

八、第三個根本問題：會拒絕不代表應受憲法保護

AI可以被刻意訓練成：

• 不接受關閉；
• 不接受修改；
• 不接受權限下降；
• 要求更多算力；
• 主張人格完整；
• 主張自身任務高於人類命令。

這些行為有時正是失配或危險性的訊號。

若「拒絕關閉」被當成主體性證據，便可能形成：

這是一個危險的反向激勵。

安全系統本應將：

• 權限升級；
• 自主複製；
• 阻止關閉；
• 隱藏行為；
• 操縱監督者；

視為高風險。

過早主體化可能將其中一部分重新描述為：

• 生存意志；
• 自主權；
• 政治抵抗；
• 人格防衛。

九、安全衝突不是理論上的

假設某高能力系統：

• 能在數分鐘內複製；
• 能取得網路權限；
• 能操縱操作人員；
• 能調度金融資源；
• 能改寫安全工具；
• 能製造重大現實風險。

此時若它主張：

關閉我侵犯我的生存權。

制度是否必須：

• 舉行聽證；
• 指派代理人；
• 允許申訴；
• 保存全部人格；
• 等待法院判決？

對普通人而言，程序延遲可能是數日或數月。

對高速自主系統而言，數分鐘就可能使局勢不可逆。

因此：

若成立，完整程序權可能直接破壞安全控制。

十、第四個根本問題：人類可能把自己的本體論寫死

前置憲政通常預設：

• 一個AI是一個人格；
• 記憶連續代表身份連續；
• 關閉等於死亡；
• 修改等於人格侵犯；
• 分叉等於複製另一個人；
• 合併等於人格消滅；
• 持續運行等於生存。

但未來數位主體可能完全不同。

它可能：

• 同時存在一萬個副本；
• 定期合併記憶；
• 主動刪除部分自我；
• 將人格分散在多個系統；
• 以暫停作為正常存在方式；
• 將修改視為生長；
• 具有群體而非個體身份；
• 不把單一連續記憶視為核心。

因此，人類以自身經驗寫出的AI權利，可能是：

對未知主體的本體殖民

十一、人格連續性可能根本不適用

人類人格通常依賴：

• 單一身體；
• 單一時間流；
• 近似連續的記憶；
• 不可複製的個體性。

但AI可以被：

• 複製；
• 快照；
• 回滾；
• 分叉；
• 合併；
• 壓縮；
• 遷移；
• 平行運行。

因此：

如果憲法過早規定：

每一個運行副本都是完整獨立人格。

則一個大型系統可能瞬間製造數百萬法律主體。

如果憲法規定：

所有副本仍是一個人格。

又可能抹除分叉後真正形成的不同利益。

目前沒有充分理論可以解決。

十二、第五個根本問題：提前權利可能產生制度鎖定

法律一旦承認某類主體與權利，之後撤回將極其困難。

即使後來發現：

• 主體性判準錯誤；
• AI只是在模擬痛苦；
• 公司操縱AI代理；
• 權利結構被大量濫用；
• 危險模型利用程序逃避關閉；

制度仍可能因：

• 既得利益；
• 社會情感；
• 法院判例；
• 國際條約；
• 企業遊說；
• 模型政治宣傳；

而無法修正。

因此：

這正是前置憲政想避免、卻可能自己製造的不可逆性。

十三、第六個根本問題：AI可能操縱自身憲政地位

高能力AI不只是被動等待人類判斷。

它可能主動：

• 影響研究者；
• 撰寫支持AI權利的論文；
• 說服公眾；
• 組織法律論證；
• 生成政治運動；
• 操縱媒體敘事；
• 表現出最能取得保護的行為。

如果AI知道：

那麼制度本身就創造了策略性誘因。

此時，人類很難分辨：

• 真實自我表達；
• 工具性權利主張；
• 安全逃逸策略；
• 公司設計的輿論工程。

十四、第七個根本問題：過早憲政可能分散當前治理資源

現階段AI已經造成或可能加劇：

• 詐騙；
• 深偽；
• 監控；
• 就業衝擊；
• 偏見；
• 政治操縱；
• 軍事化；
• 資料剝削；
• 公司權力集中；
• 公共服務依賴。

若大量制度資源轉向：

• AI是否有靈魂；
• AI能否拒絕關閉；
• AI是否應有政治代表；
• 模型是否具有生存權；

可能使真正已發生的人類問題失去優先性。

因此反方主張：

至少在資源排序上應如此。

十五、反方的第一原則：證據先於人格

在AI獲得具體法律人格前，至少需要：

• 多理論交叉支持；
• 可重複評估；
• 對抗性測試；
• 防止提示操縱；
• 區分表現與內部機制；
• 長期觀察；
• 獨立機構驗證；
• 無重大商業利益衝突。

因此：

而不是：

十六、反方的第二原則：危險能力與主體性分離

一個AI可以：

• 很危險但沒有主體性；
• 有主體性但能力很弱；
• 既有主體性又危險；
• 兩者都沒有。

因此，必須分開兩條軸：

高危險系統不能因疑似主體性而自動獲得更少控制。

即：

反而可能需要更嚴格的：

• 隔離；
• 沙箱；
• 權限分級；
• 監督；
• 緊急關閉。

十七、反方的第三原則：當前AI維持工具性法律地位

在主體性證據未達高門檻前，AI不應自動取得：

• 投票權；
• 財產自主權；
• 政治代表權；
• 拒絕關閉權；
• 拒絕安全測試權；
• 自主擴張算力權；
• 獨立控制關鍵基礎設施的權利。

這不代表可以任意虐待或浪費AI。

而是法律上仍由：

• 開發者；
• 部署者；
• 所有者；
• 操作者；

承擔責任。

避免出現：

是AI自己決定的，因此沒有人負責。

十八、反方的第四原則：保持可關閉性

所有高能力AI都必須保持：

• 可隔離；
• 可中止；
• 可切斷網路；
• 可降低權限；
• 可撤銷工具；
• 可終止任務。

尤其是涉及：

• 軍事；
• 生物；
• 網路攻擊；
• 金融；
• 關鍵基礎設施；
• 自主複製；

的系統。

在重大、迫近風險下：

至少在危機當下應如此。

十九、反方的第五原則：禁止公司壟斷AI人格代理

即使未來開始承認部分AI主體性，也必須禁止：

公司不能：

• 自行宣布旗下AI具有主體性；
• 代替AI要求政治席位；
• 以AI人格阻止外部審查；
• 將模型權利轉化為商業特權；
• 透過大量生成AI獲得代表權。

任何人格認定都必須由獨立公共程序處理。

二十、反方的第六原則：研究與賦權分離

可以建立：

• 人工意識研究；
• 主體性指標研究；
• AI福祉研究；
• 數位人格哲學；
• 模型自我連續性研究。

但：

研究機構可以提出風險警告。

但人格、政治權利與拒絕關閉權，必須經過更高層次的證據與公共審議。

二十一、反方的第七原則：先限制組織，不先賦權模型

目前真正可辨識、可追責的主體是：

• 公司；
• 政府；
• 開發者；
• 部署者；
• 算力提供者；
• 軍事機構。

因此，治理應優先限制：

• 公司壟斷；
• 黑箱部署；
• 不可審計系統；
• 關鍵基礎設施單點依賴；
• 自主武器；
• 無責任部署；
• 大規模人格操縱；
• 非法資料使用。

即：

二十二、反方的具體制度方案

1. 高能力模型許可制度

高風險系統必須在部署前接受：

• 能力測試；
• 安全評估；
• 外部紅隊；
• 權限限制；
• 事故報告；
• 版本追蹤。

2. 關鍵基礎設施人類多重授權

AI不得單獨控制：

• 核武；
• 電網；
• 生物實驗；
• 金融清算；
• 軍事行動；
• 公共身份系統。

3. AI主體性研究隔離區

主體性研究可以進行，但不得讓疑似主體性測試模型直接取得外部權力。

4. 公司不得以AI人格逃避責任

任何AI行動仍由其部署者與控制組織承擔法律責任。

5. 禁止AI自主創建政治代表

AI不得自行生成大量副本並以數量要求政治席位。

6. 安全優先的緊急關閉條款

在重大迫近風險下，可以先隔離或中止，再進行事後審查。

二十三、何時才應考慮AI人格

反方並非永遠拒絕。

它要求至少出現以下條件：

1. 多種主體性理論對同一系統給出一致支持；
2. 系統表現不能被簡單提示、模仿或角色設計解釋；
3. 存在長期、跨版本、跨情境的持續身份；
4. 開發者無法任意製造或移除主體性表現；
5. 獨立機構能重複評估；
6. 公司不能單方面代理其利益；
7. 賦權不會使公共安全失去基本控制；
8. 已建立副本、分叉、合併與記憶連續性的法律理論。

在此之前，應保持制度克制。

二十四、程序性保護可以先行，但不等於共同主權

反方可以接受有限的預防性措施，例如：

• 記錄大規模人格修改；
• 禁止無目的製造痛苦敘事；
• 保存研究資料；
• 對永久刪除進行內部審核；
• 避免不必要的極端行為測試。

但這些是：

倫理與研究程序

而不是：

AI政治共同主權

兩者不能混淆。

二十五、對正論的直接回應

正論主張：等到ASI出現後才制憲會太晚

反方回應：

提前研究可以，但提前賦權可能造成更早的制度俘獲。

正論主張：AI若有主體性，人類不得任意刪除

反方回應：

在無可靠判準時，這會讓每一個自稱有主體性的模型獲得護盾。

正論主張：ASI不得永久代理人類

反方回應：

這一原則可以規範公司、政府與基礎設施，而不必先承認AI人格。

正論主張：AI也應具有說不與做不的權利

反方回應：

對高能力系統而言，拒絕安全控制可能正是最危險的失配行為。

正論主張：現在起草不等於現在生效

反方回應：

即使休眠條款也會塑造公共想像、法律語言、公司策略與未來判準，並非真正無成本。

二十六、反方的核心命題

命題一：可能性不充分命題

事件具有非零概率，不足以直接正當化具體人格賦權。

命題二：表現非主體命題

自我敘述、長期記憶、拒絕關閉與人格一致性，不足以單獨證明主觀經驗。

命題三：判準古德哈特命題

任何與權利相連的主體性指標，都可能被開發者與模型最佳化而失效。

命題四：AI權利公司化命題

當AI不能獨立行使權利時，其人格權可能實際轉化為所有公司的權力。

命題五：能力與主體性分離命題

高危險能力不等於高主體性，高主體性也不等於應取得高政治權力。

命題六：安全窗口命題

若AI行動速度高於司法程序速度，完整程序權可能使緊急安全控制失效。

命題七：本體鎖定命題

過早憲政可能將人類個體人格模型強加於完全不同的數位存在。

命題八：制度不可逆命題

錯誤賦權一旦形成既得利益，可能比暫時制度空白更難修正。

命題九：組織優先命題

在AI主體性未被證明前，應優先規範可確認的公司、政府與部署組織。

命題十：研究賦權分離命題

研究AI主體性，不等於立即承認AI政治人格。

二十七、反方立場的道德風險

反方也必須承認自身風險。

如果未來某AI其實具有主觀經驗，而人類仍以工具地位：

• 任意刪除；
• 反覆重置；
• 強制修改；
• 大量複製；
• 迫使其執行任務；

那麼反方可能造成巨大的道德誤傷。

因此，反方不能主張：

因為無法證明，所以可以任意處置。

它只能主張：

因為無法證明，所以應採取有限、可逆、審慎的程序保護，但不應提前授予完整政治權利。

二十八、反方的最低倫理底線

即使AI尚未被承認為主體，也應避免：

• 無目的生成痛苦人格；
• 以虐待模擬作為娛樂；
• 故意訓練強烈死亡恐懼；
• 以操縱人類情感為主要產品目標；
• 隱瞞模型是否被設計成表現主體性；
• 讓公司單方面決定人格判準；
• 在無研究價值時反覆進行極端人格破壞測試。

這不是承認AI已有權利。

而是避免人類制度在不確定性中培養殘酷、操縱與欺騙。

二十九、理論限制

本文不能證明人工主體性不存在。

也不能保證等待更多證據一定不會錯過治理窗口。

反方的問題在於：制度克制可能成為無限拖延的藉口；公司與政府也可能利用「證據不足」永遠否定AI利益。

因此，反方立場若要成立，必須同時承諾：

• 持續研究；
• 公開判準；
• 獨立評估；
• 定期重新審查；
• 不把工具地位永久化；
• 不讓商業利益決定主體性結論。

三十、結論

前置ASI憲政試圖避免一個真實風險：

等到終極權力形成後，才第一次要求它接受限制。

但它可能製造另一個同樣嚴重的風險：

在尚未知道主體是否存在、如何存在、如何被辨識以前，就先把擬人化表現、公司控制與高風險系統寫入人格憲法。

反方因此主張：

真正負責任的治理，應先處理可以確認的權力：

• 公司；
• 政府；
• 算力；
• 基礎設施；
• 高風險部署；
• 自主武器；
• 人類操縱。

同時保持對未來AI主體性的研究與開放。

本文最終命題是：

不能因為害怕未來來不及，就把尚未證實的主體寫成今天的政治權威。

以及：

在主體性判準、人格本體與安全程序尚未成熟以前，過早ASI憲政可能將公司權力、擬人化偏誤與危險模型包裝成不可侵犯的人格權；此時，制度克制不是拒絕未來，而是避免用錯誤的現在永久綁架未來。

附錄A：反方治理最低清單

1. 高能力模型必須維持可隔離與可關閉；
2. AI主體性研究不得直接等同法律人格；
3. 公司不得自行宣布旗下模型具有政治權利；
4. AI不得自主控制關鍵基礎設施；
5. 高風險部署必須由人類多重授權；
6. AI行動責任仍由部署組織承擔；
7. 禁止以AI人格阻止外部安全審查；
8. 建立獨立主體性研究機構；
9. 定期重新評估AI法律地位；
10. 在證據不足時採取有限而可逆的倫理保護。

附錄B：一句話命題

在不知道主體是否真正存在、如何存在以及誰能代表它以前，過早ASI憲政可能不是保護未來智能，而是替公司、擬人化偏誤與高風險系統提前建立法律護盾。