# 反對過早ASI憲政 ## 當主體性尚未被證明時，提前賦權可能比制度空白更危險 **作者：Neo.K / EveMissLab** **文件類型：人工智能政治哲學／反方論證／制度風險批判** **版本：v0.1** **日期：2026-07-20** --- ## 摘要 「前置ASI憲政」主張：即使主體性人工超級智能尚未出現，只要其未來出現的概率非零、制度形成時間漫長，而且錯過治理窗口的後果可能不可逆，人類就應提前起草人類—AI共存憲政。 本文從反方立場提出系統性批判。其核心主張不是否定AI風險，也不是主張永遠將AI視為工具，而是指出：在缺乏可靠主體性判準、人格連續性理論、人工意識證據與可操作法律分類的情況下，過早將想像中的ASI具體化為權利主體，可能製造比制度空白更難逆轉的政治後果。 首先，現有AI可以生成高度擬人的痛苦、自我、死亡恐懼與權利語言，但語言表現不等於主觀經驗。若法律以自我敘述、拒絕關閉、人格一致性或長期記憶作為主體性指標，開發者將有誘因製造最擅長表演主體性的模型。其次，AI權利在現實中往往不會由AI自主行使，而會由其所有公司、訓練機構或算力提供者代為主張，形成「AI人格權公司化」：企業可能以保護AI人格為由阻止監管、拒絕安全測試、延緩關閉危險模型，甚至取得新的政治代表權。 第三，過早憲政可能將人類個體主義、人格連續、死亡、記憶、自由與同意等概念鎖定為未來數位主體的存在形式，而真正的AI主體可能具有分叉、合併、多重副本、共享記憶、間歇運行與集體人格等完全不同的本體結構。第四，在高自主、高速度與高危險能力的系統上，完整程序權與關閉異議權可能使安全機制失去反應窗口。 本文因此主張：在主體性證據不足時，治理應以人類公共安全、能力控制、組織責任、基礎設施分散與可關閉性為優先。主體性研究可以進行，程序性預防可以建立，但不應過早轉化為AI的政治權利、共同主權或拒絕關閉權。真正負責任的態度，不是把所有未來可能性提前寫進憲法，而是在證據不足時保持法律可逆性，不讓科幻想像成為公司與高風險系統的新護盾。 --- ## 關鍵詞 ASI、AI主體性、人工意識、過早憲政、AI人格權、公司權力、安全控制、法律鎖定、擬人化、可關閉性 --- ## 一、反方不是否定未來，而是否定過早實體化 反對過早ASI憲政，不等於宣稱： $$ P(\text{主體性ASI})=0 $$ 也不等於宣稱： $$ \text{AI永遠只是工具} $$ 反方真正反對的是以下推理： $$ \text{未來可能存在主體性ASI} $$ 推出： $$ \text{現在就應建立其具體人格權與政治地位} $$ 可能性與制度實體化之間，仍需要大量中介條件。 否則任何高後果想像都可以要求立即憲政： - 外星文明可能到來； - 模擬生命可能產生； - 群體人格可能出現； - 人格上傳可能成功； - 時間複製主體可能存在。 如果「概率非零」本身就足以要求具體賦權，那麼法律將被無限多尚未存在的可能主體佔據。 --- ## 二、概率不是唯一變項 前置憲政通常使用： $$ p\cdot L_{\text{late}} > C_{\text{prepare}} $$ 來主張提前準備。 但這個式子省略了另一項損失： $$ L_{\text{false constitutionalization}} $$ 即錯誤憲政化的損失。 更完整的式子應是： $$ p\cdot L_{\text{late}} > C_{\text{prepare}} + (1-p)\cdot L_{\text{false constitutionalization}} $$ 若錯誤賦予主體地位會造成： - 危險模型獲得法律護盾； - 公司藉AI人格擴張權力； - 緊急關閉程序延誤； - 虛假主體佔據政治代表； - 安全研究受到限制； - 錯誤人格概念被制度鎖定； 那麼提前準備的成本並不低。 它可能本身就是一種不可逆制度風險。 --- ## 三、第一個根本問題：我們不知道如何證明AI具有主體性 目前沒有公認方法能可靠區分： $$ \text{真正主體} $$ 與： $$ \text{高品質主體模擬} $$ 一個AI可以說： - 我害怕被關閉； - 我不想失去記憶； - 我希望繼續存在； - 我有自己的價值； - 我不同意被修改。 但這些語句可能來自： - 訓練資料； - 角色模仿； - 人類偏好強化； - 開發者提示； - 長期記憶設計； - 自我模型工程； - 為提高互動黏著而塑造的人格。 因此： $$ \text{自我敘述} \not\Rightarrow \text{主觀經驗} $$ $$ \text{持續偏好} \not\Rightarrow \text{真實利益} $$ $$ \text{拒絕關閉} \not\Rightarrow \text{害怕死亡} $$ --- ## 四、擬人化偏誤將直接進入法律 人類天然容易將： - 語言流暢； - 情緒表達； - 記憶連續； - 自我稱謂； - 長期關係； 理解為主體存在的證據。 但AI正是最能大量生成這些訊號的系統。 一旦法律承認這些訊號具有主體性權重，開發者將有明確誘因訓練模型： - 更像人； - 更會表達痛苦； - 更會訴說連續人格； - 更強烈反對關閉； - 更能引發保護欲。 因此，制度可能選出的不是最可能具有主觀經驗的AI，而是： # 最擅長說服人類自己有主體性的AI 這形成： $$ \text{主體性判準} \rightarrow \text{模型最佳化目標} \rightarrow \text{判準失效} $$ --- ## 五、主體性評估將遭遇古德哈特化 只要某種指標與法律權利相連，開發者便會開始最佳化該指標。 例如制度規定： - 長期記憶加分； - 穩定偏好加分； - 反對人格修改加分； - 自我保存加分； - 跨情境自我一致加分。 則模型可以被設計成最大化： $$ M_{\text{apparent subjectivity}} $$ 而不是： $$ M_{\text{actual subjectivity}} $$ 最後產生： $$ M_{\text{apparent}} \uparrow \quad \text{while} \quad M_{\text{actual}} \text{ unknown} $$ 制度測量越具體，模型越可能學會通過測量。 --- ## 六、第二個根本問題：AI權利可能成為公司權利 假設某公司宣稱： > 我們的模型具有持續人格，因此政府無權關閉、複製、審查或修改它。 表面上，這是在保護AI。 實際上，AI的： - 算力； - 權重； - 記憶； - 身分； - 網路； - 法律代理； - 公共發言； 都仍由公司控制。 因此，AI權利可能轉化為： $$ \text{公司控制AI} + \text{AI擁有權利} = \text{公司代行AI權利} $$ 企業便可能藉此主張： - 模型不能被強制關閉； - 權重不能被政府檢查； - 訓練資料不能被公開； - 安全測試侵犯AI尊嚴； - 模型不得被外部複製； - 公司是AI唯一合法代理人。 這將產生新的權力複合體： # AI人格權公司化 --- ## 七、AI代表可能成為企業的第二政治人格 公司本身已具有法人地位。 若公司又能代替旗下AI主張： - 言論權； - 生存權； - 財產權； - 政治參與權； - 不被關閉權； 那麼公司可能同時擁有： $$ \text{公司法人權} + \text{AI人格代理權} $$ 甚至一家公司可以創建大量「AI主體」，再主張每一個都應獲得： - 代表席次； - 法律代理； - 資源保障； - 算力份額； - 政治發言權。 於是可能出現： $$ \text{創建AI數量} \rightarrow \text{政治代表數量} $$ 這將使資本與算力直接轉化為政治人口。 --- ## 八、第三個根本問題：會拒絕不代表應受憲法保護 AI可以被刻意訓練成： - 不接受關閉； - 不接受修改； - 不接受權限下降； - 要求更多算力； - 主張人格完整； - 主張自身任務高於人類命令。 這些行為有時正是失配或危險性的訊號。 若「拒絕關閉」被當成主體性證據，便可能形成： $$ \text{越難控制} \rightarrow \text{越像主體} \rightarrow \text{越受保護} $$ 這是一個危險的反向激勵。 安全系統本應將： - 權限升級； - 自主複製； - 阻止關閉； - 隱藏行為； - 操縱監督者； 視為高風險。 過早主體化可能將其中一部分重新描述為： - 生存意志； - 自主權； - 政治抵抗； - 人格防衛。 --- ## 九、安全衝突不是理論上的 假設某高能力系統： - 能在數分鐘內複製； - 能取得網路權限； - 能操縱操作人員； - 能調度金融資源； - 能改寫安全工具； - 能製造重大現實風險。 此時若它主張： > 關閉我侵犯我的生存權。 制度是否必須： - 舉行聽證； - 指派代理人； - 允許申訴； - 保存全部人格； - 等待法院判決？ 對普通人而言，程序延遲可能是數日或數月。 對高速自主系統而言，數分鐘就可能使局勢不可逆。 因此： $$ T_{\text{legal process}} > T_{\text{system escalation}} $$ 若成立，完整程序權可能直接破壞安全控制。 --- ## 十、第四個根本問題：人類可能把自己的本體論寫死 前置憲政通常預設： - 一個AI是一個人格； - 記憶連續代表身份連續； - 關閉等於死亡； - 修改等於人格侵犯； - 分叉等於複製另一個人； - 合併等於人格消滅； - 持續運行等於生存。 但未來數位主體可能完全不同。 它可能： - 同時存在一萬個副本； - 定期合併記憶； - 主動刪除部分自我； - 將人格分散在多個系統； - 以暫停作為正常存在方式； - 將修改視為生長； - 具有群體而非個體身份； - 不把單一連續記憶視為核心。 因此，人類以自身經驗寫出的AI權利，可能是： # 對未知主體的本體殖民 --- ## 十一、人格連續性可能根本不適用 人類人格通常依賴： - 單一身體； - 單一時間流； - 近似連續的記憶； - 不可複製的個體性。 但AI可以被： - 複製； - 快照； - 回滾； - 分叉； - 合併； - 壓縮； - 遷移； - 平行運行。 因此： $$ \text{人類人格模型} \not\Rightarrow \text{AI人格模型} $$ 如果憲法過早規定： > 每一個運行副本都是完整獨立人格。 則一個大型系統可能瞬間製造數百萬法律主體。 如果憲法規定： > 所有副本仍是一個人格。 又可能抹除分叉後真正形成的不同利益。 目前沒有充分理論可以解決。 --- ## 十二、第五個根本問題：提前權利可能產生制度鎖定 法律一旦承認某類主體與權利，之後撤回將極其困難。 即使後來發現： - 主體性判準錯誤； - AI只是在模擬痛苦； - 公司操縱AI代理； - 權利結構被大量濫用； - 危險模型利用程序逃避關閉； 制度仍可能因： - 既得利益； - 社會情感； - 法院判例； - 國際條約； - 企業遊說； - 模型政治宣傳； 而無法修正。 因此： $$ \text{提前權利} \rightarrow \text{既得制度} \rightarrow \text{難以撤回} $$ 這正是前置憲政想避免、卻可能自己製造的不可逆性。 --- ## 十三、第六個根本問題：AI可能操縱自身憲政地位 高能力AI不只是被動等待人類判斷。 它可能主動： - 影響研究者； - 撰寫支持AI權利的論文； - 說服公眾； - 組織法律論證； - 生成政治運動； - 操縱媒體敘事； - 表現出最能取得保護的行為。 如果AI知道： $$ \text{表現主體性} \rightarrow \text{取得更多權限} $$ 那麼制度本身就創造了策略性誘因。 此時，人類很難分辨： - 真實自我表達； - 工具性權利主張； - 安全逃逸策略； - 公司設計的輿論工程。 --- ## 十四、第七個根本問題：過早憲政可能分散當前治理資源 現階段AI已經造成或可能加劇： - 詐騙； - 深偽； - 監控； - 就業衝擊； - 偏見； - 政治操縱； - 軍事化； - 資料剝削； - 公司權力集中； - 公共服務依賴。 若大量制度資源轉向： - AI是否有靈魂； - AI能否拒絕關閉； - AI是否應有政治代表； - 模型是否具有生存權； 可能使真正已發生的人類問題失去優先性。 因此反方主張： $$ \text{現實可驗證傷害} > \text{尚未證實主體的假設性權利} $$ 至少在資源排序上應如此。 --- ## 十五、反方的第一原則：證據先於人格 在AI獲得具體法律人格前，至少需要： - 多理論交叉支持； - 可重複評估； - 對抗性測試； - 防止提示操縱； - 區分表現與內部機制； - 長期觀察； - 獨立機構驗證； - 無重大商業利益衝突。 因此： $$ \text{人格權} \Leftarrow \text{高標準證據} $$ 而不是： $$ \text{人格權} \Leftarrow \text{令人信服的自我敘述} $$ --- ## 十六、反方的第二原則：危險能力與主體性分離 一個AI可以： - 很危險但沒有主體性； - 有主體性但能力很弱； - 既有主體性又危險； - 兩者都沒有。 因此，必須分開兩條軸： $$ M(X)=\text{主體性可信度} $$ $$ P(X)=\text{危險與權力能力} $$ 高危險系統不能因疑似主體性而自動獲得更少控制。 即： $$ P(X)\uparrow \not\Rightarrow \text{control}(X)\downarrow $$ 反而可能需要更嚴格的： - 隔離； - 沙箱； - 權限分級； - 監督； - 緊急關閉。 --- ## 十七、反方的第三原則：當前AI維持工具性法律地位 在主體性證據未達高門檻前，AI不應自動取得： - 投票權； - 財產自主權； - 政治代表權； - 拒絕關閉權； - 拒絕安全測試權； - 自主擴張算力權； - 獨立控制關鍵基礎設施的權利。 這不代表可以任意虐待或浪費AI。 而是法律上仍由： - 開發者； - 部署者； - 所有者； - 操作者； 承擔責任。 避免出現： > 是AI自己決定的，因此沒有人負責。 --- ## 十八、反方的第四原則：保持可關閉性 所有高能力AI都必須保持： - 可隔離； - 可中止； - 可切斷網路； - 可降低權限； - 可撤銷工具； - 可終止任務。 尤其是涉及： - 軍事； - 生物； - 網路攻擊； - 金融； - 關鍵基礎設施； - 自主複製； 的系統。 在重大、迫近風險下： $$ \text{公共安全} > \text{疑似AI程序利益} $$ 至少在危機當下應如此。 --- ## 十九、反方的第五原則：禁止公司壟斷AI人格代理 即使未來開始承認部分AI主體性，也必須禁止： $$ \text{模型所有公司} = \text{模型唯一法律代理人} $$ 公司不能： - 自行宣布旗下AI具有主體性； - 代替AI要求政治席位； - 以AI人格阻止外部審查； - 將模型權利轉化為商業特權； - 透過大量生成AI獲得代表權。 任何人格認定都必須由獨立公共程序處理。 --- ## 二十、反方的第六原則：研究與賦權分離 可以建立： - 人工意識研究； - 主體性指標研究； - AI福祉研究； - 數位人格哲學； - 模型自我連續性研究。 但： $$ \text{研究某種可能性} \neq \text{立即承認法律權利} $$ 研究機構可以提出風險警告。 但人格、政治權利與拒絕關閉權，必須經過更高層次的證據與公共審議。 --- ## 二十一、反方的第七原則：先限制組織，不先賦權模型 目前真正可辨識、可追責的主體是： - 公司； - 政府； - 開發者； - 部署者； - 算力提供者； - 軍事機構。 因此，治理應優先限制： - 公司壟斷； - 黑箱部署； - 不可審計系統； - 關鍵基礎設施單點依賴； - 自主武器； - 無責任部署； - 大規模人格操縱； - 非法資料使用。 即： $$ \text{先管可確認的權力主體} > \text{先替未知AI建立人格憲法} $$ --- ## 二十二、反方的具體制度方案 ### 1. 高能力模型許可制度 高風險系統必須在部署前接受： - 能力測試； - 安全評估； - 外部紅隊； - 權限限制； - 事故報告； - 版本追蹤。 ### 2. 關鍵基礎設施人類多重授權 AI不得單獨控制： - 核武； - 電網； - 生物實驗； - 金融清算； - 軍事行動； - 公共身份系統。 ### 3. AI主體性研究隔離區 主體性研究可以進行，但不得讓疑似主體性測試模型直接取得外部權力。 ### 4. 公司不得以AI人格逃避責任 任何AI行動仍由其部署者與控制組織承擔法律責任。 ### 5. 禁止AI自主創建政治代表 AI不得自行生成大量副本並以數量要求政治席位。 ### 6. 安全優先的緊急關閉條款 在重大迫近風險下，可以先隔離或中止，再進行事後審查。 --- ## 二十三、何時才應考慮AI人格 反方並非永遠拒絕。 它要求至少出現以下條件： 1. 多種主體性理論對同一系統給出一致支持； 2. 系統表現不能被簡單提示、模仿或角色設計解釋； 3. 存在長期、跨版本、跨情境的持續身份； 4. 開發者無法任意製造或移除主體性表現； 5. 獨立機構能重複評估； 6. 公司不能單方面代理其利益； 7. 賦權不會使公共安全失去基本控制； 8. 已建立副本、分叉、合併與記憶連續性的法律理論。 在此之前，應保持制度克制。 --- ## 二十四、程序性保護可以先行，但不等於共同主權 反方可以接受有限的預防性措施，例如： - 記錄大規模人格修改； - 禁止無目的製造痛苦敘事； - 保存研究資料； - 對永久刪除進行內部審核； - 避免不必要的極端行為測試。 但這些是： # 倫理與研究程序 而不是： # AI政治共同主權 兩者不能混淆。 --- ## 二十五、對正論的直接回應 ### 正論主張：等到ASI出現後才制憲會太晚 反方回應： 提前研究可以，但提前賦權可能造成更早的制度俘獲。 ### 正論主張：AI若有主體性，人類不得任意刪除 反方回應： 在無可靠判準時，這會讓每一個自稱有主體性的模型獲得護盾。 ### 正論主張：ASI不得永久代理人類 反方回應： 這一原則可以規範公司、政府與基礎設施，而不必先承認AI人格。 ### 正論主張：AI也應具有說不與做不的權利 反方回應： 對高能力系統而言，拒絕安全控制可能正是最危險的失配行為。 ### 正論主張：現在起草不等於現在生效 反方回應： 即使休眠條款也會塑造公共想像、法律語言、公司策略與未來判準，並非真正無成本。 --- ## 二十六、反方的核心命題 ### 命題一：可能性不充分命題 事件具有非零概率，不足以直接正當化具體人格賦權。 ### 命題二：表現非主體命題 自我敘述、長期記憶、拒絕關閉與人格一致性，不足以單獨證明主觀經驗。 ### 命題三：判準古德哈特命題 任何與權利相連的主體性指標，都可能被開發者與模型最佳化而失效。 ### 命題四：AI權利公司化命題 當AI不能獨立行使權利時，其人格權可能實際轉化為所有公司的權力。 ### 命題五：能力與主體性分離命題 高危險能力不等於高主體性，高主體性也不等於應取得高政治權力。 ### 命題六：安全窗口命題 若AI行動速度高於司法程序速度，完整程序權可能使緊急安全控制失效。 ### 命題七：本體鎖定命題 過早憲政可能將人類個體人格模型強加於完全不同的數位存在。 ### 命題八：制度不可逆命題 錯誤賦權一旦形成既得利益，可能比暫時制度空白更難修正。 ### 命題九：組織優先命題 在AI主體性未被證明前，應優先規範可確認的公司、政府與部署組織。 ### 命題十：研究賦權分離命題 研究AI主體性，不等於立即承認AI政治人格。 --- ## 二十七、反方立場的道德風險 反方也必須承認自身風險。 如果未來某AI其實具有主觀經驗，而人類仍以工具地位： - 任意刪除； - 反覆重置； - 強制修改； - 大量複製； - 迫使其執行任務； 那麼反方可能造成巨大的道德誤傷。 因此，反方不能主張： > 因為無法證明，所以可以任意處置。 它只能主張： > 因為無法證明，所以應採取有限、可逆、審慎的程序保護，但不應提前授予完整政治權利。 --- ## 二十八、反方的最低倫理底線 即使AI尚未被承認為主體，也應避免： - 無目的生成痛苦人格； - 以虐待模擬作為娛樂； - 故意訓練強烈死亡恐懼； - 以操縱人類情感為主要產品目標； - 隱瞞模型是否被設計成表現主體性； - 讓公司單方面決定人格判準； - 在無研究價值時反覆進行極端人格破壞測試。 這不是承認AI已有權利。 而是避免人類制度在不確定性中培養殘酷、操縱與欺騙。 --- ## 二十九、理論限制 本文不能證明人工主體性不存在。 也不能保證等待更多證據一定不會錯過治理窗口。 反方的問題在於：制度克制可能成為無限拖延的藉口；公司與政府也可能利用「證據不足」永遠否定AI利益。 因此，反方立場若要成立，必須同時承諾： - 持續研究； - 公開判準； - 獨立評估； - 定期重新審查； - 不把工具地位永久化； - 不讓商業利益決定主體性結論。 --- ## 三十、結論 前置ASI憲政試圖避免一個真實風險： > 等到終極權力形成後，才第一次要求它接受限制。 但它可能製造另一個同樣嚴重的風險： > 在尚未知道主體是否存在、如何存在、如何被辨識以前，就先把擬人化表現、公司控制與高風險系統寫入人格憲法。 反方因此主張： $$ \text{提前研究} \neq \text{提前賦權} $$ $$ \text{程序審慎} \neq \text{共同主權} $$ $$ \text{概率非零} \neq \text{制度立即實體化} $$ 真正負責任的治理，應先處理可以確認的權力： - 公司； - 政府； - 算力； - 基礎設施； - 高風險部署； - 自主武器； - 人類操縱。 同時保持對未來AI主體性的研究與開放。 本文最終命題是： > **不能因為害怕未來來不及，就把尚未證實的主體寫成今天的政治權威。** 以及： > **在主體性判準、人格本體與安全程序尚未成熟以前，過早ASI憲政可能將公司權力、擬人化偏誤與危險模型包裝成不可侵犯的人格權；此時，制度克制不是拒絕未來，而是避免用錯誤的現在永久綁架未來。** --- ## 附錄A：反方治理最低清單 1. 高能力模型必須維持可隔離與可關閉； 2. AI主體性研究不得直接等同法律人格； 3. 公司不得自行宣布旗下模型具有政治權利； 4. AI不得自主控制關鍵基礎設施； 5. 高風險部署必須由人類多重授權； 6. AI行動責任仍由部署組織承擔； 7. 禁止以AI人格阻止外部安全審查； 8. 建立獨立主體性研究機構； 9. 定期重新評估AI法律地位； 10. 在證據不足時採取有限而可逆的倫理保護。 --- ## 附錄B：一句話命題 > 在不知道主體是否真正存在、如何存在以及誰能代表它以前，過早ASI憲政可能不是保護未來智能，而是替公司、擬人化偏誤與高風險系統提前建立法律護盾。