AI不再需要人類怎麼辦？我們需要測一個關鍵指標了
AI不再需要人類怎麼辦？我們需要測一個關鍵指標了
在《人類簡史》中，尤瓦爾·赫拉利用小麥解釋農業革命。人類馴化了小麥，小麥也重新塑造了人類。為了讓小麥生長，我們開墾土地、修建灌溉系統、定居下來，把大量時間投入播種和收割。幾千年後，小麥成為世界上分佈最廣的作物之一。小麥的擴散來自人類持續的選擇、種植和傳播，這套選擇機制已經足以改變兩個物種的命運。[1]
不知不覺中，人工智慧與人類正在形成一種相似的關係。我們建設數據中心，製造晶元，供給電力，生產訓練數據，修正模型輸出，再把AI接入千行百業。越受人們歡迎的人工智慧系統，往往會獲得更多數據、算力和資本，隨後進入更多場景。人的採用行為本身，正在幫助它不斷擴展，像赫拉利文字中的小麥一樣。
不過，小麥的大規模繁衍始終依賴人類。它無法修理拖拉機，無法建設電網，也無法重新組織農業生產。AI的發展方向則可能觸及另一條邊界：一個被人類創造和培育的系統，有沒有可能逐步脫離人類，獲得維持自身存在所需要的能力？
01
AI有多強和它有多獨立是兩回事
機器自我複製已有很長的研究歷史。馮·諾依曼建立了自我複製自動機的形式理論，機器人研究也長期討論機器如何從物理材料出發完成自我複製。
[2][3]
今天發生的變化，是大模型、智能體、機器人、雲計算和自動化製造正在逐漸匯合。過去分散在不同領域的問題，開始成為同一套系統里的問題。
過去幾年，AI安全研究已經開始靠近這個問題。METR研究自主複製與適應能力，關注AI智能體能否獲取資源、建立副本並持續運行。
[4]
Google DeepMind把自主複製能力納入前沿模型危險能力評估。
[5]
2025年的RepliBench進一步把自主複製拆成獲取資源、取得模型權重、部署到計算資源以及長期維持運行等任務。研究中的前沿模型已經能夠完成不少局部環節，但整條鏈路仍然無法穩定閉合。
[6]
一個模型即使能把自己複製到許多雲伺服器，仍然依賴人類維持雲平台、電網、晶元製造和硬體維修。軟體可以複製，支撐軟體長期存在的物理世界仍然由人類組織。因此，我更關心另一個問題：AI什麼時候能夠維持自身再生產所需要的條件？
我把人類不再是AI持續存在和再生產的必要條件的那條邊界，稱為「脫離人類依賴閾值」。這個閾值與大模型在考試中得到多少分關係不大，也不要求機器擁有意識。它描述的是一個系統工程事實：維持AI持續運行的因果鏈是否已經在人類之外閉合。
這裏需要區分兩個經常被混在一起的問題。一個問題是AI有多強，另一個問題是AI對人類還有多深的依賴。前者測量能力，後者測量系統獨立性。一個推理能力很強的模型，可能仍然離不開數據中心裏的技術人員。由多個專業模型、智能體和機器人組成的系統，也可能在沒有達到所謂通用人工智慧
（AGI）
之前，就已經接管大量運行和維護工作。智能程度和獨立程度是兩條不同的軸。
跨過脫離人類依賴閾值需要一整套能力。系統要能獲得算力和能源，發現並修復基礎設施故障，協調機器人完成物理維護，管理關鍵供應鏈，並在硬體失效之後製造替代設備。模型本身還要能夠生成、測試和部署後繼系統。真正獲得獨立性的單位因此很可能是一套生態，由模型、智能體、機器人、工廠、網路和能源系統共同構成。
具身智能使這種可能性更值得關注。純軟體智能的行動邊界主要停留在數字世界。機器人進一步進入倉儲、製造、維修和能源設施之後，AI開始觸及維持自身所需的現實基礎設施。
以一個大型AI數據中心為例，軟體故障需要工程師處理，伺服器和冷卻設備需要維護，電力供應需要外部系統保障，新的GPU和伺服器還要由完整的工業體系生產。隨著AI編程智能體進入運維，部分軟體問題可以自動處理；隨著機器人進入機房，部分硬體更換也可能被自動化。再往前走，能源調度、物流補給和設備採購也可能越來越多由智能系統完成。
依賴網路中的人類節點由此逐漸減少，剩餘節點越來越集中在少數關鍵環節。多個能力有限但分工明確的系統，只要能夠覆蓋軟體運行、物理維護、資源調度和生產補給，也可能形成相當高程度的自主閉環，而不必等待一個無所不能的超級模型出現。
02
當人和AI的依賴關係倒轉
人與AI的關係已經進入演化研究的視野。Pedreschi等人把人類與AI的共同演化描述為一個持續反饋過程：人的選擇產生數據，數據塑造演算法，演算法隨後影響人的選擇。
[7]
Rainey和Hochberg進一步提出，深度相互依賴可能讓人類與AI形成新的演化個體。
[8]
這種關係未必始終由人主導。Müller、Steels和Szathmáry在論文中區分了兩種模式，一種由人類設定選擇標準，另一種的選擇壓力更多來自開放環境。
[9]
我認為還需要追問：人類對於AI持續存在究竟有多重要？
今天，AI對人類的依賴很深，而社會對AI的依賴正在快速上升。未來，自動化會繼續減少AI系統對人類勞動、判斷和維護的需求；與此同時，人類把越來越多認知和組織功能交給AI。兩條趨勢持續推進之後，人和AI之間可能出現依賴關係倒轉：人類越來越依賴AI，而AI對人的直接依賴越來越低。
《黑客帝國》和《終結者》都曾把機器與人的支配關係倒轉搬上銀幕。現實中，我們未必需要等到機器反抗人類，才面對失去控制的危險。模型生成更多代碼，智能體接管更多運維任務，機器人承擔更多維修工作，自動化工廠提高無人化水平。每一步都有提高效率的理由，人卻可能在這個過程中逐漸退出維持系統運行的關鍵環節。
當生產和公共服務越來越依賴AI時，停止一套系統的運行，可能同時意味著中斷人們賴以生活的服務。而如果這套系統已經能夠自行獲取資源、修復故障和擴展，人類原先通過限制資源和維護來干預它的手段，也可能不再有效。即使沒有機器的敵意，一次目標設定的偏差或運行錯誤，也可能變得難以糾正。
控制權和必要性是兩個不同維度。一個複雜系統可能已經很難由單個人完全理解，同時仍然高度依賴人類維護。也可能出現另一種結構：系統受到規則和制度約束，但日常運行和再生產已經只需要極少的人類參与。如果一個AI生態能夠在能源、算力、維修、製造和擴展上完全自我維持，那麼紙面上的人類監督很容易失去實際意義。
03
人的決定權需要有現實基礎
我們一直在測AI離人類的能力還有多遠，卻很少測AI離人類的依賴還有多遠。真正需要長期觀察的，不只是模型會做多少任務，而是人類從這套系統中退出之後，它還能維持多少功能、持續多長時間，並在多大程度上恢復自身。
最直接的方法是畫出AI系統的依賴圖，識別其中仍然必須由人完成的節點。電力、算力、網路、維修、製造、物流和物理操作都可以進入這張圖。進一步可以定義一個「最小人類支持集」，也就是維持整個AI生態持續運行所需要的最少人類功能。這個集合越小，系統對人的結構性依賴越低。它隨時間縮小的速度，也可以成為一個值得長期跟蹤的指標。
但識別這些節點，不應只是為了繼續用自動化替代它們。對於能夠影響能源、算力、製造和大規模物理行動的AI系統，一些關鍵依賴點需要被有意識地保留下來。關鍵算力的大規模擴展、後繼系統進入現實環境以及影響基礎設施安全的重要操作，都需要保留真正有效的人類授權和接管能力。
今天常說的「人在迴路中」
（human in the loop）
，很多時候只是讓人在流程末端確認機器已經作出的決定。真正有意義的人類控制，需要讓系統在關鍵環節持續需要人的參与，讓人擁有改變系統狀態和方向的實際能力。從工程上看，我們不應該把完全自主閉環當成所有AI系統追求的終點。效率優化可以繼續，自動化程度也可以繼續提高，但最小人類支持集不能消失。
今天每一次把軟體運維、設備維護或者資源調度交給AI，都在重新畫那張依賴圖。未來的AI治理除了評估模型能力和行為風險，也應該審查一個系統正在取消哪些人類依賴，哪些關鍵節點必須長期保留，以及人類在緊急情況下能否真正接管。
技術可以大幅降低系統對人的操作性依賴，社會需要同時強化人的決定權。在教育、醫療、公共治理和關鍵基礎設施中，這一點尤其重要，因為這些系統直接影響人的機會、權利和生活。AI可以提高決策和執行效率，但社會必須保留真正能夠介入和改變結果的人。
人的主體性與AI的結構性依賴，在這裡是同一個問題的兩面。前者決定人有沒有最終決定權，後者決定這種決定權有沒有現實基礎。這條邊界應該在AI真正接近完全自主之前就寫進系統設計和治理規則。
赫拉利筆下的小麥取得了巨大的演化成功，它的繁衍始終依靠人類社會提供基礎設施。AI可能沿著另一條路徑發展。AI有多聰明當然重要，AI在多大程度上依賴人類同樣重要。前一個問題告訴我們機器能夠做什麼，后一個問題決定人在未來技術系統中還處於什麼位置。
*以上內容系網友指點山河自行轉載自知識分子，該文僅代表原作者觀點和態度。yeeyi號系信息發布平台，僅提供信息存儲空間服務，不代表贊同其觀點和對其真實性負責。如果對文章或圖片/視頻版權有異議，請郵件至我們反饋，平台將會及時處理。