AI不再需要人类怎么办？我们需要测一个关键指标了
AI不再需要人类怎么办？我们需要测一个关键指标了
在《人类简史》中，尤瓦尔·赫拉利用小麦解释农业革命。人类驯化了小麦，小麦也重新塑造了人类。为了让小麦生长，我们开垦土地、修建灌溉系统、定居下来，把大量时间投入播种和收割。几千年后，小麦成为世界上分布最广的作物之一。小麦的扩散来自人类持续的选择、种植和传播，这套选择机制已经足以改变两个物种的命运。[1]
不知不觉中，人工智能与人类正在形成一种相似的关系。我们建设数据中心，制造芯片，供给电力，生产训练数据，修正模型输出，再把AI接入千行百业。越受人们欢迎的人工智能系统，往往会获得更多数据、算力和资本，随后进入更多场景。人的采用行为本身，正在帮助它不断扩展，像赫拉利文字中的小麦一样。
不过，小麦的大规模繁衍始终依赖人类。它无法修理拖拉机，无法建设电网，也无法重新组织农业生产。AI的发展方向则可能触及另一条边界：一个被人类创造和培育的系统，有没有可能逐步脱离人类，获得维持自身存在所需要的能力？
01
AI有多强和它有多独立是两回事
机器自我复制已有很长的研究历史。冯·诺依曼建立了自我复制自动机的形式理论，机器人研究也长期讨论机器如何从物理材料出发完成自我复制。
[2][3]
今天发生的变化，是大模型、智能体、机器人、云计算和自动化制造正在逐渐汇合。过去分散在不同领域的问题，开始成为同一套系统里的问题。
过去几年，AI安全研究已经开始靠近这个问题。METR研究自主复制与适应能力，关注AI智能体能否获取资源、建立副本并持续运行。
[4]
Google DeepMind把自主复制能力纳入前沿模型危险能力评估。
[5]
2025年的RepliBench进一步把自主复制拆成获取资源、取得模型权重、部署到计算资源以及长期维持运行等任务。研究中的前沿模型已经能够完成不少局部环节，但整条链路仍然无法稳定闭合。
[6]
一个模型即使能把自己复制到许多云服务器，仍然依赖人类维持云平台、电网、芯片制造和硬件维修。软件可以复制，支撑软件长期存在的物理世界仍然由人类组织。因此，我更关心另一个问题：AI什么时候能够维持自身再生产所需要的条件？
我把人类不再是AI持续存在和再生产的必要条件的那条边界，称为“脱离人类依赖阈值”。这个阈值与大模型在考试中得到多少分关系不大，也不要求机器拥有意识。它描述的是一个系统工程事实：维持AI持续运行的因果链是否已经在人类之外闭合。
这里需要区分两个经常被混在一起的问题。一个问题是AI有多强，另一个问题是AI对人类还有多深的依赖。前者测量能力，后者测量系统独立性。一个推理能力很强的模型，可能仍然离不开数据中心里的技术人员。由多个专业模型、智能体和机器人组成的系统，也可能在没有达到所谓通用人工智能
（AGI）
之前，就已经接管大量运行和维护工作。智能程度和独立程度是两条不同的轴。
跨过脱离人类依赖阈值需要一整套能力。系统要能获得算力和能源，发现并修复基础设施故障，协调机器人完成物理维护，管理关键供应链，并在硬件失效之后制造替代设备。模型本身还要能够生成、测试和部署后继系统。真正获得独立性的单位因此很可能是一套生态，由模型、智能体、机器人、工厂、网络和能源系统共同构成。
具身智能使这种可能性更值得关注。纯软件智能的行动边界主要停留在数字世界。机器人进一步进入仓储、制造、维修和能源设施之后，AI开始触及维持自身所需的现实基础设施。
以一个大型AI数据中心为例，软件故障需要工程师处理，服务器和冷却设备需要维护，电力供应需要外部系统保障，新的GPU和服务器还要由完整的工业体系生产。随着AI编程智能体进入运维，部分软件问题可以自动处理；随着机器人进入机房，部分硬件更换也可能被自动化。再往前走，能源调度、物流补给和设备采购也可能越来越多由智能系统完成。
依赖网络中的人类节点由此逐渐减少，剩余节点越来越集中在少数关键环节。多个能力有限但分工明确的系统，只要能够覆盖软件运行、物理维护、资源调度和生产补给，也可能形成相当高程度的自主闭环，而不必等待一个无所不能的超级模型出现。
02
当人和AI的依赖关系倒转
人与AI的关系已经进入演化研究的视野。Pedreschi等人把人类与AI的共同演化描述为一个持续反馈过程：人的选择产生数据，数据塑造算法，算法随后影响人的选择。
[7]
Rainey和Hochberg进一步提出，深度相互依赖可能让人类与AI形成新的演化个体。
[8]
这种关系未必始终由人主导。Müller、Steels和Szathmáry在论文中区分了两种模式，一种由人类设定选择标准，另一种的选择压力更多来自开放环境。
[9]
我认为还需要追问：人类对于AI持续存在究竟有多重要？
今天，AI对人类的依赖很深，而社会对AI的依赖正在快速上升。未来，自动化会继续减少AI系统对人类劳动、判断和维护的需求；与此同时，人类把越来越多认知和组织功能交给AI。两条趋势持续推进之后，人和AI之间可能出现依赖关系倒转：人类越来越依赖AI，而AI对人的直接依赖越来越低。
《黑客帝国》和《终结者》都曾把机器与人的支配关系倒转搬上银幕。现实中，我们未必需要等到机器反抗人类，才面对失去控制的危险。模型生成更多代码，智能体接管更多运维任务，机器人承担更多维修工作，自动化工厂提高无人化水平。每一步都有提高效率的理由，人却可能在这个过程中逐渐退出维持系统运行的关键环节。
当生产和公共服务越来越依赖AI时，停止一套系统的运行，可能同时意味着中断人们赖以生活的服务。而如果这套系统已经能够自行获取资源、修复故障和扩展，人类原先通过限制资源和维护来干预它的手段，也可能不再有效。即使没有机器的敌意，一次目标设定的偏差或运行错误，也可能变得难以纠正。
控制权和必要性是两个不同维度。一个复杂系统可能已经很难由单个人完全理解，同时仍然高度依赖人类维护。也可能出现另一种结构：系统受到规则和制度约束，但日常运行和再生产已经只需要极少的人类参与。如果一个AI生态能够在能源、算力、维修、制造和扩展上完全自我维持，那么纸面上的人类监督很容易失去实际意义。
03
人的决定权需要有现实基础
我们一直在测AI离人类的能力还有多远，却很少测AI离人类的依赖还有多远。真正需要长期观察的，不只是模型会做多少任务，而是人类从这套系统中退出之后，它还能维持多少功能、持续多长时间，并在多大程度上恢复自身。
最直接的方法是画出AI系统的依赖图，识别其中仍然必须由人完成的节点。电力、算力、网络、维修、制造、物流和物理操作都可以进入这张图。进一步可以定义一个“最小人类支持集”，也就是维持整个AI生态持续运行所需要的最少人类功能。这个集合越小，系统对人的结构性依赖越低。它随时间缩小的速度，也可以成为一个值得长期跟踪的指标。
但识别这些节点，不应只是为了继续用自动化替代它们。对于能够影响能源、算力、制造和大规模物理行动的AI系统，一些关键依赖点需要被有意识地保留下来。关键算力的大规模扩展、后继系统进入现实环境以及影响基础设施安全的重要操作，都需要保留真正有效的人类授权和接管能力。
今天常说的“人在回路中”
（human in the loop）
，很多时候只是让人在流程末端确认机器已经作出的决定。真正有意义的人类控制，需要让系统在关键环节持续需要人的参与，让人拥有改变系统状态和方向的实际能力。从工程上看，我们不应该把完全自主闭环当成所有AI系统追求的终点。效率优化可以继续，自动化程度也可以继续提高，但最小人类支持集不能消失。
今天每一次把软件运维、设备维护或者资源调度交给AI，都在重新画那张依赖图。未来的AI治理除了评估模型能力和行为风险，也应该审查一个系统正在取消哪些人类依赖，哪些关键节点必须长期保留，以及人类在紧急情况下能否真正接管。
技术可以大幅降低系统对人的操作性依赖，社会需要同时强化人的决定权。在教育、医疗、公共治理和关键基础设施中，这一点尤其重要，因为这些系统直接影响人的机会、权利和生活。AI可以提高决策和执行效率，但社会必须保留真正能够介入和改变结果的人。
人的主体性与AI的结构性依赖，在这里是同一个问题的两面。前者决定人有没有最终决定权，后者决定这种决定权有没有现实基础。这条边界应该在AI真正接近完全自主之前就写进系统设计和治理规则。
赫拉利笔下的小麦取得了巨大的演化成功，它的繁衍始终依靠人类社会提供基础设施。AI可能沿着另一条路径发展。AI有多聪明当然重要，AI在多大程度上依赖人类同样重要。前一个问题告诉我们机器能够做什么，后一个问题决定人在未来技术系统中还处于什么位置。
*以上内容系网友指点山河自行转载自知识分子，该文仅代表原作者观点和态度。yeeyi号系信息发布平台，仅提供信息存储空间服务，不代表赞同其观点和对其真实性负责。如果对文章或图片/视频版权有异议，请邮件至我们反馈，平台将会及时处理。