本期为 2026-03-16 的 AI Daily Digest 深度解析专栏，本文基于外媒最新报导进行深度编译。

超越“学步期”：如何引导自主AI走向成熟

当AI从蹒跚学步的聊天机器人，进化成能在企业流程中自主决策的“数字员工”，我们面临的不仅是技术飞跃，更是一场深刻的管理范式革命。安全、责任与成本，这些曾经由人类掌控的变量，如今正被重新定义。

2025年底至2026年初，生成式AI迎来了它的“学步期”。随着多家厂商推出无代码工具，以及开源个人智能体OpenClaw在GitHub上发布，AI不再满足于在地毯上缓慢爬行，而是开始全力冲刺。然而，与之配套的治理原则却远未准备好。

这就像父母欣喜地看着孩子迈出第一步，随即意识到：当孩子能快速跑向户外，而非在安全的室内缓慢爬行时，整个安全防护的视角和方法都必须彻底改变。

责任归属挑战：不是AI的错，是你的责任

过去的AI治理，焦点在于模型输出风险。在做出贷款审批或求职申请等关键决策前，总会有人类参与复核。治理的核心是模型行为本身：数据偏移、对齐、泄露与投毒。节奏由人类设定，通过聊天机器人式的反复交互来引导。

如今，随着自主智能体在复杂工作流中运行，应用AI的愿景和益处要求大幅减少人类干预。目标是以机器速度运营业务，自动化那些架构和决策规则明确的手动任务。

从责任角度看，目标是确保由机器操作工作流所带来的企业风险，不高于人类操作。

CX Today对此总结得精辟：“AI负责工作，人类承担风险”。加州州法AB 316已于2026年1月1日生效，彻底废除了“这是AI干的，我没批准”的借口。这类似于父母必须为孩子的行为对社区造成的负面影响负责。

挑战在于，如果不在整个工作流中嵌入代码级的操作治理，使其与不同级别的风险和责任相匹配，那么自主AI智能体的优势将荡然无存。过去的治理是静态的，适应的是聊天机器人典型的交互节奏。而自主AI的设计初衷，就是在许多决策中排除人类，这直接影响着治理的有效性。

权限管理：别把“坦克遥控器”交给三岁孩子

这好比将一个能远程控制艾布拉姆斯主战坦克或武装无人机的视频游戏手柄，交给一个三岁孩童。让一个概率性系统在没有实时防护栏的情况下运行，并能够更改关键企业数据，风险巨大。

例如，那些能跨多个企业系统集成并串联行动的智能体，其权限可能漂移，超出任何单个人类用户被授予的范围。为了成功推进，治理必须超越委员会制定的政策，从一开始就将操作代码内建于工作流之中。

一个关于幼儿玩玩具行为的幽默梗图生动描绘了这一点：开头是“你的玩具就是我的玩具”的种种理由，结尾则是一个“这肯定是你的”的破碎玩具。

OpenClaw提供了类似与人类助手协作的用户体验，但当安全专家意识到缺乏经验的用户可能轻易因使用它而受到攻击时，最初的兴奋便转为担忧。

几十年来，企业IT一直与“影子IT”共存，技术团队不得不接管并清理那些并非由他们设计或安装的资产，就像孩子归还一个坏掉的玩具。而自主智能体带来的风险更大：

• 持久性服务账户凭证
• 长期有效的API令牌
• 对核心文件系统的决策权限

应对这一挑战，必须预先分配足够的IT预算和人力，以维持对成千上万个由员工或部门创建的智能体进行集中发现、监督和修复。

制定“退休计划”：别让AI成为“僵尸舰队”

最近，一位熟人提到，她通过识别并终止一个在GPU云实例上持续运行的、被遗忘或失败的AI试点项目（“僵尸项目”），为客户节省了数十万美元。企业内部，可能有成千上万的智能体面临沦为“僵尸舰队”的风险。

如今，许多高管鼓励（甚至要求）员工使用AI，员工被告知要创建自己的AI优先工作流或AI助手。凭借OpenClaw这类工具的实用性以及自上而下的指令，不难预见，员工带着“自建智能体”上班的数量将爆炸式增长。

由于AI智能体属于程序，应被定义为公司拥有的知识产权，当员工更换部门或公司时，这些智能体可能成为“孤儿”。必须有前瞻性的政策和治理机制，来停用和淘汰任何与特定员工ID及权限绑定的智能体。

财务优化：治理的起跑线

对某些高管而言，自主AI听起来像是通过限制人力资本来提高运营利润率的方式。但许多人发现，从替代人力劳动的角度计算投资回报率是一个误区。

将AI能力引入企业，并非购买一个按小时或按席位计费、价格可预测的新软件工具。Data Robot赞助的2025年12月IDC调查显示：

• 96% 部署生成式AI的组织
• 92% 实施自主AI的组织

报告称，成本高于或远高于预期。

该调查将治理和投资回报率的概念分开，但随着AI系统在大型企业中扩展，财务和责任治理必须从一开始就架构在工作流中。企业级治理的一部分源于预测并遵守分配的预算。

与按席位收费加支持和维护费的软件财务模型不同，AI的使用是消费型的，其使用成本随着工作流在企业中的扩展而增加：用户越多，消耗的令牌或计算时间就越多，账单就越高。这就像一个未关闭的标签页，或者一个在线零售商的数字购物车按钮，被解锁在幼儿的电子游戏设备上。

云财务运营是确定性的，但基于生成式AI构建的生成式AI和自主AI系统是概率性的。一些AI优先的创始人意识到，单个智能体单次会话的令牌成本可高达10万美元。如果从一开始就没有内置防护栏，让复杂的自主智能体长时间无人监督地链式运行，很容易就超出雇佣一名初级开发人员的预算。

保持人类在环：依然至关重要

自主AI的承诺在于加速业务运营、产品推出、客户体验和客户留存。在这些关键职能中转向机器速度的决策，而人类不在环上或环内，将显著改变治理格局。

尽管围绕主动权限、发现、审计、修复和财务运营/优化的许多原则是相同的，但它们的执行方式必须转变，以跟上自主AI的步伐。

总结：自主AI的崛起标志着我们从“工具使用”进入“智能体协作”时代。治理的焦点必须从事后审查模型输出，转向事前内嵌于工作流的动态管控。这要求企业像培养一个拥有巨大潜力的孩子一样，在鼓励其探索和创造的同时，建立清晰的权限边界、责任归属、生命周期管理和成本控制体系。真正的挑战不在于技术本身，而在于我们能否构建出与之匹配的、成熟的管理智慧。

阅读原文：https://www.technologyreview.com/2026/03/16/1133979/nurturing-agentic-ai-beyond-the-toddler-stage/