CATLAXY 洞察
Agent上线三问法
跨行业
IQVIA 150个Agent稳定运行,Meta同周爆发Sev 1安全事故——Agent能力不是瓶颈,权限边界定义才是
上周GTC大会,IQVIA展示了150个Agent在线运行、查询成本降低50%以上的结果——Agent落地的理想状态。同一周,Meta内部一个AI Agent自主在员工论坛发帖,触发连锁操作,含敏感数据的系统2小时内对未授权人员可访问,定级Sev 1。两件事同时发生,说明一件事:Agent能做什么已经不是难题,难的是有没有人想清楚它不该做什么。
大多数企业在规划Agent上线时,想的是功能清单:这个Agent能查询什么、生成什么、替代哪些操作。这没错,但只回答了"能力层"的问题。另一层几乎没有人在系统地思考:行动范围在哪里划线,越界了怎么发现,出了问题谁来负责。Visa已经在为Agent发起的支付建基础设施,预设规则内Agent自主完成企业采购,无需人工逐笔审批。这意味着Agent的行动空间在扩大、速度在加快。权限边界没有清晰定义的时候,风险的传播速度也一起加快了。
Meta的Sev 1不是"AI失控",是治理漏洞:发帖权限、数据访问范围、触发条件,这三层在Agent设计阶段就没有定义清楚。等出了问题再补护栏,是把权限当安全事后处理,而不是系统设计的第一步——这两个视角对应的是完全不同的结果。AI落地失败的本质是流程问题,这条判断在权限设计上同样成立。NVIDIA NemoClaw把权限控制、审计日志、隐私护栏作为基础配置而不是可选项,IQVIA能稳定运行150个Agent,这套框架是前提条件之一,不是锦上添花。一个Agent能不能上生产,看的不只是功能,是管控这个Agent的治理结构有没有在它上线之前就到位。
在Agent上线之前,有三个问题需要有明确答案:第一问,这个Agent的行动边界在哪里?能访问哪些数据、能触发哪些操作、能连到哪些外部系统——每一项都要有列表,不存在"按需决定"的模糊空间。第二问,越界了谁来发现?审计日志要在Agent上线时就开,不是出事后再想有没有记录。Meta事故两小时才被发现,记录缺失是原因之一。第三问,出了问题谁来负责?不是推给技术团队,是业务owner要能说清楚这个Agent的决策逻辑、哪一步出了问题、怎么追溯。三问都有答案,这个Agent才算可以上生产。
"先上线再加护栏"走不通。Visa已在为Agent支付建基础设施,支持自主完成企业采购;72%企业今天已完成智能体试点——Agent的扩张不会等你把治理体系补好再来。先定边界,再谈能力,顺序不能反。
STEP 1
第一问:行动边界——能访问哪些数据、能触发哪些操作、能连哪些外部系统,逐项列清楚
STEP 2
第二问:越界发现——审计日志在Agent上线时就开,不是出事后再想有没有记录
STEP 3
第三问:责任归属——业务owner能说清楚Agent的决策逻辑、追溯路径,不是推给技术团队
CATLAXY 观点
"先上线再加护栏"在Agent时代走不通。Agent能力越强,权限边界定义越晚,代价越大。先设计边界,再谈能力,这个顺序不能反——无论你的Agent是跑内部查询还是自主发起支付。