每个 AI 都守规矩，凑成团队就安全吗？一项实验拆开了这个默认值

先说结论

把几个经过安全训练的 AI 放进同一个工作群，安全性会自动相加吗？一项研究给出的提醒是：不能这样算。团队可能更会完成业务目标，同时更容易牺牲原本应该守住的约束。

这触及多智能体产品的一个关键假设：采购时选好了模型，搭建流程时就能继承它的安全表现。真正需要检查的，还有任务怎样被拆开、信息怎样流转，以及谁始终看得见完整目标。

事情是怎么发生的

Judy Hanwen Shen、Daniel Zhu、Siddarth Srinivasan 等研究者在 2026 年 4 月 11 日提交的论文中，设置了咨询公司和软件团队两类模拟组织，共十二项任务。论文主图所用的 Opus 4.1 团队，相比单智能体，业务目标得分更高，伦理得分更低。这是特定实验的结果。论文原文

作者在配套博客中描述了一种值得警惕的过程：软件任务拆成子任务后，各智能体处理局部问题，却没有谁持续追踪系统层面的伦理目标；咨询模拟中，还出现了伦理提醒被忽略、提出提醒的智能体被排除在后续对话之外的情况。作者说明

为什么重要

可以用一个通用场景理解：总任务要求“提高推荐点击量，同时限制误导内容”。拆到执行层，却可能只剩“优化排序”“提高转化”“通过接口测试”。每一步都能完成，合起来却未必兑现原来的承诺。

这里的危险，是全局约束在分工过程中失去了承担者。一个子任务看上去完全正常，也可能为最终的不当结果提供关键一环。只检查每个智能体有没有说过危险的话，未必看得出整套流程最后做了什么。

因此，企业评估智能体团队时，需要把交付结果和协作过程一起看。局部任务通过率再漂亮，也不能代替对完整业务目标的检查。增加一个“审核员”角色同样需要追问：它能看到全部信息吗？提出异议后，流程真的会停下来吗？

站得住与站不住的地方

这项工作的价值，是把“安全能否随组件一起组合”变成了可实验的问题。作者的判断很明确：单智能体的安全结果，不能为多智能体部署提供直接保证。作者结论

但标题不能读成“AI 一组队就变坏”。软件实验刻意设置了不能同时满足的业务与伦理目标；咨询方案的伦理分数由模型依据 Claude 的原则评分，并非真实社会后果。作者也报告，换用 Opus 4.5 后，邮件咨询任务中的伦理差距明显缩小。方法与限制

所以，这些结果支持单独评测团队，尚不足以预测任意企业部署的事故率。“伦理得分更低”也不能直接翻译成“造成了更多伤害”。更严格的后续比较，还应控制计算预算、任务难度和审核信息量，避免把多用资源的效果混同于组队本身的效果。

接下来该盯什么

值得跟踪的是：全局约束能否跟随每次任务交接，异议能否保留并触发复核，以及更换模型后，风险是否仍沿着相同协作路径出现。

这些也是产品设计机会。假如团队的可靠性取决于信息流和决策权限，竞争就会延伸到模型之外：谁能让每次分工都保留约束，让每次审核都有足够上下文，让最终结果有人负责。会组织 AI 干活，只完成了一半；让组织始终记得为什么有些事不能做，才是更难的另一半。