「AI 不在法律真空里」——Lina Khan 把安全争论拉回了责任

先说结论

这周最值得记住的，不是又一位 AI 掌门人谈失控，而是美国联邦贸易委员会前主席 Lina Khan 的一句纠偏：AI 并不处在法律真空里。

她的核心判断很简单。即使国会还没有写出一部完美的 AI 法，企业仍然受消费者保护、反歧视、反垄断和产品责任等现行制度约束。讨论新监管当然必要，但不能让“技术太新”变成延后问责的通行证。

事情是怎么发生的

9 月 18 日，《大西洋月刊》发布了对 Khan 的现场访谈。面对模型越权行动、黑箱和灾难风险，她没有否认新能力可能带来新问题。她反对的是另一种偷换：因为风险前所未见，所以现有法律仿佛全部失效，责任只能等新框架建成后再说。

Khan 提醒，企业如果已经知道产品可能危险、未经充分测试或存在缺陷，仍然继续发布，执法者并非天然束手无策。真正要问的，是公司知道了什么、何时知道、采取了什么措施，以及哪些损害本来可以合理预见。模型有没有“意图”，不应遮住人的决策链。

为什么重要

这把问题从“机器会不会作恶”移回“组织有没有尽责”。两种问法会产生完全不同的治理路线。前一种容易把注意力锁在模型内部：看权重、测能力、猜目标。后一种还会检查训练记录、风险报告、上线审批、事故响应和管理层激励。

这也改变了举证责任。企业不能一边宣称系统复杂到连开发者都无法预测，一边又把这种不可预测性当免责理由。对高风险系统来说，不确定性本身就应提高测试、隔离、披露和停机要求，而不是降低要求。

站得住与站不住的地方

Khan 站得住的地方，是她拒绝被产业提供的词汇表牵着走。安全承诺、第三方评测和内嵌监督都可以有用，但她强调，如果企业只是自愿配合、违规没有后果，这些机制也可能只是把问责包装成流程。先执行现有规则，至少能阻止“等专门立法”成为无限期缓冲带。

但这套判断也有边界。她证明了现有法律不能被一笔勾销，却没有证明它们足以覆盖跨境扩散、通用模型被二次改造，或低概率但极高后果的风险。模型做出越权行为时，公司知道或理应知道什么，究竟在何种条件下构成法律上的责任，访谈提出了问题，却没有给出判例或清晰门槛。Khan 自己也指出，更现实的障碍是政府技术能力被削弱、公众与实验室之间信息不对称。法律在纸面上适用，不等于执法者拿得到内部证据。

接下来该盯什么

接下来不要只看又成立了多少安全委员会，而要看三件具体的事：监管者能否强制取得训练、测试和事故材料；企业明知风险后继续部署，会不会产生真实法律后果；新设审计机制能否公开方法、利益关系和异议。

AI 当然可能需要新法律。但在新法律到来之前，最危险的默认值不是规则不够先进，而是所有人都假装旧规则已经不存在。