企业 AI 交付治理
AI 一次改了 1721 行代码
我却想到了企业里的交付难题
AI 交东西越来越快，企业检查这些东西的速度却没快多少。
林万劲的AI思考 / 2026.08 / 约 2200 字
我这两天连着看了三条消息。
第一条来自 GitHub。
开发者让编码 Agent 完成一个新功能。几分钟后，Agent 交回了 1721 行代码。数据结构、接口、页面、测试，全塞在一次改动里。
代码能跑，功能也在。麻烦落到了审查的人头上。
图源 GitHub Blog。截图展示一次 Pull Request 的改动规模快速增长。
这么大的改动，从哪里开始看，哪一段改错了会影响什么，应该找谁确认，光把这些事情弄明白就要花不少时间。GitHub 后来把它拆成四个可以分别审查的改动，先处理数据，再接接口，随后接通各部分，最后处理界面。
我看到 1721 这个数字时，有点熟悉。
企业里的 AI 项目经常也会走到这一步。AI 一次做得太完整，人反倒不知道该从哪里看。
让 AI 写一份十页的方案，负责人还愿意逐段改。一次交来五十页，很多人的第一反应是转发到群里，等别人先看。
以前我们担心模型做不出来。回答不准，流程跑不通，做出来的东西还不如人工。这两年，AI 已经能写方案、改代码、回复客户、分析经营数据，还能调用系统执行任务。它交东西越来越快，企业检查这些东西的速度却没快多少。
AI 省下的生产时间，最后变成了人的审核时间。有时东西太多，没人真的看完，审核也就成了点一下同意。
01
三条消息指向了同一个问题
第二条消息来自欧盟。
8 月 2 日，欧盟《人工智能法案》的一批透明度要求开始执行。我特意去看了欧盟委员会的原始说明，范围比不少标题写得窄。它主要覆盖深度伪造、涉及公共利益的部分 AI 生成文本，以及用户与聊天机器人交互等场景，并没有把所有 AI 内容都纳入强制标注。
这条规则依然改变了一个习惯。
以前，企业很少认真记录 AI 在一份结果里参与了多少。大家关心东西有没有做完，好不好用。现在还得继续往下问，AI 用了哪些资料，谁检查过，对外要不要说明，出了问题谁来处理。
AI 的参与过程，开始变成产品责任的一部分。
图源 European Commission。欧盟开始把 AI 参与过程纳入产品透明度要求。
第三条消息更有火药味。
8 月 3 日，Palantir CEO Alex Karp 在季度股东信和相关表态里批评前沿模型公司。他认为这些公司可能逐步拿走企业的数据、提示词、任务编排和业务上下文，甚至用了占有生产资料这样很重的说法。
Palantir 本身就在卖企业 AI，这番话当然带着自己的生意立场。我不完全认同他的判断，不过他提到的几样东西很具体，也确实会在企业每天使用 AI 的过程中产生。
三件事挨着看，我脑子里反复出现一个词，AI 交付治理。
图源 TechCrunch。图片为 Palantir CEO Alex Karp。
AI 交付治理
可审查 AI 交出来的东西能不能看懂。
可控制 关键资料和判断标准能不能留在企业手里。
可追责 出了问题以后，过程能不能查清。
这个词听起来有点硬，落到工作里却很普通。
我以前写企业 AI 项目评审，通常会问五个问题。现状清不清楚，值不值得做，技术能不能实现，项目能留下什么，组织能不能接得住。
现在我想再加一个。
核心问题
AI 交出来以后，谁敢签字。
02
先让负责的人看得懂
GitHub 拆大改动的办法，很适合搬到企业 AI 项目里。
一份 AI 生成的经营方案，可以拆成事实、假设、判断和行动。事实交给数据负责人看，业务假设交给业务负责人看，行动计划交给真正承担结果的人看。
一个客服 Agent 也可以分着做。先识别客户的问题，再查询订单和规则，接着生成回复建议，最后由人确认是否退款、补偿或者外发。
招聘场景也一样。AI 可以整理简历、归纳经历，是否淘汰一个候选人，要单独留下判断和审核。
拆到什么程度才算够。
负责的人能看懂，能判断，也愿意为结果签字，大概就够了。
AI 很擅长一次把整件事做完。企业需要保留几个让人能停下来检查的位置。位置太少，人工审核很容易只剩一个按钮。
03
再看企业最后留下什么
很多人把企业拥有 AI 能力，理解成自己训练模型。这件事没有必要走到这么重。
企业完全可以使用外部模型，也可以购买成熟产品。长期使用以后，有几样东西应该还能带得走。
哪些数据可以调用，谁能授权。公司的业务规则、操作步骤和专家经验。什么样的答案算对，什么情况必须转人工。AI 犯过哪些错，人后来怎么改，改完以后效果怎样。
这些内容才是企业每天用 AI 留下来的经验。
模型可以换，企业判断好坏的标准不能跟着换掉。
如果换一个供应商，知识库要重做，评估样本要重做，历史错误也得重新踩一遍，这个项目做得越久，企业反而越难离开。
Karp 的说法很激烈，不过他提醒了一个容易被忽略的地方。企业把任务交给 AI 时，也在不断教 AI 怎么理解自己的业务。谁保留了这些教学过程，谁就保留了后面继续改进的可能。
04
把责任写到事情发生以前
一个 AI 标签解决不了多少问题。它至少会迫使企业把过程讲清楚。
谁允许 AI 做这件事，它读了什么资料，结果有没有人看过，什么时候可以直接执行，什么时候必须停下来等人确认。
追责常被理解成出事以后找一个人负责。我更在意出事以前，所有人是否知道自己的位置。
不少 AI 项目平时讲得很先进，出了问题以后，处理方式还是去群里考古。
有人说自己只负责模型。有人说自己以为业务看过了。业务说系统都已经上线，当然默认技术验证过。
翻到最后，找不到当时的提示词，也不知道谁点了发布。
公司花了不少钱把 AI 接进业务，过程记录却靠人的记忆。这个落差多少有点荒唐。
05
一页纸就可以开始
如果让我今天重新做一份 AI 项目评审表，我会在最后加一页简单的交付记录。暂时不用成立一个庞大的委员会，也不用先写几十页制度，回答五个问题就可以开始。
AI 交付记录
AI 交什么结果，又会读取哪些数据。 它只能给建议，还是可以直接执行。 谁负责检查，谁拥有最后的发布权。 出错以后怎样暂停、撤回和补救。 项目产生的规则、样本和修改记录留在哪里。
这五个问题不复杂。它们能让业务、产品和技术在项目开始前，把各自负责的事情讲明白。
内部资料整理、会议摘要和普通信息分类，风险低，可以让 AI 自动处理，再由人定期抽查。
客户回复、营销内容和经营分析会影响外部用户，需要有人确认后再发。
招聘淘汰、信贷审批、医疗建议、法律判断和重要经营决策会直接影响人的权益，最后的决定应该留给人。
关键结论
一个场景越接近钱、人事和外部承诺，AI 就应该离最终按钮远一点。
我现在已经不太担心 AI 没东西可交。
我更担心它交得太快，写得太整齐，每个人都以为别人已经看过了。
AI 可以几分钟改完 1721 行代码，审查者的一天还是那么长。
AI 可以写出五十页方案，最后签字的名字只有一个。
AI 可以同时回复上千个客户，答错的一句话，仍然要有人去解释和补救。
快一点当然好。
快到没人看得清，就该停一下。
林万劲的AI思考
记录企业 AI 落地中的真实问题
