作为顾问，我学到的最有用的 AI 经验之一，来自一个起初并不成功的项目。
一家中型区域零售商找到我，希望借助生成式 AI 实现客户营销的个性化。从技术层面看，这项技术确实奏效：它能快速、大规模地生成邮件内容。但业务结果却并非如此。
点击率始终停滞在 2.5%。文案内容显得千篇一律。更糟的是,AI 生成的语气偏离了公司原有的品牌调性。
这次经历让我更加确信一件事:在自动化一项重要工作流程之前，企业应先建立AI 失败预算。
失败预算界定了企业在 AI 工作流程学习过程中，愿意承受多少错误、返工、客户曝光风险和运营中断。它促使管理者在被 AI 理论上能实现的自动化前景吸引之前,先明确哪些风险是可以承受的。
面对这次令人失望的试点,我们并没有更换模型或直接判定 AI 不可行,而是回过头去分析问题究竟出在哪里。
问题在于客户细分做得太粗放，导致 AI 缺乏足够的上下文来生成真正有针对性的内容。同时,AI 生成文案的语气也比公司一贯的品牌风格更为正式。
这些经验促使我们调整了工作流程。我们将客户细分从 10 组扩展到 25 组，并重新校准了文案风格。三个月内，点击率提升了 25%，转化率提升了 15%，邮件带来的销售额最终也提升了 8%。
对我而言，最重要的不是这次改进本身，
而是那次早期的失败成本低、可见、且可以纠正。
这正是一份好的失败预算能带来的价值。
自动化放大错误的速度,与放大生产力的速度一样快
许多企业的做法恰恰相反：先推行自动化，之后才摸索边界在哪里。
当 AI 系统的角色从”辅助员工做决策”转变为”自行做出或执行决策”时,这种做法尤其危险。
关于AI 工作流程设计的研究也指向同一个方向：真正从 AI 中获得更多价值的企业，靠的不只是给员工提供更好的工具，而是重新设计工作流程,明确 AI 该在哪里发挥作用、人类判断又该在哪里继续把关。
我在另一个项目中亲眼见识过把这条边界划错的代价。
一家医疗协会开始使用 AI 生成政策简报的初稿。表面上看，这似乎是理想的应用场景——AI 可以加速这类研究密集型的知识工作，让员工有更多时间专注于战略层面。
然而实际情况是，志愿医生们不得不花时间纠正其中不准确的临床引用和不相关的监管案例。原本应聚焦政策战略讨论的委员会会议，变成了逐字逐句的文字校对会。
AI 为一个群体节省下来的时间，悄悄转嫁成了另一个群体的额外工作。
这正是一种常被忽视的AI 应用风险。BetterUp Labs 与斯坦福大学社交媒体实验室的研究，将这种现象称为”workslop”（敷衍式 AI 产出）：表面看起来完成度很高的 AI 输出内容，实际上却给接收方带来了额外的工作负担。
在这个案例中，问题的根源并不在于技术本身。员工感受到了”必须证明自己在用 AI”的压力，而协会本身既没有建立足够清晰的质量标准，也没有让最终判断简报是否真正有用的志愿专家们参与进来。
于是我们调整了做法：先对整个工作流程进行系统性梳理，随后组织员工与志愿专家共同参与的协作研讨会。
团队没有继续依赖通用的 AI 流程，而是围绕协会自身的立法档案、立场声明、事实清单以及以往成功的监管意见，构建了一个专属的政策倡导助手。
由此得出的更深层启示是：失败预算所衡量的，绝不仅仅是幻觉率（AI 生成错误信息的比率）。
自动化之前，先问清楚：错误会落在谁身上
在推行任何一项工作流程自动化之前，我现在都会建议管理者先问一个问题：如果出错，代价会落在哪里？
它会造成五分钟的内部返工吗？会给客户传递一条令人困惑的信息吗？会导致机密信息泄露吗？还是会影响一项招聘、财务或监管方面的决策？
这正是AI 工作流程风险在实际业务中的体现。
错误的后果越严重，企业能容忍的失败率就应该越低。
对亚洲的初创企业而言，这一原则可能格外重要，因为速度往往正是它们的核心竞争优势。创始人可以在极短时间内，从一个可用的原型迅速扩展到成百上千次自动化交互。
但问题在于：自动化放大错误的速度，与放大生产力的速度是同步的。
区域内已有的证据也印证了在工作流程层面保持审慎的必要性。NewInAsia 此前的报道指出,在其调研的七家越南金融科技公司中，有六家仍停留在试点阶段，数据质量、领导力和运营准备度等问题，比对技术本身的热情更能构成障碍。
这种初创企业 AI 应用模式，对世界各地的创始人来说都不陌生：让模型完成一项任务相对容易，但建立起一个真正能依赖这个结果运作的组织,则困难得多。
AI 自主性越高，”何时该停下”的规则就必须越清晰
亚洲的政策制定者也正朝着类似的方向推进。
东盟关于负责任 AI 规模化应用的框架，强调的是治理、风险管理以及适当的人为参与，而非将创新与监管视为相互对立的两件事。
在 AI 系统日趋自主的背景下，新加坡的步伐迈得更远。其 2026 年针对智能体 AI（agentic AI）的治理框架，特别强调可追溯性、可控性,以及有意义的人类监督。
这一原则,即便对一家仅有五人的初创企业来说，同样适用。
一旦某个 AI 智能体具备了与客户沟通、修改记录、支配资金或触发其他系统的能力，就必须有人清楚地知道：什么时候机器应该停下，什么时候该由人来接管。
这也是为什么我主张，应该从一开始就将失败预算纳入初创企业的 AI 治理体系，而不是等到公司发展到足够大、设立了合规部门之后才补上这一环。
对于每一项自动化的工作流程，都应事先明确：怎样才算表现良好？哪些类型的错误是可以接受的？由谁来审核例外情况？以及,什么样的阈值应触发自动化流程的暂停？
要记录失败，而不是掩盖它。持续观察其中的规律,然后只有在证据支持的前提下，才逐步扩大系统的自主权。
比起一味追问”最新模型能否在无人监督下独立完成任务”，这才是更实用的AI 自动化策略。
最后的思考：失败预算，本质上是一份学习预算
AI 应用中最难的部分，从来都不是让机器给出一个答案，而是让人类学会以一种能提升整个工作体系的方式去使用这台机器。
这种人的层面的挑战，正是我一直在研究、并为各类组织提供咨询的核心议题——AI 应用背后的心理学。
创始人们理所当然地希望自己的 AI 系统能够成功运转。但与此同时，他们也应该为”失败”预留设计空间。
失败预算并不意味着容忍糟糕的表现。它意味着提前决定：哪些地方可以安全地试错、企业能承受多大程度的风险，以及在赋予自动化更多自主权之前，需要看到怎样的证据。
那些学习速度最快的公司，靠的从来不是”AI 从不犯错”，
而是他们提前想清楚了：哪些错误是自己能够承受的,在代价还很小的时候就从中吸取教训，并且始终坚持不让自动化的推进超出证据所能支撑的范围。
改编自《AI 应用心理学：从抵触到成效》(Georgetown University Press, 2026)。
Gleb Tsipursky 博士是一位行为科学家，同时也是 AI 咨询公司 Disaster Avoidance Experts 的首席执行官。他曾被《纽约时报》称为”办公室秘语者”，长期为科技型企业领导者提供关于 AI 应用、职场转型、员工敬业度与创新方面的建议。他著有八本书，其中包括《AI 应用心理学：从抵触到成效》。
Read the English article here.
