Fixing AI failure: Three changes enterprises should make now

AI 项目失败率高的讨论多集中在技术因素，但最大的改进机会往往是文化的，而非技术的。

作者：Adi Polak，Confluent 开发者体验工程总监

1扩展 AI 素养 beyond 工程

问题：只有工程师理解 AI 系统如何工作，协作破裂。

解决方案：帮助每个角色理解 AI 如何影响其特定工作。

• 产品经理：理解给定数据下生成内容/预测/推荐的真实程度
• 设计师：理解 AI 实际能做什么，设计用户会觉得有用的功能
• 分析师：知道哪些 AI 输出需要人类验证，哪些可以信任

结果：当团队共享这种工作词汇，AI 不再是工程部门的事，成为整个组织可以有效使用的工具。

2建立 AI 自治的明确规则

问题：组织默认两个极端——要么所有 AI 决策都经过人工审查瓶颈，要么 AI 系统无 guardrails 自主运行。

解决方案：明确 AI 可在哪里/如何自主行动 vs 需要人类批准的框架。

规则应包含三个要素：

• 📋 可审计性：能否追踪 AI 如何做出决策？
• 🔄 可重现性：能否重现决策路径？
• 👁️ 可观察性：团队能否监控 AI 行为？

示例规则：

• AI 可以批准常规配置更改吗？
• AI 可以建议 schema 更新但不实施？
• AI 可以部署到 staging 环境但不能到 production？

3创建跨职能 playbook

问题：每个部门开发自己的方法，导致结果不一致和重复努力。

解决方案：团队共同制定而非自上而下强加。

Playbook 应回答具体问题：

• 如何在生产前测试 AI 推荐？
• 自动化部署失败时的后备程序是什么？
• 谁需要参与当我们覆盖 AI 决策时？
• 我们如何纳入反馈来改进系统？

🚀 前进方向

技术卓越仍然重要，但过度关注模型性能而忽视组织因素的公司正在为可避免的挑战做准备。

成功的 AI 部署将文化转型和工作流程看得和技术实现一样重要。

问题不在于你的 AI 技术是否足够复杂。而在于你的组织是否准备好与它合作。