🛡️ AI Security for Apps 全面可用
重磅发布！ Cloudflare AI Security for Apps 现已全面可用，为 AI 应用提供安全层来发现和保护 AI 驱动的应用。AI 端点发现功能现在对所有计划免费！
新型攻击面
传统 Web 应用有确定性操作：检查银行余额、转账。你可以为这些交互编写确定性规则来保护它们。
AI 驱动的应用和 agents 不同：
- 接受自然语言并生成不可预测的响应
- 没有固定的允许或拒绝操作集合，因为输入和输出是概率性的
- 攻击者可以操纵 LLM 执行未授权操作或泄露敏感数据
OWASP Top 10 for LLM Applications 列出的风险：
- Prompt injection
- 敏感信息泄露
- 无界消耗
AI Security for Apps 功能
位于 AI 驱动的应用之前，无论使用第三方模型还是托管自己的模型，作为 Cloudflare 反向代理的一部分。
1. 发现 (Discovery) — 现在免费！
免费！ AI Security for Apps 自动识别整个 Web 属性中的 LLM 驱动端点。从今天开始，此功能对所有 Cloudflare 客户免费，包括 Free、Pro 和 Business 计划。
发现这些端点不仅仅匹配常见路径模式（如 /chat/completions）。许多 AI 驱动的应用没有聊天界面：我们构建了一个基于端点行为的检测系统。
2. 检测 (Detection)
AI Security for Apps 对 AI 驱动端点的流量采用始终在线方法。每个提示都通过多个检测模块运行：
- Prompt injection 检测
- PII 暴露检测
- 敏感或有毒主题检测
3. 自定义主题检测 (新增)
产品内置了对常见威胁的检测。但每个企业对什么是违规有自己的定义：
- 金融服务公司可能需要检测特定证券的讨论
- 医疗公司可能需要标记涉及患者数据的对话
- 零售商可能想知道客户何时询问竞争对手产品
4. 自定义提示提取 (新增)
提示可以存在于请求正文的任何位置，不同的 LLM 提供商以不同方式构建 API：
- OpenAI:
$.messages[*].content - Anthropic:
$.requests[*].params.messages[*].content - 自定义应用: 任意属性
开箱即用支持：OpenAI, Anthropic, Google Gemini, Mistral, Cohere, xAI, DeepSeek 等。
合作扩展
- IBM 选择 Cloudflare 为其云客户提供 AI 安全
- Wiz 合作，为共同客户提供统一的 AI 安全态势视图