ChromaFs：用虚拟文件系统替代RAG
AI
Engineering
Documentation
RAG
核心洞察
Mintlify团队发现：AI代理正在收敛于文件系统作为主要接口（grep, cat, ls, find）。如果每个文档页面是一个文件，每个章节是一个目录，代理可以搜索精确字符串、读取完整页面、自主遍历结构。
"RAG很棒，直到它不灵。我们的助手只能检索匹配查询的文本片段。如果答案跨越多个页面，或用户需要不在top-K结果中的精确语法，它就卡住了。我们希望它像探索代码库一样探索文档。"
传统方案的问题
- 启动慢：微VM沙箱（如Daytona）p90启动时间~46秒
- 成本高：850K对话/月 → $70K/年（1 vCPU, 2 GiB RAM, 5分钟会话）
- 基础设施复杂：每个用户需要独立容器
ChromaFs解决方案
用虚拟文件系统拦截UNIX命令，转译为Chroma数据库查询：
- 启动时间：46秒 → 100毫秒 (460倍提升)
- 边际成本：$0.0137/对话 → $0（复用现有DB）
- 基于just-bash：Vercel Labs的TypeScript重实现
🎯 关键创新
- 代理不需要真正的文件系统，只需要"幻觉"
- 构建时嵌入访问控制，过滤用户无权访问的文件
- grep -r 优化：Chroma粗筛 → Redis缓存 → just-bash精筛
- 只读文件系统：无状态、无会话清理、无损坏风险
性能对比
| 指标 | 传统沙箱 | ChromaFs |
|---|---|---|
| P90启动时间 | ~46秒 | ~100毫秒 |
| 边际计算成本 | $0.0137/对话 | $0 |
| 搜索机制 | 线性磁盘扫描 | DB元数据查询 |
为什么重要
ChromaFs为AI文档助手提供了一个即时、廉价、内置RBAC的方案。每日30,000+对话，数百万用户使用。这代表了一种范式转变：从向量检索转向文件系统接口。
趋势洞察：AI代理正在从"检索模式"转向"文件系统模式"。当代理可以像人类开发者一样浏览文档（ls, cd, grep），而不仅仅是语义搜索，文档体验将发生根本性变化。