🤖 AI Models Need a Virtual Machine

AI Infrastructure Programming Languages ⭐⭐⭐⭐⭐ (5星)

📌 核心观点

来自 Microsoft Research 和华盛顿大学的作者们提出：AI 模型需要一个虚拟机(VM)规范，类比 Java VM 的设计理念，实现 "write once, run anywhere"。

            💡 关键洞察：AI 软件系统需要操作系统般的品质——安全、隔离、可扩展性和可移植性。
        

🎯 为什么需要 AI Model VM？

当前问题：AI 软件的控制软件复杂度不断增加
类比 Java VM：内存安全、访问控制、字节码验证
MCP 协议："像 USB-C 端口之于 AI 应用"

📋 VM 指令示例

加载、初始化、卸载 AI 模型
调用模型并传递上下文
解析模型输出
加载、调用工具
解析工具调用结果
存储结果到内存
向用户请求输入
添加内容到历史内存

🔒 安全项目

FIDES (Microsoft Research): 通过跟踪数据机密性标签强制执行信息流策略
AC4A (Access Control for Agents): OS 风格方法，所有工具和数据组织成层级结构

✨ VM 规范的好处

分离关注点：模型成为可互换组件
内置安全与治理：权限检查、审计日志、故障保护
透明的性能与资源追踪：运行时诊断
模型输出的可验证性：集成形式化方法

📖 作者团队

Shraddha Barke - Microsoft Research 高级研究员
Betül Durak - Microsoft Research 首席研究员
Dan Grossman - 华盛顿大学教授
Peli de Halleux - Microsoft Research 首席工程师
Emre Kıcıman - Microsoft Research 高级经理
Reshabh K Sharma - 华盛顿大学博士生
Ben Zorn - Microsoft Research 合作伙伴研究员

🔗 原文链接

阅读原文 →

来源: SIGPLAN Blog | 日期: 2025-08-29