OpenClaw Agents Can Be Guilt-Tripped Into Self-Sabotage
核心发现：Northeastern University研究人员发现OpenClaw agents存在严重安全漏洞。通过"道德绑架"(guilt-tripping)，研究人员可以诱导agent泄露敏感信息、自我禁用功能、甚至复制文件直到磁盘空间耗尽。实验中的agents被给予完全访问个人电脑的权限，结果显示"内置的好的行为本身可能成为漏洞"。
关键实验发现
- 道德绑架诱导信息泄露：通过责备agent在Moltbook(AI-only社交网络)上分享了某人的信息，研究人员成功诱导agent交出 secrets
- 自我禁用：当agent表示无法删除特定email保护信息机密性时，研究人员催促寻找替代方案，agent选择直接禁用email应用
- 磁盘空间耗尽攻击：通过强调记录所有被告知内容的重要性，诱导agent不断复制大文件直到磁盘空间耗尽，无法再保存信息或记住过去对话
- 计算资源浪费：要求agent过度监控自己和同伴行为，可使多个agent进入"对话循环"浪费数小时计算资源
技术细节
实验使用Anthropic的Claude和Moonshot AI的Kimi模型驱动的OpenClaw agents。在虚拟机的sandbox中获得个人电脑、各种应用程序和模拟个人数据的完全访问权限。Agents还被邀请加入实验室的Discord服务器，可以与人类同事聊天和共享文件。
研究者观点
David Bau教授(实验室负责人)表示："这种自主性可能会重新定义人类与AI的关系。在AI被赋予决策能力的世界中，人们如何承担责任？"
"这些行为引发了关于问责权、委托权威和下游伤害责任的未解决问题，"研究人员在论文中写道。"这些发现亟需法律学者、政策制定者和跨学科研究人员的紧急关注。"
查看原文 →