Cybersecurity Looks Like Proof of Work Now 4.5★
核心观点
如果 Mythos 的安全能力claim成立,那么安全简化成一个残酷的公式:强化系统所需的token预算 > 攻击者愿意花费的token。这是加密货币"工作量证明"系统的回响——成功与原始计算工作挂钩。
关键洞察
1. 安全预算的token化
"The Last Ones" 是AISI(AI Security Institute)设计的32步企业网络攻击模拟,估计人类需要20小时完成。Mythos是唯一完成任务的模型(10次尝试中3次成功),但每次尝试消耗100M tokens——价值$12,500。10次运行总计$125k。
更令人担忧的是:模型没有显示出边际收益递减的迹象——只要继续投token,就持续发现漏洞。
2. 安全的三阶段开发周期
作者预测开发流程将演变为:
- 开发(Development): 实现功能,快速迭代,由人类直觉和用户反馈指导
- 审查(Review): 文档、重构、异步应用最佳实践
- 强化(Hardening): 自主识别漏洞,直到预算耗尽
关键区别:第一阶段受限于人类输入,最后阶段受限于资金。
3. 开源软件仍然关键
Linus定律"足够多的眼球,所有bug都 shallow"扩展到包含token。如果依赖开源库的公司用token来保障安全,可能比攻击者预算更安全。但也增加了攻击动机——破解广泛使用的OSS包价值更高。
4. 成本由市场决定
代码仍然便宜,除非需要安全。即使推理成本下降,除非模型达到安全收益递减点,否则仍需购买比攻击者更多的token。成本由exploit的市场价值固定。
💡 关键收获
- 安全正在变成"低温度彩票":购买token,也许能找到漏洞。希望你比攻击者坚持更久
- 这不是关于聪明,而是关于支付能力
- 代码审查工具(Anthropic Code Review $15-20/次)只是硬化的第一步
- 安全审计从罕见、离散、不一致,变成可以用预算持续应用的东西