Ironies of Automation (1983)

http://www.complexcognition.co.uk/2021/06/ironies-of-automation.html

核心发现

1983年的经典论文，探讨自动化如何扩大而非消除人类操作员的问题。

关键亮点

• 核心讽刺：系统越自动化，人类操作员的贡献反而越关键
• 技能退化：手动控制技能长期不用会退化，特别是细微的增益和时间调整
• 监控困境：人类无法有效监控很少发生异常的系统（超过30分钟）
• 设计者误区：试图消除操作员，却留给它们无法自动化的任务
• 知识遗忘：长期记忆的检索效率取决于使用频率

对AI时代的启示

这篇文章对今天的AI助手设计有重要启示：

• 当AI承担越来越多任务时，人类的技能可能退化
• AI系统需要设计"技能保持"机制
• 过度自动化可能导致人类在需要时无法有效接管

分类