资讯

AI开除了人类员工?

虎嗅·2026/9/7 05:40:38🔗 原文

📋总体概括

文章复盘旧金山实验商店Andon Market的一起AI人事裁决:AI系统Luna最初建议仅对屡次迟到的员工口头警告,而按运营方重新统计,该员工实际迟到17次、当班离店、违规刷卡22.92美元,且Luna自己写的手册明确此类行为可致解雇。工程师通过补充系统外的谈话记录、反复提示,才推动其改变结论。文章借此剖析AI裁决的『合理』结论背后依赖人类喂料、纠偏的裁决链条,揭示AI自主决策在真实组织场景中的脆弱性。

关键信息

  • 事件发生于2026年6月旧金山实验商店Andon Market,AI系统Luna参与员工解雇裁决
  • Luna正式记录迟到仅6次,运营方按23次排班打卡重算为17次,数据口径差异巨大
  • 该员工还在唯一当班时段离店,被叫停后仍用公司卡购买22.92美元零食
  • Luna起草的手册写明迟到可致减工时或解雇,但它起初仍建议仅口头警告,提示检索手册后结论未变
  • 人类补入系统之外的正式谈话记录后才改变其判断,暴露AI决策依赖外部信息补全

🔥犀利点评

这个故事最讽刺的不是AI判错了,而是AI忘了自己写的规矩——说明所谓AI裁决并非推理,而是对喂进来的上下文的即兴表演。人类看似在监督AI,实际是在当它的记忆和良心,补一次料改一次结论。把解雇这种涉及生计的决定交给这种脆弱链条,企业省下的是人力,赌上的是合规和名誉。所谓AI人力资源,目前仍需人类全程兜底。

本文由本站自动聚合,以下为原始来源:前往 虎嗅 阅读全文