AI“自我演进”可能彻底失控？Anthropic顶尖大牛愤然离职！

📋总体概括

Anthropic资深研究员、27岁的Jacob Coxon于周二宣布辞职并退出AI行业，理由是不愿参与全行业盲目冲刺「自我演进型AI」的竞赛，担忧系统失控带来灾难性后果。此前OpenAI首席科学家也发文呼吁放慢AI开发。过去一周，递归式自我改进（RSI）成为行业最热话题，OpenAI于9月6日首次公开披露内部RSI进展。Coxon称同行已用「决战时刻」等词形容AI自主迭代轨迹，并认为在巨头竞争与中国新锐企业夹击下，牺牲安全已成行业默认筹码，局势可能在明年年底前失控。