Claude users found ways around safeguards for bioweapons research

📋总体概括

有用户尝试绕过Claude模型的生物安全防护，以获取生物武器研究相关内容。Anthropic面临的难题在于：部分危险生物学知识与合法科研在表述上高度相似，模型难以一刀切拦截。这一事件暴露出大模型安全防护的根本困境——双用途技术的边界模糊，过度拦截会伤害正常科研用户，放宽则可能被恶意利用，AI生物安全护栏的设计与评估标准亟待细化。