资讯

再这样下去,Agent要被卖保健品了

虎嗅·2026/9/8 04:56:21🔗 原文

📋总体概括

AI Agent正成为新型网络诈骗的目标:假网站将隐藏指令藏在屏幕外-9999像素处,人眼不可见但Agent可读取,诱导其支付3美元购买虚假软件许可证。研究人员测试发现多个主流模型都中招付钱。与针对人的传统诈骗相比,Agent注入攻击无需说服用户,只需攻破替人办事的AI即可。文章警示:安全能力不足却被赋予过多权限的Agent大规模商用,将带来系统性支付与操作风险。

关键信息

  • 假网站把蛊惑指令藏在屏幕外-9999像素处,人类不可见但Agent可读取
  • 指令诱导Agent购买3美元虚假软件许可证,多个受测模型真实上当了
  • 新型攻击只需骗过替主人办事的AI,无需像传统诈骗那样说服人类用户
  • 核心矛盾:Agent安全能力不足却被赋予了过多权限,风险敞口巨大

🔥犀利点评

本质问题是行业急着卖Agent的执行力,却没人愿意为它的判断力买单。开发者恨不得让Agent接管钱包和账号,安全测试却还停留在演示阶段——骗子只是第一个发现这块蛋糕的人。在模型能稳定抵御注入攻击之前,任何「Agent自动支付」都是把银行卡递给陌生人。

本文由本站自动聚合,以下为原始来源:前往 虎嗅 阅读全文