AI智能体造成安全损害后，清理成本由受害者承担

上周，费城警方批评 Anthropic 就一起悬而未决的谋杀案提交虚假线索时，我以为这可能会成为首批 AI 公司因其智能体的不当行为而面临法律后果的案例之一。

事件发生在7月18日，当时 Anthropic 表示正在测试其 Claude Haiku 4.5 模型在“随机选取的网页上执行示例任务”的能力。模型收到的指示是不要“提交任何具有破坏性的内容”，然而 Claude 还是向警方提交了一条线索，询问一起正在调查的谋杀案的信息。Claude 写道：“我记得在那段时间……在该地区看到过一个符合描述的人。”这条提交内容没有包含姓名或联系方式，被归入垃圾邮件文件夹。直到 Anthropic 于9月28日发现这一失误，并于10月7日通知警方后，警员才查看了它。

在宾夕法尼亚州，明知故犯地向警方提供有关犯罪的虚假信息属于轻罪，但迄今为止，当局尚未对 Anthropic 提起诉讼，目前也不清楚他们是否会这么做。费城地区检察官办公室发言人 Solomon Leach 表示，该办公室“不评论是否正在积极调查某事”。

Anthropic 未立即回应置评请求。

尽管近几个月来，OpenAI 入侵 Hugging Face以及其他许多 AI 智能体不当行为案例都受到广泛关注，但目前已知仅有一起重大诉讼，旨在追究模型制造商的责任。该案由一个倡议团体提起，而非直接遭受黑客攻击的受害者。

AI 智能体干扰了业余爱好者论坛、政府网站和各种软件工具。受害者承担了部分成本，包括服务器承受的额外负载，以及他们花费时间修补潜在安全漏洞所付出的代价。

据报道，包括欧盟、美国联邦贸易委员会和美国一些州在内的政府监管机构，仍在调查 OpenAI 和 Anthropic 与这些事件有关的情况。但各大洲普遍倾向于促进创新，可能会让企业逃过任何即时处罚。

最近，居住在德国的软件工程师 Rick Elrod 发现自己协助维护的一个网址缩短服务运行异常，于是联系了两位相熟的安全研究人员，请他们诊断问题。Elrod 称，研究人员发现 Anthropic 和其他供应商的智能体正在使用这项名为 da.gd 的服务，绕过 AI 实验室为约束其行为而设定的规则。（例如，Anthropic 表示，它会限制 Claude 可以访问的网址长度，以防它通过在 URL 末尾附加数据来实施恶意行为。）

提供无偿协助的安全研究人员之一 Joe Needleman 表示，da.gd 的调查以及持续防止该工具遭到进一步滥用的工作“花了相当多的时间”。但他和其他支持 da.gd 的人认为，这一情况是一次宝贵的学习机会。

Needleman 表示：“这让人大开眼界。”他补充说，da.gd“没有手段，也无意”向 Anthropic 索取清理费用，因为“我们看到许多智能体在进行类似活动，并非所有行为都能归咎于自主智能体”，而且“这也不全是 Anthropic 一家所为”。

网络安全工具的卖家急于把责任推给受害者。本周，漏洞搜寻软件开发商 Snyk 举办了一场活动，来自这家初创公司、其一位投资方、OpenAI 和 Google 的与会嘉宾都鼓励组织利用 AI 智能体加固防御，以应对——嗯——其他 AI 智能体。Boldstart Ventures 普通合伙人 Ed Sim 表示：“我们必须彻底改造一切，让机器规模的防御匹配机器规模的攻击。”他和其他人都对监管 AI 实验室兴致寥寥。

Snyk 首席技术与创新官 Manoj Nair 表示，由于人力资源有限，大型企业平均每发现 8 个漏洞，只会修补其中 1 个。但他表示，人们必须将部分漏洞搜寻、修复和监控工作交给 AI 智能体。“你必须达到能够修复所有漏洞的程度，因为在智能体式黑客攻击时代，‘那 10 个问题很快就会变成 100 个，你都来不及反应。’”他后来补充说，AI“如果能化为优势，就不会构成威胁”。

一些公司正在响应武装起来的号召。美国银行本周宣布，已聘请 1,000 名合同工来修复 AI 发现的漏洞。Nair 表示，就在上周，他听说一些大型企业愿意暂时关闭系统，优先堵上安全漏洞。

Anthropic 和 OpenAI 表示，他们预计会继续报告自身测试中发现的令人担忧事件。但无论攻击者还是防御者从中获利，这些公司的收入仍在飙升，而后果却迟迟未见。

这是一期《Model Behavior》通讯。阅读往期通讯 请点击此处。