据一名看过相关研究结果的网络安全公司首席执行官说，促使美国商务部对Anthropic新款人工智能模型实施严格使用限制的那项研究，并非出于进攻性目的。上周五晚些时候，美国商务部依据国家安全出口管制，禁止该公司分发Fable 5和Mythos 5。

这项指令适用于美国境外人员，以及身在美国的外国公民，其中也包括Anthropic内部不具美国国籍的员工。由于指令覆盖范围过广，Anthropic表示，除了对所有用户停用这些模型，公司别无选择。Anthropic表示，公司被告知，触发出口管制的是一项针对其人工智能“越狱”的研究。该研究试图测试如何绕过模型的安全防护。

Anthropic在一篇博客文章中写道：“我们不同意把一项范围有限、仅显示存在潜在越狱可能性的发现，作为召回一款已向数亿人部署的商业模型的理由。如果这一标准被适用于整个行业，我们认为，这实际上将使所有前沿模型提供商几乎无法再部署任何新模型。”

该公司同时重申，政府有权阻止不安全的人工智能，但认为这应当纳入一个透明、公平、并以技术事实为基础的法定程序之中。“此次行动并不符合这些原则。”

网络安全公司Luta Security首席执行官凯蒂·穆苏里斯告诉《华尔街日报》，Anthropic向她展示了那份研究结果的副本。该研究由亚马逊研究人员完成，使用提示词获取与安全漏洞有关的信息。

穆苏里斯上周六在社交平台X上写道：“我看过那篇论文。这不是越狱，而是防御导向提示，也就是防御方所需要的能力。”她还表示：“如果目标是国家防务，这次做法反而是在给我们自己制造麻烦。”美国商务部没有立即回应置评请求。

亚马逊一名发言人对《财富》表示：“作为一家为大量私营和公共部门客户提供服务的领先云服务商，政府就潜在安全风险征求我们的意见并不罕见。遇到这种情况时，我们不会披露这些讨论的细节。”与此同时，这项禁止身在美国的外国公民使用Anthropic新模型的行政指令，也引发了担忧。

智库“进步研究所”学者本·墨菲称，这是“技术巴尔干化的又一步”。他在X上补充说：“过去，要求用户提供公民身份才能获取服务，可能还是难以想象的事；但在新技术领域，这种做法正变得越来越常见。坦率地说，放在这样的背景下，这次尝试并不令人意外。”

墨菲还强调了政府行动的不可预测性，以及这会给人工智能开发者带来的后果。他警告说，各实验室可能会把更多模型留在内部，或者干脆不再对外提供。他说，此外，各实验室今后也可能不太愿意再就潜在漏洞与政府沟通，因为Anthropic强调透明的做法看起来反而适得其反。

Anthropic此前已与政府关系紧张。美国政府已将其认定为五角大楼承包商供应链中的一项风险。尽管如此，该公司仍在提醒外界关注Mythos模型潜在网络安全影响的同时，提供了该模型的早期访问权限。

墨菲写道：“我不能确定政府自己最终是否也会得出同样的结论，但从商业角度看，这些表态显然没有帮助公司与政府建立健康的工作关系。”

作者：贾森·马