Anthropic 表示，它已经阻止了 Claude AI 系统的多项用途，该系统认为该系统可以支持生物武器的开发，包括与病原体、毒素的合作以及拟议的基孔肯雅病毒研究拨款申请。此次披露值得注意的是，它是端到端武器化努力的证据，而不是公开说明人工智能公司面临的一个更困难的问题：处理可能类似于合法终身工作的请求，同时仍然存在潜在的滥用风险。
该公司在一份更广泛的威胁和情报报告中描述了五个生物案例研究，其中包括据称在 2025 年 12 月至 2026 年 8 月期间停止的活动。 这是美国有线电视新闻网（CNN）报道的Anthropic 表示，涉事人员都是工作科学家，但没有透露他们的机构或国家，也无法确定每一起案件的意图是否是恶意的。这一警告严格限制了案件所证实的内容：它们涉及受阻或限制的人工智能研究活动、已证实的生物武器、未遂攻击或克劳德造成实际伤害的证据。
五个案例，但没有五个已确认的地块
帐户来自 英国广播公司美国有线电视新闻网 (CNN) 和美联社介绍了五项生物研究，主题涉及基孔肯雅热、禽流感、正痘病毒、毒物和毒素等。 Anthropic将该活动描述为对生物武器的开发可能有用，这是基于其对账户和请求的监控而不是执法部门的调查结果进行的评估。
案例由 美联社请求协助准备与基孔肯雅病毒功能获取工作相关的赠款申请，包括有关传播和逃避免疫力的问题。功能性效益研究本身并不等同于非法工作。从广义上讲，它可以用来研究病原体的行为方式并为防范提供信息，但它也可以产生具有潜在有害应用的知识。因此，拟议试验的背景、机构控制和细节很重要；没有一份报告为相关研究人员提供这些细节。
据报道，Anthropic 在单独的 30 天审查期内还发现了大约 35 项具有潜在相关活动的具体研究工作。这与五个案例研究的数字不同，恶意用户的数量也不是 35。报告没有提供一个部分：没有生物调查或同行评审账户的公共汇总，也没有公开的方法来确定有多少尝试被证明是粗心的、不确定的或彻头彻尾的恶意。它不能用作克劳德滥用行为或一般人工智能系统的流行率估计。
该公司表示，一些活动人士隐藏了调查目的并绕过了区域控制。这些指控表明，仅访问限制并不是完美的保护，特别是在用户可以在帐户、位置或服务之间移动的情况下。然而，现有报告不允许外部审计师检查请求、账户历史记录、审查标准或干预结果。因此，人择关于意图的陈述的不确定性并不是一个次要的细节；而是一个重要的细节。它是令人担忧的信号和明显的生物威胁之间的界限。
较新的型号具有更严格的限制
Anthropic 告诉记者，它已经扩大了新克劳德模型的保修范围，以限制广泛的双向生物学研究请求。此举反映了对产品安全的基本计算：能够提供更有用的科学帮助的模型在帮助应该受到限制的情况下也可能更有用。相关的挑战不仅是识别列出的病原体或毒素，而且还要确定用户问题集、明显目的和要求的详细程度是否超过风险阈值。
该公司声称具有相关功能，值得仔细阅读。据美联社报道，Anthropic 表示，其旧型号可以帮助复杂的用户进行生物危害研究，但它无法为当前系统提供此类保证。这并不一定与收紧新车型的决定相冲突；这表明该公司认为能力和风险控制是同步发展的。然而，该报告没有披露这两个结论背后的标准、阈值或测试，因此外界无法独立评估界限在哪里或新限制的可靠性如何。
还有不可避免的误报问题。阻止大类病原体、疫苗、毒素或实验室问题的样本提供者可能会干扰研究、教育或公共卫生的正常工作。允许更多上下文敏感响应的提供商应该能够从有限的信号中辨别意图，但由于不完整的帐户信息和在线服务的全球性，这项任务变得更加困难。这些案例表明，为什么人工智能安全政策不仅越来越多地受到明确禁止的请求的考验，而且还受到模糊和专业框架的请求的考验。
生物学是虐待大局的一部分
Anthropic 的披露不仅限于生命科学。据英国广播公司 (BBC)、美国有线电视新闻网 (CNN) 和美联社报道，该公司还表示，它已经破坏了与网络操作、监视、欺诈计划、影响力活动和常规武器软件相关的潜在滥用行为。这些类别在技术和法律上有所不同，但它们具有共同的操作模式：通用系统可以减少部分恶意工作流程所需的时间或专业知识，即使它们不自行执行这些工作。
对于监管机构和客户来说，最有用的问题可能是公司是否可以在不发布引入新风险的材料的情况下记录其干预措施的绩效。禁止账户、禁止模型、审查人员和共享信息只有跟上不断变化的策略并避免关闭合法工作时才有意义。 Anthropic 表示，它与当局和行业合作伙伴分享了相关情报，但报告没有说明对收到的案件进行了哪些独立审查（如果有）。
该公司向公众发布了比通常的安全政策声明更多的细节。然而，这些证据是公司专有的，如果没有公共会计记录、指南、方法或封锁后结果，则无法进行独立验证。显而易见的是，人工智能提供商现在面临着重复的请求，这是一个持续的运营安全问题，而不是一个假设的问题，而有风险的援助和合法的科学研究之间的界限仍然很难划清。