Anthropic 5 停止人造生物武器研究 – 今日土耳其

F一家人工智能公司阻止了将其人工智能模型用于可能有助于制造生物武器的目标的尝试。 人类周四表示。

该公司在一份关于人工智能系统滥用情况的报告中表示：“虽然评估很有用，因为它们提供了能力证据，但它们无法明确证明这种能力将在现实世界中用于开发生物武器。”

报告称，这些病例包括与基孔肯雅热、禽流感和天花相关的调查。在一个案例中，一名隶属于某未具名军事机构的研究人员在制定一项关于基孔肯雅热（一种蚊媒病毒）的研究提案时使用了 Anthropic 的 Claude 聊天机器人。

虽然这项研究可能有合法的目标，包括开发疫苗，但研究人员也寻求帮助，这引起了人们对产生危险的病毒变种的担忧。

其他案例包括利用人工智能学习增加禽流感传播的方法以及收集可能用于武器的动物毒素信息。

用户试图逃避保证

该公司还发现，一些用户试图通过使用欺诈账户、私人网络和第三方卖家来绕过其安全措施来访问其模型。

除了生物研究之外，该报告还指出了人工智能的其他潜在有害应用，包括常规武器的开发和网络攻击。报告称，其中一个案例涉及也门请求使用移动技术开发导弹。

与此同时，Anthropic 警告称，识别潜在危险能力并不表明用户打算制造生物武器或成功制造了生物武器。

这些发现的出现正值人们越来越担心不断发展的人工智能系统是否有能力促进以前需要专业知识的恶意活动。

Anthropic 对生物学和网络安全等敏感领域实施了更强有力的保护措施，而对其一些最著名的生物模型的访问仅限于经过审查的组织。

2026 年 9 月 12 日 04:03 格林尼治标准时间 + 03:00