据该组织称，犯罪分子、国家支持的组织、间谍软件供应商、科学家和广告商试图利用 Anthropic 的人工智能模型来设计导弹和炸弹、制造致命病原体并控制反对派。 威胁情报报告 该公司于周四发布。
Anthropic 在其 154 页的报告中表示：“我们在这里分享的案例不是典型用途，而是我们迄今为止发现的最活跃和最新的威胁示例。” “我们发布这篇文章是因为我们相信我们有责任检测恶意滥用服务的行为。”
该公司特别详细介绍了科学家在生物研究中使用其人工智能模型的五个案例研究。 Anthropic 表示，在这些情况下，研究人员规避了旨在阻止用户进入“不受支持的区域”的保护措施，并努力隐瞒他们工作的目的。
“生物利用是前沿人工智能模型最严重的风险之一，”Anthropic 写道。 “如果没有适当的保障措施，这种能力可能会带来灾难性的后果。”
Anthropic 表示已禁止这些账户。该公司没有透露研究机构的名称或发生滥用的国家，称研究人员的目标未知。
Anthropic 还列举了数十个威胁行为者使用其人工智能模型的其他例子。其中包括俄罗斯间谍活动和“抓捕”网络黑客等网络行动；监视行动，包括一项针对叙利亚维吾尔人的中国计划和另一项针对国内持不同政见者的计划；在俄罗斯、马来西亚、伊朗和孟加拉国开展广告活动；使用也门、中国和俄罗斯的克劳德人工智能模型开发常规武器软件，包括枪支、导弹、武装无人机、炸弹和其他弹药。
在一个生物研究的例子中，Anthropic 发现一位科学家利用克劳德参与一项研究基孔肯雅病毒的政府资助项目。这种病毒是一种由蚊子传播的疾病，类似于登革热和疟疾，可导致数月的剧烈疼痛、发烧和其他虚弱症状。
此类研究可用于开发疫苗，但也可用于制造生物武器。人择 告诉纽约时报。 此案尤其令人不安，因为它可能是在军事研究所进行的研究。
就在这份报告发布的两天前，Anthropic 员工雅各布·考克森 (Jacob Coxon) 的辞职引发了媒体的轩然大波。他表示，他离开该公司是因为该公司在技术创建方面不负责任。 Coxon 表示，Anthropic 及其竞争对手 OpenAI 正在“直接冲向自我强化智能”，这将使人类在 2030 年消失。目前 Anthropic 的员工已与他发布了公开协议。
许多人工智能专家表示，现实世界的威胁，例如人类情报报告中详述的威胁， 更相关 在接下来的三年内，一场由强大智能所引发的世界末日。
进行投票后
AI Now 研究所首席人工智能研究员 Heidi Hlaaf 表示：“AI 加速和 AI 多聚现象是同一枚硬币的两面：它们都实现了 AGI 科学家将会出现的理念。”赫拉夫表示，人工智能实验室正在开发可用于利用网络安全的技术，而战争武器的杀伤力可能要大得多。
Anthropic 在报告中表示，现实世界中人工智能模型被滥用的可能性并不普遍存在于公众视野中，但内部以及科学家、政府和国际组织正在对其进行调查。
该公司表示，整个人工智能行业必须与政府合作，应对这些风险并建立保护措施。
Anthropic 写道：“随着模型变得越来越强大，除非人工智能开发人员和社区倡导者采取行动确保它们的安全，否则它们的风险将会增加。”