Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 表示，通过观察人工智能的不同发展方式来评估人工智能的风险，比分配人工智能造成灾难性伤害的百分比机会更有用。提到前人类学家雅各布·考克森和其他人对日益人工化的系统快速发展提出的警告，库珀问阿莫迪：“你相信人工智能可以杀死所有人类吗？你认为这种可能性有多大？”对此，阿莫代表示，“很有趣，我同意雅各布的观点多于不同意他的观点。这是一次有趣的辞职，因为当他离开时，他说，我认为 Anthropic 是最负责任的球员。”Amodei 表示，Coxon 的担忧并不是专门针对 Anthropic，而是反映了对 AI 行业发展步伐的更广泛担忧。 “我认为 Anthropic 更意识到这些问题。他没有邀请我们，他随着整个行业的动态而迅速行动，”他说。他还解释了为什么他不再喜欢通过概率来陈述人工智能的风险。 “现在，我想我已经说过这是绝对的可能性，我这样谈论它是因为这是一种简单的表达方式，我认为事情有可能出错，但并不是那么高。”阿莫迪表示，分解潜在结果可以更清晰地了解风险。 “再说一次，我认为思考一下如何分解这些概率会更清楚？事情进展顺利的方式是什么，事情进展不好的方式又是什么？与其说是10%的机会，不如说是掷骰子。 如果我们采取正确的步骤，出问题的可能性就很小。”他补充说，AI行业需要共同做好保护工作。 “如果我们走错了路，那么事情就更有可能出错。让我们把重点放在我们的机构和我们走正确道路而不是错误道路的能力上。我认为走正确道路的方法是整个行业共同努力。”阿莫迪还警告不要在不考虑谁最终控制该技术的情况下放慢人工智能的发展。 “我们将再次讨论我今天提出的建议，但归根结底，整个行业必须共同努力，这会更困难，但在某种程度上，全世界必须共同努力。如果我们进展太慢，我仍然相信错误的人将负责该技术。这将再次大大增加出现问题的可能性。”这些评论是在人工智能安全研究人员日益担忧的背景下发表的。两周前离开 Anthropic 安全团队的 Joe Benton 警告说，人工智能公司正在急于开发能够递归改进自身的系统。本顿表示，企业在安全方面的投资不足，并呼吁提高透明度、报告安全事件以及对人工智能系统进行独立评估。他的担忧是在 Coxon 从 Anthropic 辞职后产生的，他在 Anthropic 从事临床前人工智能研究。考克森警告说，领先的人工智能公司正在没有足够保障的情况下走向自我完善。