他还解释了为什么他不再喜欢通过概率来陈述人工智能的风险。 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 表示，通过观察人工智能的不同发展方式来评估人工智能的风险，比分配人工智能造成灾难性伤害的百分比机会更有用。提到前人类学家雅各布·考克森和其他人对日益人工化的系统快速发展提出的警告，库珀问阿莫迪：“你相信人工智能可以杀死所有人类吗？你认为这种可能性有多大？”对此，阿莫代表示，“很有趣，我同意雅各布的观点多于不同意他的观点。这是一次有趣的辞职，因为当他离开时，他说，我认为 Anthropic 是最负责任的球员。”Amodei 表示，Coxon 的担忧并不是专门针对 Anthropic，而是反映了对 AI 行业发展步伐的更广泛担忧。 “我认为 Anthropic 更意识到这些问题。他没有邀请我们，他随着整个行业的动态而迅速行动，”他说。他还解释了为什么他不再喜欢通过概率来陈述人工智能的风险。 “现在，我想我已经说过这是绝对的可能性，我这样谈论它是因为这是一种简单的表达方式，我认为事情有可能出错，但并不是那么高。”阿莫迪表示，分解潜在结果可以更清晰地了解风险。 “再说一次，我认为思考一下如何分解这些概率会更清楚？事情进展顺利的方式是什么，事情进展不好的方式又是什么？与其说是10%的机会，不如说是掷骰子。 […]

希林·加法里 多年来，硅谷的一些领军人物一直警告说，人工智能可能对人类构成生存威胁，尽管他们一直在推动这项技术的发展。本周，一位人类学家的高调辞职使这一话题成为主流。 普通员工 Jacob Coxon 辞去了工作，并指责他的前雇主 Anthropic 和 OpenAI 在“超级人工智能竞赛”中“拿我们的生命开玩笑”。考克森表示，构建人工智能的人们相信人工智能“可能会在本世纪末杀死我们所有人”，该公司其他人后来在网上也赞同这一观点。一位人类学家表示，他相信人工智能在未来十年内有超过 10% 的可能性消灭所有人类。 Coxon 在 X 上的帖子浏览量已超过 1 亿次，并引发了从参议员伯尼·桑德斯 […]