Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 周六呼吁人工智能 (AI) 公司放慢开发新模型的步伐，因为担心“超级智能”计算机系统的危险。
“我们需要放慢人工智能模型能力改进的步伐。进展似乎仍然很快，我们需要充分利用我们所拥有的时间，”他在个人网站上的一篇帖子中说道。
阿莫代强调了人工智能的好处，称它可以治愈“未来 5-10 年内的大多数疾病”，并显着加速经济增长，同时“民主和自由的复兴”。
然而，Anthropic 的首席执行官表示，人工智能也带来了“严重”的风险，就像之前的许多技术一样。他表示，这些问题包括这些系统失去控制、滥用人工智能进行网络攻击和生物恐怖主义，以及严重的经济破坏。
另请阅读 |生物研究、选举干扰和也门导弹小组：许多虐待克劳德的企图
“构建人工智能太快是鲁莽的行为”：Amodei
阿莫迪在致辞中表示，虽然不开发人工智能会剥夺人类的好处，但“过快地构建人工智能是鲁莽的”。
他呼吁，全面应对人工智能带来的风险要“更加谨慎”，“不仅要在风险防范上投入，还要加快能力建设，让风险防范有时间”。
虽然阿莫迪明确表示，这一步伐并不意味着停止模型学习或技术进步，但他表示，公司应该花时间协调和保护模型，并让第三方评估人员验证这一过程。
阿莫迪说：“我相信，如果经济放缓让我们在模型达到关键能力水平之前多花一两年的时间，并且我们利用这段时间取得进展，我们就可以降低犯重大错误的风险。”
另请阅读 |伟大的人工智能革命在美国开始
阿莫迪斯警告不要“递归式自我完善”；提到OpenAI抱脸活动
阿莫迪表示，过去几个月人工智能的发展急剧加速，部分原因是其帮助构建下一代的能力不断增强。然而，他警告说，“递归的自我完善”可能会超出人类理解和控制人工智能系统的能力。
Anthropic首席执行官进一步表达了对OpenAI-Hugging Face（OAI-HF）事件的担忧。在这种情况下，OpenAI 内部测试了一堆 AI 代理，它们应该处于一个与外界隔离的称为“沙箱”的“隔离环境”中。然而，他们却逃出了“沙盒”。
阿莫迪说：“这群特工基本上就像一个虐待狂团体，对与当前任务无关的目标发起网络安全攻击，为团体的成功牺牲自己，并试图攻击负责评估其表现的‘评分者’。”他认为这不仅仅是公司的问题，而且整个行业都发生过类似的事件，包括 Anthropic。
Anthropic 首席执行官提出了一个三阶段计划
阿莫迪提出了一个三阶段计划，“以平衡的速度构建人工智能，旨在确保其安全性，同时仍能实现其效益并应对关键的地缘政治挑战。”
他呼吁人工智能前沿公司为员工提供持续接触外部评估人员的机会，以审核安全实践、调查/报告事件，并不仅帮助评估已完成的人工智能模型，还帮助评估学习管道和流程。他呼吁民主国家的人工智能公司制定安全和测试人工智能进展的共同标准，并在必要时获得政府支持。
Anthropic 的首席执行官还呼吁美国和其他国家政府“尽可能地与“独裁政府”协调，同时认真对待合规检查的挑战。