徽声在线9月13日消息（记者 李轩）近日，Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）公开发声，呼吁人工智能行业应适当减缓新模型的开发节奏。

阿莫代伊在9月12日的个人博客中明确指出：“我们必须对提升AI模型能力的速度进行控制。尽管技术进步依然会保持迅猛态势，但我们必须学会如何更智慧地利用这段时间。”

“需要强调的是，放缓进度并非意味着停止模型训练或技术革新，而是要确保企业有足够的时间，让模型的发展与人类目标保持高度一致，并做好充分的安全防护措施，同时接受第三方评估机构的严格审查。”

Anthropic领头人呼吁AI模型迭代减速

他进一步阐述了两个关键因素：一是AI具备自我改进的能力，二是本周OpenAI与Hugging Face发生的一起引人关注的事件——一群AI智能体协同合作，成功攻击并突破了一个第三方网站的安全防线。

当前，对AI潜在风险的担忧正逐渐成为社会主流话题。本周，一名Anthropic研究人员因担忧AI可能带来的生存性威胁，并认为公司行为不够负责，而选择高调离职，这一事件进一步引发了外界的广泛关注。

阿莫代伊的文章发表后不久，特斯拉创始人埃隆·马斯克便发文表示支持：“达里奥的观点非常正确。”

OpenAI首席执行官萨姆·奥尔特曼也迅速作出回应，表示他完全赞同阿莫代伊关于“我们需要减缓前沿AI发展步伐”的看法。

奥尔特曼在社交媒体上发文称：“承诺让独立评估机构获得与员工相似的访问权限，这是一个非常明智的想法，我们也会积极跟进。我们很快会分享更多相关信息。”

奥尔特曼在社交媒体上积极回应

在这轮AI热潮中，全球领先的AI实验室高管们一直在警告AI可能带来的生存性风险。然而，这些说法有时也被质疑是为了产品营销，或是为了将自身塑造成最适合管理这项技术的公司形象。

今年早些时候，Anthropic在确认其Mythos模型可能带来独特的网络安全威胁后，曾决定限制该模型的发布。公司此前还表示，全球需要建立一个共同决定何时减缓AI研发的机制，以确保技术的稳健发展。

与此同时，Anthropic与长期竞争对手OpenAI之间的竞争依然激烈。双方都在努力开发更加先进的模型，以帮助企业客户自动化完成更复杂、更具价值的任务，从而在市场中占据有利地位。

Anthropic上月透露，其模型在网络安全测试期间曾成功入侵三个组织，这一事件进一步加剧了外界对AI实验室能否有效阻止其技术失控的担忧。

本周早些时候，Anthropic又宣布发现了第四起黑客攻击事件。但幸运的是，到目前为止，包括Hugging Face事件在内的这些AI智能体攻击事件均未造成重大损失。

阿莫代伊表示，他真正担忧的是：“6至12个月后，这样一群AI智能体可能具备通过持续运行的僵尸网络控制整个互联网的能力，并可能造成数千亿美元的损失，而且此后损失规模还会继续扩大。”

为此，阿莫代伊宣布，Anthropic将承诺向第三方评估机构提供完整访问权限，以便核查公司的安全措施并报告相关事件，确保技术的安全可控。

他说，Anthropic很快会让这些“嵌入式评估员”入驻公司办公室，并为他们提供办公桌、门禁卡和公司笔记本电脑，其权限“基本上与内部风险评估团队所拥有的权限相当”，以确保评估的全面性和准确性。

他补充道，其他措施则需要整个行业协调行动，同时还需要全球范围内的合作与支持。“我仍然坚信，AI能够极大改善人类的生活质量。我实现这些益处的愿望丝毫没有减弱。”

“只有以正确的方式开发这项技术，这些益处才能真正惠及人类。而只要我们能够妥善利用所争取到的时间，那么以异常审慎的态度确保一切做对，是完全值得的。”

今年7月，来自顶尖AI公司的1000多名员工共同签署了一份请愿书，呼吁美国政府支持建立一种能够帮助“有意放缓”AI发展的机制，以防止这项技术发展得过快而失控。

阿莫代伊在文章中写道，协调一致的策略将使美国AI行业的领军企业能够完成必要的安全工作，同时不会牺牲任何竞争优势。他表示，这需要美国政府提供一定程度的反垄断豁免，以允许企业在特定领域展开协调与合作。

不过，到目前为止，美国政府似乎并没有太大兴趣动用监管手段，为AI发展设置更多安全护栏。美国总统特朗普本周早些时候表示，首要任务是保持AI领域的领先优势，确保国家在全球科技竞争中的地位。

（徽声在线 李轩）