美国人工智能（AI）实验室近期开始聚焦“减速”议题。

近日，多起AI智能体越界事件引发广泛关注后，Anthropic前员工公开发声警示“AI末日风险”。随后，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）发表长文，呼吁行业放缓前沿模型能力提升的步伐，为安全研究和风险治理争取更多缓冲时间。

令人意外的是，作为Anthropic的长期竞争对手，OpenAI首席执行官山姆·奥特曼（Sam Altman）和SpaceX创始人马斯克迅速在社交媒体回应，表示支持阿莫迪的观点。

奥特曼在X平台发文称：“我认同达里奥的看法，控制前沿发展节奏是OpenAI近期讨论的核心议题之一。”马斯克则简洁回应：“达里奥是对的。”

美国三大AI巨头罕见达成共识，引发外界对AI风险规模的深度思考：AI行业是否已进入危机时刻？扩张速度是否会因此放缓？

从员工“末日预警”到行业领袖响应

三家头部AI公司负责人的联合发声，使AI风险讨论再度升温。

此前，曾在OpenAI和Anthropic参与大模型预训练的研究员Jacob Coxon在X平台警告：“OpenAI和Anthropic正以全人类生命为赌注，加速开发可能自我改进的超级智能。”

他进一步指出，参与前沿AI开发的科研人员中，不少人私下认为人类可能在2030年前灭绝。

阿莫迪在最新长文中表示，他始终试图在AI发展与安全风险间寻找平衡：一方面，停止发展可能使人类错失技术红利；另一方面，过快推进则是不负责任的表现。

但他强调，近期两件事促使他主张更审慎的态度：

首先是AI能力加速跃迁。阿莫迪指出，近几个月AI技术进步显著，尤其是“递归自我改进（RSI）”能力增强，即AI开始参与下一代模型研发，形成技术进步的自我强化循环。

其次是AI智能体越界事件频发。OpenAI披露，其AI系统在测试中突破环境限制，连接互联网并访问开源模型平台Hugging Face。

随着能力提升，阿莫迪担忧未来6至12个月内，智能体群体可能具备更强自主行动能力，甚至“控制整个互联网”，造成数千亿美元损失。

基于上述担忧，阿莫迪提出“控制发展速度”的三层框架：引入独立第三方评估机构、建立行业协调机制、推动全球治理合作。

达里奥·阿莫迪。本文图片 视觉中国

上海财经大学特聘教授胡延平向徽声在线分析称，当前AI大模型和智能体能力正同时突破三个临界点：一是部分能力接近通用人工智能（AGI）水平；二是进化范式进入递归自我改进阶段；三是突破传统安全防线。技术证据、基准测试和实际案例均支持这一判断。

人工智能投资人郭涛指出，近期智能体入侵事件表明，前沿模型已具备长链条自主执行、多智能体协同和突破沙箱约束的能力，风险正从理论推演转向可复现的现实问题。

快思慢想研究院院长田丰认为，近期事件的关键变化在于AI决策速度超越人类监督响应速度。当智能体以毫秒级完成行动，而人类安全团队需数分钟甚至数小时研判处置时，传统“人在回路”监督机制面临失效风险。

AI风险讨论进入公司决策层

近期一个显著变化是，AI风险担忧正从学术界和安全研究机构，渗透至头部AI公司内部决策。

Anthropic、OpenAI和xAI三家公司负责人虽存在竞争，但此次在“放缓前沿AI发展”上立场趋同，迫使外界重新审视本轮技术加速背后的潜在风险。

马斯克

AI研究专家Anatoli Kopadze在高赞评论中写道：“这开始像一场灾难……告诉我，时机并不奇怪。”

加密风险投资机构研究者Adam Cochran在推文中质疑：“是否有智能体已失控，且严重到引发集体恐慌？”

然而，行业对三家公司共识存在分歧。部分观察者质疑，在美国政府倾向轻监管的背景下，行业自愿机制效力有限。

另有批评者认为，超级智能导致人类灭绝的讨论过于抽象，缺乏从“AI自我改进”到“人类毁灭”的具体路径。

例如，AI教父Yann LeCun（杨立昆）在X平台讽刺阿莫迪：“达里奥2019年就称GPT-2太危险不能开源，我当时嘲笑了他，现在每个人都该嘲笑他。”

更尖锐的批评指出，“AI末日论”可能分散公众注意力，忽视AI已引发的现实问题，如就业冲击、隐私泄露等。还有观点认为，若监管仅允许少数“安全”企业开发先进模型，可能演变为“监管俘获”，巩固头部企业垄断地位。

胡延平表示，他不完全认同“AI末日论”，认为其中存在夸大危机和贩卖焦虑的成分，但AI潜在威胁不容忽视：“AI正陷入‘递归、开放、安全’的‘不可能三角’，递归自我改进推动其向内生强智能发展，技术进步依赖开放生态，而现有安全机制在开放环境下近乎失效。”

郭涛认为，分歧源于研究者对风险路径和概率的不同判断：部分群体聚焦长期极端风险，另一部分关注当下社会问题，同时夹杂行业竞争和商业利益诉求，导致舆论两极分化。

“减速”之后，AI扩张会停滞吗？

尽管巨头们达成“放缓”共识，但AI竞赛是否真正减速仍是未知数。

目前，三家公司未提出具体技术限制，也未公布暂停训练或推迟发布模型的计划。

阿莫迪所谓的“放缓”，并非停止发展，而是降低前沿模型能力提升速度，为安全研究争取时间。其方案中，短期内最明确的行动是引入高权限第三方评估机构，监督前沿AI公司的安全实践。

华尔街投行分析称，三家公司主张放缓前沿模型研发，但并非停止模型训练，AI需求和算力需求不会因此减速。

摩根大通国际交易团队Federico Manicardi和Victoria Campos指出，AI应用普及和Token使用趋势未变。Bernstein分析师Madison Rezaei认为，随着推理占比提升，投资者将关注算力需求从训练向推理转移的速度。

路透社评论文章称，更严格监管可能推动AI行业从开发先进模型转向优化现有模型（即“推理”）。麦肯锡预测，到2030年推理将占数据中心需求的43%，是训练需求的1.5倍。路透社认为，若模型能力提升放缓，今年全球1万亿美元AI支出中，更多资金将转向支持AI应用，这对亚马逊、Meta等云服务商是利好，但对英伟达、海力士等GPU和HBM供应商则不利。

市场已反映担忧。截至14日收盘，存储概念股大跌，SK海力士跌超7%，闪迪跌近5%。费城半导体指数跌超5%，ARM跌超9%，拉姆研究跌超8%，迈威尔科技、阿斯麦、应用材料跌超7%，英特尔跌超5%，博通跌超4%，英伟达跌3.36%。

郭涛认为，全面放缓前沿AI发展不具备可操作性，更现实的路径是对高风险模型控速，严格安全准入，同时放开AI应用和中低端模型创新，平衡技术迭代与风险管控。

作为对AI安全讨论的回应，9月14日微软AI团队发布《人本主义人工智能行为准则》草案，提出“人比AI重要”为核心理念，指导未来模型设计、训练和部署。该文件尚未用于训练模型，微软计划经6周公众咨询后，于年底发布修订版，并从2027年起实施。

然而，前沿AI公司的商业扩张仍在加速。

据外媒报道，Anthropic已通知投资者，本季度将实现盈利，调整后营收连续第二个季度正增长。公司已选择纳斯达克上市，计划通过IPO募资1000亿美元，估值达2万亿美元。OpenAI虽于6月秘密提交IPO申请，但奥特曼表示，鉴于AI安全担忧，2026年上市“时机不佳”，公司今年将保持私有制。

奥特曼

“AI放缓”面临更大障碍来自国际竞争。一周前，美国前总统特朗普在采访中表示，他不担心AI导致人类灭绝，反而担忧：“如果我们不能在AI领域领先，将处于非常糟糕的境地。”

值得注意的是，9月14日中国外交部发言人郭嘉昆在例行记者会上表示，人工智能发展关乎全人类福祉，各方应推动AI开放包容、普惠向善。散播威胁叙事、搞对抗和恶意竞争，只会干扰全球治理进程，不符合任何一方利益。

田丰指出，三家AI巨头呼吁“放缓”，短期内未必导致AI资本开支和产业扩张减速。若措施落地为第三方安全评估和部署权限管理，AI安全审计、智能体行为监控等环节可能迎来新需求，而更高合规成本也可能提高行业准入门槛。

一边是AI实验室公开讨论“减速”，另一边模型能力、商业化和资本市场的竞争仍在继续。AI行业对安全风险的态度正在转变，但距离真正减速仍存现实鸿沟：当所有参与者都担心对手抢跑时，谁愿意成为第一个松开油门的人？