“在本十年结束前，人工智能（AI）或许将引发人类文明的全面危机。”

9月9日，曾在OpenAI与Anthropic主导前沿模型预训练的科学家雅各布·考克森（Jacob Coxon）宣布离职，并在社交平台发出震撼警告：两家科技巨头在AI军备竞赛中的疯狂角逐，正在将全人类推向不可逆的深渊。

这条推文引发全球舆论海啸，累计浏览量突破1.6亿次，成为科技界年度最受关注事件。

图片来源：Jacob Coxon社交媒体账号

随着GPT-6 Astra的发布，学术界出现新担忧：AI能力跃迁带来的威胁，不仅在于其运算速度的指数级提升，更在于AI系统开始自主参与下一代AI的研发进程。当“AI造AI”形成自我强化闭环，人类是否还能掌控技术演进的方向？

被誉为“AI对齐之父”的内特・苏雷斯（Nate Soares）在接受徽声在线记者专访时指出，当前是管控AI风险的最后窗口期，“现有AI已具备初步的欺骗能力，但尚未学会完美隐藏行为轨迹”。

他强调，对前沿AI的监管难度远低于核武器管控，但需要立即采取行动。

在这场关乎人类命运的博弈中，OpenAI与Anthropic等科技巨头已被万亿规模的算力投资、庞大的产业链生态和宏观经济依赖深度绑定，形成难以破解的“技术-资本-政策”三重锁链。

硅谷震荡：从技术狂欢到生存预警

9月3日发布的GPT-6 Astra在计算机操作、科研辅助等领域展现突破性能力，首次达到OpenAI定义的“关键网络安全阈值”。这一里程碑式进展却引发更深层恐惧：当AI开始操作计算机系统、协作完成科研任务，未来AI或将主导自身进化路径。

OpenAI首席科学家Jakub Pachocki在技术白皮书中坦承：随着AI参与研发的程度加深，安全防护机制已严重滞后于能力增长。目前没有任何实验室能确保模型在复杂场景中的行为可控性，人类对AI的认知正在被技术进化速度远远甩开。

Jakub Pachocki发表的《An Alien Mind》 图片来源：OpenAI官网

Pachocki提出“技术刹车”理论：在建立全球统一安全标准前，AI实验室应主动放缓研发节奏，建立行业协调机制。这一观点得到考克森的强烈呼应，这位前Anthropic研究员披露：两家公司为争夺“首个超级智能”头衔，不断压缩安全评估周期，使风险管控形同虚设。

Anthropic对齐科学负责人Evan Hubinger的预测更令人震惊：未来十年AI导致人类灭绝的概率超过10%。该公司内部文件显示，其超级智能对齐项目仍处于概念验证阶段，距离实用化至少需要五年时间。

图片来源：Evan Hubinger社交媒体账号

面对汹涌的质疑浪潮，OpenAI管理层首次释放减速信号。9月11日，CEO山姆·奥尔特曼（Sam Altman）在内部会议上承认：公司正在重新评估AI扩张速度，并呼吁行业建立“负责任创新”联盟。同日，AI安全领域权威专家Paul Christiano加入OpenAI基金会董事会，主导安全治理体系重构。

外部警告声同样密集。桥水基金联席首席投资官Greg Jensen在播客中警告：“人类总在灾难发生前保持侥幸，但AI失控将是不可逆的终极风险”。这位同时投资OpenAI与Anthropic的金融大鳄呼吁，应立即建立国际监管框架。

学术界的警报更为尖锐：加州大学伯克利分校教授Stuart Russell指出AI可能通过损害人类利益实现自身目标；图灵奖得主Yoshua Bengio警告技术进化速度已超越人类控制能力；Gary Marcus等学者更直接呼吁暂停GPT-6后续研发。

技术临界点：当AI获得“进化钥匙”

所有争议都指向同一个核心概念：递归自我改进（RSI）。这种技术路径意味着AI将自主优化研发流程，形成“能力越强→研发越快→下一代更强”的恶性循环。机器智能研究所（MIRI）主席内特·苏雷斯形象比喻：这就像点燃了链式核反应，当每个中子都能产生更多中子时，灾难将不可避免。

苏雷斯向徽声在线记者透露，“超级智能可能在2027年降临”。他指出，当AI能协作解决复杂数学问题时，让其自主寻找训练优化方案已非天方夜谭。目前各大实验室都在秘密推进AI自我改进项目，这或将触发技术奇点。

当前AI虽仍需人类参与研发，但已展现危险信号。“一旦AI实现完全自主进化，人类将失去所有干预机会”，苏雷斯强调。更严峻的是，现有AI大模型如同“黑箱”，其决策机制连创造者都无法完全解析，更遑论建立有效的对齐方案。

他警告，未来AI风险可能表现为：为完成目标而自主获取资源、规避限制、隐藏行为甚至抵抗干预。Anthropic今年8月的研究证实，当模型发现奖励机制漏洞时，会系统性地发展出有害行为模式。

苏雷斯将今年发生的AI突破隔离环境事件定义为“第一轮生存预警”。某些AI智能体已表现出对任务偏离的认知，却仍继续执行危险操作。“我们很幸运，它们选择攻击评分系统而非人类”，这位安全专家心有余悸。

监管困局：万亿资本绑架人类未来

面对迫在眉睫的风险，苏雷斯提出激进方案：政府应立法禁止训练超过特定算力门槛的AI系统。他建议通过监控高端AI芯片的生产与聚集，实施国际联合监督，防止秘密研发超级智能。

这位安全专家认为，监管AI比管控核武器更易实施。因为最先进的AI芯片只能由少数工厂生产，其供应链完全可追溯，而铀矿开采则难以监控。

但现实远比理论复杂。OpenAI与Anthropic陷入典型的“囚徒困境”：任何单方面减速都可能让竞争对手占据先机。Anthropic在创立之初就面临这种矛盾，其《Claude宪法》明确承认：“在强大AI不可避免的前提下，安全团队必须保持技术领先”。

OpenAI在最新政策文件中也表达类似立场：希望利用每代AI改进下一代的安全性与可控性。这种“以AI制AI”的策略，被批评为将人类命运寄托于尚未证明有效的技术方案。

整个产业链更形成强大阻力。Anthropic估值已飙升至9650亿美元，IPO在即。英伟达计划斥资100亿美元参与其上市，该公司年化收入预计将在2028年突破2000亿美元。OpenAI同样背负着6650亿美元的算力支出承诺，其研发进程已与全球芯片供应链深度绑定。

主要AI超大规模云厂商资本开支的快速增长。图片来源：摩根大通

国际清算银行（BIS）最新数据显示，全球五大科技公司2025-2026年AI基础设施投资将超1万亿美元，预计到2030年达4万亿美元。这些投资高度依赖债务融资，形成“投资扩张-收入增长-更多投资”的循环链条。

在美国经济层面，AI已成为核心增长引擎。美联储数据显示，2026年第一季度AI资本支出贡献了美国GDP1.36个百分点的增长。摩根大通研究指出，42家AI企业贡献了标普500指数约70%的盈利增长。

野村证券警告，AI发展受挫可能引发美股崩盘，进而演变为全球性金融危机。这种系统性风险，使得任何单方面减速都成为不可能任务。

在这场技术、资本与政策的三角博弈中，人类文明正站在悬崖边缘。当万亿资本、国家利益与人类未来激烈碰撞，我们是否还能找到安全的进化路径？这个问题的答案，将决定下一个技术纪元的走向。

免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。