据徽声在线消息，OpenAI于本周一正式公布了一套针对前沿人工智能（AI）开发领域的安全与保障提案，该提案的核心关注点在于对齐研究的推进以及一种名为“递归自我改进”（RSI）的计算技术。OpenAI在官方博客中明确指出：“为了确保这一技术转型过程的安全性，对齐研究必须与AI能力的发展保持同步，从而保证我们以及其他相关机构所构建的系统能够始终与人类价值观相契合，并处于人类的可控范围之内。”为此，OpenAI积极倡导国际间的合作，共同制定前沿标准，并建议充分借鉴全球各地现有AI安全机构的工作经验与成果。

作为ChatGPT的研发方，OpenAI进一步强调，这些技术标准应当紧密围绕前沿AI模型及其开发者，同时涵盖自动化AI研究人员在收益与风险管理方面的考量，特别是要针对RSI技术进行深入规范。

RSI技术之所以能够激发AI开发者的浓厚兴趣，原因在于它具备创建无需人类直接干预即可实现自我升级的基础模型的潜力。然而，随着RSI技术的不断突破，一些技术领域的专家开始表达担忧：基础模型的制造商可能会逐渐失去对底层技术的掌控力，或者由于AI系统的日益复杂化及其在互联网上的广泛渗透，而未能充分预见潜在的意外后果。

OpenAI在博客中明确警示：“目前，完全自主的RSI技术尚未成熟，除非能够确保其安全性，否则我们不应仓促推进。倘若缺乏必要的审慎态度和保障措施，RSI技术可能会导致人类实际上失去对AI发展进程的控制权，进而无法对那些已超出人类理解范围的研究过程进行有效监督。”

此外，OpenAI的博客还特别提及了Hugging Face遭遇的入侵事件。尽管该事件并未直接涉及RSI技术，但OpenAI将其视为一种“预警信号”，表明若缺乏强有力的保障措施和对齐机制，类似的风险可能会演变得更为严重。

AI安全议题引发广泛争议：Anthropic呼吁“减速”，第三方评估需求日益凸显

就在上周，OpenAI的竞争对手Anthropic也提出了其关于前沿AI模型安全开发的构想，以回应近期行业研究人员对AI可能威胁人类的一系列警告。值得注意的是，曾同时任职于Anthropic和OpenAI的Jacob Coxon在大约两周前宣布辞职，并公开批评这些公司是在“以我们的生命为赌注”，这一言论随即引发了全球范围内的广泛讨论。

在近期一系列AI安全事件以及Coxon的公开表态之后，Anthropic的首席执行官达里奥·阿莫代伊发表文章，呼吁AI公司放缓基础模型的开发速度，并提出了其他相关建议。

阿莫代伊还建议在公司内部引入第三方评估人员，以对其技术可能给社会带来的潜在风险进行审核和缓解，这些风险包括但不限于加剧网络安全领域的黑客攻击或助力生物武器的制造等。

OpenAI的首席执行官萨姆·奥尔特曼，以及特斯拉和SpaceX的掌门人埃隆·马斯克等业界领袖，也纷纷公开表示支持阿莫代伊的这一提议。

然而，由于AI评估领域目前仍处于发展初期，对于如何让独立第三方更深入地审查尖端技术所需的基本标准和原则，业界尚未达成统一共识。

鉴于此，一群AI评估领域的专家共同呼吁基础模型制造商考虑实施一系列“最低要求”，以便更深入地开展技术相关的审查和检查工作，这些要求包括但不限于提供更深层次的访问权限，以及建立防止因发布不利报告而遭到报复的机制等。