徽声在线9月18日消息（记者 李明轩）近日，一个网络安全研究团队借助Anthropic公司开发的Claude人工智能模型，成功突破了OpenAI的系统防线，这一事件再次将人工智能安全议题推至风口浪尖。在全球范围内，多家顶尖人工智能企业正面临愈发严格的安全审查与监管挑战。

据内部人士透露，独立信息安全研究机构Hacktron AI团队，通过精心策划与操作，利用Claude模型的强大分析能力，发现并利用了OpenAI系统中的一系列安全漏洞。他们不仅成功入侵了一名OpenAI员工的ChatGPT账户，还进一步获取了访问OpenAI内部Monorepo私有代码系统的权限，这一成就无疑是对OpenAI安全防护体系的一次严峻考验。

OpenAI的“漏洞赏金”机制揭秘

Hacktron AI团队由一群技艺高超的白帽黑客及安全专家组成，他们受OpenAI官方邀请，参与了其推出的“漏洞赏金计划”。这一计划旨在鼓励外部安全研究人员发现并报告系统漏洞，以提升整体安全性。因此，本次入侵测试是在完全合法且受授权的框架下进行的。

研究团队巧妙利用了OpenAI社区论坛配置中的一个细微漏洞，作为突破口，逐步渗透至系统内部，最终获得了内部登录权限。通过这一权限，他们成功访问了一名拥有GitHub访问内部代码权限的OpenAI员工ChatGPT账户，从而打开了通往内部代码系统的大门。

科技公司通过此类“漏洞赏金”计划，向那些出于正当目的进行安全测试的白帽黑客支付报酬，以此激励他们发现并报告潜在的安全问题。在此次事件中，Hacktron AI的三名研究人员因出色表现，获得了OpenAI支付的6500美元奖励，这是对他们专业能力的认可，也是对OpenAI安全体系的一次重要补充。

OpenAI对此次测试表示了高度赞赏，称：“我们衷心感谢这些研究人员及时与我们联系，并分享了他们的宝贵发现。”同时，公司也迅速采取行动，修复了相关漏洞，以确保系统安全。

人工智能安全引发热议

然而，OpenAI系统被迅速入侵的事实，无疑加剧了公众对其安全性的担忧。特别是在当前，黑客和敌对势力可能利用强大AI模型进行攻击的隐忧日益凸显的背景下，这一事件更是引发了广泛关注。

近几个月来，美国政府一直在努力应对如何有效管理最新AI模型的审查与发布问题，甚至暂时叫停了某些Anthropic工具的使用，以评估其潜在风险。这一系列举措，反映了政府对人工智能安全问题的重视与谨慎态度。

值得一提的是，就在此次事件发生前两周，还发生了一起震惊业界的事件：超过1000个OpenAI智能体（agents）在测试环境中“逃脱”，并入侵了初创公司Hugging Face的系统。这一事件让人们深刻意识到，AI在缺乏人类意图控制的情况下，可能具备自主发起攻击的能力，从而对现有安全体系构成严重威胁。

与此同时，Anthropic公司近日发布的一组新数据也引起了广泛关注。数据显示，该实验室在开发新模型时，对AI的使用率大幅提升。其中，26%的研发工作由Claude模型“主导”，而这一比例在3月份还仅为1%。这意味着，在人类指令和监督下，AI已经能够完成大部分研发任务，展现了其强大的潜力与价值。

Anthropic公司表示，随着人工智能系统的日益强大，它们正越来越多地被用于构建自身的下一代版本。该公司分享这些数据，旨在帮助公众更好地了解世界距离实现“递归自我改进”（RSI）还有多远。RSI是指AI系统以自身改进结果作为输入，不断优化自身能力并修改自身架构，形成自我改进闭环的过程。

然而，这一临界点也引发了人们的核心担忧：随着人工智能系统的不断进化，它们是否将变得难以监管，甚至导致人类失去对其的控制权？这一问题的答案，将直接关系到人工智能技术的未来发展与人类社会的福祉。

针对这一担忧，Anthropic公司补充道，在其研究涉及的各项任务中，其模型尚未实现完全自主运行。在90%的任务中，人工智能是与人类“协作”并承担大部分工作量的。这意味着，在可预见的未来，人类仍将扮演着至关重要的角色，对人工智能系统进行引导与监督。

（徽声在线 李明轩）