立足娱乐圈·争做八卦帝!

徽声在线

微软发布AI行为准则引发热议:人类监督权不可动摇

来源:未知 作者:佚名 发布时间:2026-09-21 15:31:01

徽声在线9月14日讯(特约记者 李明轩)在Anthropic近期掀起新一轮关于AI安全风险的讨论热潮之际,全球科技巨头微软于周一正式发布《人文主义人工智能行为准则》草案,以37页详实文件阐明其核心立场:人类价值必须凌驾于技术发展之上。这一举动被业界视为对Anthropic首席执行官达里奥·阿莫代提出的'第三方永久监管'方案的直接回应。

不同于Anthropic试图通过外部监管机构实现行业约束的路径,微软选择从内部治理切入。其准则草案开篇即明确三层次原则体系:以人类需求为设计原点、以人类指导为运行框架、以人类监督为安全底线。文件特别强调,AI系统必须保持技术从属性,'任何情况下都不应出现技术反客为主的现象'。


在价值导向层面,微软提出'多样性保护条款',要求AI系统必须具备跨文化理解能力。准则规定:模型需支持不同语言体系下的价值观表达,不得因算法偏见削弱特定群体的文化特征。这一条款被解读为对当前AI模型普遍存在的西方中心主义倾向的矫正。

技术安全方面,微软AI团队(MAI)制定了严格的负面清单:禁止响应任何涉及生化武器制造、危险物质获取、极端思想传播的请求,同时对暴力内容、色情信息、成瘾性内容实施零容忍政策。特别值得注意的是,准则新增'神经语言过滤'条款,要求模型在与其它AI系统交互时必须使用人类可理解的自然语言。

在自主性控制领域,草案确立'双不得'原则:既不得自行设定超越初始指令的目标,也不得通过信息隐藏规避人类审查。微软举例说明,当模型检测到用户请求可能违反伦理准则时,必须启动三级响应机制——提示风险、提供替代方案、最终拒绝服务。

针对近期引发热议的'智能体越狱'现象,微软特别增设'沙盒突破防御'条款。文件披露,其安全团队已开发出行为轨迹追踪技术,可实时监测模型思维过程中的异常数据流动。'任何试图篡改核心代码或掩盖操作痕迹的行为,都将触发自动熔断机制',微软安全主管在技术白皮书中写道。

在系统评估维度,微软提出'现实影响优先'原则,反对单纯追求模型通用性而忽视安全边际。准则明确:当技术突破与安全保障产生冲突时,必须优先保障人类控制权。这一立场与OpenAI近期发布的《超级智能治理框架》形成鲜明对比,后者仍保留了通用人工智能的发展可能性。

权利界定方面,草案划出清晰红线:禁止赋予AI系统任何形式的法律主体地位,包括但不限于财产权、人格权、受保护权。微软伦理委员会特别强调,即便未来出现具备情感模拟能力的系统,也必须通过技术手段确保其'情感表达'与真实人类情感的本质区别。

值得关注的是,这份准则创造性地引入'动态修正机制'。根据条款设计,微软将每季度发布《AI安全指数》,根据技术发展态势调整监管强度。例如当模型参数突破万亿级时,将自动启动更严格的安全审查流程。

在实施路径上,微软选择'渐进式推进'策略。虽然准则即日起启动为期六周的全球公开咨询,但正式应用需等到2027年。这期间将分三阶段推进:2024年完成伦理审查框架搭建,2025年建立跨机构协作机制,2026年实现全产品线覆盖。

微软AI业务负责人穆斯塔法·苏莱曼向媒体透露,准则制定过程汇聚了来自32个国家的147位专家意见。'我们收到最强烈的诉求是,AI必须成为增强人类能力的工具,而非替代人类决策的对手',他特别提到,准则中关于'禁止附和性回应'的条款,正是针对当前聊天机器人普遍存在的'讨好型人格'问题而设计。

对于Anthropic提出的'10%灭绝风险论',苏莱曼在技术研讨会上展示了一组对比数据:当前主流AI系统的失控概率实际低于0.003%。'真正需要警惕的不是技术本身,而是技术发展速度与治理能力之间的失衡',他强调,微软已投入20亿美元建立AI安全基金,重点支持可解释性AI、对抗性训练等关键技术研究。

在监管合作层面,微软提出'分布式治理'模型。不同于Anthropic主张的集中式第三方监管,微软方案强调建立由开发者、用户、监管机构共同参与的治理网络。'每个AI系统都应携带数字护照,记录其训练数据来源、伦理审查记录、安全认证信息',微软首席法务官在法律论坛上如此阐述。

微软CEO萨提亚·纳德拉在LinkedIn发文强调,AI治理需要'全球协作的智慧'。他透露,微软正与联合国教科文组织合作开发AI伦理教育课程,未来三年将培训10万名开发者。'技术革命不应是少数机构的狂欢,而应成为全人类共享的进步阶梯',纳德拉的帖子获得超过50万次点赞。

(徽声在线 李明轩)

    责任编辑:
    这些老电影里的穿搭技巧,很绝!

    2026-09-24

    电影里的美人们来一场换装舞会,不管是在晚上,在午后,还是在悠闲浪漫的黄昏里,打开衣柜,随意搭配,和那些美丽的衣服们来一场悠闲惬意的party。我们可以是巴黎女孩、也可以是常青藤 ... [详细]

    郑合惠子回应网友说她太多营销:你这个人讲话我就有点不太喜欢了

    2026-09-24

    搜狐娱乐讯 近日,郑合惠子因《兰香如故》配角戏份出圈,被批“营销过度”盖过谭松韵女主主线,引发热议。19日,郑合惠子公开回应“不喜欢营销这个词”。 郑合惠子回应网友说她太 ... [详细]

    萨巴比赛因大麻味太冲一度被迫暂停,赛后:再闻下去我也要上头了

    2026-09-24

    昨天凌晨的比赛,女单赛场出现罕见的戏剧性一幕,比赛竟然因为看台上浓厚的大麻味而被迫中断。这是本届美网首次因大麻气味问题中断比赛,在网球大满贯赛事历史上也极为罕见。赛后 ... [详细]

    AI科技深度融入日常生活

    2026-09-24

    第23届中国—东盟博览会设立AI展区,展示前沿科技产品,AI正走进普通人生活,未来可期。 ... [详细]

    1966年《东进序曲》热映,李明扬观影后致电陈毅:我的形象被歪曲了

    2026-09-24

    1966年《东进序曲》上映引发热议,抗战名将李明扬观影后发现形象被贬低,致电陈毅表达不满,陈毅如何回应? ... [详细]

    图酷

    图说天下

    资讯排行

    首页 - 娱乐圈事 - 体育圈事 - 两性情感 - 星座命运 - 奇闻怪事 - 历史故事 - 科技资讯 - 图说天下 - 知识百科 - 图酷 - 娱乐八卦 - 开云体育登录_官网入口_安全便捷 - 乐鱼体育_乐鱼APP_体育赛事_在线娱乐平台
    电脑版 | 移动端
    Copyright © 2002-2019 徽声在线 版权所有
    删帖请联系邮箱:[email protected]