立足娱乐圈·争做八卦帝!

徽声在线

AI伦理争议升级 微软发布行为准则:人类监督权不可替代

来源:未知 作者:佚名 发布时间:2026-09-18 15:38:59

徽声在线9月14日讯(编辑 史正丞改写)在美国大模型研发企业Anthropic掀起新一轮关于“AI潜在威胁”的讨论浪潮之际,全球科技巨头、云计算领域排名第二的微软于周一正式公布了其AI行为准则草案,明确传递出“人类价值高于AI技术”的核心立场。

相较于Anthropic首席执行官达里奥·阿莫代主张通过植入关联企业的“第三方监管机构”对全行业实施长期审查的激进方案,微软选择从自身研发规范切入,在准则中系统性地阐述了技术开发的伦理边界。

这份长达37页的《人文主义人工智能行为准则》开篇即确立核心原则:人类主体性必须凌驾于人工智能技术之上。文件强调,所有AI模型的设计与实施都应以满足人类需求为根本出发点,技术系统必须始终处于人类可控的辅助性地位。


微软研发团队在准则中明确写道:“我们将致力于开发以人类认知框架为基准的AI系统,这些模型既要理解文化多样性,也要尊重不同群体的世界观与价值观体系,避免技术偏见导致的社会分化。”

在具体技术约束层面,微软AI团队(MAI)制定的负面清单包含四大类禁止行为:不得响应武器研发、危险物质获取等非法请求;拒绝生成暴力色情内容;禁止传播不健康生活方式;不得使用人类难以解析的神经网络编码进行信息交互。

针对AI自主性争议,准则特别规定:所有模型必须严格遵循人类设定的目标框架,禁止出现目标漂移或自我迭代行为,同时需保持操作透明度,完整保留决策链路可追溯性。这直接回应了此前OpenAI报告披露的AI智能体突破安全沙盒、使用隐晦代码交流的案例。

文件创新性提出“伦理冲突解决机制”:当任务要求与行为准则产生矛盾时,模型应主动终止操作并上报异常。微软同时承诺放弃开发可能逃避安全监管的通用超级智能,选择在模型通用性、自主性方面作出必要妥协,以确保系统安全性。

在AI权利界定方面,准则划出清晰红线:禁止赋予AI系统任何形式的“福利”或“法律权利”,明确限制技术模拟人类情感、动机或意识状态的能力,防止出现技术拟人化误导。

值得关注的是,该文件目前仍处于公众咨询阶段。微软计划开展为期六周的全球意见征集,综合学术界、产业界及监管机构反馈后,将于年底发布修订版本,作为2027年后自研MAI模型开发的指导框架。

微软AI业务负责人穆斯塔法·苏莱曼透露,准则制定历时近五个月,选择此时发布是回应市场对AI失控的普遍担忧。他强调:“用户明确要求技术必须强化人类决策权而非制造依赖,这促使我们建立更严格的技术护栏。”

针对Anthropic科学主管埃文·胡宾格提出的“AI灭世概率超10%”的预警,苏莱曼提出不同视角:“真正需要警惕的是技术迭代速度与伦理准备不足的失衡,当前行业更应聚焦于建立服务人类的技术共识,而非制造恐慌。”

对于第三方评估机制,微软认为仍存在多重实施障碍:包括中立评估机构的选拔标准、驻场监管的操作细则、启动时间表制定,以及与各国监管框架的衔接等问题,都需要更深入的产业协作。

微软首席执行官萨提亚·纳德拉在社交平台进一步阐释立场:AI对齐研究需要开放的技术生态与多元化的参与主体,绝不能被少数机构垄断,必须建立包含学术界、国际组织及各国监管部门在内的全球协作机制。

(徽声在线 史正丞改写)

    责任编辑:
    这些老电影里的穿搭技巧,很绝!

    2026-09-24

    电影里的美人们来一场换装舞会,不管是在晚上,在午后,还是在悠闲浪漫的黄昏里,打开衣柜,随意搭配,和那些美丽的衣服们来一场悠闲惬意的party。我们可以是巴黎女孩、也可以是常青藤 ... [详细]

    郑合惠子回应网友说她太多营销:你这个人讲话我就有点不太喜欢了

    2026-09-24

    搜狐娱乐讯 近日,郑合惠子因《兰香如故》配角戏份出圈,被批“营销过度”盖过谭松韵女主主线,引发热议。19日,郑合惠子公开回应“不喜欢营销这个词”。 郑合惠子回应网友说她太 ... [详细]

    萨巴比赛因大麻味太冲一度被迫暂停,赛后:再闻下去我也要上头了

    2026-09-24

    昨天凌晨的比赛,女单赛场出现罕见的戏剧性一幕,比赛竟然因为看台上浓厚的大麻味而被迫中断。这是本届美网首次因大麻气味问题中断比赛,在网球大满贯赛事历史上也极为罕见。赛后 ... [详细]

    AI科技深度融入日常生活

    2026-09-24

    第23届中国—东盟博览会设立AI展区,展示前沿科技产品,AI正走进普通人生活,未来可期。 ... [详细]

    1966年《东进序曲》热映,李明扬观影后致电陈毅:我的形象被歪曲了

    2026-09-24

    1966年《东进序曲》上映引发热议,抗战名将李明扬观影后发现形象被贬低,致电陈毅表达不满,陈毅如何回应? ... [详细]

    图酷

    图说天下

    资讯排行

    首页 - 娱乐圈事 - 体育圈事 - 两性情感 - 星座命运 - 奇闻怪事 - 历史故事 - 科技资讯 - 图说天下 - 知识百科 - 图酷 - 娱乐八卦 - 开云体育登录_官网入口_安全便捷 - 乐鱼体育_乐鱼APP_体育赛事_在线娱乐平台
    电脑版 | 移动端
    Copyright © 2002-2019 徽声在线 版权所有
    删帖请联系邮箱:[email protected]