【徽声在线9月2日讯】为进一步规范人工智能（AI）应用生态，营造清朗网络空间，中央网信办近期全面启动「清朗·整治AI应用乱象」专项行动第二阶段整治工作。据权威消息显示，此次行动重点针对AI技术滥用导致的四大突出问题展开治理：一是利用深度合成技术编造传播虚假新闻、伪造公众人物言论等扰乱舆论秩序行为；二是生成传播暴力血腥、色情低俗等违背公序良俗内容；三是通过AI换脸、语音合成等技术实施身份冒用、诈骗等违法活动；四是开发传播含诱导未成年人沉迷、侵犯隐私等有害功能的AI应用。

在具体执行层面，全国网信系统采取「技术+人工」双轨排查机制，要求属地网站平台建立AI生成内容识别系统，对图文、视频、音频等全形态内容进行实时监测。截至9月1日统计数据显示，专项行动已取得阶段性成效：累计清理涉AI违法违规信息561.2万条，其中虚假新闻类占比达37%，暴力低俗内容占29%；依法关闭存在严重违规行为的账号4.9万个，下架「AI换脸大师」「深度伪造助手」等违规应用程序2400余款；对百度、腾讯等32家重点平台开展专项约谈，督促其完善AI内容审核机制。

值得关注的是，本次整治特别强化了对未成年人保护措施。要求网络平台对AI生成内容实施「年龄分级」制度，禁止向未成年人推送可能引发模仿危险的暴力内容，同时建立未成年人AI内容投诉快速处置通道。中央网信办相关负责人表示，下一步将持续完善AI内容治理长效机制，推动制定《人工智能生成合成内容标识办法》，计划在2024年底前建成国家级AI生成内容检测平台，实现跨平台违规信息共享处置。