8家平台签署承诺书 提供“遵循红线”应用

中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 为正视人工智能合成技术滥用风险，规范电商直播行业秩序，今天从北京市消协获悉，8家平台签署了应对人工智能合成技术滥用风险的《遵守红线》应用承诺书，并与京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等建立自律规范，划定人工智能技术应用“红线”。对于过年的人来说，AI数字真人直播、虚拟场景投递等新技术的应用已经开始流行。虽然我在证明消费者体验的同时，一些商家的违规经营也引起了消费者的担忧。北京市消协进行了为期三个月的专项调查，发现当前人工智能合成技术应用中存在的突出问题：消费者知情权保障不够、普遍存在“真假难辨”问题。根据3162份有效问卷的数据，近90%的受访者呼吁“人工智能生成的内容清晰标记”，超过70%的受访者接受虚拟背景，但强调需要醒目的标牌。超过60%的人认为AI数字人类“不再有真实感受”，近30%的人担心“它们可能会误导消费者的决策”。合成技术的滥用正在倾注消费风险，“虚假营销”问题日益突出。针对AI数字人行为及AI场景直播针对电商平台上的商品，北京市消费者协会对10个AI数字人直播带货实例进行了调查体验发现：5个实例在直播界面中标注了“AI生成”、“真实场景”等即时信息； 5例没有及时回应经验问题； 6个例子存在未提示私下交易风险等问题。此外，平台的评价机制也存在不足，风险防控有待完善。调查发现，当前部分电商平台尚未建立良好的AI内容分析专项体系，对创业者使用AI数字人、虚拟场景等技术缺乏有效的管理政策和准确的识别技术。针对上述问题，承诺书采取“标签透明、审核严格、可追溯”以“责任”为核心，提出遵守法律底线、明确合规边界、强化标签要求、保护知情权等具体措施。要求商家和内容创作者在利用人工智能技术生成合成数字主播和虚拟场景时，在已知地点明确标注“人工智能生成”或“真实场景”等标志；鼓励使用平台提供的统一人工智能内容识别功能主动发布，严禁利用人工智能换脸技术提供假明星同时，技术监控和人工检查相结合，防止违规行为在内容审核和传播过程中，对直播内容和直播场景进行监控，发现疑似数字人或没有标签的AI虚拟场景存在问题时，将采取相应措施。n 在发布的内容周围及时添加显着的警示标志。如果平台认定存在违规行为，将会采取屏蔽链接等额外措施。八家平台还承诺坚决防止恶意删除和篡改。任何改变、遗忘、隐藏AI内容身份的行为，都必须依法依规严肃处理，维护AI系统的严肃性。 （记者杨兆奎） （编辑：何鑫）