八家平台企业签署全国首份推动人工智能技术标准化应用承诺书 – 新京报

目前，人工智能合成技术在电商直播行业中被滥用。近日，北京市消费者协会联合京东、美团、拼多多、唯品会、抖音、快手、小红书、微信直播等8家电商平台正式签署全国首个《推动人工智能技术标准应用承诺书》，在技术认定、内容审核、责任追踪等方面建立企业自律标准，并提出六项划定措施。具体的。人工智能技术应用的“合规红线”将强化平台企业的核心责任，切实保护消费者的合法权益。近 90% 的受访者希望对人工智能生成的内容进行清晰的口头标记。近年来，AI真人数字直播、虚拟场景分发等新技术应用迅速普及。瓦在消费体验不断提升的同时，一些商家的违规经营行为引起消费者的广泛关注。北京市消费者协会进行了为期三个月的专项调查。通过调查、经验研究和专家讨论，我们发现了当前人工智能合成技术应用中侵犯消费者权益的三个尚未解决的问题。消费者知情权得不到充分保障，普遍存在真假难辨的问题。调查数据显示，近90%的受访者要求“对人工智能生成的内容进行明确标记”，超过70%的受访者接受虚拟背景，但强调需要突出指示。超过60%的受访者认为人工智能数字人类“缺乏真实情感”，近30%的受访者担心他们“可能会欺骗消费者决策”。合成技术的过度使用给合作带来风险消费者并提出了“虚假营销”的问题。考虑到AI数字人的行为以及AI场景在电商平台上的产品直播，北京市消费者协会决定，对于10个AI数字人直播产品的样本，“模拟消费者在直播间购物+实体外的产品”，通过线上对比的结果进行了实证研究。调查发现，5个样本存在问题，如直播界面未标注“人工智能生成”、“真实场景”等即时信息，5个样本无法及时回答或与用户提问互动，6个样本未诱发个人交易风险等。此外，一些网络直播滥用公众信任，获取不正当利益。近期，网信部门还查处了多个利用AI换脸技术冒充他人的网络账号。明星进行直播营销。平台审核机制存在缺陷，“风险防控”能力有待提升。经过与专家的讨论和研究发现，目前一些电商平台尚未建立和完善专门的人工智能内容审核系统，缺乏有效的管理规则和ID技术，对营销人员利用数字人、虚拟场景等人工智能技术进行准确识别，导致消费者在购买过程中难以快速识别信息的真伪，增加了消费者决策的风险。如果您使用数字真人主播和虚拟场景，请勾选“AI生成”等提示。针对上述问题，承诺书提出六项具体措施，以“透明识别、严格管控、可追溯”为人工智能技术在电子商务领域的合规应用划定“红线”。满足法律结果，明确合规边界。我们严格遵守“中华人民共和国消费者权益”。《保护法》、《贸易法》等法律法规。加强 IA 技术的消费者和利益相关者的知情权。术语“IA 的生成”或“现实主义”和其他指示。建议使用可见的 IA 集成功能来声明主动性。在平台上，我们限制了名人在销售产品时使用面部装饰技术的修改。技术监控与人工审核相结合，防止违规行为增加。在内容审核和分发过程中，对内容销售者或创作者的直播内容和直播场景进行监控。当发现疑似未标记AI数字人或AI虚拟场景问题时，将及时采取适当行动，在发布内容周围添加显着警示标志。如果平台确定确实存在违规行为，将采取包括屏蔽链接在内的额外措施。提供工具支持来指导主动合规。我们为营销人员和内容创作者提供便捷的AI识别工具和清晰的操作指南，让他们能够主动规范AI识别的使用。严格控制标记欺诈并维护系统可靠性。我们将坚决抵制恶意删除、篡改、篡改或隐匿AI内容标识的行为，我们将依法依规严格处理非法账号和内容，维护AI系统的严肃性。改善培训和赋权，提高行业意识。将人工智能内容标签要求纳入平台治理体系，改进对卖家或内容创作者的合规培训，并提高平台内人工智能技术的合规水平。 “签署承诺只是规范人工智能技术应用的第一步。”北京市消费者协会相关负责人表示，下一步，消费者协会将继续跟踪网络人工智能技术的应用趋势，组织志愿者到直播间体验购物，将跟踪并提供更多信息。反馈真实感受，督促企业严格履行承诺。同时，我们将通过线上线下多种渠道向消费者普及人工智能技术知识和教育，提高消费者识别虚假内容的能力和防范意识。开展教育活动。新京报记者陈琳、编辑白爽对赵琳进行了纠正。