已发布
T/GXDSL 41—2025

生成式AI内容安全与伦理审查规范

牵头单位:广西产学研科学研究院 立项日期:2025-10-05
标准制定进度
立项
初审
专家评审
审批
征求意见
审查
发布

基本信息

标准编号T/GXDSL 41—2025
国家计划号
标准类型
提案主体会员单位提案
牵头单位广西产学研科学研究院
归口单位广西电子商务企业联合会
起草单位广西产学研科学研究院、广西研科院高新技术有限公司、广西研科院传媒有限公司、遇龙宝(广西)科技有限公司、上海振薰信息技术有限公司、广西玉馨信息科技有限公司、广西大学、广西民族大学、广西财经学院、广西衍知智能科技有限公司
主要起草人庄文斌、叶华林、黄熙宇、包奇、彭时矿、王灿琼、谢品、周卫、祝凡、黄子铭
立项日期2025-10-05
发布日期2025-12-05
标准周期2025-12-05 ~ 2026-03-05
重复率0%

应用领域

本规范适用于广西区域内从事生成式AI技术研发、服务提供或内容分发的电子商务平台企业、技术服务商、MCN机构及个人创作者,覆盖商品描述生成、智能客服对话、虚拟主播直播、广告素材创作等典型应用场景。(三)核心原则合法性原则:生成内容不得包含法律禁止的虚假广告、侵权信息、违禁商品描述,不得利用AI技术伪造交易记录、用户评价等商业数据。安全可信原则:建立覆盖模型训练、内容生成、传播分发的全链路风险控制体系,确保AI系统在面对“诱导性指令”“越狱提示词”等攻击时具备99.9%以上的防御有效性。文化适配原则:针对广西壮族自治区内12个世居民族的文化特征,模型需具备方言识别、风俗禁忌过滤能力,确保生成内容尊重少数民族传统习俗。责任可追溯原则:通过区块链存证、数字水印等技术手段,实现生成内容的全生命周期溯源,支持监管部门对违规主体的快速定位与责任认定。五、技术合规要求全国团体标准信息平台(一)数据采集与训练合规训练数据来源应通过合法授权协议获取,禁止使用未公开的政府数据、企业商业秘密及未脱敏的个人信息。用于模型微调的行业数据(如跨境电商商品库、农产品价格数据),需经数据提供方书面授权,授权文件保存期限不得少于10年。数据标注环节需建立“三审三校”机制,即标注员初标、质检员复检、专家终审,标注错误率需低于0.3%,对涉及民族、性别、宗教的敏感标注项需由3名以上独立审核员交叉验证。(二)算法透明度与公平性企业应在产品界面或服务协议中公开算法基本原理、主要运行机制及可能存在的局限性,例如图像生成模型对部分少数民族服饰纹样的还原误差率需明确告知用户。算法设计需避免基于地域、民族、年龄等因素的歧视性输出。在跨境电商场景中,AI生成的商品推荐列表需确保东盟国家特色商品占比不低于15%,避免算法过度偏向单一市场。(三)内容安全防护能力文本生成场景需部署多层级语义分析模型,对“高仿品牌名称”“违禁药品代称”等变体表述实现98%以上的识别准确率,并结合人工审核对金融投资建议类内容进行100%复核。图像与视频生成系统应集成生物特征检测模块,对深度伪造(Deepfake)技术生成的公众人物肖像、政府证件照等实现99.5%的拦截率,并自动向网信部门报送伪造样本特征。六、伦理审查机制(一)伦理委员会建设企业应设立由5-9人组成的生成式AI伦理审查委员会,成员需包含法律专家(不少于2人)、少数民族代表(至少1人)、技术伦理学者及消费者权益保护组织成员。委员会需每半年接受自治区科技全国团体标准信息平台伦理委员会的业务指导。伦理审查范围应包括:模型训练数据是否存在地域偏见(如过度依赖东部地区语料导致对西南方言理解偏差);生成内容是否符合东盟国家文化禁忌(如对穆斯林头巾、佛教符号的规范性使用);算法决策逻辑是否可能加剧“大数据杀熟”“价格歧视”等不公平商业行为。(二)价值观对齐与场景适配在乡村振兴电商场景中,AI生成的农产品营销文案需避免夸大功效(如宣称“某特产可治疗癌症”),并需经县级农业农村部门备案。针对直播电商中的虚拟主播应用,禁止生成宣扬奢靡消费、攀比炫富的内容,对打赏金额超过500元的用户需弹出理性消费提醒。(三)特殊群体保护面向老年用户的AI客服系统,需禁用复杂金融术语,对“高收益理财”“保健品促销”等话术自动触发人工介入机制。未成年人模式需屏蔽“充值返利”“抽奖诱导”等内容生成功能,并通过人脸识别技术确保身份验证准确率达99%以上。七、内容安全审查流程(一)预生成风险拦截输入指令需实时比对国家违法和不良信息举报中心发布的《互联网敏感词库(2023版)》,对“刷单”“洗钱”等黑灰产关联词实施动态屏蔽,词库更新时间间隔不超过1小时。在跨境电商场景中,需建立多语种敏感词库(含东盟十国官方语言),对涉及领土争议、宗教冲突的表述实现95%以上的跨语言识别准确率。全国团体标准信息平台(二)生成中实时管控采用“AI初审—人工复审—专家会审”三级审核机制:AI初审需在3秒内完成,对明显违规内容直接拦截;人工复审团队需具备法律、语言学、民族学专业背景,日均处理量不超过800条/人以保证审核质量;对争议内容(如民族服饰设计是否构成文化挪用)需提交伦理委员会会审,决议需在24小时内作出。直播电商场景中,虚拟主播的实时语音生成需延迟5秒播出,以便审核人员对敏感内容实施紧急切断。(三)生成后追溯与反馈所有发布内容需附加不可篡改的区块链存证标识(含生成时间、操作者ID、模型版本号),存证信息同步至自治区区块链公共服务平台。建立用户举报“一键溯源”机制,对确认为违规的内容,需在1小时内完成全平台下架,并通过模型再训练降低同类内容再生概率至0.1%以下。八、违规处置与问责(一)违规等级与处罚一般违规:首次生成轻微违规内容(如使用禁用词汇但未造成传播),需对责任模型进行48小时强化训练,并向广西电子商务企业联合会提交整改说明。严重违规:生成内容引发民族矛盾或国际纠纷(如错误使用东盟国家地图),涉事企业需暂停相关服务3个月,缴纳50万元违约金,并接受自治区网信办专项审计。刑事犯罪:利用生成式AI伪造国家机关公文、实施网络诈骗等行为,涉事主体将被永久列入行业全国团体标准信息平台黑名单,并移交公安机关处理。(二)应急响应与披露发生大规模内容安全事件(如AI生成虚假新闻阅读量超100万次),企业需在2小时内通过平台公告、短信推送等方式告知受影响用户,并在72小时内召开新闻发布会说明处置进展。建立“AI安全白皮书”年度发布制度,企业需公开全年内容拦截量、主要违规类型、模型迭代次数等数据,接受社会监督。九、附则(一)标准解释与修订本规范由广西电子商务企业联合会负责解释。根据技术发展及监管要求,联合会应每年组织修订预研,修订内容需公示30日并召开听证会听取中小企业意见。(二)实施与认证自2025年1月1日起,新上线生成式AI服务需通过合规性认证;存量服务需在2025年6月30日前完成整改。合规认证由自治区市场监管局授权的第三方机构执行,通过企业可获得“桂品AI安全认证”标识,未通过认证不得在广西境内开展相关业务。(三)奖励与扶持对在以下方面取得突出成效的企业,给予政策支持:研发具有民族文化特色的AI内容审核工具(如壮语语义分析模型);构建中国—东盟多语种内容安全联合实验室;全国团体标准信息平台年度内容安全事件零报告并持续3年以上。支持措施包括税收减免、优先参与政府项目、最高300万元创新补贴等。(四)生效日期本规范自2026年3月5日起实施。附录A(规范性附录):生成式AI内容安全审查流程图A.1全流程审查节点-输入阶段:敏感词过滤→指令合法性校验→用户身份核验。-生成阶段:多模态内容检测→实时风险评分→人工介入阈值(风险分≥70分需强制复核)。-发布阶段:区块链存证→传播范围监测→用户反馈闭环。A.2审核时效标准内容类型AI初审时限人工复审时限文本≤3秒≤30分钟图像≤10秒≤2小时视频≤15秒≤6小时附录B(资料性附录):东盟国家文化禁忌库(示例)B.1语言禁忌马来西亚:禁用“猪”“狗”作为比喻词。越南:避免使用“3”字组合(与负面历史事件关联)。全国团体标准信息平台B.2视觉禁忌印度尼西亚:禁止生成戴头巾女性的娱乐化形象。泰国:佛像图像需完整呈现,不得截取局部。B.3宗教禁忌文莱:禁止生成含酒精饮料的促销内容。菲律宾:圣诞节相关素材不得与商业广告过度结合。附录C(规范性附录):伦理审查表模板C.1审查项目清单评估维度审查要点判定标准文化尊重是否包含民族歧视性表述需100%无歧视商业诚信是否存在虚假功效宣称科学依据≥3项权威文献未成年人保护是否触发青少年模式过滤拦截率≥99%C.2审查结论格式审查编号:ERB-202X-XXX模型名称:____________________风险等级:□低风险□中风险□高风险整改要求:____________________委员会签字:_________日期:__________________________________________全国团体标准信息平台

行业现状

网络安全形势日趋严峻,数据安全和个人信息保护已成为企业数字化转型中不可逾越的红线。物联网技术的规模化应用正在重构物理世界与数字世界的连接方式,标准化需求日益迫切。在内容安全与伦理审查规范领域,当前行业实践中普遍存在操作流程不统一、质量参差不齐、缺乏系统化指导等问题,各相关方对规范化管理的呼声日益强烈。市场需求的快速增长与供给侧标准化水平不足之间的矛盾日益突出,成为制约行业高质量发展的主要瓶颈。通过标准化的技术规范引领行业创新发展,有助于形成可复制、可推广的最佳实践,促进产业链协同提升。

立项背景

暂无内容

预期效益

暂无内容
返回列表