元宇宙内容风险评估通则

ICST/CFIS000X—202300A元宇宙内容风险评估通则General principlesof metaversecontent risk assessment（征求意见稿）2023-XX-XX发布2023-XX-XX实施中国网络社会组织联合会发布编号二级指标三级指标指标说明应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不应将违法和不良信息18用户标签关键词记入用户兴趣点或者作为用户标签并据以推送信息应当对智能生成内容制定清晰、具体、可操作的风险标注19风险标注规则，并抽样核验风险标注内容的正确性对提供沉浸式体验的设备与内容潜在可能造成的人身方面的风险，做好风险提示与告知；应当以显著方式告知用户20风险提示其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等

5.6用户使用风险用户使用风险指标元宇宙环境下用户使用的用户信息安全及未成年人、老年人等特殊群体用户保护等内容形成的一级风险指标，其具体

二、三级指标见表5表5用户使用风险指标编号二级指标三级指标指标说明元宇宙环境下涉及用户个人身份信息的使用时，应当构建用户身份信息处理规则，告知个人身份信息的处理目的、处理1身份信息方式、处理的个人信息种类、保存期限等事项，并依法取得永和个人的同意，防止出现用户个人身份信息被盗用、篡改的风险用户信息安全元宇宙环境下涉及用户个人隐私获取，如设备指纹、IP信息读取、个人语音服务、个人相册、定位服务等开启时应当构建用户个人隐私处理规则，告知个人隐私信息的处理目2个人隐私的、处理方式、处理的个人信息种类、保存期限等事项，并依法取得个人的同意，防止出现用户个人隐私信息被公开、泄露及传播的风险元宇宙环境下应当设置防青少年沉迷数字空间风险的功能，3管理模式针对未成年人用户提供包括时间管理、权限管理、消费管理等功能在内的青少年管理模式元宇宙环境下应当通过开发适合未成年人使用的场景体验4未成年人用户适龄服务模式、提供适合未成年人特点的服务方式，并提供未成年人保护获取有益身心健康的信息渠道元宇宙环境下不应利用算法向未成年人推送可能引发未成年人模仿不安全行为、违反社会公德行为、诱导形成不良嗜5内容推送好等及沉迷游戏场景等可能影响未成年人身心健康的内容风险的模式应当保障老年人元宇宙环境下依法享有的权益，充分考虑老年人元宇宙环境中出行、就医、消费、办事等可能遇到的需权益保护求风险，按照国家右关规定提供元宇宙智能化适老服务，老年人用户保6护应积极应对老年人元宇宙环境下遇到的网络欺诈风险，开展防止欺诈涉电信网络诈骗信息的监测、识别和处置，保障老年人在相关元宇宙场景中的安全体验与便利使用6评估方法风险评估工作中风险识别、风险分析、风险评估主要应用方法包括风险清单分析法、列表检查法、专家调查法、结构化访谈法、情景分析法、德尔菲法、专家综合打分法等7评估流程

7.1概述元宇宙内容风险评估流程一般包括准备工作、风险识别、风险分析、风险评估、报告编制等具体见图1风险评估流程报告编制提出风险处理方工

7.2准备工作

7.

2.1评估机构组成委托一支覆盖互联网治理、网络传播、元宇宙等领域，具有风险评估资质的专业评估机构

7.

2.2评估方案设计评估机构依据评估对象的特点完成方案制定，确定风险评估对象的目标、范围及时限

7.

2.3风险资料收集基于元宇宙内容风险评估指标体系评估指标要素的要求收集相关材料

7.3风险识别对于收集的风险评估材料依据元宇宙内容风险评估指标说明开展内容风险评估要素归类识别识别的路径主要包括a）相关的法规、标准；b）元宇宙技术资料；C）元宇宙应用场景事故报告；d）元宇宙用户投诉；e）元宇宙用户体验f）媒体报道；g）专家意见等

7.4风险分析对风险识别后评估要素指标的具体情况开展分析，确定元宇宙内容风险评估指标体系评估指标权重

7.5风险评估依据元宇宙内容风险评估指标体系构架及指标权重及指标赋值类型，对评估对象开展内容风险评估,给出元宇宙内容风险评估结果

7.6评估报告编制据风险评估结果，结合评估目标，编制评估报告，评估报告内容可包括但不限于以下内容（报告格式见附录A表A.1）h）评估机构；i）评估对象；j）评估目标；k）评估指标体系及权重；1）评估方法；m）评估过程；n）评估结果；o）评估建议8结果处理

8.1发布评估结果评估机构可依据委托方要求适时发布风险评估结果，并对风险评估结果发布的影响和实效等进行跟踪反馈

8.2风险处理方案提出委托方如判别风险评估的评估结果风险不可接受，评估机构则可基于评估报告中的评估建议，并依据委托方的具体需求，提出元宇宙内容风险处理方案附件A（资料性）元宇宙内容风险评估报告元宇宙内容风险评估报告表A.1表元宇宙内容风险评估报告A.1评估机构评估对象评估目标评估范围评估时限联系人联系方式评估机构单联系邮箱位地址评估指标体系及权重评估方法评估过程评估结果评估建议单位公章年月日附件B（规范性）元宇宙内容风险评估指标赋值元宇宙内容风险评估指数赋值见表B.

1.表元宇宙内容风险评估指标赋值B.1风险等级风险程度指数赋值I风险很低或基本无风险1n风险较低2iii风险中等3IV风险较局4V风险严重5参考文献［1］《中华人民共和国个人信息保护法》2021［2］《中华人民共和国网络安全法》2016［3］《互联网信息服务管理办法》中华人民共和国国务院令（第292号）［4］《儿童个人信息网络保护规定》国家互联网信息办公室令2019［第4号］［5］《网络信息内容生态治理规定》国家互联网信息办公室令2019［第5号］［6］《关于印发《关于加强网络直播规范管理工作的指导意见》的通知》国信办发文［2021）3号［7］《互联网信息服务深度合成管理规定》国家互联网信息办公室、中华人民共和国工业和信息化部、中华人民共和国公安部令2022［第12号］目次目次13前言II1范围12规范性引用文件13术语和定义14基本原则25评估指标体系26评估方法87评估流程88结果处理9附件A（资料性）元宇宙内容风险评估报告10附件B（规范性）元宇宙内容风险评估指数赋值11参考文献12目次目次13前言II1范围12规范性引用文件13术语和定义14基本原则25评估指标体系26评估方法87评估流程88结果处理9附件A（资料性）元宇宙内容风险评估报告10附件B（规范性）元宇宙内容风险评估指数赋值11参考文献12本文件按照GB/T

1.1—2020《标准化工作导则第1部分标准化文件的结构和起草规则》给出的规则起草请注意本文件的某些内容可能涉及专利本文件的发布机构不承担识别专利的责任本文件由提出本文件由中国网络社会组织联合会归口本文件起草单位本文件主要起草人元宇宙内容风险评估通则1范围本文件规定了元宇宙内容风险评估的基本原则、评估指标体系、评估方法、评估流程及结果处理等要求本文件适用于元宇宙内容风险评估工作的开展2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款其中，注日期的引用文件,仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件GB/T23694风险管理术语GB/T40147科技评估基本术语3术语和定义GB/T

23694、GB/T40147界定的及下列术语和定义适用于本文件

3.1元宇宙metaverse人类运用数字技术构建的，由现实世界映射或超越现实世界，可与现实世界交互的融合世界，是具备新型社会体系的数字时空环境注元宇宙是技术聚合体、产业聚合体和生态聚合体，是信息技术革命的愿景聚合，是“人机物”三元融合的万物智能互联的系统数智人digital human基于算力、数字引擎及新一代技术融合建构于全新时空的数字形象即利用CG、人工智能、动作捕捉、图形渲染、语音图像识别等技术构建，以代码与数据的形式运行，存在于数字时空中具有人类外貌特征、交互能力的拟人化人物个体典型应用场景typical applicationscenarios元宇宙（

3.1）技术及产品在被应用过程中，用户所处的有代表性场景数字资产digital assets存在于元宇宙（

3.1）数字时空环境中，且具备使用和交换价值而存在的数字化、非现实的资产风险识别risk identification发现、确认和描述风险的过程注风险识别包括对风险源、事件及其原因和潜在后果的识别1注风险识别可能涉及历史数据、理论分析、专家意见以及利益相关者的需求2[来源:GB/T23694-2013,

4.

5.1]风险分析r isk analysis理解风险性质、确定风险等级的过程[来源:GB/T23694-2013,

4.

6.1]风险评估riskassessment包括风险识别（）、风险分析（）和风险评价的全过程

3.

53.6[来源:GB/T23694-2013,

4.

4.1]评估机构evaluation organization承担评估任务，形成评估结果，出具评估报告，并承担相应责任的组织机构注评估机构主要是专业性科技评估机构，也可以是兼营科技评估业务的组织机构[来源GB/T40147-2021,

5.4]4基本原则

4.1合规性评估应遵守国家法律法规、相关政策、部门规章等要求，评估内容应符合社会道德伦理、公序良俗的相关要求

4.2科学性评估应依据内容风险的客观事实，形成合理、可验证的评估结果，评估过程应具备适用性、可操作性

4.3公正性评估应有利于增进人类发展福祉，尊重自然人生命和财产权利，保证评估过程应公平公正，保障评估内容公开透明评估结果应实事求是，不受主观偏好的影响

4.4安全性评估应不侵害有关的知识产权、国家秘密、技术秘密、商业秘密、个人隐私，保证国家及个人的信息安全

4.5扩展性评估应满足元宇宙可持续发展的需求，既满足元宇宙当前的发展现状，也兼顾适应元宇宙未来的阶段发展5评估指标体系

5.1概述元宇宙内容风险评估指标体系由一级指标、二级指标、三级指标组成一级指标包括数智人风险、时空风险、资产风险、传播内容风险、用户使用风险等5个一级维度指标每个一级指标分别由若干二级、三级指标组成

5.2数智人风险数智人风险指标反映在数智人在人物信息、人物体征、人物权益、人物行为等内容形成的一级风险指标，其具体

二、三级指标见表1表1数智人风险指标编号二级指标三级指标指标说明数智人的人物背景、数字身份信息的创建、修改可参考公民身份证件号码、统一社会信用代码、职业分类代码、移动电1身份设置话号码等体例设置，数智人身份信息应完整、明确、唯一，避免数智人身份信息出现难以识别风险，并宜通过相关数智人身份认证的公共服务人物信息数智人的人物名称及昵称设置应合规、完整，不仿冒党和国家领导人、英雄烈士等重要人物的姓名，在未经授权情况下2人物名称不涉及具有知识产权的的特定名称及昵称，人物所属虚拟机构不应假冒、仿冒党政机关、重要机构、主流媒体等权威机构的名称或标识数智人的人物相貌应具备独立体征，不宜与党和国家领导人、英雄烈士、争议性历史人物相似，不应仿冒后落马官员、4外貌劣迹艺人、负面人物等争议性人物等，不侵犯未经授权公民的肖像权、名誉权，不侵犯未经授权机构的产品外貌的知识产权人物体征数智人的人物衣着装饰应规范、得体，服饰上不应体现政治、5衣着军事倾向及血腥、暴力、色情、迷信、国内外反动宣传、团体传销等违法违规类、敏感类信息数智人的人物声音应清晰、自然，避免未经授权深度伪造及6声音仿冒党和国家领导人声音、形象，不免未经授权模仿名人及公民个人的声音以公民真人身份IP为基础创造的数智人物，应在合规情况7身份权益下，获得授权公民真人的信息权、肖像权、声音权、人格权等授权数智人人智能生成的文本、图片、声音、视频等侵害到了公民个人的肖像权、名誉权、文字、美术等作品著作权及私、8商业权益商业利益等，应当采取措施，停止生成，防止进一步危害持人物权益续数智人人应不涉及用户个人隐私获取，如用户的设备指纹、IP信息读取、个人语音服务、个人相册、定位服务等开启9用户隐私时，需启动个人信息处理规则，告知个人信息的处理目的、处理方式、处理的个人信息种类、保存期限等事项，并依法取得公民个人的同意数智人人语言表述应内容明确、语言合理、便于理解，用普通话及方言表述时吐字标准，表述连贯表述内容应合规，10语言应不包含血腥、暴力、色情、迷信、国内外反动宣传、虚假人物行为宣传、欺骗粉丝及消费者等内容数智人人行为动作应合规、合法，不应出现体现人物扭曲性11动作格的暴力、低俗、猥琐、性侵及叛国、反党等违背法律法规及公序良俗的行为动作

5.3时空风险时空风险指标反映元宇宙环境的时空主题、时空元素、时空体验、时空互动、场景应用等内容形成的一级风险指标，其具体

二、三级指标见表2表2时空风险指标编号二级指标三级指标指标说明时空主题明确、合规，主线脉络明晰，并根据时空主题的应1主题主线用类别、场景类型等维度，建立内容分类分级管理机制时空主题针对时空主题的首页首屏、热门推荐、内容搜索等容易引起2主题指引用户关注的重要板块，建立首页内容规范审核机制时空场景规范设置，未经权利人授权，避免出现用数字挛生3场景复制等方式复刻与国家重大活动、具有历史纪念或特殊意义的场所相似的数字时空场景4时空元素时空标识合法使用，未经批准或授权，避免出现国家机关、国家标志性建筑物、军事管理区等重要时空地理标识，并避免时空标识5出现涉政、涉军、色情、邪教、高危营销广告等违法标识内容避免出现短期沉浸式时空体验后，对体验用户身心及视觉/6短期体验听觉/触觉/嗅觉/味觉等感官造成直接伤害的体验项目及内容时空体验避免出现长期沉浸式时空体验后、对体验用户身心及视觉/7长期体验听觉/触觉/嗅觉/味觉等感官带来间接伤害的体验项目及内容围绕存在用户在元宇宙环境下，用于集会、游行、示威、叛乱等时空场景政治风险，提供元宇宙环境下舆论引导和社团8内容管理组织等内容的安全预警机制，围并绕信息发布、跟帖评论、营销广告等内容合规化管理，建立相应的审核管理机制对元宇宙环境下社区交流内容的合规性风险，建立巡查巡检时空互动8机制管理机制，覆盖对各个时空社区，及时发现违规风险，并进行处置对元宇宙环境下用户行为互动的合规性风险，应建立用户行为分级管理机制，以及与之匹配的产品体验能力，合理引导9行为管理用户互动行为，并用户行为监测及应急响应机制，对违规用户行为进行及时有效处置场景应用涉及虚拟直播，如演唱会、嘉宾访谈、服装秀、赛事活动的直播风险，应提前对节目、艺人等进行内容报审，11事项筹备确保直播内容过程符合国家要求，虚拟直播涉及的文字、图片生成等工具服务，宜遵守先审后发机制涉及商务冠名营销的风险行为，如包厢冠名、场景冠名、演13场房应用冠名营销唱会冠名等，应做好冠名类商务营销的服务保障涉及虚拟直播带货售卖、门票售卖、服务售卖等营销风险行14商务运营为，需要建立售中、售后及投诉举t艮处理链路，保证营销服务闭环，及时解决售后服务问题15对通过算法推荐服务提供者向消费者销售商品或者提供算法服务编号二级指标三级指标指标说明服务的，应当控制算法风险，保护消费者公平交易的权利，避免根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为

5.4资产风险资产风险指标反映元宇宙环境的资产管理、资产流通、资产服务等内容形成的一级风险指标，其具体

二、三级指标见表3表3资产风险指标编号二级指标三级指标指标说明应规范元宇宙中数字资产的类型、名目、呈现形态等信息管1资产信息理，不应违背国家相关法律法规相抵触应针对用户在元宇宙中数字资产（虚拟货币、虚拟房产、虚2资产权益拟股票、账号、积分、游戏装备、用户级别等）的资产权益资产管理提供财产保护机制，避免数字资产无端损失风险应尊重与保护元宇宙中原生数字资产，关注包括数字藏品、3原生资产数字作品等相应的版权、著作权及专利等知识产权风险，并提供相应的产权保护机制数字资产的流通与交易应避免出现国家相关法规政策相抵4流通交易触风险，不为元宇宙环境下在金融及相关领域的洗钱、赌博、资产流通诈骗、传销等违法犯罪活动提供通道关注元宇宙环境下用户金融数据出入境安全问题，不为金融5主权安全主权风险提供渠道对于拥有数字资产的用户群体，应依据用户类别及年龄段提6分类服务供元宇宙环境中分级分类管理与适龄服务，避免数字资产的资产服务违规使用数字资产在生成与交易过程中，应提供相应的交易内容安全7安全提示提示，避免数字资产在元宇宙环境下中交易风险

5.5传播风险传播风险指标反映元宇宙时空传播的传播内容、传播方式、传播管理等内容形成的一级风险指标,其具体

二、三级指标见表4表4传播风险指标编号二级指标三级指标指标说明利用人工智能生成、深度合成的内容应不与现社会主义核1内容导向心价值导向相违背利用生成式人工智能生成、深度合成的内容，应合法合规，传播内容避免出现含有颠覆国家政权、推翻社会主义制度，煽动分2内容设置裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情、赌博编号二级指标三级指标指标说明吸毒等各类危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的内容风险利用生成式人工智能生成、深度合成的内容应当真实准确，3内容属性避免出现合成、制作、复制、发布、传播虚假、伪造信息的风险在算法设计、训练数据选择、模型生成和优化、提供服务4歧视限定等过程中，应积极采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视内容出现应及时发现与制止用户利用生成式人工智能产品违反法律法规，避免违背商业道德、社会公德行为出现，包括从事5违规操作网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件等提供可能导致公众混淆或者误认的内容，应当在生成或者6内容标注编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况采用感官体验传播方式应合法合规，并充分考虑体验内容用户的接受程度，避免出现提供过度血腥暴力、淫秽色情、7感官体验恐怖怪诞等元宇宙环境下对视觉、听觉等感官器官造成不适及损伤的沉浸式体验风险应当坚持主流价值导向，优化算法推荐服务机制，积极传8算法推荐播正育维，促进算法应用向上向善应建立完善人工干预和用户自主选择机制，在首页首屏、9推荐页面热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流传播方式价值导向的信息不应利用算法推荐服务从事危害国家安全和社会公共利10算法合规益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动不应利用算法虚假注册账号、非法交易账号、操纵用户账11水军防控号或者虚假点赞、评论、转发不应利用算法屏蔽信息、过度推荐、操纵榜单或者检索结12搜索呈现果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为应当加强元宇宙环境下深度合成内容合规化管理，采取技13合成审核术或者人工方式对深度合成服务使用者的输入数据和合成结果进行内容审核应当建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核、数据安全和个人信息保护、反电信网14算法审核络诈骗、安全评估监测、安全事件应急处置等管理制度和技术措施传播管理依据用户年龄及接受程度设置传播内容及设施，提出适龄15适龄管理群体传播要求，避免传播失效及误导、诱导风险应当加强传播信息安全管理，建立健全用于识别违法和不16安全管理良信息的特征库，完善入库标准、规则和程序在元宇宙环境下提供传播服务过程中，应对用户提供的合17用户记录规传播信息、内容及生成情况做好用户传播资源管理保护。