作者简介:林维,中国社会科学院大学法学院教授,法学博士。吴贻森,中国社会科学院大学法学院博士研究生。
来源:《吉林大学社会科学学报》2022年第5期,注释从略,引用请参照原文。
摘要:网络保护未成年人模式并不只是防沉迷系统在游戏或短视频领域的运用,2020年《未成年人保护法》修订后,未成年人模式提升了立法规制层次,强化了法律责任和执行机制,其设置目的从防沉迷扩张为对未成年人权利的全面保护。未成年人模式提供义务具有普遍性,所有涉及未成年人使用的网络产品和服务提供者均有可能承担这一义务。对于未成年人模式的发展理念,应当从消极地保障未成年人权利向积极地以服务未成年人为中心扩展。解决未成年人模式的当前困境,需要以“易用、稳定、显著”的技术要求保障未成年人模式的可靠性,以反成瘾措施加强未成年人模式的有效性,加强未成年人专属内容池建设,激发企业、行业协会、政府、司法机关、家长和未成年人等多元主体的责任意识,并让未成年人参与到网络保护未成年人模式的设计运行之中。
十余年来,未成年网民的规模呈现不断增长的趋势。2008年12月,中国青少年网民数达到1.67亿,占总体网民人数的比例为55.9%,其中6—11岁占比4.7%,12—18岁占比50.9%,未成年网民规模达0.93亿。5年以后,至2013年12月,中国青少年网民规模达2.56亿,占青少年总体的71.8%,其中,6—11岁网民占比11.6%,12—18岁网民占比42.9%,未成年人网民规模达1.40亿。截至2018年,我国未成年网民规模为1.69亿,未成年人的互联网普及率达到93.7%,明显高于同期全国人口的互联网普及率(57.7%)。第十次中国未成年人互联网运用调查显示,我国未成年人互联网普及率为99.2%,显著高于71.6%的全国平均普及率。截至2021年12月,19岁以下网民占全国网民人数的17.6%,共1.81亿人。
上述数据展现的事实例如未成年人网络低龄化加剧、未成年人网民绝对基数庞大和未成年人互联网普及率逐年增加且渐趋饱和,都充分说明网络已成为未成年人的一种生活方式,对于未成年人的网络保护问题需更加重视。未成年人在网络时空的生活交往某种程度上成为其与生俱来、无法分割的一部分,线上线下隔离的所谓二元化生活实际已经被打破,快速地实现了无缝的一元融合,这对未成年人网络保护带来极大挑战。未成年人的网络参与行为成为社会行为的重要内容,其在网络生态建设中的主体地位日益凸显。网络强国的未来主体必定是一代又一代成长中的未成年人,无论是网络新技术的发展,还是网络新生活的构建,乃至网络新文化的传承,都依赖一代又一代已经成为网络原住民的未成年人的发展与成长。因此,网络生态建设的任务之一就是要建设一个未成年人友好型的网络空间。在此过程中,网络保护未成年人模式(以下简称未成年人模式)的合理运用是其关键内容之一,本文主要围绕这一模式的立法问题和理念问题,讨论这一模式的运用现状乃至现实困境的突破,希望能够对这一主题的研究有所裨益。
一、未成年人模式的立法跃升
(一)立法层级:从行政规范到法律
如何以技术手段规制未成年人网络行为,保护未成年人的合法网络权益,一直以来都是未成年人网络保护领域的重要话题。网络保护未成年人模式的设立理念在于,人工的网络管理存在种种局限和不足,因此应当通过技术手段解决技术带来的问题,以科学合理的方式规范管理未成年人的网络使用行为。
我国非常重视网络游戏沉迷问题,建设了完善的网络游戏防沉迷系统,运用技术手段实现了未成年人网络权益的保护。早自2005年起,相关部门就尝试以较低层级的规范推动网络游戏防沉迷系统的开发应用,采取技术手段解决未成年人的网络沉迷问题。2005年至2006年间,新闻出版总署组织有关部门和社会各界制定出《网络游戏防沉迷系统开发标准》和配套的《网络游戏防沉迷系统实名认证方案》,开始在网络游戏产业中推广和建设防沉迷系统。2007年4月,新闻出版总署等八部委联合发布了《关于保护未成年人身心健康实施网络游戏防沉迷系统的通知》,宣告网络游戏正式进入防沉迷时代,实现了网络游戏运营企业防沉迷责任具体化和普遍化。2011年7月,新闻出版总署等八部委又一次联合发布《关于启动网络游戏防沉迷实名验证工作的通知》,决定在全国范围内启动网络游戏防沉迷实名验证工作。2014年7月,国家新闻出版广电总局办公厅发布《关于深入开展网络游戏防沉迷实名验证工作的通知》,新增了一系列防沉迷监管措施和通报制度。2019年10月,国家新闻出版署印发《关于防止未成年人沉迷网络游戏的通知》,要求彻底贯彻实名制,大幅压缩未成年人的游戏时长,严格控制未成年人游戏时段。2021年8月,国家新闻出版署印发《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》,将未成年人游戏时长时段控制在周五至周日和法定节假日每日20时至21时的1小时中,并再次强调实名注册和登录问题。
此后,防沉迷系统的应用场景进一步扩大,不过应用场景的扩大并未伴随着规制规范的升格,相应的规范仍然以行政规范为中心。2019年3月28日,国家网信办指导“抖音”“快手”“火山小视频”等主要短视频平台和直播平台试点上线了“青少年防沉迷系统”,该系统对未成年用户的使用时段、在线时长、服务功能和浏览内容等上网行为进行规范。[7]两个月后,又有14家短视频平台和4家网络视频平台上线了该系统。中国主要网络短视频平台全面推广上线“青少年防沉迷系统”并开始形成统一的行业规范,覆盖功能逐渐增加,适用范围日益扩大,形成了当下未成年人模式的主要应用框架。从当前实践的情况看,由于缺乏进一步细化的操作规范,未成年人模式在各网络平台上的具体设置并不完全相同,但通常都包括:模式开启方面,进入或退出模式需输入提前设置的四位密码;时间管理方面,进入未成年人模式后,累计使用时长单次不超过40分钟,40分钟后若需继续使用就要再次输入密码,每日晚10时至次日早6时通常禁止使用app,若需使用短视频app也要输入密码;权限管理和消费管理方面,未成年人模式通常禁止使用平台的直播、发布观点和打赏、充值、提现等功能;内容管理方面,推送给用户的多为适合未成年人观看的学习课程、科普知识等。
然而,这一领域的有效规定长期存在着规范层级过低、多头监管、责任分散等问题,一定程度上造成了未成年人模式推行不力的结果。在2020年《中华人民共和国未成年人保护法》(以下简称《未成年人保护法》)修订前,有关未成年人网络行为的时间限制、消费限制、内容审查等事项,均由一系列较低层级的规范文件加以规定。相关规范的发布部门既有国务院,如2004年2月,国务院发布《关于进一步加强和改进未成年人思想道德建设的若干意见》,展开对游戏软件内容和上网场所经营的严格审查;也有国务院的组成部门和直属机关,如2010年6月,文化部发布《网络游戏暂行管理办法》,赋予网络游戏经营单位预防未成年人沉迷网络之义务;2018年8月30日教育部等八部门《关于印发〈综合防控儿童青少年近视实施方案〉的通知》,就预防未成年人对于电子产品的依赖问题,对相关行政部门、学校、家庭和个人提出更加明确的要求;2019年10月,国家新闻出版署印发《关于防止未成年人沉迷网络游戏的通知》,从实名制注册、网游时长时段控制、未成年人网络付费服务限制、行业监管、适龄提示、多元治理等方面制定了未成年人网络保护政策。
上述相应规范由国务院及不同职能部门依照各自职权分头制定,有些规范内容相似,主管单位权责重复。层级较低造成规制的强制力和正当性均有所欠缺,而多头监管又造成了监管责任分散,在基层执法过程中极易造成相互推诿、监管真空。同时,在各规范文件中缺乏强有力的处罚规定和执行机制,规制效果不彰。再加之2018年国务院机构改革后相关部门机构调整,多重因素作用导致相关监管规范的强制性较差、可操作性不强、处罚力度较弱。
未成年人网络保护的规范内容从最初的网络游戏防沉迷系统,扩展到防沉迷系统在短视频等其他相关领域的广泛运用,这样一种功能运用的泛化、使用范围的扩大,要求未成年人模式亟待法定化、具体化。在试点实践可行的基础上,《未成年人保护法》第74条第2款规定:“网络游戏、网络直播、网络音视频、网络社交等网络服务提供者应当针对未成年人使用其服务设置相应的时间管理、权限管理、消费管理等功能”。尽管目前在大部分场合,包括在许多网络服务软件中,人们仍然习惯性地沿用前述“青少年模式”这一名称,但考虑到这一模式所适用的对象明确系未成年人,而完全将年满18周岁的主体排除在外,因此无论在立法上还是实践中,都应将其称为“未成年人模式”。1必须指出的是,尽管现行《未成年人保护法》并没有明确使用这一名称,但一般认为,其第71条所规定的“适合未成年人的服务模式和管理功能”实际就是指称这一模式,这一规定也为未成年人模式提供了法律层级的立法依据。
《未成年人保护法》第五章网络保护专章中对于网络服务提供商提供防沉迷措施及其他技术保障措施有了法律层级上的全面规定,对于政府部门、学校、家庭及其他社会主体也提出了相应的义务要求,尤其是在第127条中明确了违反相应规范的法律责任,使得相应义务真正具有了对应的违法后果和执行机制。这对于散见于行政规范中的未成年人防沉迷义务跃升为具有普遍性和强制性的法律义务,在质上提升其效力层级和处罚力度、推行未成年人模式具有重要意义:也为我们从服务未成年人、建设未成年人友好型网络这一积极理念出发,强化、推广未成年人模式,并以此为基础突破当下未成年人网络保护中存在的困境提供了法律指引。
(二)设置目的:从防沉迷到全面保护
此前有关未成年人模式的研究更多关注于防止短视频领域的未成年人沉迷网络的问题,网信办牵头推广的“青少年防沉迷系统”之名称也表明该模式以防沉迷为主。前述未成年人模式的发展经历也说明过往这一模式的目的主要就是防止未成年人的网络沉迷。
直到目前,网络沉迷问题尚未得到有效治理。根据cnnic自2019年3月至2021年7月间发布的三份《全国未成年人互联网使用情况研究报告》显示,在上网时长方面,2018年未成年网民日均上网时长2小时以上占比23.6%,其中5小时以上占比4.9%;2019年未成年网民工作日日均上网时长2小时以上的为9.9%,节假日日均上网时长5小时以上的为10.4%;2020年未成年网民工作日日均上网时长在2小时以上的为11.5%,节假日日均上网时长5小时以上的为12.2%。毫无疑问,未成年人过度使用互联网问题依然存在,并且可能还在加重。例如在上网目的方面,未成年人利用互联网玩游戏的比例从2018年的64.2%,略微下降到2019年的61.0%,2020年再次上升为62.8%,整体变化不大;但在短视频领域,未成年人的互联网活动比例则由2018年的40.5%,上升到了2019年的46.2%和2020年的49.3%,网络直播领域则从2018年的13.4%,上升到2019年的19.8%和2020年的18.2%。目前未成年人的网络注意力依然在向短视频和直播领域转移。关于防沉迷系统对于未成年网民的影响,经常从事网上娱乐活动的未成年网民认为青少年网络防沉迷系统有用的比例为65.6%,较2019年(58.9%)提升6.7个百分点,但认为没用的依然有18.7%。
因此,网络沉迷防治仍然是未成年人模式的重点功能之一。《未成年人保护法》对此给予了高度重视:第68条规定了政府各部门预防未成年人沉迷网络的职责,第70条规定了学校发现未成年人沉迷网络后的及时告知义务和共同教育引导义务,第71条规定了监护人应当选择适合未成年人的服务模式和管理功能等,尤其第74条规定网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务等。这些规定通过赋予多主体防沉迷义务,有效发挥未成年人模式的防沉迷功能。
未成年人在网络中面临的问题不仅仅是沉迷。据2018年发布的《中国青少年互联网使用及网络安全情况调研报告》显示:三分之一的青少年在网络上遇到过色情信息骚扰,遭遇场景包括社交软件、网络社区和短视频等;遇到过网络诈骗信息比例则为35.76%;而遇到过网络欺凌的青少年比例最高,达71.11%,其中以网络嘲笑和讽刺、辱骂或者用带有侮辱性的词汇的形式比例最高;其余表现形式还有恶意图片、语言或者文字上的恐吓等,遭遇场景多样化,包括社交软件、网络社区、短视频和新闻评论区等。 未成年人遭受网络语言暴力和隐私泄露问题不容忽视,根据cnnic发布的《2020年全国未成年人互联网使用情况研究报告》数据显示,2020年有19.5%的未成年网民在网上遭到谩骂或讽刺;有7.2%的未成年网民本人或亲友在网上遭到恶意骚扰;个人信息未经允许就遭网上公开的比例也有4.9%。此外,未成年人大额游戏充值、大额打赏事件频发,进而引起一系列法律纠纷,对于未成年人正确人生观、价值观的塑造和家庭财产都造成了负面影响。
未成年人合法权益在网络上的这种全面易侵性,要求我们对其权益的保护机制也应当具有全面性。所谓未成年人友好型网络空间的建设首先意味着,必须在网络空间内全方位、立体地加强对未成年人权益的保护工作。《未成年人保护法》第3条所规定的未成年人享有的生存权、发展权、受保护权、参与权等权利,意味着在网络生活中,我们也应当建立起相对应的新型权利体系和保障机制,未成年人模式的设置具有紧迫的、全面保护的扩大必要。
正是意识到未成年人权益侵害的遍布性,除了防沉迷系统以外,相关部门也越来越要求网络服务提供商有更多的作为。例如,在网络交互方面,2019年3月,国家广播电视总局发布《未成年人节目管理规定》,要求设立未成年人网络专区、未成年人保护专员制度、休息提示制度、未成年人节目评估委员会制度等。2020年8月,教育部等六部门发布《关于联合开展未成年人网络环境专项治理行动的通知》,整治影响未成年人健康成长的不良网络社交行为和低俗有害信息等问题。2021年2月9日,国家互联网信息办公室等七部门联合发布《关于加强网络直播规范管理工作的指导意见》,确认网络直播平台具有未成年人模式的提供义务和防沉迷义务,加强可能面向未成年人的网络直播内容和消费行为的管理与限制。
2020年修订的《未成年人保护法》汲取了这一思路,将未成年人模式从以实现防沉迷为主要目的扩展到对未成年人网络权益的全面保护。《未成年人保护法》网络保护专章实际上就是网络保护未成年人模式的整体方案,尽管在17个条文中仍然有4个条文全部或部分地将立法重点聚焦于未成年人网络沉迷,但是其第64条即开宗明义表明国家、社会、学校和家庭应当保障未成年人在网络空间的合法权益。其余大量条文则分别从“有利于未成年人健康成长的网络内容的创作与传播”以及“专门以未成年人为服务对象、适合未成年人身心健康特点的网络技术、产品、服务的研发、生产和使用”“为未成年人提供安全、健康的网络环境”为正面指引,以依法惩处利用网络从事危害未成年人身心健康的活动为核心,对影响未成年人身心健康网络信息、通过网络处理未成年人个人信息、未成年人网络直播服务提供、未成年人网络欺凌等问题作出了具体规定,并要求各主体全面遵守相关义务。通过这样一种整合性规定,不仅未成年人模式的功能得到了极大地扩张,还实质上提升了未成年人模式在整个未成年人网络保护乃至在未成年人法律保护体系中的地位;更重要的是,法律层级的提升意味着各主体所担负的法律义务层级的提升、法律实施的强制性以及处罚力度的相应提高。只有如此,才能合理应对未成年人权益在网络领域的受侵挑战,全面维护未成年人权益。
(三)义务主体:从企业责任到多元共治
过去未成年人模式的提供和适用常常被认为是作为互联网服务和产品提供者的企业的义务,但是如果仅仅依靠企业,对未成年人网络权益的保护仍然存在着诸多漏洞。政府、学校、家庭等所有未成年人保护相关主体都应当承担相应的义务或职责。对此,过去的行政性文件实际上已经意识到这一点,逐渐形成多元共治的理念,以期共同做好未成年人的网络保护工作。例如2011年1月,文化部等八部委联合印发《“网络游戏未成年人家长监护工程”实施方案》,扩大了2010年2月以来由部分网游经营单位试点启动的“网络游戏未成年人家长监护工程”的覆盖面,各级部门分工配合,增进协作,共同落实推进“家长监护工程”;2018年4月24日,教育部办公厅下发《教育部办公厅关于做好预防中小学生沉迷网络教育引导工作的紧急通知》,要求政府相关部门、学校及家长切实做好预防中小学生沉迷网络教育工作。
只有各方主体在各方面承担义务和履行职责,才能使这一模式的提供、适用在每个环节都得到落实。例如,倘若政府缺乏监管而完全依赖企业自觉,又或者尽管企业提供了这一模式但家庭不予配合,这一模式都将无法实现其目的和功能。因此,《未成年人保护法》第68条规定了行政部门对于网络产品和服务提供者履责情况的监督义务,第69条规定了智能终端产品的制造者、销售者对于未成年人网络保护软件的提供义务,第71条规定了监护人为未成年人选择未成年人保护功能的适用义务。可见,只有通过各方主体的齐抓共管,未成年人模式的应用才能真正实现其价值,在此意义上,未成年人网络保护义务也是社会主体的普遍性义务。
围绕未成年人模式的义务普遍性而产生了另一个问题,即这一模式的设置、执行义务是否覆盖了所有网络服务领域。除了网络游戏外,早前的研究多为考虑短视频和直播网络平台的未成年人模式建设和发展问题。但《未成年人保护法》第74条第1款并没有限制“网络产品和服务提供者”的具体类型,这意味着所有类型的网络产品和服务提供者均具有“不得向未成年人提供诱导其沉迷的产品和服务”的义务。尤其是该条第2款规定,应当针对未成年人使用其服务设置相应的时间管理、权限管理、消费管理等功能的主体为“网络游戏、网络直播、网络音视频、网络社交等网络服务提供者”。特别列举“网络游戏、网络直播、网络音视频、网络社交”四种类型,是要说明上述四个领域在未成年人网络保护领域的重要性,强调当前的网络防沉迷需要加强这四种类型的网络服务提供者的未成年人模式建设。然而,毫无疑问,未成年人网络权益的侵害问题存在于包括前述领域在内的所有网络服务之中,基于保护手段应当对侵害领域全覆盖的理念,未成年人网络权益的保护也同样应当存在于前述领域外的其他所有网络服务领域。因此,该条中的“等”显然应作“等外”的理解。
未成年人模式的义务普遍性意味着,未成年人模式的适用不仅仅局限于过往我们讨论较多的网络游戏、网络直播、网络音视频、网络社交领域,“等”外类型的网络服务提供者也应当根据其所提供的服务是否存在未成年人普遍使用、过度使用或者接触不良信息等而受诱导沉迷的可能,以判断其是否需要提供未成年人模式。当然,也应该平衡考虑网络服务提供者的利益,要考察其所提供的服务是否存在普遍性、现象性的对未成年人权益的侵犯可能,如果确实存在这一可能,那么提供者就应当承担提供这一模式的义务,否则就意味着未能履行义务。
在此必须要强调的是,尽管未成年人模式的提供、履行从企业责任扩展到多元主体责任的承担,责任主体和责任义务更加普遍,但是不同责任主体所承担的义务内容可能会存在不同,例如政府更多的是从监管的角度,而家长更多的是从监护使用的角度,履行各自的责任。考虑到网络服务提供者在这一过程中的技术能力以及模式提供的起始性、主动性等,本着“利益越大、能力越强、责任越重”的原则,应当在未成年人模式上采取更为主动积极的义务履行态度,付诸更为切实有效的义务履行措施,在这一过程中,尤其互联网的头部企业更应当努力树立标杆示范引领作用,为未成年人模式各项功能的实现提供更为科学合理的优化凯发下载进入的解决方案。
二、未成年人模式的理念优化
(一)消极层面:保障未成年人权利免受侵害
根据2007年新闻出版总署、中央文明办、教育部等《关于保护未成年人身心健康实施网络游戏防沉迷系统的通知》,早期的防沉迷系统开发建设的意义在于帮助未成年人控制网络使用时间,纠正不良网络使用习惯。近年来一直审议讨论的《未成年人网络保护条例》2016年的草案征求意见稿和2017年的送审稿中,其第2条规定的对于未成年人网络活动的保护原则强调“保护未成年人免受网络违法信息侵害,避免未成年人接触不适宜其接触的信息,保护未成年人网上个人信息,防范未成年人沉迷网络”。2019年10月,国家新闻出版署印发《关于防止未成年人沉迷网络游戏的通知》,也强调要引导网络游戏企业“有效遏制未成年人沉迷网络游戏、过度消费等行为,保护未成年人身心健康成长”。
毫无疑问,阻隔不良信息和预防沉迷是保护未成年人权利的基本目标和重要功能。以网络游戏成瘾为代表的网络沉迷既会导致未成年人身体功能受损,包括不良生理反应、生物钟紊乱、烦躁不安等;也会导致心理功能的受损,包括精神低落、志趣丧失、失去时间感等;还会导致社会功能受损,包括学习成绩下降、丧失人际交往能力、以虚拟世界中的追求代替现实行为等。对于未成年人而言,网络不良信息所包含的兴奋刺激的内容和扭曲的价值观念,容易影响正常的学习生活,影响其与亲友的沟通交流和与外界的社会交往,损害其道德品质和价值判断标准,最终可能引起违法犯罪心理,诱发不良行为和犯罪行为。
目前,未成年人模式是否能够切实保护未成年人依然备受质疑。当前,有的互联网产品和服务提供者仍未设置未成年人模式,有的尽管设置了该模式但是界面不友好,不易查找或操作困难,阻碍了其功能的发挥。2020年,江苏省消保委发布的《未成年人游戏充值、直播打赏调查报告》显示,部分直播平台未成年人模式与一般模式无差异,形同虚设,部分平台甚至强调其不对未成年用户使用平台服务过程中的行为及后果承担责任。同年,南都个人信息保护研究中心所发布的《网络直播app青少年保护测评报告》称,根据其对安卓应用商店内下载排名前列app抽样测评(30款)的结果,22款(73.3%)的app有未成年人模式,但在实际使用中,一些app的未成年人模式流于形式,内容池还有待进一步优化,很少有未成年人和家长会主动打开未成年人模式。南都未成年人网络保护研究中心在2021年3月发布的《短视频直播app青少年保护测评报告》显示,设有青少年保护模式的app占比从76.7%提升到85%,但是青少年保护模式下的时间锁等功能依然存在容易被绕过问题,解除这一模式的方法通常是输入预设密码,另外还有购买破解工具、退出重启、卸载重装app等绕过方式。可见,对未成年人权利的保护,需要从增强未成年人模式的可靠性和有效性入手,真正发挥其阻隔不良信息和防沉迷之功效。
(二)积极层面:以服务未成年人为中心
从未成年人模式所具有的阻隔不良信息和防沉迷等功能看,似乎很容易将未成年人模式理解为消极的隔离和预防,但对于当前的未成年人模式,如果仅从消极的层面来理解,是极为片面的。
《未成年人保护法》第3条提出国家保障未成年人的生存权、发展权、受保护权、参与权等权利。在网络环境中,不能只从阻隔不良信息和防沉迷的角度重视未成年人的受保护权,也要在网络素养培育和全面发展的角度强调未成年人的发展权和参与权。发展权的内容包括未成年人有权利接受一切形式的教育,以及有权利享有促进其身体、心理、精神、道德与社会发展的生活水平的权利;参与权指未成年人享有在家庭、学校、社会等场域就相关事务与他人互动的权利,对未成年人参与权的确认是对其人权和基本自由的尊重。网络领域中未成年人需接受的最重要的教育就是网络素养教育,但网络素养无法在一个被隔离、被支配的网络“温室”中培养,而应该是在未成年人参与各类网络活动的过程中逐渐形成的。2021年9月,国务院发布的《关于印发中国妇女发展纲要和中国儿童发展纲要的通知》也要求加强未成年人的媒介素养教育,保障未成年人利用和参与媒介的权利,丰富未成年人数字生活体验,提高数字生活质量。培养和提升网络素养,是保障网络领域中未成年人发展权和参与权的直接途径。
未成年人模式也包含了培养和提升未成年人网络素养的重要内容。《未成年人保护法》第4条规定的最有利于未成年人原则,强调在处理涉未成年人的相关事项时,不仅要考虑给予未成年人特殊、优先保护,也要考虑适应未成年人身心健康发展的规律和特点,保护与教育相结合。2019年,国家互联网信息办公室发布的《网络信息内容生态治理规定》以网络信息内容为主要治理对象,重点之一就是鼓励网络内容服务平台开发适合未成年人使用的模式,提供适合未成年人使用的网络产品和服务,便利未成年人获取有益身心健康的信息。修订后的《未成年人保护法》第65条鼓励和支持适应未成年人特点的网络内容服务与技术产品的生产与推广。
因此,未成年人模式不是简单采取信息隔离、沉迷防止的方式,其根本和最终的目的应当是以适应未成年人身心特点的优质网络内容服务与技术产品吸引未成年人,进而让未成年人也参与到相应产品与内容的设计和使用中,让未成年人愿意使用、主动使用、积极使用未成年人模式,让未成年人在使用未成年人模式的过程中实现网络素养的培育与提升,使网络真正地服务于未成年人身心的全面发展。
综上,通过未成年人模式保护未成年人网络权利,既要提升消极层面的阻隔不良信息和防沉迷功能的可靠性和有效性,更重要的是,也应以服务未成年人为中心的理念,积极提供适合未成年人身心特点的技术、产品、服务,让未成年人模式下的网络产品与服务能够真正切实地促进未成年人的发展。让未成年人主动参与未成年人模式的设计、参与决定自身相关事项,消除未成年人对于未成年模式的抵触情绪,产出符合其年龄特点的内容,在保障未成年人网络保护事业主体地位的同时提升未成年人的网络素养,促进未成年人的健康成长。
三、未成年人模式的困境突破
(一)以技术保障提升未成年人模式的可靠性
如前所述,未成年人模式的出发点是希望通过技术手段加强未成年人使用网络的管理,以便使网络更好地为未成年人发展服务,但未成年人模式的可靠性一直备受质疑。众多平台上线的未成年人模式形式多于实质,存在未成年人模式可以随意选择、没有强制性、入口不显著、关闭随意而开启复杂、开启后仍然能够浏览不良内容等问题。进入未成年人模式后,也可能存在各种破解方法,如卸载后重装即可绕过、通过手机验证码修改密码、反复试错破解密码等。根据新华网客户端2020年的一项调查研究显示,超过70%的受访者认为未成年人模式的作用有限。中国青年报社社会调查中心联合问卷网对1990名未成年人家长进行的一项调查也显示,近四分之一的受访家长觉得效果不好。甚至有网友认为,未成年人模式仅对低幼年儿童有限制作用,对于有社交需求且拥有手机的青少年群体基本不会带来障碍。
不过,我们不应过于悲观地认为未成年人模式无效,也不能因为目前技术或模式所存在的一定缺陷而否认其本身的价值和意义。从企业实践看,未成年人防沉迷事业确实取得了一定的进展。根据腾讯2021年q3财报显示,自2021年9月1日起,腾讯采取了新措施,全面落实中国的未成年人游戏防沉迷最新规定,2021年9月未成年用户在腾讯本土市场游戏时长的占比已不足1%,较2020年9月的6.4%有显著下降。2021年9月腾讯本土市场游戏流水中未成年用户也仅占比1.1%,亦较2020年9月的4.8%有显著下降。
要进一步防止未成年人规避未成年人模式,就需要提高未成年人模式在技术上的可靠性。从保障未成年人权利的消极层面出发,在进一步的立法规范或行业规则的制定中,可以规定网络平台在提供未成年人模式时要实现“易用、稳定、显著”的三个基本要求。
首先,“易用”是指互联网产品和服务提供者提供的未成年人模式必须符合简单便捷、容易操作的要求。一方面,应当尽量减少未成年人及其监护人开启未成年人模式的步骤;另一方面,未成年人模式开关及调整权限的功能应当直截了当,便于操作。同时,可以考虑为使用者提供相关说明引导,可以通过视频介绍、电子说明书等形式向使用者介绍未成年人模式的功能。
其次,“稳定”是指在设定未成年人模式后,要特别注意在技术上防止未成年人轻易调整改变,否则这一模式的目的就无从实现。未成年人模式针对全年龄段的未成年人,不能只以一些简单的智力测验手段(如加减乘除的算术题测试)作为防调整措施。目前实践中可行的防调整措施包括:首次开启时设立独立密码、每次开启重置密码、提高密码难度和限制重输次数、未成年人账号关联监护人账号、允许监护人远程控制、忘记密码时要求进行监护人的人脸识别、限制游客账号模式等。未来在更细致的规范里,至少应当将首次开启时设置独立密码作为未成年人模式防调整措施的基础要求,并严格限制忘记密码时的修改手段。同时鼓励企业开发多种模式的防调整措施,增加防破解机制,针对市面上出现的破解和规避手段及时进行漏洞修复和措施调整。
最后,“显著”要求未成年人模式应当容易被未成年人及其监护人所感知,让该模式在需要的时刻能够及时出现,不要让原本优秀的保护工具空置,也不要让繁杂地寻找操作消磨未成年人及其监护人的使用耐心。目前大部分网络服务提供者选择弹窗模式,即在用户打开软件时定期提示本软件提供的未成年人模式服务。弹窗模式虽然影响了用户体验的流畅性,但能够保障未成年人及其监护人最为直接地感知到未成年人模式的存在。周期性弹窗带来的不适感,也能反复强化使用者的印象,让其在有需求时能及时回忆起该模式。对于未成年人使用频率低、保护需求较缓和的网络平台,可以考虑以红点指引的方式提示用户未成年人模式的所在位置。对于未成年人大量使用、保护需求较急迫的网络平台,可以进一步考虑把实名认证从“备选”强化到“必选”,综合运用实名认证、通知监护人、一人一账号等方式,提高对未成年人用户的识别精准度,确保未成年人模式的有效运作。因此,区分不同网络服务的应用场景、使用特点、侵害可能、技术平衡等因素,考虑设置不同的未成年人模式触发设计,是未来需要特别关注的方向。此外,加强对新用户的针对性提示,也是推广未成年人模式和提高用户感知的重要手段。
(二)以反成瘾措施加强未成年人模式的有效性
当过度沉迷于网络导致个体使用网络的行为不受控制,并且生理、心理、社会等日常功能因此受到损害时,就可能构成病理性的网络成瘾。深入研究总结网络成瘾的发生机制,可以为在未成年人模式中加强反成瘾措施提供指导。
游戏上瘾时的大脑运作模式与毒品成瘾时几乎一模一样,当然并非说游戏就是“电子海洛因”,具有和毒品一样的成瘾性,事实上任何行为都可能导致上瘾,但是以游戏为代表的一系列软件程序能够由设计者在游戏本体之外有意识地加入某些特别的要素,如连续的目标设定、不可预测的积极反馈、容易上手的初始体验、逐渐升级的游戏挑战、未完成的紧张感和以虚拟取代现实的社交互动等快感机制,容易诱导玩家沉迷乃至成瘾。除游戏外,短视频类应用也具有强大的成瘾能力,削弱未成年人主动开启未成年人模式的意愿。短视频中轻松的内容、短时间多重的情绪体验、不定时不定比的行为强化方式、舒适低压的社交需求满足,可以吸引用户的持续使用并引起上瘾心态。短视频在迎合未成年人娱乐需求的同时,也为短视频平台带来了巨大流量效益,网络平台为获取更多利益,利用智能算法依照未成年人的观看偏好继续推送同类型的短视频,以诱使未成年人长时间沉迷其中。
无论是有意无意,网络游戏、短视频等网络应用软件基于心理学的成瘾原理,引导强化了未成年人的使用意图,削弱了未成年人主动使用未成年人模式的意愿,沉迷于其中的未成年人在开启未成年人模式后也会想尽办法寻找破解途径,因此在未成年人刚开始使用那些具有成瘾效果的网络软件时就应当开启未成年人模式,在其出现沉迷倾向前就阻断成瘾机制,是最直接的办法。在未成年人模式中通过设置时间控制、中止反馈提示、定时锁屏等功能,可以阻断游戏、短视频等内容的成瘾趋势。未成年人在网络平台上越是投入时间、精力和金钱,对平台就越发依赖,从最开始的寻找感兴趣的内容,到为了逃避虚幻无聊的负面体验,用户会反复打开视频寻找心理酬赏,经过“触发-使用-认知-情感-行为”等环节,完成了一个完美的成瘾闭合,因此建立用户提醒和强制退出机制,减轻用户成瘾依赖,是打破成瘾反馈环节的重要手段。但完全阻断未成年人对于网络娱乐类应用的使用既不切实际,也违背了未成年人的成长规律,可能侵害未成年人的正当权利。联合国《儿童权利公约》第31条明确了儿童休息娱乐的权利,为了未成年人的全面成长,不可能将其完全隔离于其未来必然会接触的世界之外。彻底隔离未成年人与网络娱乐应用,只会让未成年人以不被监管的方式接触它们。
反成瘾措施的使用应当注意协调成瘾阻断措施的有效性和未成年人必要的休息娱乐的权利。近年来推出的网络防沉迷相关政策逐步压缩了未成年人使用网络的时长。以网络游戏为例,2006年的《网络游戏防沉迷系统开发标准》将健康游戏时间的标准确定为每天3小时:2019年的《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》则将未成年人的游戏时长控制在法定节假日每日3小时,其他时间每日1.5小时;2021年《关于进一步严格管理切实防止未成年人沉迷网络游戏的通知》则压缩到了周五、周六、周日和法定节假日每日20时至21时的1小时。压缩使用时长的办法看似截停了未成年人的网络成瘾趋势,但没有根本性地阻断游戏类、短视频类软件致瘾的心理机制,未成年人往往会产生更强的规避心理,在未成年人成年后脱离监管而报复性沉迷网络,又会引发新的社会问题。因此,如何根据网络成瘾生成机制与干涉预防的相关理论,构建有效的反成瘾机制,让未成年人在不至于沉迷的情况下保证必要的娱乐休息和提升网络素养,还需要相关研究者及行业实践者的进一步努力。
(三)以优质内容强化未成年人模式的吸引力
互联网的内容往往杂乱不堪、良莠不齐。如何提供给未成年人优质健康的网络内容,存在两种思路,即黑名单模式和白名单模式。黑名单模式下,网络平台会对检测到的不良内容进行排除,对违规上传不良内容的内容提供者进行限制,使其提供的部分或全部内容无法被未成年人接触。白名单模式下,网络平台只会让符合要求的内容及内容提供者出现在未成年人可接触的范围内,即构建未成年人的专属内容池。
在用户原创内容模式主导下的视频内容领域,即便各平台都设置较为严格的监管机制,但海量的上传内容终究难免会出现一些不适宜未成年人的“漏网之鱼”。[16]事后管理的黑名单模式并不足以抹消不良内容已然对于未成年人造成的不良影响。中国网络视听节目服务协会于2019年1月9日正式发布了《网络短视频平台管理规范》,其中明确要求对于网络短视频平台实行节目内容的先审后播制度,对于节目相关内容在事前进行严格的全面审查。因此,在这一领域内,或许只有白名单模式的建设思路相对可行。
白名单模式的问题在于专属内容池的建设。当前很多网站的未成年人模式下内容贫乏、形式单一、服务滞后,部分内容过度低幼化,导致对未成年人缺乏吸引力,未成年人缺乏使用该模式的积极性和自觉性。根据2020年底中国青年报社社会调查中心联合问卷网开展的一项针对未成年人家长的调查显示,七成的受访家长希望平台优化未成年人模式中的内容池。前文所述的南都个人信息保护研究中心所发布的《网络直播app青少年保护测评报告》也称,多数被测app的未成年人模式并未建成未成年人专属的内容池,仅仅是提供几个到十几个视频。如果未成年人模式中的内容无法吸引未成年人使用,反而激起他们的逃避心理,那么未成年人模式最终只能流于形式。
因此,在政府鼓励和支持健康内容生产的同时,互联网产品和服务提供者不应片面地理解自己所承担的社会职责,而应当明确,这一义务不仅仅是单纯要求设立一种选择性的使用模式或者进入路径,更重要的是结合社会责任、场景特点和自身能力,在该模式下进行优质内容的建设,使未成年人在该模式下能够享受优质的网络服务。
在创建优质的未成年人专属内容池时,依然要坚持以服务未成年人为中心的理念。其一,要生产对未成年人有益的内容。有益的网络内容服务可以让未成年人更轻松地获得知识,开阔视野。以网络多媒体形式对于科学知识的科普讲解和对书籍内容的概述解读,往往比传统的图文知识获取更多元广泛,更快捷直观。其二,要考虑内容形式对未成年人的影响以充分发挥各种内容形式的作用。不同形式的网络内容具有不同效果,例如短视频的教育优势在于短时间内引起学生的学习兴趣和构建学习团体,但无法胜任全面深入的知识学习。而长视频在观看学习时虽然并不轻松,但可以更体系化地进行教学。发挥不同内容形式的特点才能更有效地为未成年人提供全面的网络教育。其三,要提供不同层次的内容以符合未成年人不同年龄段的生理与心理特点。《儿童权利公约》第5条要求以符合未成年人年龄和能力的特定方式适当引导未成年人行使自身权利。用同样的内容服务年龄跨度长达18岁、心理成熟程度和认知能力差异巨大的未成年群体是不可能的,应当根据不同年龄段未成年人的心理和生理特点推送相应内容。例如,可以建构“儿童-少年-青年”三级机制,即按照不同的年龄区间向未成年受众提供不同深度和类型的内容,针对儿童、少年、青年阶段的未成年人分别投放智力开发和道德培养、心性陶冶和人格塑造、名人传记和科普知识类的内容,以正面引导未成年人对网络内容的获取,从而达到精准教育的目的。
(四)激发多元主体责任意识
如前所述,未成年人模式的提供义务是普遍义务,未成年人模式能够有效且可靠运行,并为未成年人网络素养的培养与提升提供助力,离不开多元主体的义务履行。
1.互联网企业应重视未成年人权益保护的优先性
未成年人模式应用不畅,互联网企业未成年人保护责任意识的缺乏是重要原因。“资本和网络空间是一对天生的知己。” “流量变现”是互联网企业重要的营利手段,为了实现“流量变现”,互联网企业往往利用智能推荐算法吸引用户,向用户重复推荐其喜欢且熟悉的内容,进而形成所谓的“信息茧房”,即“我们只听我们选择的东西和愉悦我们的东西的通讯领域”。在“信息茧房”状态下,一方面,若未成年人浏览了不良信息与内容后,与其相似的信息就会被精准地推送过来,加重不良信息对未成年人的损害;另一方面,即便未成年人浏览的是正常信息,被算法挑选的信息会限制认知能力尚弱的未成年人的视野,不利于未成年人的健康全面发展。同时,高度个性化的推荐也会诱导未成年人继续高频率地使用该软件,增进未成年人的沉迷趋势。
为了保护未成年人利益,实现未成年人全面健康发展,需要以未成年人模式对抗智能算法推荐造成的“信息茧房”,并在未成年人模式下对内容和广告推送的智能算法加以限制。然而,未成年人庞大的群体数量代表着巨大的流量商业利益,识别未成年人身份、开启未成年人模式就与流量变现的商业利益存在冲突。有观点认为,企业应当考虑如何在保障未成年人权益、限制未成年人用户浏览范围与流量变现之间实现平衡,或要求互联网企业及网络平台守土有责、守土担责、守土尽责,在实现经济效益和履行社会责任之间找到平衡。但《未成年人保护法》第4条最有利于未成年人的原则强调,处理未成年人事项要给予未成年人特殊、优先保护。国家广播电影电视总局在2015年修订的《互联网视听节目服务管理规定》中,明确要求互联网视听节目服务者将社会效益放在首位,为青少年成长创造良好的网络空间。未成年人的利益不是企业考虑利益天平上的砝码,仅达到未成年人保护与企业利益的平衡是不够的,而是必须将未成年人保护视为给予特别保护的高度优先事项。网络平台的发展理念应是人本主义,而非资本主义。这既要求企业自身应当予以高度重视,以积极的态度对待未成年人的网络保护问题,完善未成年人模式,履行自身的法律义务和社会责任,也要求政府及其他社会主体对企业施加有效监管和监督,以足够的外界压力激发企业的动力。
行业协会的管理规范可以为企业自律提供缓和的外在监督。例如,前述中国网络视听节目服务协会在《网络短视频平台管理规范》中,要求网络短视频平台建立未成年人保护机制,限制未成年人使用时长,审核视频内容,防止未成年人沉迷网络短视频,并在同期发布的《网络短视频内容评审标准规则》中提供了100个审核标准,取得较为良好的效果。在未成年人模式领域,可以以行业协会为主导,制定更加严格且可操作的管理规则,实现网络平台自律与政府强制监管之间的有效缓冲。
2.政府运用行政执法手段保障未成年人模式的正常运转
政府除了出台未成年人模式相应的细化规则和协同规范外,还应当重视以行政执法手段保障未成年人模式的正常运转,通过强化法律责任、加大惩罚力度来提高义务履行的自觉性。
一方面,要处罚未按法律规定义务要求提供未成年人模式的互联网企业。《未成年人保护法》第127条对信息处理者、网络产品和服务提供者违反网络保护专章各项义务的行为规定了不同的处罚,从责令改正、给予警告、没收违法所得,直至暂停相关业务、停业整顿、关闭网站、吊销营业执照或者吊销相关许可证,其责任后果和处罚手段较为全面,可以针对不同程度的违法行为做出轻重有别的处理。这些有关法律责任的规定涵盖违反未成年人模式提供义务的情形,相关主管部门应当就未成年人模式的提供与适用进行长期跟踪、监督,发现有关主体未能履行义务时应及时运用各项处罚措施追究其法律责任,以确保这一义务得到切实履行,实现这一模式的设置目的。
另一方面,也要重点打击向未成年人提供规避破解未成年人模式、网络账号出租、网络设备出租等服务的黑灰产业,其严重者可能触犯《刑法》第286条破坏计算机信息系统罪、第253条之一侵犯公民个人信息罪等罪名,需及时移交司法机关处理。此外还可以考虑建立举报奖励机制,发动社会力量以保证制度的落实。
3.司法机关以公益诉讼敦促企业压实未成年人保护责任
公益诉讼也是监督互联网企业落实未成年人保护责任的重要途径。检察公益诉讼作为网络空间治理的重要方式之一,通过具有重大影响力的典型案件等重要实践,为未成年人友好型网络空间的构筑提供了坚实有力的保障。《民事诉讼法》第55条和最高人民法院、最高人民检察院《关于检察公益诉讼案件适用法律若干问题的解释》第13条明确规定了公益诉讼,《未成年人保护法》第106条进一步明确了未成年人保护检察公益诉讼。该条规定,未成年人合法权益受到侵犯,相关组织和个人未代为提起诉讼的,人民检察院可以督促、支持其提起诉讼;涉及公共利益的,人民检察院有权提起公益诉讼。2021年8月6日,北京市海淀区检察院对腾讯微信平台未成年人模式不符合《未成年人保护法》相关规定、侵犯未成年人合法权益、涉及公共利益一事发布通告,开启了针对未成年人模式的第一起公益诉讼流程。可以看到,在公益诉讼期间,腾讯积极整改,对于微信平台进行了多次更新,全面完善未成年人模式的相关功能,大大提高了未成年人模式的可靠性和有效性,对于保护未成年人网络权益起到了积极效果。
4.家长具有提高自身网络素养和选择未成年人模式之义务
家长也是未成年人模式应用义务的主体。一方面,当前未成年人普遍拥有上网设备,需要家长介入监管。根据cnnic发布的《2020年全国未成年人互联网使用情况研究报告》显示,大部分未成年人拥有自己的上网设备,新型智能终端普及迅速,使用手机的比例高达92.2%;对于未成年人的网上娱乐行为,有11.9%的家长严格禁止未成年子女上网娱乐,而有7.4%的家长不具备管理未成年子女上网娱乐行为的精力或能力。有的家长甚至将手机当做“哄娃神器”,为未成年人单独购置手机或将自己的账号交给未成年人使用。如果家长不能够有效起到监督未成年人用网的作用,仅仅依靠当前的“未成年人模式”,基本不可能对年龄较大的未成年人起到有效的限制作用。另一方面,许多家长自身可能也存在过度使用网络的问题,以至于自身沉迷网络而忽视对于未成年人的引导教育,并在网络使用行为习惯上为未成年人树立了反面榜样。
《未成年人保护法》第71条第一款要求家长既要以身作则,正确合理使用网络,提高自身的网络素养,也要引导和监督未成年人的网络使用行为。第二款则进一步具体明确家长有为未成年人选择适合的未成年人模式的义务。目前不同网络应用软件的未成年人模式功能不尽相同,保护力度也各有差异,家长应当根据未成年人当前年龄的生理和心理特点为其选择合适的功能和权限。如果认为平台的未成年人模式确实起不到保护未成年人的效果,应该采取其他手段避免未成年人接触不良信息,限制网络使用时长时段,预防未成年人沉迷网络。企业除了提供未成年人模式,还可以利用家长的力量强化未成年人模式效果,优化未成年人专属内容池。例如,《2020年抖音未成年人保护透明度报告》指出,2020年6月抖音上线“青少年守护官”功能,招募了1000名家长成为抖音青少年守护官,通过该功能家长用户可以对未成年人模式给出自己的意见反馈,可以对未成年人模式下新增视频进行投票推荐,以此建立一个家长愿意持续推荐给未成年子女使用、内容安全的抖音未成年人模式。
(五)强化未成年人的主动参与
未成年人模式的顺利运行,需要未成年人的主动参与。未成年人的网络保护不能迷信未成年人模式的效用,还需要培养和提高未成年人的网络素养。按照《未成年人保护法》第64条的规定,培养和提高未成年人网络素养是社会多元主体的共同责任,这也意味着未成年人网络保护具有思维启迪、心灵互动等积极深刻的意涵。良好的网络素养能够促进未成年人健康使用网络,并在八个方面表现良好:抵制不良、不可沉迷、不扰常规、控制时间、健康时限、放松身心、辅助学习、长远获益。未成年人模式也是为培养未成年人良好的网络使用习惯、提升未成年人网络素养而建构,未成年人网络素养的提升又需要未成年人主动参与到网络活动中,当然也包括参与到未成年人模式的设计活动和未成年人专属内容的生产活动中。
在未成年人模式设计和运行时,应当重视未成年人的参与。过去我们在未成年人保护工作中往往从成年人的视角思考未成年人的问题,很容易导致未成年人对于保护其权利的措施产生抗拒心理。《儿童权利公约》第12条第1款要求保障未成年人的参与权,并根据其年龄和成熟程度给以适当对待。
未成年人模
式关乎未成年人在网络上的行为界限和所能接收信息的范围,不应无视未成年人的意见。未成年人专属内容池的内容生产,也应该鼓励未成年人参与。有些企业在设计未成年人模式的功能和权限时,就邀请未成年人参与。例如,抖音2018年就与中国少年宫协会合作,邀请未成年人组成体验馆,针对抖音未成年人保护功能展开调研和提出优化建议
,取得了很好的效果。