原标题:TikTok等就未成年保护接受美国国会质询,全球多国加强算法监管
美东时间10月26日,TikTok、Snapchat和YouTube出席了美国国会的消费者保护附属委员会举办的听证会,并在会上公开回应了备受外界关注的青少年网络保护和数据安全等问题。
此前,Facebook前产品经理弗朗斯·霍根披露了大量的内部文件。这些文件显示,该公司优先考虑增长和参与度的算法正驱使儿童浏览更具争议和有害的内容。
未成年人正掉入“算法”陷阱中?
10月26日的听证会主要探讨了三家公司产品对青少年造成的心理伤害,以及算法和数据透明等问题。TikTok北美副总裁兼公共政策负责人贝克曼代表公司出席并回应了争议问题,一同出席的还有在美国颇受青少年喜爱的社交媒体Snapchat,以及Google旗下视频媒体Youtube。
TikTok是此次会议的焦点,其被质疑用算法引导年轻用户浏览负面内容。明尼苏达州民主党参议员艾米·克洛布彻援引此前媒体揭露另一社交媒体巨头Facebook危害青少年心理健康的报道称,“TikTok的算法同样可以引导年轻用户浏览鼓励病态饮食、毒品和暴力等危害他们身心健康的内容。”随后该议员质问TikTok是否采取行动扼制此类内容。
TikTok北美副总裁兼公共政策负责人贝克曼并未直接回应,但辩护称该报道没有指出“一个真实用户在TikTok上的真实体验”,不具有足够说服力,并回应称TikTok在控制算法和内容健康方面做了很多改进。
据介绍,这是TikTok和Snapchat首次出席美国国会的听证会。相比之下,此前备受关注的Facebook的相关负责人在过去四年中已出席了30 次。
今年九月,Facebook一名内部人士披露称,Facebook为了谋取利益,在明知会造成负面影响的情况下,仍执意通过算法操纵内容,试图以贩卖焦虑和煽动情绪来获得流量。
披露文件显示,在一项内部研究中,有三分之一的受访少女表示,Instagram使她们的形象问题变得更糟;13.5%的少女认为,使用Instagram会强化她们的自杀念头;17%的少女认为,Instagram会加剧她们的饮食失调。然而Facebook却将这种心理伤害当做留住年轻人的秘诀。
社交媒体的青少年保护问题再度成为关注焦点,大型科技公司备受质疑。
在26日的听证会上,来自康涅狄格州的一民主党参议员表示:“我们听闻 YouTube、TikTok 和 Snapchat 正在造成同样的伤害”。
据了解,YouTube曾在2019年因非法收集儿童数据,被罚1.7亿美元。当时YouTube在未经父母同意的情况下使用“cookies”追踪儿童频道的观众,并借此向这些观众投放了价值数百万美元的靶向广告。
前YouTube工程师纪尧姆·卡斯洛也表示短视频平台让人“上瘾”的原因,主要是以其特有的算法为每一个用户都贴上了“标签”,“标签”化铸就了令人深陷其中的“信息茧房”。
TikTok 表示,它每月拥有超过 10 亿用户,但并未按年龄细分。Snapchat 每月有 5 亿活跃用户,并表示其 80% 以上的美国用户都在 18 岁以上。
即使是每天视频播放量数十亿的YouTube,有时也被政府技术调查所忽视。有专家表示,这次听证会是审查除少数几家最大的公司之外的公司的良好开端。
多国出台法案加强算法监管
社交媒体推荐算法被推上风口浪尖。
在美国国会拟对Facebook等在线平台算法加强监管的同时,其他国家也有所动作。
在10月25日,澳大利亚公布了一项隐私法草案,规定社交媒体公司确保16岁以下用户需家长同意才可使用其平台,违例者将面对达1000万澳元(约合748万美元)罚款。
澳大利亚心理健康助理部长戴维·科尔曼在采访中说:“通过算法将儿童引导至饮食失调、自残等内容显然是不符合儿童的最大利益,而且未来在澳大利亚将是非法的。”
根据草案,Facebook等社交媒体在收集、使用和公开儿童个人信息时,需优先考虑儿童最大利益。对于 16 岁以下的儿童,社交媒体平台必须获得父母的批准才能开设账户。草案中的部分条款将同样适用于数据经济服务机构和大型网络平台。但对于用户年龄的限制将仅仅适用于社交媒体平台。
我国对算法的监管也有出台相关规定。此前,国家网信办起草了《互联网信息服务算法推荐管理规定(征求意见稿)》,向社会公开征求意见。征求意见稿要求科技企业不得利用算法损害用户的利益,不得用算法“屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜”。
同时意见稿特别规定了未成年人的保护条款,如要求不得向未成年人推送可能引发模仿不安全行为和违反社会公德行为,诱导未成年人不良嗜好等可能影响未成年人身心健康的内容,以及不得利用算法推荐服务,诱导未成年人沉迷网络。
而我国的各大视频平台以及社交内容平台早已上线“青少年模式”,在在线时长、上线时段、消费充值、内容推送等多功能上对青少年上网进行限制。
海外平台自律方面,YouTube、TikTok虽已推出青少年保护措施,但效果未知。而处于风口浪尖的Facebook也于10月10日表示,除了暂停Instagram Kids平台的计划,其还计划引入新的可选控制,让父母监督青少年的在线活动,包括“休息”功能,不过这些功能的具体上线时间暂时未定。
专家:算法要有责任性原则要求
此次质询带来一个新问题,算法推荐在创新与监管之间该如何平衡?
浙江省公共政策研究院研究员高艳东表示,我国目前在立法层面还未对算法安全风险做规定,如果提前介入,可能会导致算法领域创新能力的扼杀。他建议可以加快树立行业规范,建立行业监督组织等方式尽快落实对算法服务提供者的责任,加强行业内部治理,增强行业自律,在后续的算法发展中面对新问题可以联合行业力量及时想办法应对。
高艳东认为社交媒体及科技公司在青少年保护上可以向三方面着手:第一,社交平台和科技公司应当着力对系统进行更新升级,给青少年设置“关闭算法推荐”的选项,给其选择观看内容的权利;第二,网页的防沉迷设计应当更加精准化,如青少年使用网页时不能“连续播放”,或者达到一定上网用时就要关闭网页;第三,网页的内容应该多弘扬社会主义核心价值观,宣扬正能量,禁止涉及暴力、黄色以及有害物品(典型如香烟、酒精),一旦发现有以上内容,要发挥网页后台监督检举功能。
北京师范大学网络法治国际中心执行主任吴沈括建议,平台和公司在运用算法,特别是涉及到青少年受众的场景当中,一方面要注意到研发和运营过程当中的技术安全要求,伦理安全要求和合法性要求,而在算法的应用层面要有全流程的监测和必要的介入,及时对于算法相关的青少年保护风险做出必要的人工干预。此外,应有责任性原则的要求,包括引入青少年本身的监督,包括引入相关利益方,比如家长,学校和其他社会组织的监督介入,通过这种方式共同构成和传统的行政监管相匹配的全方位的一个监管机制。
而武汉大学法学院/网络治理研究院讲师王德夫认为,应将注意力集中于“科技公司监管”之上,以清晰、严格的青少年身份认证和具体经营上的区别对待,来确保青少年利益得以保障。约束相关经营者的行为,这远比约束高度复杂的智能算法来得直观、高效。“在智能社会的大背景下,相关监管活动也不可能完全回避算法技术或者其他技术对象。”他说,“在“约束经营者”的整体框架下,针对青少年用户群体的特殊性,设计专门的利益关切指标,将相关指标对应为智能算法参数设置和数据信息搜集、反馈等技术活动,可以为相关的监管活动提供清晰的方向与抓手。”
(作者:李润泽子 编辑:诸未静)