记者/吴雨欣
算法推荐将有“规”可依。
1月4日， 据“网信中国”微信公众号，近日，国家网信办、工信部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》（以下简称：《规定》），自2022年3月1日起施行。
《规定》共计六章35条，从信息服务规范、用户权益保护、监督管理、法律责任等多方面作出规定。比如，不得利用算法屏蔽信息、过度推荐、操纵榜单等干预信息呈现；不得利用算法诱导未成年人沉迷网络；不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。
国家互联网信息办公室有关负责人表示，近年来，算法应用在给政治、经济、社会发展注入新动能的同时，算法歧视、“大数据杀熟”、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序，给维护意识形态安全、社会公平公正和网民合法权益带来挑战。在互联网信息服务领域出台具有针对性的算法推荐规章制度，是防范化解安全风险的需要，也是促进算法推荐服务健康发展、提升监管能力水平的需要。
不得设置诱导用户沉迷、过度消费的算法模型
《规定》将覆盖哪些对象？《规定》在第二条指出，在中华人民共和国境内应用算法推荐技术提供互联网信息服务，适用本规定。法律、行政法规另有规定的，依照其规定。
根据中国信通院微信公众号，中国信息通信研究院互联网法律研究中心高级研究员程莹及相关专家认为，《规定》覆盖对象颇为广泛。不仅包括用于社交媒体、电商场景、搜索平台的个性化推送算法、排序精选算法、检索过滤算法，也包括适用于网约车、外卖场景下的调度决策类算法，还包括用于游戏和虚拟环境中生成内容的生成合成类算法。同时，不仅限于当前讨论热烈的具有典型算法黑箱性、数据依赖性和通用目的性的人工智能算法，也包含了当前应用广泛，仅基于数学、逻辑学，用以实现辅助人类功能的非人工智能算法。
什么是算法推荐技术？《规定》首先给出定义，是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
《规定》第八条明确，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。第九条规定，算法推荐服务提供者应当加强用户模型和用户标签管理，完善记入用户模型的兴趣点规则和用户标签管理规则，不得将违法和不良信息关键词记入用户兴趣点或者作为用户标签并据以推送信息。
对于“大数据杀熟”以及“垄断和不正当竞争行为”，《规定》的第十五条明确算法推荐服务提供者不得利用算法对其他互联网信息服务提供者进行不合理限制，或者妨碍、破坏其合法提供的互联网信息服务正常运行，实施垄断和不正当竞争行为。第二十一条则指出，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
不得利用算法屏蔽信息，控制热搜
关于热搜、榜单类的算法推荐页面，《规定》也作出相应要求。比如，在第十一条提出算法推荐服务提供者应当加强算法推荐服务版面页面生态管理，建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息。
此外，《规定》明确算法推荐服务提供者不得利用算法虚假注册账号、非法交易账号、操纵用户账号或者虚假点赞、评论、转发，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等干预信息呈现，实施影响网络舆论或者规避监督管理行为。
在有些条款上，《规定》也对算法推荐服务提供者可以做的事情提出鼓励。比如，第十二条，《规定》鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，并优化检索、排序、选择、推送、展示等规则的透明度和可解释性，避免对用户产生不良影响，预防和减少争议纠纷。
保障用户算法知情权、选择权
针对群众普遍关心的用户权益保护问题，《规定》是如何规定的？国家互联网信息办公室有关负责人在答记者问时做出了总结性的回答。
该负责人介绍，《规定》明确了对于算法推荐服务提供者的用户权益保护要求。一是算法知情权，要求告知用户其提供算法推荐服务的情况，并公示服务的基本原理、目的意图和主要运行机制等。
二是算法选择权，要求向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。用户选择关闭算法推荐服务的，算法推荐服务提供者应当立即停止提供相关服务。算法推荐服务提供者应当向用户提供选择或者删除用于算法推荐服务的针对其个人特征的用户标签的功能。
三是针对向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范。如不得利用算法推荐服务诱导未成年人沉迷网络，应当便利老年人安全使用算法推荐服务，应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法，不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。
具体到有关未成年人的条款来看，《规定》在第十八条指出， 算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。
关于维护用户自主选择权，中国信通院也在解读文章中指出，算法人工干预和自主选择是重塑人类在算法应用中的自主性，避免算法操控的重要手段。欧盟《通用数据保护条例》第22条确立免于自动化决策权，其初衷即是避免人类受到未经人工干预的算法控制，以免造成人类自主性丧失、人类责任缺失等有损人类尊严的问题。随着算法应用的普及，自主选择权的实现需求更为迫切。
《规定》落实《个人信息保护法》《电子商务法》有关退出算法推荐的权利内容，要求平台应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。同时，《规定》首次提出对用户标签进行选择管理的权利，确保对输入数据的干预。用户标签作为一种输入数据，直接影响算法模型训练和结果的生成。赋予用户对针对个人特征用户标签的选择、删除权利，有助于用户在一定程度主导个人兴趣、避免歧视等。
算法推荐服务提供者应履行备案义务
《规定》也在监督管理方面明确了具体要求。比如，对具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。
算法推荐服务提供者的备案信息发生变更的，应当在变更之日起十个工作日内办理变更手续。
算法推荐服务提供者终止服务的，应当在终止服务之日起二十个工作日内办理注销备案手续，并作出妥善安排。
国家互联网信息办公室有关负责人在答记者时表示，具有舆论属性或者社会动员能力的算法推荐服务提供者应当按照国家有关规定开展安全评估。算法推荐服务提供者应当依法留存网络日志，配合网信部门和电信、公安、市场监管等有关部门开展安全评估和监督检查工作，并提供必要的技术、数据等支持和协助。
中国信通院相关专家指出，在我国平台责任设置上，《规定》注重遵循主客观相一致、权责一致的原则，并遵循《数据安全法》《个人信息保护法》等立法精神，进行分级分类和场景化治理。一方面，《管理规定》划清算法推荐服务的红线，规定了不得设置诱导用户沉迷或过度消费、不得利用算法虚假注册账号等十项“不得”要求。另一方面，《管理规定》提出应当定期进行算法审核、评估，完善网络日志留存，配合安全评估和监督检查等十六项“应当”要求。在分级分类管理方面，确立了舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等判定标准，为平台监管和企业合规提供指引。
