3月1日,由国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》(以下简称《规定》)正式施行,其中明确要求,各类提供算法推荐服务的互联网公司保障用户的算法知情权和算法选择权,应当向用户提供不针对其个人特征的选项,或者便捷地关闭算法推荐服务的选项,并“建立和完善人工干预和用户自主选择的机制”。
截至目前,据不完全统计,抖音、今日头条、微信、淘宝、百度、大众点评、微博、小红书等App 均已上线算法关闭键,允许用户一键关闭“个性化推荐”。
算法推荐带来便利,但关闭功能必须存在
“个性化推荐”到底关不关,当前正成为很多人的纠结。有些人觉得关闭后看到了更多的品类,也有些人认为关闭后购物失去了兴趣。算法推荐这一曾被广泛应用的互联网商业模式,是否将随着关闭键的上线走向终结?消息传出,引发网友热议,大多赞同这一举措。
北京科技大学副教授张凌寒分析,在《规定》颁布实施之前,电商平台多以提供价格排序、销量排序的方法提供不针对个人特征的选项。一些头部平台企业也上线了“关闭定向广告推送”“关闭个性化推荐”的开关选项,但往往较为隐蔽用户较难找到。在个人信息保护法实施之后,大量平台企业已经开始开发并上线此类功能。
张凌寒认为,这次《规定》明确提出了关闭算法推荐的“便捷性”要求,是为了进一步方便用户,也使得法律赋予用户拒绝算法、可以“说不”的权利落到实处。根据我国个人信息保护法第二十四条的规定,如果是涉及用户重大权益的自动化决策,用户还有权获得解释说明。这条规定的目的,在于揭开用户接收信息的“个性化面纱”,使得用户可以看到真实的“自然搜索结果”,而非置身于为自己量身定制的广告、新闻、定价等信息流中。这对于保障用户的知情权至关重要,可以使用户基于更为真实多样的信息做出消费决策。
不过,法治网研究院注意到,目前相当部分App也耍了点“小聪明”,都把“个性化推荐” 关闭键埋藏得很深,一般会在隐私、广告相关的设置选项中找到。但微信、大众点评等 App倒是列出了“个人信息收集清单”,明确告诉消费者收集了哪些信息以及如何使用这些信息。这样的举动,可以称得上“良心商家”了。
事实上,手机应用的各种个性化推荐,确实可以让消费者轻松刷到自己感兴趣的消息、视频、商品,却也可能在不知不觉中“贡献”自己的个人隐私。
张凌寒说,在既往的平台实践中,选择关闭个性化推送的用户并不多,并且有很多用户关闭之后选择再次打开。根据调研,用户反映关闭个性化推送之后找不到自己需要的商品和信息,上网搜索信息的效率大大降低。因为存在“长尾效应”,置于热点之后的信息,如果没有个性化推送算法的精准匹配,很难呈现到平台信息流的前端被用户看到。另一方面,企业上线这样的功能也需要一定财力与人力的支持,并需要设置在app级别较高的目录中(即用户打开两到三层目录就可以找到此按钮)。但关闭个性化选项的功能必须存在——这为用户提供了选择,一种不被“计算”的选择,一种不被信息流裹挟的选择,一种获得信息自主的选择。
关闭“个性化推荐”,就能遏制“大数据杀熟”吗?
生活中,经常有网络用户吐槽被“大数据杀熟”。由北京大学互联网发展研究中心与互联网公司联合发布的《中国大安全感知报告(2021)》显示,有七成受访者感到算法能获取自己的喜好、兴趣从而“算计”自己,近五成受访者表示,在算法束缚下想要逃离网络、远离手机。
法治网研究院在黑猫投诉平台输入“大数据杀熟”关键词搜索,页面显示共有2317条结果。随机浏览有关投诉内容,当中涉及外卖平台、电商、网约车、共享单车、旅游电商平台、票务平台等。
《规定》提出,算法推荐服务提供者向消费者销售商品或者提供服务的,应当保护消费者公平交易的权利,不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
那么,关闭“个性化推荐”,是否能遏制“大数据杀熟”呢?
对此,张凌寒分析,首先,利用算法进行不合理不公平的决策,损害消费者利益是法律所禁止的。大数据优新和杀熟是一个硬币的一体两面。而在我国法律法规中,为了吸引新顾客、为了促销等目的,是可以进行差异化定价的。但是“凡事有度”,如果电商平台利用对用户的数据优势、技术优势使用户遭受了不公平不合理的定价,是受到法律规制的。如去年浙江绍兴柯桥法院的一起判例,在某平台企业熟客在“最低价协议”的承诺下遭受双倍定价的案件中,支持了原告即用户的诉讼请求。
其次,遏制大数据杀熟,关闭个性化推荐只是体系化治理的一个环节。关闭个性化推荐的作用是给算法“断粮”,即不将自己的数据提供给算法进行差异化定价,而想实现“大数据杀熟”仍有许多其他的数据来源和方法。因此要从根子上治理“大数据杀熟”,关键还是要揭开技术中立的面纱,去审视算法推荐服务提供者的主观意图。
此外,还要构建算法审计制度,使得用户有更为有效的方式去举证自己遭到了大数据杀熟,也使监管部门的行政执法有据可依。
专家:规范算法推荐乱象,需要落地细则
对于未来如何加大力度规范相关APP算法推荐乱象,对外经济贸易大学数字经济与法律创新研究中心执行主任张欣认为,首先,应进一步依据《规定》尽快推进落地细则。目前对于互联网企业而言,算法合规框架仅初步建立,不仅缺乏相应的参考样本,对于一些原则性的法律法规规定理解也存在困惑。因此建议监管机构、行业组织以及各平台企业等利益相关主体,协同推进算法推荐管理规定中需要落地的细则,尽量给企业以较为清晰的合规指引。
其次,企业内部应当加强业务部门和合规部门的有效沟通,尽快建立算法合规和风险管理框架。从企业隐私政策、APP功能设计、算法机制机理审核等环节尽快推进算法推荐的合规实践。
最后,建议广大用户也积极行使算法新型权利。例如针对算法推荐获得解释和说明,要求尚未提供算法推荐关闭功能的APP,尽快提供便捷易行的算法推荐关闭功能等。