算法推荐技术正频频遭遇算计用户的诟病，人们对收集数据、用户画像、区别对待的大数据杀熟三部曲质疑频频
算法新规将维权逻辑由结果导向变为过程导向，将监管逻辑由事后监管调整为事前、事中监管，更注重全流程合规
算法推荐服务不仅要合规，更要体现善意
文 |《瞭望》新闻周刊记者 于雪 贾雯静
“猜你喜欢”曾是互联网企业引以为豪的卖点，如今却因算法算计用户引发越来越多的争议。
3·15前后，大数据杀熟再成维权关键词。北京市消费者协会公布的调查数据显示，86.91%的受访者表示有过被大数据杀熟的经历。受访者认为，监管手段跟不上（88.01%）、隐蔽性太强（85.95%）、相关法规不健全（82.32%）、不容易取证（79.53%）等是大数据杀熟屡禁不止的原因。
为规范互联网信息服务算法推荐活动，自3月1日起，国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》（下称《规定》）正式施行。
这是我国首个互联网信息服务领域具有针对性的算法推荐规章制度。算法新规落地，算法推荐技术能否告别野蛮生长？互联网企业如何打破算法依赖症？平台和品牌的布局模式、逻辑未来可能发生怎样的改变？
算法治理跨越从0到1
业内人士分析认为，《规定》的出台填补了互联网治理领域的重要空白，实现了从0到1的跨越。虽处于起步阶段，但问题指向性明确，回应社会关切，是具有中国特色的问题解决方案。
据了解，世界多数国家和地区目前尚未形成算法推荐的立法共识，一些国家虽有相关法律法规，但大多呈碎片化状态。中国政法大学传播法研究中心副主任朱巍介绍说，美国涉及算法推荐的立法工作起步较早，据不完全统计，相关法案有30多部，内容涉及算法歧视、算法公开、算法公平、算法中立、算法公示等维度，但尚未统一立法。
在《规定》出台前，我国针对算法推荐的有关规定也相对分散，在《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》《中华人民共和国电子商务法》等多部法律法规，以及《互联网信息服务管理办法》《移动互联网应用程序信息服务管理规定》等部门规章中均有涉及。
中国社会科学院大学互联网法治研究中心执行主任刘晓春表示，从全球范围看，算法权利体系是中国第一次提出来的。“比如保障用户的算法知情权、算法选择权，甚至用户可以自己决定自己的用户标签等，这些在其他国家的立法中尚未出现。”
需要厘清的是，算法新规剑指算法推荐乱象，而非算法本身。
《规定》明确，其适用对象是在中华人民共和国境内应用算法推荐技术提供互联网信息服务，而应用算法推荐技术，则是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。
在北京执象科技副总经理、资深架构师李新看来，这意味着“《规定》重点指向的是应用层而非技术底层，意在解决算法技术与用户的良性交互问题。广义的算法作为信息技术系统性核心能力，本质属性是数学和逻辑”。
备案能否让算法透明
算法新规实施同日，互联网信息服务算法备案系统正式上线。
备案义务是新规对算法推荐服务提供者做出的要求。《规定》明确，具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内履行备案手续。
在李新看来，备案系统在一定程度上为《规定》赋予了可操作、可事后回溯、可线上监控的三重属性，提供追责依据，为执法监管部门提供了有力抓手。
据了解，在算法推荐服务领域，无论是普通用户还是监管部门都缺乏相应的技术鉴别能力和执法纠错能力，用户对是否受到实际损害也很难举证、维权。
上海段和段律师事务所合伙人、律师刘春泉表示，算法备案通过设定企业义务的方式，尝试解决用户和执法监管部门难以取证的核心问题。
在刘晓春看来，备案意味着新规将维权逻辑由结果导向变为过程导向，将监管逻辑由事后监管调整为事前、事中监管，更注重全流程合规。同时，新规更注重针对企业技术应用过程中的操作细节设置可量化的规范，企业在履行合规义务的前提下，就可以免除或者减轻相应责任。
也有受访专家认为，对算法推荐服务的监管涉及的专业性较高、技术性较强，即便有了备案要求，并设定量化指标，但在执法、司法的过程中仍然可能存在看不懂、搞不清、摸不透的困扰。特别是对绝大部分基层执法机构来说，措施有效与否尚待观察。
对此，刘春泉建议，一方面可设定相应规则，鼓励企业算法工程师或相关人员举报、提供证据；另一方面，执法部门还可将直接调查取证与间接获得旁证结合，推动佐证来源多元化。此外，还可考虑借助第三方电子取证机构的专业服务，依靠专业力量固定证据、加强监管。
中国互联网协会法工委副秘书长胡钢表示，下一步应建立全国统一的广泛参与且网络化运作的算法伦理委员会，发布行政执法、企业合规与消费者维权三规合一的算法合法合规指南与典型案例汇编，构建“长牙齿、重咬合、强保护”的长效治理体制。
“新规不是要把企业管死，而是让企业免于过于泛化的责难，有利于企业自证清白，明确预期，主动合规。”刘晓春说，平台企业应充分发挥能动性构建更加有序的发展生态，监管部门则要监管平台的运行生态，通过动态治理的方式推进平台经济有序健康发展。
向上向善的清晰信号
新规还对算法推荐服务企业、平台等发出了向上向善的清晰信号。
在数字经济时代，包括用户画像、给用户“贴标签”等在内的算法技术，被视为许多互联网商业行为的基础原料，企业对此孜孜以求。
据了解，互联网企业获取用户数据是算法推荐服务的第一步，之后，他们往往会利用算法技术进行大数据分析，进而形成用户画像。获取的数据越多，用户画像越精细、越准确、可预测性越强。在这种模式中，算法的推荐和抓取，不仅可以用来确定投放方向和人群，甚至能够根据用户偏好定制营销内容、营销方式。近年，一些品牌主推的前置仓服务，其采购预测、销售预测等都依靠算法反推。
可以说，以高交互为特性的信息技术，为算法推荐服务提供了快速发展的基础，有力推动了中国互联网行业的高速崛起。
与此同时，算法推荐技术也频频遭遇算计用户的诟病。人们对收集数据、用户画像、区别对待的大数据杀熟三部曲质疑频频。
李新说，算法技术本身的确可以大大提升服务效率，但一旦技术被资本异化，这种效率就容易被简化为“以商业利益为中心”，导致用户被信息茧房束缚、陷于沉默的螺旋、受到价格歧视、产生过度消费等问题。“更为关键的是，算法推荐技术便捷、客观、多元的优势被有意或无意忽略，取而代之的是套牢用户的活跃度和忠诚度，以换取公司利益，过度商业化使算法的负面因素逐渐显现。”
针对此，《规定》丰富了算法的内涵，强调算法的技术属性应让位于价值属性。换言之，算法推荐服务不仅要合规，更要体现善意。
在李新看来，这既是对算法技术未来发展提出的更高要求，同时也构建起对用户和企业的双重保护机制。
可以预见，算法新规将会对短视频平台、电商平台、社交平台、餐饮外卖平台等较为依赖算法推荐的互联网企业带来有力影响，并将对依附于这些平台的新零售、新金融、网络游戏、服务业等带来重大变革。
刘晓春认为：“如果大家都觉得没有安全感，把个性化选择标签关掉，互联网产业的发展将受到明显影响。依托算法推荐技术描绘用户画像、实现精准营销是数字经济发展的重要模式。算法依赖、技术依赖一定程度上体现了技术和商业模式的变迁和进步，但带来不良影响和风险的‘算法依赖症’则存在矫正的必要。”
多位受访专家表示，一些互联网平台呈巨量化发展趋势，动辄关乎数亿用户，牵动衣食住行。同时，移动互联网已渗透下至未成年人、上至老年人的各年龄层，要求企业承担更多社会责任势在必行。互联网平台的发展逻辑需要更加注重在提升效率的同时规避风险，从更加注重商业利益转向更加注重社会责任。
从这个意义上说，此次《规定》的出台，是改变此类不良商业模式的转折点，助推商业向善、资本向善。
让用户更有安全感
促进算法行业健康有序发展，让用户更有安全感，关键在于企业需告知、用户有选择、第三方可验证。
刘晓春建议，首先，保障用户知情权。告知用户算法推荐服务的具体情况，并用通俗易懂的语言表述、公示服务的基本原理、目的意图和主要运行机制。
其次，应根据现有规定为用户提供选择权。当感觉被“侵犯”时，用户可以一键关闭个性化推荐服务。新规出台后，已有不少企业在隐私设置中提供了“关闭个性化推荐”按钮，但仍需对实际效果进行验证。
刘晓春说，建立互信的前提是用户不仅可以拒绝，而且能够通过直观感受或者在第三方软件或权威机构的辅助下，得到客观的测评结果，以口碑夯实信任关系。
此外，专家还建议利用零知识证明等技术手段消除互信的技术障碍。
零知识证明是指证明者能够在不向验证者提供任何有用信息的情况下，使验证者相信某个论断是正确的。比如，可要求企业向有技术能力的第三方机构提供加密后的算法技术，第三方机构在不损害企业商业机密的前提下验证其是否合规。在此过程中，既能使用户放心，又能保护企业的商业利益，同时有助于解决算法公示、备案内容门槛高，执法人员和用户看不懂等问题。
李新认为，获取用户信任是互联网产业发展的必经阶段，几乎所有新技术、新产业、新业态都会经历从不信任到信任的过程。在这个过程中，一旦触碰底线，信任就易崩塌。“用户忌惮的是被监控、被窥探，但是如果使用的方法恰当、给予的服务贴心，带来的将会是亲切感，而不是被冒犯的感觉”。
朱巍相信，建立基本信任后，大部分用户不会选择关闭“个性化推荐”按钮，最终将有利于双赢格局的实现。
专家表示，一旦建立互信关系，将有利于筑牢底层伦理制度体系，推动完善算法治理的长效机制。由此，算法技术的应用视野将得以放大。比如从消费互联网转向产业互联网，充分利用基础信息的研判促进诸如基础设施、能源等传统产业进行数字经济转型，识别产业风险，进一步激发传统行业的新经济活力。■
