买机票订酒店会员比新客更贵？算法滥用盼利剑出鞘

买机票、订酒店，会员比新客更贵;点外卖，对老会员配送费更高，同一家店吃两三回就涨价……近两年，“大数据杀熟”被越来越多的人所熟知。北京市消协的一份调查显示，超八成被调查者认为“大数据杀熟”现象如今相当普遍，且有超五成被调查者表示有过被“大数据杀熟”的经历。

与之相对应的是，多家大型互联网企业被爆利用大数据分析对不同群体进行差别定价，实行“价格歧视”。

在赛迪工业和信息化研究院网络安全研究所副所长闫晓丽看来，“大数据杀熟”属于算法滥用的一种形式，即通过数据和算法实施价格歧视，对不同用户采取不同的价格政策，新老用户不同价，不同地区用户不同价，浏览量多或少的用户不同价，追求自身利润最大化。

“此外还有致瘾性推荐、影响和误导消费者两类。前者是通过数据和算法向用户进行个性化推荐，推荐其感兴趣的内容，且不论这些内容是否恰当、适合，有些内容甚至违背法律和公序良俗，从而使用户沉迷致瘾;后者指通过数据和算法对流量分配、搜索排名、评价等级设置障碍，限制经营者开展交易，降低消费者选择的可能性，进而引导和左右消费者选择。”闫晓丽坦言，无论哪种，都是通过滥用数据分析和算法推荐侵害消费者合法权益。

实际上，针对大数据滥用普遍存在于行业的现象，近年来，相关部门不断出台政策法规，从电子商务法对“大数据杀熟”作禁止性规定，到文化和旅游部印发《在线旅游经营服务管理暂行规定》明确规定在线旅游经营者不得滥用大数据分析等技术手段，再到近期引起广泛关注的深圳推进相关立法。

近期，《深圳经济特区数据条例(征求意见稿)》在深圳市人大常委会网站上公开征求意见，并将在本月底进行“三审”。该条例(征求意见稿)明确提出对“大数据杀熟”给予重罚--违法所得不超过1万元的，5万元起罚。情节严重的，可处5000万元以下或上一年度营业额5%以下罚款。

中国人民大学法学院教授刘俊海认为，深圳的特区立法具有“破冰”意义。当然，在多地试点后，还要逐步完善数据管理的顶层设计，明确数据权属，推进数据确权，保护用户权益。

值得关注的是，算法是一个企业发展的核心，不仅难以监控，并且随着科技的发展，平台“杀熟”的手段也愈加隐秘。在不断完善法律法规的同时，还应从多层面形成约束和透明化机制。

闫晓丽介绍，中共中央印发的《法治社会建设实施纲要(2020-2025年)》提出，要制定完善的算法推荐、深度伪造等新技术应用规范管理办法，但目前我国尚未形成算法应用监管制度体系。

闫晓丽认为，一方面，应组织开展算法应用调查。识别不同应用场景下的算法滥用危害，加快制定算法应用规则和标准规范，探索形成一系列的监管制度。其中就包括建立算法应用影响评估制度，针对典型场景，要求企业在算法正式上线前评估算法对消费者权益、个人基本权利等的影响，并采取相应的防范措施。

另一方面，应建立算法透明度制度。企业要向监管部门和公众披露其采用算法的相关信息，包括采用目的、应用场景、算法技术实现等。对那些可能对个人和社会产生重大影响的算法决策，企业应解释算法的基本原理。

对此，闫晓丽举例道，欧盟《通用数据保护条例》第13条规定，当数据控制者收集个人数据时，如采用自动化决策对用户进行画像或存在类似情况的，应当向数据主体提供关于此类问题处理的逻辑及预期后果的有效信息;美国《公平信用报告法》包含“不利行动告知”条款，要求贷款方就对金融消费者不利的算法评分向其进行解释。

“此外，还应建立算法问责机制。允许个人对算法决策提出异议、要求对算法决策进行人工审查等。”闫晓丽说。

在完善制度的同时，行业亦需要自律和良性竞争。在6月7日举行的2021全球人工智能技术大会上，记者发现，可信AI正成为行业关注重点，有望为规范人工智能发展提出自律性要求。

苏宁金融研究院金融科技研究中心主任孙扬认为，从当前行业现状来看，违规采集、使用用户数据等问题依旧频发，人工智能的安全性、可靠性与可信性都需增强，打破数据孤岛过程中如何防止技术公司滥用数据优势也向技术公司提出了更高的数据使用要求。