【眼界周刊】别让算法成“算计”

相信很多网友会遇到这样一种情况，平时网上冲浪，看了几段视频，读了几篇文章后，就会发现网络平台不断推送类似内容，千篇一律，这种现象要“归功”于大数据算法推荐。然而近年来，通过大数据“杀熟”实施不合理差别待遇，利用算法诱导用户沉迷网络、过度消费等情况屡见不鲜。对此，国家出手了。

算法推荐“AB面”

何为应用算法推荐技术？其实就是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息。

目前各大网络平台的首页内容普遍使用了算法推荐，网友上网时肯定会有所体会，自己想看的内容经常出现在首页，再配合足够吸引人的标题，往往都会忍不住点进去看一下。“你可太了解我了。”相信很多人都会在心中说出这句话。其实，这正是拜“大数据算法推荐”所赐。

多年以前，有专家学者就提出“信息茧房”理论，大意是人们偏爱自己感兴趣的内容，信息领域会被自己的兴趣所引导，最后陷入相似信息所构成的“茧房”中，难以自拔，并有可能变得越来越狭隘。有专家就曾表示担忧，长此以往，人会变成算法的“奴隶”，被不停地投喂引导性内容，从而产生价值观改变。

当前，越来越多的企业利用大数据分析评估，给消费者“画像”，并将数据用于商业营销。同样的送餐时间、地点、订单、外卖平台，会员却比非会员多付钱；同时同地打同类型车到同一目的地，某打车平台曾被用户发现熟客反而收费更高。企业利用个人信息搞大数据“杀熟”，对不同群体进行差别定价，实行“价格歧视”。

不只是营销，大数据“杀熟”还被应用在多个场景，比如，送餐较快的骑手可能会被算法贴上“高效”标签，此后他被分配到的可能都是较急的订单，只能越送越快。

算法推荐精准且定向，这就让它具备了两面性，在给用户提供“私人定制”级体验的同时，也成了杀熟的最佳利器。

国家打出“组合拳”

对于大数据“杀熟”，国家相关部门其实早已着手应对。2020年8月20日，文化和旅游部发布了《在线旅游经营服务管理暂行规定》，规定明确了，在线旅游经营者不得滥用大数据分析等技术手段，侵犯旅游者合法权益。2021年2月7日，国务院反垄断委员会发布关于平台经济领域的反垄断指南，对消费者反映较多的“大数据杀熟”等问题作出专门规定。同年4月13日，市场监管总局会同中央网信办、税务总局召开互联网平台企业行政指导会。会议指出，实施“大数据杀熟”问题必须严肃整治。

同年8月17日，个人信息保护法草案提请全国人大常委会会议三审，对禁止“大数据杀熟”等内容作出规定。

近日，专门针对算法推荐应用的管理规定也出台了。国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》），自2022年3月1日起施行。

《规定》针对算法歧视、“大数据杀熟”、诱导沉迷等进行了规范管理，要求保障算法选择权，告知用户其提供算法推荐服务的情况；应当向用户提供不针对其个人特征的选项，或者便捷的关闭算法推荐服务的选项。此外，不得利用算法推荐服务诱导未成年人沉迷网络，应当便利老年人安全使用算法推荐服务；不得根据消费者的偏好、交易习惯等特征利用算法在交易价格等交易条件上实施不合理的差别待遇等。

给算法装上“开关”

这次《规定》为算法运用制订规则，用户今后在算法面前将有更多选择。其中值得注意的是，《规定》明确算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。

这样一来，用户便有了知情权，相当于在“陷阱”前立了警示牌。

此外，《规定》还明确，算法推荐服务提供者应当向用户提供不针对其个人特征的选项，或者向用户提供便捷的关闭算法推荐服务的选项。

提供了关闭功能，用户也就有了选择权，可以主动关掉“洗脑”推荐，脱离“信息茧房”，回到综合的、非个性化的信息世界。

《规定》还明确，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。

这无疑是向大数据“杀熟”直接开炮，明确禁止这一行为。中国信息安全研究院副院长左晓栋在接受央视采访时就表示，大数据“杀熟”等顽疾归根结底是滥用用户个人信息导致的。解决这类问题，首先要在治理违法违规收集用户个人信息上下功夫，其次要保障用户的选择权、删除权等权益。例如，要向用户提供不针对其个人特征的选项，或向用户提供便捷的关闭算法推荐服务的选项，并提供选择或删除针对其个人特征的用户标签的功能。

未来成效可期

《规定》还有诸多亮点。比如，算法推荐服务应遵循公开透明的原则，鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，优化规则透明度和可解释性。建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度，不得利用算法操纵榜单、控制热搜等干预信息呈现。

此规定意在整治利用算法注册虚假账号、雇佣网络“水军”实施流量造假、鼓动“饭圈”粉丝互撕谩骂、刷量控评等乱象。

而针对儿童软色情表情包、利用未成年人性暗示短视频引流等问题，《规定》明确，算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。

总之，算法等新技术新应用已经成为推动企业数字化转型和国家治理能力现代化的重要力量。专家认为，《规定》有利于建立健全科学的监管体系，统筹各方建立完整制度链条，形成算法治理长效机制。

也有分析指出，未来在具体执行过程中还需形成各类具备可操作性的细则。有专家建议，为支撑规定落地实施，亟须加强算法安全技术能力建设，建设算法推荐服务备案、算法安全评估、算法安全风险监测等平台，提升算法推荐技术监管能力。

◎山东商报·速豹新闻网记者 邹通