“算法化生存”的认知偏差与人文关怀

“算法化生存”的认知偏差与人文关怀

高明勇 | 政邦智库理事长

这几年，平台经济是政邦智库的重点关注方向之一，之前我们组织调研并撰写过《论平台经济健康发展的六大关系》《中国企业观察（2022）：数字经济的高质量发展之路》等报告，我在调研笔记里也写过《数字经济治理：算法很单纯，复杂的是人》《预见未来，预测趋势，都是在关切现在》等。并且，这一议题人们在日常生活中关注的比重也越来越大。原因很简单，暂且不论对经济的影响，在“数字化生存”的大背景下，平台经济已经影响到生活的方方面面。

最近，我们围绕“算法关注生活，如何关注算法”的问题召开了一次内部闭门会，我提出了“算法化生存”的说法。这个说法，就是受“数字化生存”的启示。将近三十年前，经胡泳教授翻译，美国学者尼葛洛庞帝在其著作《数字化生存》中提出同名概念，一时影响巨大。如今，对很多人来说，“数字化生存”已成共识，“算法化生存”是更为直接的影响。

结合之前的调研经历，我有一个深刻的体会，很多人虽然已经长期沉浸在“算法化生存”，但实际上相关的社会认知经常容易产生偏差，掉入“本质主义认知陷阱”。简单地说，“算法”的认知有广义概念、狭义概念之分，也有长远理解、短期理解之别，并且政府、企业、民众等不同主体各有其角色，正因为这些不同维度的错位，导致“算法”这一原本中性色彩的概念，呈现出模糊化、乃至庸俗化的面目。

就个人观察，社会认知最大的问题在于，很多人经常将“相关关系”与“因果关系”混为一谈，用“弱相关”替代了“强关联”。比如，不少人已经被“训练”成为文化快消品的“瘾君子”，这与“算法”之间存在什么样的逻辑关系？基于选择偏好的“个性化推荐”是否必然导致“信息茧房”？不少人在社交媒体的“极化效应”下钻入所谓的“信息茧房”，“算法”到底扮演了什么样角色？

PART.01

警惕成为“滚滚洪流中的泥土”

“数字化生存”，意味着每个人都被会“数字”重构，不仅生活在“数字”中，也生活在“抽象”中，不管是每个人的生活方式、生产方式、社交方式，还是思维方式、表达方式、行为方式，都会发生非常大的变化。这些已经被证实，并被持续验证。

“算法化生存”，意味着什么？意味着每个人在“数字化生存”的基础上，进一步被“关注”，关注人性的弱点，被“研究”，研究个体的喜好，被“服务”，服务具体的消费；每个人，被进一步的数据化、标签化、评分制，被动接受，又沉浸其中，心有戚戚，又无法自拔。

或许正因如此，有些研究者也称之为“大数据主义”：不管你自觉还是不自觉，乐意还是不乐意，大数据正以空前的速度和规模渗透到人类社会生活的方方面面，它在一定程度上已经和正在改变人们的观察、认识、思考乃至生存与发展的方式。特别是这后一方面的变化，或许就是“大数据”之所以成为“主义”的原因。

“算法”与数据相生相伴，如影随形，“算法”是数据基础的规则系统与指挥中枢。伴随着移动终端、大数据、物联网、人工智能等技术的快速推进与普及，“算法”本身也在不断革新，应用场景也越来越广泛，深度影响到生活的各个角落，并汇聚为新的生产力。根据IDC发布的《2020全球计算力指数评估报告》，一国的算力指数每提高1个百分点，数字经济和GDP将分别增长3.3‰和1.8‰。

当然，与“算法”相关的政策也一直在不断规范，力度也在不断加大。日前，国务院新闻办公室举行新闻发布会，介绍网络法治保障高质量发展有关情况时指出，聚焦网络虚假信息、算法滥用等网络乱象，先后开展专项行动40余项，清理违法违规信息200多亿条。

就像尤瓦尔·赫拉利在《未来简史》中所担忧的：一旦万物互联网开始运作，人类就有可能从设计者降级成芯片，再降成数据，最后在数据的洪流中溶解分散，如同滚滚洪流中的一块泥土。

如何免于成为“滚滚洪流中的一块泥土”？关键在正视“算法”的社会认知偏差，开启“观念的力量”。

PART.02

“算法化生存”的认知偏差

就研究视野看，“算法”经常被一些问题标签环绕，如“信息茧房”，如“算法黑箱”，如“算法偏见”，如“隐私侵犯”等，此外还有一些表达上比较刺激的标签，如“算法失控”等。

在话术表达上，这些认知标签大多侧重于道德伦理层面的深思，并非严谨意义的界定概念，换句话说，传播意义大于概念自身的科学意义。总体上看，这些认知标签大多偏重问题意识导向，呈现一定的技术悲观主义色彩。

就现实经验看，认知偏差主要集中在“算法黑箱”的神秘化、“流量至上”的神圣化、“信息茧房”的模糊化等方面。

关注“算法”，既要关注“算法到底做了什么”，也要关注“面对算法，该做什么”，既要思考“算法能做什么”，也要思考“算法到底是什么”。

“算法黑箱”的神秘化——因其技术门槛，算法往往被赋予一层神秘色彩，一些无法理解的现象也容易被归类于“算法黑箱”。就像一个人，可以很便捷地乘坐飞机，但未必非要熟稔飞行原理；可以很安全地乘坐轮船，却未必非要精通机械构造。同样，在“算法化生存”的时代，算法作为一种技术工具和技术手段，普通人如果感兴趣，可以多去了解，如果顾不上，不了解算法原理也无关紧要，但不要因为无法理解而把“黑箱”神秘化。本质上说，算法是为了持续解决不断出现的需求与问题。所谓的“神秘化”，其实是一种学界提出的“解释黑箱”，即“算法编写开发需要较高的专业技能，对于非专业人员来说很难以理解和判断”。

“流量至上”的神圣化——乐观主义者常将“数据至上”“流量至上”“技术至上”等论调奉为圭臬，类似观点比比皆是：“数据主义主张数据至上，一切都应成为数据，一切都要交由算法来处理”。与此相关联的词汇还有“算法造神”，这其实也是“流量至上”的世俗化，或另一种崇拜化。从目前短视频的发展来看，更多的“网红新宠”，表面看是流量加持，背后则是海量UGC内容的持续生产。相对于文字内容，很多传播规律在短视频领域依然在发挥作用，比如优质内容的黏性与长尾效应，内容与算法本就是一种强互动关系。我之前在调研笔记中写道：算法是“人”设计出来的，也是为“人”服务的，但因为涉及到更多的“人”，以及“人”背后的利益，所以在难以平衡的时候，算法必然不可能再被认为是“单纯”了（《数字经济治理：算法很单纯，复杂的是人》）。就是说，“客观”的数据背后有“主观”的人，“算法”背后是有价值观的，从数据到算法，是有筛选的，有选择的，数据并不能代表一切，算法也不能代表一切。

“信息茧房”的模糊化——某媒体机构社会调查中心有一项调查（受访者为1501人）显示，62.2%的受访者直言，“大数据+算法”的精准推送方式，让自己陷入了“信息茧房”。清华大学社科院发布的《破茧还是筑茧？用户使用、算法推荐与信息茧房研究报告》发现，70%的用户对个性化推荐算法持肯定态度，认可算法技术是海量信息时代的一种有效策略，帮助用户解决信息过载的问题。在实际使用调研中，超过90%的短视频APP用户选择开启个性化推荐算法。从发生学角度看，“信息茧房”是哈佛大学法学教授凯斯·R·桑斯坦基于对美国两党政治的语境下对于政治信息极化的一种担忧，在其2006年出版的著作《信息乌托邦：众人如何生产知识》中提出的一个比喻，认为在互联网信息传播中，因公众自身的信息需求并非全方位的，他们只注意选择自己喜爱的东西或能使自己愉悦的信息领域，不太会主动搜索其他信息，长此以往，个人接触到信息的广度和深度都越来越局限，从而将自身桎梏于像蚕茧一般的封闭空间中。客观说，虽然“信息茧房”这一概念相当流行，在国内舆论场上被频频使用，但相当一部分学者采取审慎的态度，有学者认为这一概念存在全盘接受式的误读与不加验证的滥用，也有学者认为概念所描述的状况本身是否真实存在都需要加以质疑，还有观点认为过于夸大算法推荐对用户的影响。就是说，在“信息茧房”的概念边界，内涵外延尚未得到准确界定的情况下，过多使用这一概念，不仅增加了受众的模糊认知和恐惧心理，也不利于公共政策的精准施策。

PART.03

为“算法认知”注入“人文关怀”

事实上，当“困在系统内”“迷失在算法里”等议题频频进入公众视野，一个显而易见的问题，就是如何为冰冷的算法注入人文情怀，让日趋重要的“算法”更有温度。进而言之，这不仅仅是一个“算法向善”的伦理治理问题，更是一个“算法素养”的社会认知问题。

之前，在邀请清华大学新闻学院陈昌凤教授参加“政邦茶座”时，我们也专门探讨到算法的问题，她的建议是，多关注算法应用产生的价值和伦理问题，提出算法善治的相关提案议案，有利于提高政府高层、市场和社会公众对算法应用伦理风险的关注和重视，凝聚最广泛的价值共识推动算法伦理治理。

相对于大家经常谈到的公共部门的治理与市场主体的伦理，在“算法化生存”的当下，需要特别注意的是公众层面的“算法素养”。就是说，消除算法认知偏差，提升算法的科技素养和人文素养，也成为重要课题。

一方面，“算法素养”是公众“算法化生存”的“护身符”。如果不能发现算法的“亮点”，很难有效地积极互动，为己所用，如果不能发现算法的“缺陷”，则容易带来一系列的困惑，乃至痛点，最后演变无处不在的焦虑。即以所谓的“信息茧房”为例，属于“多因多果”的问题，有个人层面，如习惯与自律，有社会层面，如氛围与场景，有企业层面，如技术与规则，有政策层面，如规定与执行，“算法”只是其中一环，并非“因果关系”的直接原因，无法承受之重。

另一方面，基于“算法素养”的“善用算法”，将是公众的“赋能机”。作为“消费者”，“善用算法”可以为自己定制“内容画像”，让个人的“内容诉求”更为精准，减少干扰，识别真伪；作为“生产者”，“善用算法”可以有效提升内容供给，有利于增加信息对称，更加匹配消费端的需求，构造一个独特的“场景”。