算法道德责任：一个互联网企业社会责任新构面_石文华.pdf

第 卷第 期年月北京邮电大学学报（社会科学版）（）.，.收稿日期：基金项目：国家自然科学基金项目（）作者简介：石文华（），男，江苏苏州人，博士，副教授，博士生导师：算法道德责任：一个互联网企业社会责任新构面石文华，刘丽杰，冉华，黄来恩（北京邮电大学 经济管理学院，北京）摘 要：提出算法道德责任这一概念来描述互联网企业在基本的社会道德观念、规范和价值的要求下开发利用算法的责任，并将算法道德责任作为互联网企业社会责任的一个新构面。包括两个子研究：（）开发了互联网企业算法道德责任量表，并验证了量表的信度和效度；（）通过结构方程模型检验了算法道德责任对企业声誉和客户满意度的影响。研究结果表明，与企业社会责任其他构面的影响类似，算法道德责任同样可以通过企业声誉影响客户满意度。最后讨论了研究的理论贡献和实践意义。关键词：企业社会责任；算法道德责任；企业声誉；客户满意度；量表开发中图分类号：文献标识码：文章编号：（）一、引 言企业社会责任这一概念自提出后就成为一个焦点话题，学者先后对其内涵、构面和应用等方面进行了广泛、深入的研究。以传统行业为研究对象的企业社会责任内涵不断完善，企业社会责任的构面研究、量表开发及其应用逐渐成为学者关注的重点。随着互联网迅速发展，电商、社交和资讯平台等各类互联网平台渗透了消费者生活的方方面面。作为互联网企业产品或服务的核心技术，算法虽然有助于社会各个领域治理效率的提升，但其高度的不透明性和专业性也带来了算法歧视、信息窄化和隐私泄露等社会隐患。近几年，已经出现多起由算法引起的给消费者造成负面影响的事件，很多学者随之跟进，从三个角度将算法和企业社会责任联结：第一，从企业社会责任治理的角度，将算法治理视为一个新的治理对象，并由此衍生出了一系列议题；第二，从企业社会责任评价的角度，根据互联网企业现状探索企业社会责任边界，提出了将信息内容监管、用户隐私保护、算法监管纳入互联网企业社会责任评价体系的观点；第三，从算法风险及其应对的角度，学者们认为算法技术不透明、责任不明确、用户与媒体平台间的信息不平等是现阶段算法技术存在伦理风险的原因，提出了通过企业算法披露、法律规制和社会监督来提高算法透明以应对算法道德风险的对策。尽管已有研究对算法责任的治理研究、算法责任的重要性和算法责任失当等问题进行了初步的识别，但是算法道德责任还并未被纳入社会责任的研究维度，也缺乏对算法道德责任清晰的界定和测量，亟需规范性的研究。因此，在国内外相关文献的基础上，笔者拟提出算法道德责任这一概念，并将其作为一个新的构面加入 的金字塔模型中，遵循严谨的量表开发流程开发算法道德责任量表，通过实证方式检验量表的信度和效度，形成包括算法道德责任在内的互联网企业社会责任量表。通过结构方程模型，拟探讨算法道德责任对企业声誉和客户满意度的影响机制，进一步验证笔者提出的新构面的合理性，最后对本研究的理论和实践意义进行深入讨论。二、文献回顾与研究假设（一）企业社会责任纵观企业社会责任的研究历程，依据研究侧重点不同可将其大致可分为五个阶段。第一阶段主要讨论企业社会责任的概念和合理性，即围绕“企业是否应当承担社会责任”和“企业社会责任是什么”两类问题展开。将企业社会责任定义为企业根据整个社会对它的期望去设定一些目标，并采取相关行动。随着企业社会责任这一概念逐渐清晰，企业社会责任的合理性得到充分认可，学者转而关注企业社会责任的维度和内容，提出了许多经典模型，提出的金字塔四维模型、提出的三层同心圆模型等。虽然这一阶段学者已经从规范性角度探讨了企业社会责任的维度，但仍缺乏量化标准。第三阶段，学者将目光投向企业社会责任理论工具的发展，的金字塔模型在学术界得到普遍认可和应用，等和 等均是在 金字塔模型的基础上分别开发了企业社会绩效模型和企业社会责任测量量表。第四阶段，利益相关者理论等新理论的融入为扩延企业社会责任研究边界以及明确企业社会责任利益相关方提供了理论依据和基础。等基于利益相关者理论提出，企业社会责任的评价主要关注股东、雇员、消费者、政府和社区责任五个方面。第五阶段，企业社会责任的管理应用成为关注重点，在实证研究的基础上开发了四维企业社会责任测量量表。等开发了基于消费者感知的企业社会责任量表。国内学者如买生等通过实证研究构建了基于科学发展观的企业社会责任测量模型。齐丽云等以 和 标准为基础开发了企业社会责任测量量表。（二）算法道德责任互联网企业的快速发展和算法技术的广泛应用引发了社会各界对互联网企业社会责任的重视和思考。与传统企业不同，互联网企业具备经济和媒体双重属性：一方面作为经济平台要实现经济利益目标的追求；另一方面作为媒体平台要承担舆论引导等责任，因而不仅要承担传统企业承担的社会责任，还应将算法相关责任考虑在内。而数智化背景下互联网企业的算法已经融入社会各个领域，算法不仅是一种基于计算机的自动决策与自动推理分析程序，在广义层面还成为一种参与社会治理、构建社会秩序、影响社会发展的智能模型。算法的构建规则已经成为社会运行的一种基础性规则，并对利益相关方产生了广泛的影响，算法也逐渐成为塑造个人生活的重要因素。探讨算法道德责任存在的合理性与必要性，首先要对算法的角色进行定位。算法的概念最早出现于数学领域，指解决数学问题的运算法则。而目前，算法则更多地应用于计算机科学领域，指在一定的计算情境下将输入数据转换为输出结果的计算机语言程序，是对计算机上执行的计算过程的具体描述。基于人与计算机交互的角度，有学者将算法定义为人类和机器交互的决策，即人类通过代码设置、数据运算与机器自动化判断进行决策的一套机制。在一些情境下，人还会借助算法程序的判断而进行决策。由此可见，在人与机器交互的过程中，算法在人作出决策的过程中起辅助作用。算法实际上执行类人的意志，可以影响人的行为决策，在人、算法和社会三者之间的关系中承担人的“代理者”的角色。由此表明，算法具有间接的主体作用，负责算法开发的公司或个人是对应的直接主体，算法可以且应当对社会负责。除了算法这一角色本身产生的责任以外，笔者认为，算法输出的结果带来的社会影响也是企业算法应当对社会负责的原因。算法在设计开发过程中包含了设计者选择性的价值植入，如为了提高用户粘性，资讯平台将“用户兴趣为主”的价值观念嵌入内容推荐算法中，造成使用者获取的信息窄化，内容低俗化。可见，算法对于社会而言并非单纯的工具，且并未局限于算法自身的功能，而是对利益相关者和社会产生正面或负面的影响，影响利益相关者的权利。目前，算法具有高度复杂性，在复杂的社会动态环境中，当算法被应用于社会领域不同场景，算法决策的结果也具有不确定性和不可预测性，因而可能引发相关社会伦理问题和社会风险。从责任主体的角度出发，讨论算法道德责任与企业社会责任的关系也离不开对责任主体的定位和判断。现阶段，算法责任主体主要有社会、政府和互联网企业。基于在算法责任中扮演的角色和功能定位的差异，不同的责任主体应当以不同的方式承担对于算法的治理和规制责任，防范算法技术异化和衍生的各类社会风险。让算法在社会道德底线之上、在法律制度监管之下、在企业社会责任范围石文华等：算法道德责任：一个互联网企业社会责任新构面之内良性发展是社会各界对算法提出的要求。在社会方面，年人民日报对基于算法技术的智能个性化推荐的互联网商业模式提出批评，有关算法责任的相关议题也逐渐成为社会公众关心的问题。在法律方面，近年来，有关部门颁布了关于印发加强互联网信息服务算法综合治理的指导意见的通知（国信办发文 号）等规定，旨在逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。要从根本上解决算法带来的各类负面问题，不仅需要国家政策治理和社会舆论监督，还需要企业自身积极承担起对算法的管理责任。作为算法的责任主体，企业应当对社会承担责任的合理性得到了众多学者的理论支持。孙庆春等从责任主体的角度提出，广义的算法责任泛指一切与实现算法决策合理合法的相关的责任事项，而算法提供方对此应当承担算法模型设计、验证、运行和维护等相关事项责任。汪钰庚认为，责任是主体在一定的社会关系中对某项任务的自由确认和自觉服从，算法开源和应用的企业以及主动或被动参与其中的民众和用户都是算法责任主体。综上，笔者认为，互联网企业作为责任主体应当对其所开发应用的算法承担相应的责任。从企业视角出发，阳镇等认为，互联网企业的生产创造模式主要有两种，一部分是将算法作为一种技术或产品直接进行交易，而另一部分则是将算法与传统的产品或服务相结合，从而实现功能再造或应用场景创新。因此，对于互联网企业，算法不仅是一种技术，还是一种直接性的产品与服务。作为一种技术，根据约纳斯的理论，人类的任何行为都要接受道德的检验，技术是人权的表达也是行动的一种形式，必须经过道德的评估。从技术伦理的视角出发，对于技术与伦理之间的关系，技术伦理学普遍认同技术本身包含价值、具有价值载荷，而非价值中立的。现代技术伦理学认为，技术物能够满足道德行动体界定的因果效应标准、代理标准和道德自主性标准，可通过“道德物化”实现其伦理价值和道德性。在上述观点下，算法作为技术物，不再是单纯的技术工具或手段，而是具有伦理价值的道德行动体。作为一种产品或服务，利益相关方需要明确算法在开发和应用过程中可能产生的结果，避免产生信息茧房、算法歧视或算法垄断等社会负面问题。因此，不管算法在互联网企业中扮演何种角色，互联网企业都应起到责任主体的作用，即互联网企业社会责任应包含企业对算法的源头式管理责任。这种责任具体表现为互联网企业在设计、开发和应用算法时，确保算法在该过程中能够符合基本的社会道德观念、规范和价值，避免可能产生的各类负面后果，笔者将其定义为算法道德责任。结合目前学术界对企业社会责任的理解，企业社会责任具有明显的时代性，其必定随着社会条件的演变而演进。因此，笔者认为，对于互联网企业而言，传统的企业社会责任维度需要延扩，应当将算法道德责任纳入企业社会责任的基础性维度中，即互联网企业除了承担 提出的经济、法律、道德和慈善责任以外，还应承担算法道德责任。据此笔者提出，算法道德责任可能成为一个互联网企业社会责任新构面。（三）企业社会责任、企业声誉与客户满意度企业声誉对于企业而言是非常重要的无形资产，能够反映企业和品牌的公信力，并持续为企业创造价值，对于企业的成功有重要贡献。回顾学术界对企业声誉的研究，其定义主要围绕企业过去行为、企业信息和利益相关者评价三个关键词展开。如 等将企业声誉定义为一直基于企业过去行为和结果的综合体现。等将企业声誉定义为利益相关者基于自身经验或获得的企业行为或竞争状况的信息而形成的对企业的总体评估。基于前人研究，笔者将企业声誉定义为包括消费者在内的利益相关者基于企业特性和相关信息形成的对于企业的整体评价。对于企业声誉的维度，目前广为认可的是 提出的企业声誉模型。他认为，企业声誉是包含认知声誉和情感声誉的二维结构。本文也将遵循这一结构，其中，企业认知声誉指消费者基于企业特征形成的主观理性评价，企业情感声誉指消费者对企业所产生的感性体验。心理学理论认为，认知和情感作为两个独立层面相互产生影响，两者的发生和存在相互依赖。而许多研究表明，感觉和情感能够影响个体认知和行为。的研究表明，在充满高度未知性和不可预测性的环境中，情感北京邮电大学学报（社会科学版）年第 期参见：羽生 评算法推荐：不能让算法决定内容 人民日报，（）最有可能对认知和行为产生显著影响。也认为情感会对人们的认知发生强烈的影响。个人对待外部环境的认知也会受情感的影响，积极的情感能够增强认知。基于上述理论，笔者认为，企业认知声誉建立在企业情感声誉的基础上，企业情感声誉能够对企业认知声誉产生影响。众多学者已证实企业社会责任是影响企业声誉的重要因素。回顾相关文献，企业社会责任主要通过两条路径对企业声誉产生影响。一方面，企业承担社会责任可以增强消费者对企业声誉的感知，促使消费者相信企业通过营销活动营造的良好的企业形象是可信的。根据消费者行为理论，作为企业营销信息的接收者，消费者并不会对企业营销宣传的内容全盘接收，而是会根据自己所获取的企业行为信息来进一