2020年11月
西安交通大学学报(社会科学版)
Nov.2020
第40卷第6期(总164期) JournalofXi′anJiaotongUniversity(SocialSciences)
Vol.40(Sum No.164)
DOI:10.15896/j.xjtuskxb.202006013
开放科学(资源服务)
标识码(OSID)
[收稿日期] 2020 04 07。
[基金项目] 国家社会科学基金特别委托项目(16@ZH024);中央高校基本科研业务费专项资金资助项目(202010696)。
[作者简介] 徐汉明(1951- ),男,中南财经政法大学法治发展与司法改革研究中心教授,博 士 生 导 师,中国法学会法治研
究基地暨最高人民检察院检察基础理论研究基地负责人,中国法学会网络与信息法学研究会副会长,教 育 部 社
会治理法治建设创新团队学术带头人。
算法媒体的权力、异化风险与规制框架
徐汉明,孙逸啸
(中南财经政法大学 法治发展与司法改革研究中心,湖北 武汉 430073)
[摘 要] 作为经由算法驱动的新型媒体形态,算法媒体进一步重塑了信息传播样态,拓展了
个体参与社会生活的广度与深度。从信息生产与信息消费等方面探析算法媒体的运行逻辑,
有助于理解算法媒体权力的本质和特征。随着网络空间与现实空间不断耦合,算法权力作为
一种能够实现资源配置的新兴社会力量,由于传统公私法律二元框架规制能力的不足,可能会
造成信息霸权与冲击媒体公共性的异化风险。需要转变算法媒体监管的基本思路,在整体主
义视角下进行制度设计,通过构建算法问责机制、配置算法可解释权等方式对抗算法媒体权
力,从而实现公权力、私权力与私权利之间的互动平衡,促进算法媒体规范化发展。
[关键词] 算法媒体;信息霸权;媒体公共性;权力异化;算法问责;算法可解释权
[中图分类号] D923;G206 [文献标识码] A [文章编号] 1008-245X(2020)06-0128-09
随着互联网信息技术的不断纵深发展,人类社会
经历了从互联 网1.0到 互 联 网2.0,再 到 人 工 智 能 时
代的转型跨越。算法媒体是作为信息传播中介的媒体
发展到人工智能时代的标志性产物,这一新型媒体样
态基于算法型分发与传播模式重塑了过去倚重人工编
辑的媒体型分发和依托社交链传播的关系型分发的信
息传播样态,通过对于海量信息有序抓取与分流实现
了信息资源的有效适配与对其潜在价值的充分挖掘及
其利用转化的重新评估[1],从而拓展了个体参与社会
生活的广度与深度,型构了网络空间社会形态,使得信
息社会的传播从国家管控向社会分享,从社会场域向
私人空间拓展。但实践中算法运行具有天然的不透明
性、不可解释性,算法往往将信息生产、流通、审核、分
发的各个环节推入“黑箱”状态,从而发挥着主导在线
讨论、决定新闻样态、定义用户环境的功能[2],甚至在
特定场域产生“算法霸凌”现象,由此带来了社会大众
对算法媒体运行的妥恰性与规制性等相关问题的极大
关注。
当下,对算法媒体兴起而引发“霸凌规制”等问题
在学界和业界引起了争鸣。既有研究对算法媒体作为
信息与受众之间的新型中介,其依靠算法技术和架构
逐渐嵌入到经济社会运行之中,促进了新闻的自动化
生产和分发[3],并对经济社会发挥着一定的建构作用
等认知已经基本达成共识[4]。然而算法的本体化发展
不仅逐渐改变着媒体平台内部的运作逻辑,也使得媒
体监管的传统方式难以有效应对算法媒体的发展现
状。针对这些问题,现有研究从算法媒体治理的角度
提出建立专门的监管机构、增强算法的透明性、制定通
821行的监管规 则、嵌 入 公 共 理 性 等 方 式[5],并 从 国 家 规
制、平台自律、算法素养等方面构建综合协同治理体
系,但从法律视角检视,这些探讨对如何通过算法影响
并重塑网络 信 息 环 境 所 引 发 的 相 关 权 利(力)与 义 务
(责任)深层次问题的关照、解析与法律规制之对策等
尚存在不周延之处。基于此,从算法媒体的运行逻辑
出发探讨其规制问题,有利于从制度层面识别和防控
算法媒体的预期风险,协调平衡法律规制与人工智能
时代技术创新发展之间的矛盾,减少或避免远期无知,
修复算法媒体受损秩序,从而保障和促进算法媒体健
康发展。
一、算法媒体权力的缘起
为了更好地理解算法媒体不同于传统媒体、自媒
体之处,本文结合信息经济学的理论,以遵循算法媒体
的信息生产、信息消费等特征为切入点,对算法媒体权
力的特质进行剖析。
(一)算法媒体的运行逻辑
1.信息生产
信息生产是指信息作为特殊价值的商品被导入市
场消费之前的生成创作阶段。在传统媒体时代,信息
生产体现在以编辑为主导的广播、电视、报纸之中,国
家基于对编辑资格认定、筛选等程序对信息生产拥有
较强的控 制 力。随着市场经济和信息技术的蓬勃发
展,算法媒体通过算法技术架构将传统的“签发式”“审
核式”信息生产模式发展为平台运营商、用户和其他主
体共同介入的内容生产矩阵。随着各类网络媒体平台
的勃兴,媒体环境呈现纷繁复杂的样态,用户群体虽然
呈现越来越 分 散 的 趋 势,但是聚合效应也日渐突出。
算法依靠强大的信息数据抓取、储存、开发、筛选、利用
与处理能力在媒体信息的生产方面发挥着越来越突出
的作用,主要表现为信息需求预测与信息内容创建。
在算法媒体平台中,用户主体在平台上的信息互动中
的选择偏好、互动模式、上线频率、消费意愿、关系网络
等相关数据会被存储到平台服务器之中,而平台运营
商通过平台架构设定的算法程序会对这些数据进行类
型化采样、分析、对比、处理,从而主导着媒体的决策结
果,其中包括信息内容的分类推送、集中性引导、适应
用户消费偏好的精准分发等等。
与此同时,算法在媒体平台中的应用还逐渐拓展
到内容创作领域,深度介入到信息生产的各个环节,根
据类型不同可以分为程序性信息生产与本体性信息生
产两种模式:程序性信息生产是指算法根据平台导入
的信息数据,通 过 事 先 已 经 设 定 好 的 内 容“输 入—加
工—生成”程序,按照数据库中不同新闻信息类型自动
生成信息内容;而本体性信息生产,则是以平台的“数
据池”为基础,通过算法的自主式运行对不同信息的联
系、趋势作出判断,并借助自动生成程序产出新闻的过
程。本体性信 息 生 产 模 式 是 算 法 自 主 学 习 演 变 的 产
物,由于人类对算法程序认知的有限性和算法程序运
行的不可解释性等因素,经过这种模式生产的新闻类
型事实上已经被推入算法“黑箱”之中,在实践中,其内
容的真实性往往会受到质疑。但算法介入信息生产的
出现并不意味着人作为信息内容创建唯一主体的地位
被削弱或者矮化,或者人的因素在内容创建过程中随
着算法应用的发展将会逐渐消失。与之相反,这恰恰
证明了人在信息内容创建中的角色正在经历由直接制
造者到间接制造者的转变,这一转变过程不仅体现出
人工智能与算法的蓬勃发展带来的深刻影响,而且为
信息传播的进一步提速以匹配并适应数字经济的发展
提供了可能与条件。
2.信息消费
信息消费是指信息产品或服务在市场中被消费的
经济过程。在传统媒体时代,由于信息传播渠道与架
构均被公权力部门垄断,信息生产具有较强的行政性、
公共性、集中性与专门性。在此基础上,社会公众其实
是“被消费”的角色,个人与公权力部门的信息能力则
呈现负相关性的样态,即个人获取、持有、消费、提供信
息的能力较弱,而公权力部门获取、持有、供给信息的
能力较强。随着网络媒体兴起,信息传播方式的转变
使得大量分散的用户逐渐拥有了各类信息的自主选择
权、持有权等。在这种情况下,信息的生产、流动与消
费与物质资料产品、消费资料产品一样,被载入商品的
价值、使用价值并体现凝结为生产信息的社会必要劳
动时间的外在符号———“价格”的一般表达。个人的信
息能力尤其是信息消费能力随着信息技术的发展而逐
渐增强,公权力部门的信息能力则呈现下降趋势。具
体在算法媒体中,算法之于用户信息消费的核心作用
就是充当“指南针”,即帮助用户在日益复杂和碎片化
的媒体环境中迅速捕捉符合他们消费偏好的信息内
容。这一典型的算法驱动过程包含搜索、建议和内容
聚合等系统,由此便于用户在“信息汪洋”中寻找和选
择信息。当下,算法媒体的推荐机制有两种方式:一是
算法媒体通过对平台内用户行为信息,如评论内容、转
发类型、点赞记录等反馈数据,进行整合、归类和分析,
以推算出用户的信息偏好,从而实现更加精准的信息
921
徐汉明,孙逸啸 算法媒体的权力、异化风险与规制框架投放、推荐、报道等活动;二是根据相关信息的关联性
进行类型化的标签式划分,使用户通过自选的方式挑
选自身感兴趣的内容。随着人工智能的快速发展和信
息内容推荐机制的广泛应用,信息内容推荐机制不仅
成为算法媒体内容消费的重要中间环节,也成为平台
用户个体社会关系和互动的动态中介。这意味着部分
用户通过信息内容推荐机制可以迅速加入、汇聚到感
兴趣的信息群组,如微博明星粉丝团、微信群组、知乎
讨论组等之中,并依托信息内容推荐机制不断对此类
群体进行筛选、过滤,从而为拥有共同兴趣、爱好、话题
的用户提供一个相对聚合的空间,增强此类用户之间
的互动。
综合信息生产、传输与消费的多角度分析,算法媒
体作为自媒体的升级版,其在依托互联网信息技术破
解国家、社会公众和其他主体之间信息不对称壁垒、填
补信息不对称鸿沟的基础上,通过算法技术实现了平
台内信息与资源配置、经济行为的相洽,不仅提高了信
息资源价值的实现效率,激活了社会大众对信息资源
获取、持有、消费、提供的活力,而且满足了大数据时代
社会成员日益增长的信息消费需求,拓展了其对信息
资源消费的渠道,促进了数字经济的跨越式发展。但
信息经济的发展也在不断冲击着传统经济学关于稀缺
资源分配和创造的固有二分结构,即媒体平台在经由
“传统媒体—自媒体—算法媒体”的转变过程中,逐渐
将资源的分配与创造交融在平台之中,实现了信息资
源消费与生产的嵌合性产出。因此,信息消费为信息
生产提供前提性需求,信息生产则是信息消费的重要
基础,二者随着消费信息化而互为增长条件,由此实现
信息经济的累积与增值。
(二)算法媒体权力的阐释
基于上述以信息经济学视角对算法媒体与传统媒
体、自媒体在信息生产与消费方面的论述,可以看出,
信息传播伴随着由传统媒体到自媒体,再到算法媒体
的转变,其传播样态实现了由“方式—范围—效能”递
进式叠加转变。具体而言,传统媒体时代,国家基于知
识、技术与意识形态上的主导地位,从传播革命中获得
的权力资源和治理资源远远多于社会和公众[6],在这
样的时代背景下,尽管公民都享有宪法规定的信息自
由权利,但实质上公民仅具有被动接受信息传播的权
利,而没有进行信息传播的权力。自媒体时代,由于信
息技术的飞速发展与互联网架构的建立完善,国家把
持信息传播权力的传统格局不断被解构,信息传播不
仅由于信源和信道的释放而突破了时间和空间的禁
锢,而且打破了传统社会中信息传播的科层权力结构,
实现了信息传播权力从国家走向社会的转变,公民的
知情权和表达权得以充分实现。而在算法媒体时代,
算法作为用户数据与媒体平台信息生产、消费的重要
“桥梁”,通过资讯型、互动型、信用型连接从内容、关系
和服务三个维度进一步促进了用户与信息之间的关联
度[7],不仅冲击着既有的信息传播场域,而且实现了由
自媒体时代“多对多”模式到人工智能时代“点对面”信
息传播模式的转变,强化了信息传播的精准和效能,这
一时期的传播格局和模式由于算法的介入,从时空偏
向转为兴趣偏向,机器与人的关系已经从延伸发展到
结合[8]。因此,算法作为网络媒体平台和信息系统的
驱动技术,其基于对平台所产生的大数据收集而进行
信息内容的再生产为程序基础,通过运行程序不断地
对平台内容进行传播、重塑、再传播,使算法媒体形成
了以信息内容的生产机制、推荐机制、过滤机制、传播
机制等主要功能的运行链条,进而在算法媒体中事实
上形成了基于算法程序和架构链条而产生的信息传播
权力的“权力束”运行机制,传统金字塔型的信息传播
权力格局随着社会公众、媒体平台等主体的强势崛起,
逐渐被形塑为扁平化的权力结构。
二、算法媒体权力的异化风险和成因
随着网络空间与现实空间不断耦合,算法作为网
络空间的“行为准则”,其自身所具有的复杂性和可扩
展性影响逐渐延伸至现实空间,对后者的既有秩序产
生冲击,潜在地可能引发诸多风险。主要体现为如下
三方面:
(一)强化“信息霸权”
算法媒体领域,平台运营商借助算法构架与技术
优势不断对用户信息数据进行收集、分析与利用,构建
起自身的“信息王国”,进而有可能异化为“信息霸权”,
致使平台私权力的过分膨胀而侵害用户的数据隐私等
权益,形成“信息茧房”“监控资本”等风险景象。
1.信息茧房
凯斯·桑斯坦在《信息乌托邦》中提出了“信息茧
房”这一概念,他认为用户的阅读兴趣不可能涵盖所有
的知识领域,长期只接触自己感兴趣的信息,而缺乏对
其他领域的接触与认识,会限制用户对社会的全面认
知,将用户禁锢在有限的领域内[9]。纵观媒体的发展
沿革,在传统媒体时代这一现象就已然存在。当时信
息传播的权力把控在主流媒体手中,公众接收到的信
息不仅非常有限而且带有较强的公共性,这与主流媒
031
西安交通大学学报(社会科学版) http:∥skxb.xjtu.edu.cn体的社会公共责任息息相关。在自媒体时代信息呈现
大众传媒式的传播样态,公众的信息权利与权力借助
信息技术的发展得到进一步增益,人人都可以发声并
寻求自己感兴趣的内容,在这样的条件下,信息传播其
实呈现出去中心化的态势。但在以算法技术为核心应
用的智能媒体时代,人的虚拟属性逐渐凸显,算法媒体
基于信息内容推荐、信息生产、协同过滤等算法机制,
运用语言分析与心理学进行用户情绪推理、预测分析,
并实行靶向传播,取代了通用传播中人在传播活动中
认知主体的地位。同时,由于用户元数据的储存与算
法技术的介入,传统媒体、自媒体时代的传播现象、传
播规律不再是基于人的主体性的解释或表达,而是算
法通过对海量数据的监测、分析、提取的决策行为。尤
其是在信息传播内容的选择和目标投放上,规则、经验
也不再起着决定作用,媒体平台完全可以利用数据挖
掘用户的兴趣 特 征、个 人 偏 好 等 相 关 性 的 结 果[10],实
现精准的信息投喂,从而使用户的生活桎梏于像蚕茧
一般的信息洪流之中。信息传播样态伴随着媒体发展
的沿革 呈 现 出“中 心 化—去 中 心 化—再 中 心 化”的 特
点,而算法技术的介入也潜在地强化了“信息茧房”现
象,并呈现出明显的标签化特征,即算法媒体通过算法
技术架构实现了对人、地点、对象和思想以及与这些过
程相关的思维、行为和表达习惯的重新排序、分类和分
级[11],进而导致“信息茧房”现象的迅速蔓延与日益固
化,基于年龄、学历、知识背景等对不同内容消费的阶
层分化现象逐渐加剧。可以说,这一新数字鸿沟的出
现进一步强化了不同阶层、群体之间的信息隔膜,造成
某一群体针对某一信息不能畅通地与其他群体进行沟
通交流,加剧了群体内部的极端化程度,可能导致群体
极化现象的频繁发生。
2.监控资本
监控资本是以信息与人工智能技术的不断迭代升
级为基础,伴随着大数据与数字经济的发展而逐渐产
生的,其内在逻辑表现为它通过对用户元数据的搜集、
萃取、分析,以及个性化、持续性的实验对用户个人实
施难以辨别的单项监控,产生巨大商业监视效能,继而
由 算 法 预 测 和 调 整 人 类 行 为,获 取 利 益 并 控 制 市
场[12]。在传统媒体时代,掣肘于信息传播与数据处理
技术的滞后,这一时期的媒体生产经营仍然处于物理
空间属性占据主导的获利模式,虚拟空间、数据、信息
等尚未与人类社会生活交织交融,监控资本尚处于萌
芽状态。得益于互联网信息技术的迅速发展,传统媒
体升级为自媒体,不仅进一步释放了媒体平台的市场
性,逐渐重塑了大型商业媒体平台的生产、组织与盈利
模式,而且也使得用户元数据的剩余价值得以显现,成
为媒体平台获利的“原油库”。在算法媒体时代,由于
算法技术的介入,媒体平台能够通过强大的算力和极
为复杂的架构实现对用户元数据的分析、挖掘、研判与
处理,海量的元数据经由算法的结构性生产与销售,不
断被结构化、同质化、模型化,并被导入数字经济市场,
数据作为新型市场要素的潜在价值真正得以释放。可
以说,算法媒体依靠信息与大数据监控技术,近乎零成
本地剥削用户“剩余数据”实现原始积累,借助“算法式
生产”方式将“剩余数据”转化为“预测性产品”,再通过
大数据监控系统将“预测性产品”精准地出售给各种广
告客户,以此谋取高额“寄生性利润”[13]。但需要注意
的是,用户的各项数据被无形中嵌入到信息产业和数
据经济的生产链条,其数据隐私权益事实上处于时刻
可能被侵犯的边缘。由此可见,“监控资本”作为大数
据与人工智能时代信息经济的产物,打破了传统的经
济模式和结构,使得传统法律层面主客体关系条件下
人与机器的关系发生了异化,即人的价值在于其网络
行为产生的原始数据,进而为监视资本所重构的新型
经济关系提供重要的原料和商品。
(二)消解媒体公共性
作为信息生产与信息传播的重要途径,媒体不仅
是公共信息传播资源的直接行使者,而且是公众行使
监督、批评、参与社会建设等权利的重要载体,能够对
社会生活秩序与公共政治生活产生广泛影响,是社会
治理的重要环节和方式,具有公共性、公益性等基本特
征。从信息传播样态来看,在以广播、电视为代表的传
统媒体时代,公权力部门和主流媒体管控着绝大多数
的传播介质而成为信息内容把关的主导性一方。在这
种条件下,以编辑为代表的把关人控制着信息传播内
容、方式、频率等,信息传播更多是依据一定的方针、价
值、立法模式所进行的一种有目的的取舍选择与加工
活动,社会公众只是作为被动接受信息的一方。在自
媒体时代,传播载体、介质进一步革新与立体循环化的
传播方式迫使传播权力进行结构性调整,社会公众借
助网络媒体都能成为“发声器”,以编辑为代表的传统
信息内容审查权力在平台运行的机制逻辑中不断被消
解,自媒体平台将传统媒体的信息把关模式从“先审后
发”倒置为“先发后审”。尽管这种多元化的拟态环境
会带来负面信息、泛娱乐化等风险,并对媒体的公共性
产生一定冲击,但主流媒体在议题设置、舆论导向等信
息传播的关键环节仍然发挥着主导作用,引领公众在
131
徐汉明,孙逸啸 算法媒体的权力、异化风险与规制框架公共领域中就相关利益问题进行公开、平等、理性的协
商。此外,公众的传播权利和权力也借由信息传播技
术而得以保障,公众参与社会公共事务的能力与活力
不断加强。因此,自媒体时代大众传媒式样态虽然在
一定程度上冲击着传统媒体时代的公共空间价值秩
序,但也极大地拓展了公共空间的范围和公民参与公
共讨论的途径,增益了传媒公共性的民主价值。
但在算法媒体时代,媒体公共性被消解的风险则
进一步强化。算法媒体基于大数据与算法已经事实上
重新塑造了一个全新的拟态环境,信息传播的内容、主
体、客体逐渐摆脱物理真实性而数据化,用户与其产生
的一切行为数据不再是作为主体性的现实表达,而是
被结构化到数据收集、生产、分析的算法个性化推荐、
精准推送等商业逻辑的数据体现。在这种由算法建构
起来的组织化、数据化、圈群化的制度环境中,算法传
播通过传感、大规模数据存储和在商业框架内进行的
算法处理,被无形中赋予权力,自下而上的数字控制可
能将对信息传播的公共性产生威胁[14]。同时,算法媒
体本质上是以吸引用户群、增加用户粘性和活跃度,通
过将数据嵌入到算法组织结构之中而攫取商业价值为
根本利益导向的。从资本的角度看,趋利的本质属性
决定了媒体平台不可避免地会通过降低算法程序对信
息传播内容质量的标准,提高信息传播的数量增强用
户粘性,其基 本 追 求 在 于 信 息 的 转 发、频 次、评 论、覆
盖、匹配等利于实现价值增长的要素,由此导致媒体对
公共利益和价值的追求显著下降。因而,算法媒体所
提供的信息消费品,无论是内容还是质量都处于与公
共性适格的消费品相悖的状况,具体表现为质量偏低、
泛娱乐化,并且通过信息生产、传输与消费多个环节不
断影响并引导着用户进入平台所推送的信息集群中,
使得用户对信息内容的判断力不断降低而往往陷入劣
质新闻的汪洋之中。算法媒体在信息生产、传输与消
费多个环节挑战并降低着既有的社会道德秩序,从根
本上不断消解新闻媒体“公共性”的根基。
(三)算法媒体权力异化风险的成因和反思
任何权力异化风险的产生都有其背后的原因,而
理解权力异化的成因则需要以权力的属性为逻辑起
点,这也是探寻如何规制权力路径的基础前提。结合
上述对算法媒体拥有的权力和异化风险景象的概述,
可以较为直观地看出,这种权力实际上就是媒体平台
借由掌握的算法技术优势而衍生的技术权力,其背后
的逻辑则是资本利益驱动的媒体平台经由算法将信息
传播的各个环节逐渐后台化,由此导致公权力部门原
本对网络信息内容进行审查核实、舆论引导甚至遏制
资本扩张的权力不断被削弱,且“被迫”下放给媒体平
台。同时,对于国家监管部门而言,随着算法技术的迅
速发展和内嵌于经济社会运行程度的加深,其借助算
法技术和架构能够有效应对由于信息技术不断更新而
带来的监管问题,如对用户发布信息内容是否符合相
关规定进行筛选、用户在平台的行为是否遵守平台规
定或者违反相关法律法规等。如果说这些平台运营商
已经事实上接受了公权力部门公共权力的部分让渡,
那么算法则是平台运营商行使并承担公权力部门让渡
的公共权力的主要依托。基于此,算法媒体掌握的这
种平台权力是基于市场与技术的私权力,其承担着维
护网络市场秩序、保障用户权益的公共职能,能够有效
弥补数字经济时代政府规制能力缺陷[15]。而 传 统 公
私法划分和二元法律结构也在算法权力逐渐影响甚至
颠覆社会资源配置的同时不断被瓦解,被拓展重塑为
“国家公权力—平台私权力—用户私权利”动态博弈的
状态。但值得注意的是,在大数据、人工智能与数字经
济多重叠加的时代背景下,算法、算力及其架构嵌入到
网络媒体平台之中虽然促进了信息传播主体、传播方
式的变革,但也迫使传媒以公共性为主要特征的信息
传播价值体系转向商业性。这意味在算法媒体时代,
平台运营商不断改进传播方式、提升传播效能的目的
在于更好地攫取用户数据以释放其巨大商业价值。可
以说,在算法媒体时代,传统信息传播以民主性、真实
性为主要表征的内容价值已经被迫让渡给了商业价
值,这不仅与权力应当具有的公共性、责任性等基本价
值属性与价值诉求相悖,而且是算法应用及其权力可
能产生异化的根本性原因。可以说,从传统媒体到自
媒体,再到算法媒体的跨越转型,既是现代市场经济条
件下信息技术发展的必然结果,也是媒体公共性不断
被媒体市场性所瓦解的过程,成为数字经济时代新型
社会传播方式的典型缩影。
尽管算法媒体掌握的这种私权力契合了民主政治
与数字经济发展的内在需求,但当前涉及这种私权力
的法律规范是以传统公法与私法二元分立的思路为划
分,且主要集中在私法领域,由此导致现有的法律体系
难以有效应对算法媒体权力不断扩张,并且出现潜在
的异化风险逐渐增大等现实难题。具体而言,从私法
面向来看,算法媒体平台借助算法、算力及其架构的不
断优化,这种私权力会借由合法监管的理由通过制定
大量规则等形式,不断侵蚀用户的合法权益。尽管当
今互联网平台内用户的基数和活跃度不断增长,但这
231
西安交通大学学报(社会科学版) http:∥skxb.xjtu.edu.cn些主体客观上在媒体平台构建的制度王国中仍然处于
弱势地位,并且难以通过有效的集体行动维护自身合
法权益。比如这些媒体平台一般都通过“同意—进入”
或“不同意—退出”的方式,迫使用户不得不接受其对
这些主体数据收集、储存与利用的相关条款,这显然有
悖于私法所强调的契约自由、意思自治等根本价值。
从公法角度来看,互联网信息技术的发展促进了社会
结构的转型,尤其是网络媒体进一步拓展了公共空间
的纬度和效能,而算法媒体所行使的这种私权力对于
用户主体而言不仅具有较为显著的公共性,而且同样
具有传统公权力的强制性、单方性等基本特征,具有非
常明显的手段上的压制性、侵 入 性、否 定 性[16]。基 于
此,为了实现算法媒体权力的规范运行,需要突破传统
公私二分法律框架,以这种私权力公私复合的属性为
规制起点,对其进行制衡、监督与合理调控。
三、算法媒体权力的规制框架
基于我国当前针对算法治理的制度和实践,针对
媒体领域算法权力的规制,为实现对算法媒体权力的
有效规制和算法赋能的私权利、公权力、私权力的动态
平衡,应该沿循以公权力合理限制私权力、增益私权利
对抗私权力的规制思路对算法媒体整体监管体系进行
构建,以调整现代数字经济关系、平衡多元主体的利益
选择。
(一)整体主义对算法媒体权力规制的导入
1.整体主义视角下的制度考量
应对算法权力异化引发诸多社会问题,我国当下
对算法的规制呈现出理念冲突、模式交织、效果不确定
的样态。具体表现在以公权力监管部门对媒体运营商
监控为重心的“纵向控制型”模式;以“重监管、轻保护”
“重责任、轻权利”为理念的“单边管控型”模式;以“重
事后结果处罚”“轻事前引导控制”的“威权控制”模式。
这些模式都难以适应人工智能时代算法媒体规范运行
的功能转变,究其原因在于对“公权力、私权力与私权
利”实行分离阻隔的传统结构形态未能搭建有序衔接
转换、互联互通、合作共赢的机制。整体主义作为一种
世界观、认识论和方法论,它不仅强调运用全局性视角
去看待内部不同事物之间的发展与联系,而且注重事
物在发展过程中的动态阶段性特征。因此,在这一理
论视角下审视算法媒体权力规制,媒体平台与国家之
间的身份模糊化使得对算法媒体的策略应综合公权力
部门、平台运营商、公民不同主体的权力(利)配置状态
等关联性因素,在“公权力—私权力—私权利”整体三
元框架下对算法媒体权力进行整体性制度构建。
具体而言,第一,制度设计的价值选择。算法媒体
权力法律规制的价值在于遵循技术创新的“避风港原
则”基础上,明晰不同主体之间的职权范围、利益诉求、
权利(力)义务(责任)和边界,通过严格的程序规范与
多层次控制体系,以防止政府公权力、算法媒体技术权
力的滥用和最大限度保护用户的私权利,既确保技术
创新的持久动力,又确保公民在算法媒体平台内应享
有的权益、自由、权利救济得以充分实现。第二,制度
设计的内部性与外部性考量。所谓内部性是指规制算
法媒体的制度设计需注重修正公权力部门、平台运营
商、公民多方主体的权利(力)、义务(责任)的畸轻畸重
偏差,厘定其多方主体之间的权利(力)、义务(责任)边
界,为司法实践提供规范明确的制度依据。外部性是
指注重协调算法媒体权力规制与网络社会法治化之间
的部分整体关系。这要求算法媒体规制需以《网络安
全法》等基础性法律为上位法依据,结合国家网络安全
与信息发展的方针、公共政策,针对算法媒体区别于其
他网络平台的特征、不同主体之间的权利(力)义务(责
任)关系等方面进行专门性立法。第三,制度设计需注
重引入第三方参与。作为算法媒体权力规制的重要参
与主体,公民一般是通过个人私权利受损而发起公权
力救济,相较于公权力部门和媒体平台运营商在整个
规制体系中居于相对弱势的权力末梢。因此,为了进
一步保障用户主体平等参与算法媒体治理、防止平台
运营商技术权力滥用与公民权利受损,有必要引入第
三方主体进行治理评估。
2.实现信息内容保护与算法权力规制的有序衔接
从我国现有的涉及对算法媒体规制的法律制度体
系来看,传统的法律制度偏重于对信息内容的管控,如
《全国人民代表大会常务委员会关于加强网络信息保
护的决定》《互联网信息服务管理办法》等多部法律法
规和规范性文件,都以信息内容与保护为出发点对网
络信息的传播、搜集、认定作出相关规定。这种侧重于
对信息内容管控的法律制度安排不仅导致传统结果监
管思路下公权力部门内容审查范围扩大、难度增加与
媒体平台监控责任加强的尴尬局面,而且忽视了人工
智能时代由于算法技术应用导致的信息分类处理的不
可解释性、“黑箱”现象。其实质上是从加强对数据控
制以保护个人信息法益的角度去建构这一法律体系,
实践中可能会对以数据共享互惠为基础运行法则的算
法媒体造成一定的制度阻碍。
实现信息内容保护与算法权力规制的有序衔接应
331
徐汉明,孙逸啸 算法媒体的权力、异化风险与规制框架从整体主义视角出发,综合考量当前网络法律体系尤
其是不同法益保护面向、层级、属性的制度规范而提出
规制路径。这是沿循当前个人信息保护法律框架,结
合以算法媒体为典型代表媒体行业的发展特点、架构
特征和权力异化可能导致的风险而提出的内嵌于平台
治理框架之中的层级协调体系。尽管当前不少研究对
于算法提出“技术中立”的原假设,但事实往往是算法
一旦走向应用,不同行业领域的利益属性交织而使其
难以保持中立。因此,算法媒体权力规制的重点在于
如何分层次场景式地应用算法技术和架构,从而在制
度体系层面实现对算法技术应用的资格准入审查、算
法技术行业规范的专家评估、算法技术应用的事前、事
中、事后专业性论证与评价,以防止算法媒体权力在经
济社会发展中野蛮生长。这就要求公权力部门在进行
具体制度设计时需以涉及个人信息保护的基本法律框
架为基础,在处理好数据流通与个人数据基本权利保
障之间平衡的前提下,逐渐将规制的重点转移到对平
台运营商所设计算法程序的规制,通过建立一系列风
险防控机制预防、预测、预警算法媒体平台可能出现的
危害后果。此外,需建立健全专家委员会履行对算法
技术、人员和实体机构的职业准入、资格审查、风险防
控和化解等技术规则,以弥补公共政策、行政管理、法
律制度存在的若干“短板”。由此从技术方法、公共政
策、行政管理、法律制度调解、算法平台运营商自控等
方面进行源头性、综合性、系统性、专业性控制,从而尽
量避免平台资本无序崛起、媒体公共性消解等风险的
发生。
(二)建构问责机制以合理制约算法媒体权力
由于算法运行的专业性与算法黑箱等原因,算法
权力在实践中不可避免地会存在偏离既定运行轨道的
现象发生。因此,为了实现对算法权力的有效监督和
制约,确保以算法为典型应用的人工智能技术的合理
运用,相比公权力部门监管所有的算法决策、设定一般
性的监管规则,通过建立算法问责机制以促进算法程
序与决策 的 正 当 性 逐 渐 成 为 业 界 共 识。在 算 法 媒 体
中,基于公权力部门规制视角设计的问责程序可以从
以下五个方面进行构建:(1)问责的主体。由网信办等
网络监管部门推动建立由国家公权力部门、算法应用
领域专家、互联网平台企业、用户等不同主体共同组成
的专门性算法媒体问责小组。(2)问责的对象。根据
类型、用户量、活跃度,可以对算法媒体进行层次划分,
以适用不同的问责内容和标准。像新浪微博这种用户
群巨大、黏性高的媒体平台应当适用较为严格问责标
准。(3)问责的核心价值。旨在通过一系列框架和程
序设计对因算法运行可能产生的损害后果进行划分认
定,实现对平台运营商算法私权力的合理控权,以确保
监管部门公权力的合法有序延伸,保障用户私权利的
充分实现[17]。(4)问 责 的 内 容。作 为 信 息 传 播 平 台,
对算法媒体的问责内容应当结合其平台特点、算法应
用潜在的异化风险进行有针对性地问责,如平台运营
商推送的内容是否存在歧视、敏感、偏见等现象,是否
对用户进行标签性信息灌输;平台运行商是否对用户
个人信息进行合理的存储、保存、使用;平台运营商的
商业行为是否对用户隐私与安全形成风险,等等。(5)
问责的基本程序。可以遵循“对算法媒体平台发生的
违法违规现象进行事实认定和法律适用选择;评估算
法是否按照平台运行设定的既定程序(符合平台运营
商的意愿)运行;平台运行商是否有对已经发生的违规
违法现象进行确认并承担积极修正的义务”的基本框
架,以便合理划分平台运营商的高度、中度、轻微责任。
(三)配置算法可解释权以对抗算法媒体权力
信息革命带来的不仅是人类生产生活的颠覆性变
化,更促使人的权利集合中增加了信息法益的要素,改
变了传统人权实现和保护的权利逻辑。这一系列变化
亟需新的法律制度体系以应对人权内涵的变化、人权
价值的实现和人权保障的满足。而算法媒体作为信息
革命影响最典型的折射领域,对其掌握的算法权力进
行法律规制不仅需要遵从“避风港”原则这一前提,而
且还需顺应时代变化科学合理地增益个人数据与信息
权利,以积极对抗算法媒体权力、防止其无序扩张。在
此背景下,算法可解释权作为一种新兴逐渐进入各国
的制度视野之中,其基本制度逻辑在于以用户私权利
以制约算法媒体的私权力,旨在通过寻求一种“适当的
透明性”[18]142来提高算法决策行为的透明性。这一制
度设计要求平台运营商对算法模型的逻辑和有意义的
信息进行解释说明,进而经由对算法决策内在因果性
和相关性的解释而增强算法的可责性[19]。事实上,欧
盟围绕《通用数据保护条例》(GDPR)构建起的数据治
理体系,通过赋予新型数据权利以增强用户对其数据
信息的控制权、处分权,消解商业主体的自动化决策、
用户画像等行为的事实危害,已经从法定制度层面构
建起了算法可解释权。
基于此,本文则着眼于算法媒体这一典型应用平
台对其可解释权的相关内容进行论述。第一,媒体平
台适用的算法类型、方式、领域和应用基本原理。主要
包括上文论述算法媒体信息生产与消费过程中所适用
431
西安交通大学学报(社会科学版) http:∥skxb.xjtu.edu.cn的协同过滤 算 法、内 容 推 荐 算 法、决 策 树 算 法 等。第
二,媒体平台收集用户个人信息的方式、类型和使用范
围。但考虑到商业秘密、技术创新、知识产权保护等因
素,其解释的内容不应包含具体的技术细节。第三,为
了在实践中便于用户理解算法运行机制以便合理保护
其自身权益,算法媒体需遵循以下可解释性原则:(1)
便于理解原则。因为用户作为相对弱势的一方,不具
有公权力部门、相关技术方等主体对算法认知的知识
水准,这要求媒体平台在进行解释相关内容时需始终
以便于用户理解为最低标准,如使用通俗易懂的语言
进行解释说理、合理适用案例进行例证等;(2)相关性
原则。“如无必要,勿增实体”,这要求媒体运营商解释
相关内容需以算法内容推荐等算法运行与相对人权利
受损之间存在联系为基准;(3)层级性原则。针对不同
算法在媒体平台中的应用,需依据不同主体权利的优
先性与相关性等因素进行不同层级的解释。第四,由
于算法可解释权的配置直接关涉到公权力部门、平台
运行商、用户等不同主体之间权利(力)义务(责任)边
界之界量,一些具有行业引领性的算法媒体平台或者
算法媒体行业在制定《可解释性准则》等规定时,公权
力部门需发挥好其引导作用,通过建立以媒体平台为
主导、其他多方主体共同参与的体制机制,将不同主体
间尤其是公民关于问责机制、算法可解释性内容的诉
求意愿共同嵌入到制定过程之中,从而使算法可解释
性的内容构建更具有正当性、可操作性与规范性。
四、结语
每一次新技术的产生都会对既有的制度安排产生
深刻变革,并引发诸多不确定的经济、政治乃至社会风
险。算法媒体作为算法应用的一个典型样态,充分印
证了算法在嵌入经济社会生活带来诸多便利与效益的
同时,也潜在地产生了诸多风险,并对现行的法律制度
提出了诸多挑战。算法媒体规制的核心议题在于如何
规范算法及其权力之适用,而传统法律层面公私二元
属性关系逐渐被打破并相互交融,不同主体之间对权
力(利)义务(责任)再配置的诉求等现实因素,将算法
媒体规制问题进一步提上网络社会治理的前台。但算
法媒体的法律规制显然任重道远,一方面,其不仅涉及
到宪法、网络安全法、刑法、知识产权法、个人信息保护
法、竞争法等法律,而且在实践中体现为不同主体之间
的利益平衡与博弈;另一方面,需要通过织密国家数据
安全保护、个人信息被遗忘权保护、网络安全监管制度
等法网,以有效应对、防范、分散国家信息空间主权安
全领域显现的或潜在的巨大风险。因此,建构以规制
算法权力为核心的算法媒体法律制度规制体系,需要
理论界和实务界共同努力并从各自视角予以回应,通
过科学完备的网络社会治理法治体系,实现科技与法
律、良法与善治之协调,进而为以算法为代表的人工智
能发展提供法治保障的样本借鉴。
参 考 文 献
[1] 喻国明,韩婷.算法型信息分发:技术原理、机制创新与
未来发展 [J].新闻爱好者,2019(4):8 13.
[2] 仇筠茜,陈 昌 凤.黑 箱:人工智能技术与新闻生产格局
嬗变 [J].新闻界,2018(1):28 34.
[3] FLETCHERR,NIELSENRK.Generalisedscepticism:
howpeoplenavigatenewsonsocialmedia[J].Informa-
tionCommunication& Society,2018,22(12):1 19.
[4] 罗昕.算法媒体的生产逻辑与治理机制 [J].人民论坛·
学术前沿,2018(24):25 39.
[5] FENWICK M.Algorithmicmedianeeddemocraticmeth-
ods:whypublicsmatter[J].CanadianJournalofCom-
munication,2014,39(4):597 614.
[6] 李良荣,郑雯.论 新 传 播 革 命:“新 传 播 革 命”研 究 之 二
[J].现代传播(中国传媒大学学报),2012(4):34 38.
[7] 沈阳,冯杰,闫 佳 琦,等.网 络 连 接 观:类 型 划 分、演 化
逻辑及风险防范 [J].西安交通大学学报(社会科学版),
2020(3):126 131.
[8] 尤 红.媒体融合智能化演进中的算法权力与风险防范
[J].南京社会科学,2019(7):120 125.
[9] 喻国明,韩婷.算法型信息分发:技术原理、机制创新与
未来发展 [J].新闻爱好者,2019(4):8 13.
[10] 全 燕.大数据技术背景下的 传播转型及其异化风险
[J].南京社会科学,2018(6):118 124.
[11] BlLAKE H,TEDS.Recommendedforyou:theNetflix
Prizeandthe production ofalgorithmicculture [J].
New Media& Society,2014,18(1):118 137.
[12] ZUBOFFS.Bigother:surveilancecapitalism andthe
prospectsofaninformalcivilization [J].Information
Technology,2015,30(1):75 89.
[13] 杨子飞.“剩余数据”与“销售未来”:论监控资本主义的
现在与未来 [J].自然辩证法研究,2017(8):67 71.
[14] 全燕,陈龙.算法传播的风险批判:公共性背离与主体
扭曲 [J].华中师范大学学报(人文社会科学版),2019
(1):149 156.
[15] 刘权.网络平台的公共性及其实现:以电商平台的法律
规制为视角 [J].法学研究,2020(2):42 56.
[16] 汪志刚.论民事规训关系:基于福柯权力理论的一种阐
释 [J].法学研究,2019(4):40 60.
531
徐汉明,孙逸啸 算法媒体的权力、异化风险与规制框架[17] 曹鎏.美国问责的探源与解析 [J].比 较 法 研 究,2017
(5):146 157.
[18] FRANK P.Theblackboxsociety [M].Cambridge:
HarvardUniversityPress,2015.
[19] 张恩典.大数据时代的算法解释权:背 景、逻 辑 与 构 造
[J].法学论坛,2019(4):152 160.
[本刊相关文献链接]
[1] 崔淑洁,张弘.数据挖掘对个人信息的侵害与保护路径
[J].西安交 通 大 学 学 报(社 会 科 学 版),2020(6):137
144.
[2] 高可.论司法智能化的功能、风险 及 完 善 [J].西 安 交 通
大学学报(社会科学版),2020(6):145 152.
[3] 王延川.“除魅”区块链:去中心化、新中心化与再中心化
[J].西安交 通 大 学 学 报(社 会 科 学 版),2020(3):38
45.
[4] 郭菊娥,陈辰.区块链技术驱动供应链金融发展创新研
究 [J].西安交通大学学报(社会科学版),2020(3):46
54.
[5] 陈姿含.数字货币法律规制:技术规则的价值导向 [J].
西安交通大学学报(社会科学版),2020(3):64 71.
[6] 马 治 国,刘 慧.中国区块链法律治理规则体系 化研究
[J].西安交 通 大 学 学 报(社 会 科 学 版),2020(3):72
80.
(责任编辑:张园)
ThePower,CharacteristicRiskandLegalRegulationPathofAlgorithmicMedia
XU Hanming,SUN Yixiao
(SchoolofLaw,ZhongnanUniversityofEconomicsandLaw,Wuhan430073,China)
Abstract Asanewmediaformdrivenbyalgorithms,algorithmicmediahasfurtherreshapedthepatternofin-
formationdisseminationandexpandedthebreadthanddepthofindividualparticipationinsociallife.Analyzing
theoperationlogicofalgorithmicmediafromtheaspectsofinformationproductionandinformationconsump-
tionishelpfultounderstandthenatureandcharacteristicsofalgorithmicmediapower.Withthecontinuous
couplingbetweencyberspaceandrealspace,algorithmicpower,asanewsocialforcethatcanrealizeresource
allocation,mayleadtothealienationriskofinformationhegemonyandimpactonmediapublicityduetothe
lackofregulatorycapacityoftraditionalpublic-privatelegaldualframework.Itisnecessarytochangethebasic
ideaofalgorithmicmediasupervision,designthesystemfromtheperspectiveofholism,andconfrontalgorith-
micmediapowerbyconstructingalgorithmicaccountabilitymechanismandallocatingalgorithmicinterpretation
power,soastorealizetheinteractivebalanceamongpublicpower,privatepowerandprivatepower,andpro-
motethestandardizeddevelopmentofalgorithmicmedia.
Keywords algorithmicmedia;informationhegemony;mediapublicity;poweralienation;algorithmaccounta-
bility;interpretablerightofalgorithm
631
西安交通大学学报(社会科学版) http:∥skxb.xjtu.edu.cn