滚动新闻:
当前位置: 首页> 科学研究> 研究成果
算法媒体的权力、异化风险与规制框架
发布时间:2020年12月30日 发布者: 点击次数:9713次
202011         
西安交通大学学报社会科学版          
Nov.2020
40卷第164  JournalofXi′anJiaotongUniversitySocialSciences
Vol.40Sum No.164
DOI10.15896j.xjtuskxb.202006013
开放科学资源服务
标识码OSID
收稿日期2020 04 07
基金项目国家社会科学基金特别委托项目16ZH024);中央高校基本科研业务费专项资金资助项目202010696)。
作者简介徐汉明1951- ),中南财经政法大学法治发展与司法改革研究中心教授博 士 生 导 师中国法学会法治研
究基地暨最高人民检察院检察基础理论研究基地负责人中国法学会网络与信息法学研究会副会长教 育 部 社
会治理法治建设创新团队学术带头人
算法媒体的权力异化风险与规制框架
徐汉明孙逸啸
中南财经政法大学 法治发展与司法改革研究中心湖北 武汉 430073
摘 要作为经由算法驱动的新型媒体形态算法媒体进一步重塑了信息传播样态拓展了
个体参与社会生活的广度与深度从信息生产与信息消费等方面探析算法媒体的运行逻辑
有助于理解算法媒体权力的本质和特征随着网络空间与现实空间不断耦合算法权力作为
一种能够实现资源配置的新兴社会力量由于传统公私法律二元框架规制能力的不足可能会
造成信息霸权与冲击媒体公共性的异化风险需要转变算法媒体监管的基本思路在整体主
义视角下进行制度设计通过构建算法问责机制配置算法可解释权等方式对抗算法媒体权
从而实现公权力私权力与私权利之间的互动平衡促进算法媒体规范化发展
关键词算法媒体信息霸权媒体公共性权力异化算法问责算法可解释权
中图分类号D923G206 文献标识码文章编号1008245X202006012809
  随着互联网信息技术的不断纵深发展人类社会
经历了从互联 网1.0到 互 联 网2.0再 到 人 工 智 能 时
代的转型跨越算法媒体是作为信息传播中介的媒体
发展到人工智能时代的标志性产物这一新型媒体样
态基于算法型分发与传播模式重塑了过去倚重人工编
辑的媒体型分发和依托社交链传播的关系型分发的信
息传播样态通过对于海量信息有序抓取与分流实现
了信息资源的有效适配与对其潜在价值的充分挖掘及
其利用转化的重新评估从而拓展了个体参与社会
生活的广度与深度型构了网络空间社会形态使得信
息社会的传播从国家管控向社会分享从社会场域向
私人空间拓展但实践中算法运行具有天然的不透明
不可解释性算法往往将信息生产流通审核
发的各个环节推入黑箱状态从而发挥着主导在线
讨论决定新闻样态定义用户环境的功能甚至在
特定场域产生算法霸凌现象由此带来了社会大众
对算法媒体运行的妥恰性与规制性等相关问题的极大
关注
当下对算法媒体兴起而引发霸凌规制等问题
在学界和业界引起了争鸣既有研究对算法媒体作为
信息与受众之间的新型中介其依靠算法技术和架构
逐渐嵌入到经济社会运行之中促进了新闻的自动化
生产和分发并对经济社会发挥着一定的建构作用
等认知已经基本达成共识然而算法的本体化发展
不仅逐渐改变着媒体平台内部的运作逻辑也使得媒
体监管的传统方式难以有效应对算法媒体的发展现
针对这些问题现有研究从算法媒体治理的角度
提出建立专门的监管机构增强算法的透明性制定通
821行的监管规 则嵌 入 公 共 理 性 等 方 式并 从 国 家 规
平台自律算法素养等方面构建综合协同治理体
但从法律视角检视这些探讨对如何通过算法影响
并重塑网络 信 息 环 境 所 引 发 的 相 关 权 利与 义 务
责任深层次问题的关照解析与法律规制之对策等
尚存在不周延之处基于此从算法媒体的运行逻辑
出发探讨其规制问题有利于从制度层面识别和防控
算法媒体的预期风险协调平衡法律规制与人工智能
时代技术创新发展之间的矛盾减少或避免远期无知
修复算法媒体受损秩序从而保障和促进算法媒体健
康发展
算法媒体权力的缘起
为了更好地理解算法媒体不同于传统媒体自媒
体之处本文结合信息经济学的理论以遵循算法媒体
的信息生产信息消费等特征为切入点对算法媒体权
力的特质进行剖析
算法媒体的运行逻辑
1.信息生产
信息生产是指信息作为特殊价值的商品被导入市
场消费之前的生成创作阶段在传统媒体时代信息
生产体现在以编辑为主导的广播电视报纸之中
家基于对编辑资格认定筛选等程序对信息生产拥有
较强的控 制 力随着市场经济和信息技术的蓬勃发
算法媒体通过算法技术架构将传统的签发式”“
核式信息生产模式发展为平台运营商用户和其他主
体共同介入的内容生产矩阵随着各类网络媒体平台
的勃兴媒体环境呈现纷繁复杂的样态用户群体虽然
呈现越来越 分 散 的 趋 势但是聚合效应也日渐突出
算法依靠强大的信息数据抓取储存开发筛选利用
与处理能力在媒体信息的生产方面发挥着越来越突出
的作用主要表现为信息需求预测与信息内容创建
在算法媒体平台中用户主体在平台上的信息互动中
的选择偏好互动模式上线频率消费意愿关系网络
等相关数据会被存储到平台服务器之中而平台运营
商通过平台架构设定的算法程序会对这些数据进行类
型化采样分析对比处理从而主导着媒体的决策结
其中包括信息内容的分类推送集中性引导适应
用户消费偏好的精准分发等等
与此同时算法在媒体平台中的应用还逐渐拓展
到内容创作领域深度介入到信息生产的各个环节
据类型不同可以分为程序性信息生产与本体性信息生
产两种模式程序性信息生产是指算法根据平台导入
的信息数据通 过 事 先 已 经 设 定 好 的 内 容输 入
生成程序按照数据库中不同新闻信息类型自动
生成信息内容而本体性信息生产则是以平台的
据池为基础通过算法的自主式运行对不同信息的联
趋势作出判断并借助自动生成程序产出新闻的过
本体性信 息 生 产 模 式 是 算 法 自 主 学 习 演 变 的 产
由于人类对算法程序认知的有限性和算法程序运
行的不可解释性等因素经过这种模式生产的新闻类
型事实上已经被推入算法黑箱之中在实践中其内
容的真实性往往会受到质疑但算法介入信息生产的
出现并不意味着人作为信息内容创建唯一主体的地位
被削弱或者矮化或者人的因素在内容创建过程中随
着算法应用的发展将会逐渐消失与之相反这恰恰
证明了人在信息内容创建中的角色正在经历由直接制
造者到间接制造者的转变这一转变过程不仅体现出
人工智能与算法的蓬勃发展带来的深刻影响而且为
信息传播的进一步提速以匹配并适应数字经济的发展
提供了可能与条件
2.信息消费
信息消费是指信息产品或服务在市场中被消费的
经济过程在传统媒体时代由于信息传播渠道与架
构均被公权力部门垄断信息生产具有较强的行政性
公共性集中性与专门性在此基础上社会公众其实
被消费的角色个人与公权力部门的信息能力则
呈现负相关性的样态即个人获取持有消费提供信
息的能力较弱而公权力部门获取持有供给信息的
能力较强随着网络媒体兴起信息传播方式的转变
使得大量分散的用户逐渐拥有了各类信息的自主选择
持有权等在这种情况下信息的生产流动与消
费与物质资料产品消费资料产品一样被载入商品的
价值使用价值并体现凝结为生产信息的社会必要劳
动时间的外在符号———“价格的一般表达个人的信
息能力尤其是信息消费能力随着信息技术的发展而逐
渐增强公权力部门的信息能力则呈现下降趋势
体在算法媒体中算法之于用户信息消费的核心作用
就是充当指南针”,即帮助用户在日益复杂和碎片化
的媒体环境中迅速捕捉符合他们消费偏好的信息内
这一典型的算法驱动过程包含搜索建议和内容
聚合等系统由此便于用户在信息汪洋中寻找和选
择信息当下算法媒体的推荐机制有两种方式一是
算法媒体通过对平台内用户行为信息如评论内容
发类型点赞记录等反馈数据进行整合归类和分析
以推算出用户的信息偏好从而实现更加精准的信息
921
徐汉明孙逸啸 算法媒体的权力异化风险与规制框架投放推荐报道等活动二是根据相关信息的关联性
进行类型化的标签式划分使用户通过自选的方式挑
选自身感兴趣的内容随着人工智能的快速发展和信
息内容推荐机制的广泛应用信息内容推荐机制不仅
成为算法媒体内容消费的重要中间环节也成为平台
用户个体社会关系和互动的动态中介这意味着部分
用户通过信息内容推荐机制可以迅速加入汇聚到感
兴趣的信息群组如微博明星粉丝团微信群组知乎
讨论组等之中并依托信息内容推荐机制不断对此类
群体进行筛选过滤从而为拥有共同兴趣爱好话题
的用户提供一个相对聚合的空间增强此类用户之间
的互动
综合信息生产传输与消费的多角度分析算法媒
体作为自媒体的升级版其在依托互联网信息技术破
解国家社会公众和其他主体之间信息不对称壁垒
补信息不对称鸿沟的基础上通过算法技术实现了平
台内信息与资源配置经济行为的相洽不仅提高了信
息资源价值的实现效率激活了社会大众对信息资源
获取持有消费提供的活力而且满足了大数据时代
社会成员日益增长的信息消费需求拓展了其对信息
资源消费的渠道促进了数字经济的跨越式发展
信息经济的发展也在不断冲击着传统经济学关于稀缺
资源分配和创造的固有二分结构即媒体平台在经由
传统媒体自媒体算法媒体的转变过程中逐渐
将资源的分配与创造交融在平台之中实现了信息资
源消费与生产的嵌合性产出因此信息消费为信息
生产提供前提性需求信息生产则是信息消费的重要
基础二者随着消费信息化而互为增长条件由此实现
信息经济的累积与增值
算法媒体权力的阐释
基于上述以信息经济学视角对算法媒体与传统媒
自媒体在信息生产与消费方面的论述可以看出
信息传播伴随着由传统媒体到自媒体再到算法媒体
的转变其传播样态实现了由方式范围效能
进式叠加转变具体而言传统媒体时代国家基于知
技术与意识形态上的主导地位从传播革命中获得
的权力资源和治理资源远远多于社会和公众在这
样的时代背景下尽管公民都享有宪法规定的信息自
由权利但实质上公民仅具有被动接受信息传播的权
而没有进行信息传播的权力自媒体时代由于信
息技术的飞速发展与互联网架构的建立完善国家把
持信息传播权力的传统格局不断被解构信息传播不
仅由于信源和信道的释放而突破了时间和空间的禁
而且打破了传统社会中信息传播的科层权力结构
实现了信息传播权力从国家走向社会的转变公民的
知情权和表达权得以充分实现而在算法媒体时代
算法作为用户数据与媒体平台信息生产消费的重要
桥梁”,通过资讯型互动型信用型连接从内容关系
和服务三个维度进一步促进了用户与信息之间的关联
不仅冲击着既有的信息传播场域而且实现了由
自媒体时代多对多模式到人工智能时代点对面
息传播模式的转变强化了信息传播的精准和效能
一时期的传播格局和模式由于算法的介入从时空偏
向转为兴趣偏向机器与人的关系已经从延伸发展到
结合因此算法作为网络媒体平台和信息系统的
驱动技术其基于对平台所产生的大数据收集而进行
信息内容的再生产为程序基础通过运行程序不断地
对平台内容进行传播重塑再传播使算法媒体形成
了以信息内容的生产机制推荐机制过滤机制传播
机制等主要功能的运行链条进而在算法媒体中事实
上形成了基于算法程序和架构链条而产生的信息传播
权力的权力束运行机制传统金字塔型的信息传播
权力格局随着社会公众媒体平台等主体的强势崛起
逐渐被形塑为扁平化的权力结构
算法媒体权力的异化风险和成因
随着网络空间与现实空间不断耦合算法作为网
络空间的行为准则”,其自身所具有的复杂性和可扩
展性影响逐渐延伸至现实空间对后者的既有秩序产
生冲击潜在地可能引发诸多风险主要体现为如下
三方面
强化信息霸权
算法媒体领域平台运营商借助算法构架与技术
优势不断对用户信息数据进行收集分析与利用构建
起自身的信息王国”,进而有可能异化为信息霸权”,
致使平台私权力的过分膨胀而侵害用户的数据隐私等
权益形成信息茧房”“监控资本等风险景象
1.信息茧房
凯斯·桑斯坦在信息乌托邦中提出了信息茧
这一概念他认为用户的阅读兴趣不可能涵盖所有
的知识领域长期只接触自己感兴趣的信息而缺乏对
其他领域的接触与认识会限制用户对社会的全面认
将用户禁锢在有限的领域内纵观媒体的发展
沿革在传统媒体时代这一现象就已然存在当时信
息传播的权力把控在主流媒体手中公众接收到的信
息不仅非常有限而且带有较强的公共性这与主流媒
031
西安交通大学学报社会科学版httpskxb.xjtu.edu.cn体的社会公共责任息息相关在自媒体时代信息呈现
大众传媒式的传播样态公众的信息权利与权力借助
信息技术的发展得到进一步增益人人都可以发声并
寻求自己感兴趣的内容在这样的条件下信息传播其
实呈现出去中心化的态势但在以算法技术为核心应
用的智能媒体时代人的虚拟属性逐渐凸显算法媒体
基于信息内容推荐信息生产协同过滤等算法机制
运用语言分析与心理学进行用户情绪推理预测分析
并实行靶向传播取代了通用传播中人在传播活动中
认知主体的地位同时由于用户元数据的储存与算
法技术的介入传统媒体自媒体时代的传播现象
播规律不再是基于人的主体性的解释或表达而是算
法通过对海量数据的监测分析提取的决策行为
其是在信息传播内容的选择和目标投放上规则经验
也不再起着决定作用媒体平台完全可以利用数据挖
掘用户的兴趣 特 征个 人 偏 好 等 相 关 性 的 结 果10
现精准的信息投喂从而使用户的生活桎梏于像蚕茧
一般的信息洪流之中信息传播样态伴随着媒体发展
的沿革 呈 现 出中 心 化去 中 心 化再 中 心 化的 特
而算法技术的介入也潜在地强化了信息茧房
并呈现出明显的标签化特征即算法媒体通过算法
技术架构实现了对人地点对象和思想以及与这些过
程相关的思维行为和表达习惯的重新排序分类和分
11进而导致信息茧房现象的迅速蔓延与日益固
基于年龄学历知识背景等对不同内容消费的阶
层分化现象逐渐加剧可以说这一新数字鸿沟的出
现进一步强化了不同阶层群体之间的信息隔膜造成
某一群体针对某一信息不能畅通地与其他群体进行沟
通交流加剧了群体内部的极端化程度可能导致群体
极化现象的频繁发生
2.监控资本
监控资本是以信息与人工智能技术的不断迭代升
级为基础伴随着大数据与数字经济的发展而逐渐产
生的其内在逻辑表现为它通过对用户元数据的搜集
萃取分析以及个性化持续性的实验对用户个人实
施难以辨别的单项监控产生巨大商业监视效能继而
由 算 法 预 测 和 调 整 人 类 行 为获 取 利 益 并 控 制 市
12在传统媒体时代掣肘于信息传播与数据处理
技术的滞后这一时期的媒体生产经营仍然处于物理
空间属性占据主导的获利模式虚拟空间数据信息
等尚未与人类社会生活交织交融监控资本尚处于萌
芽状态得益于互联网信息技术的迅速发展传统媒
体升级为自媒体不仅进一步释放了媒体平台的市场
逐渐重塑了大型商业媒体平台的生产组织与盈利
模式而且也使得用户元数据的剩余价值得以显现
为媒体平台获利的原油库”。在算法媒体时代由于
算法技术的介入媒体平台能够通过强大的算力和极
为复杂的架构实现对用户元数据的分析挖掘研判与
处理海量的元数据经由算法的结构性生产与销售
断被结构化同质化模型化并被导入数字经济市场
数据作为新型市场要素的潜在价值真正得以释放
以说算法媒体依靠信息与大数据监控技术近乎零成
本地剥削用户剩余数据实现原始积累借助算法式
生产方式将剩余数据转化为预测性产品”,再通过
大数据监控系统将预测性产品精准地出售给各种广
告客户以此谋取高额寄生性利润13但需要注意
的是用户的各项数据被无形中嵌入到信息产业和数
据经济的生产链条其数据隐私权益事实上处于时刻
可能被侵犯的边缘由此可见,“监控资本作为大数
据与人工智能时代信息经济的产物打破了传统的经
济模式和结构使得传统法律层面主客体关系条件下
人与机器的关系发生了异化即人的价值在于其网络
行为产生的原始数据进而为监视资本所重构的新型
经济关系提供重要的原料和商品
消解媒体公共性
作为信息生产与信息传播的重要途径媒体不仅
是公共信息传播资源的直接行使者而且是公众行使
监督批评参与社会建设等权利的重要载体能够对
社会生活秩序与公共政治生活产生广泛影响是社会
治理的重要环节和方式具有公共性公益性等基本特
从信息传播样态来看在以广播电视为代表的传
统媒体时代公权力部门和主流媒体管控着绝大多数
的传播介质而成为信息内容把关的主导性一方在这
种条件下以编辑为代表的把关人控制着信息传播内
方式频率等信息传播更多是依据一定的方针
立法模式所进行的一种有目的的取舍选择与加工
活动社会公众只是作为被动接受信息的一方在自
媒体时代传播载体介质进一步革新与立体循环化的
传播方式迫使传播权力进行结构性调整社会公众借
助网络媒体都能成为发声器”,以编辑为代表的传统
信息内容审查权力在平台运行的机制逻辑中不断被消
自媒体平台将传统媒体的信息把关模式从先审后
倒置为先发后审”。尽管这种多元化的拟态环境
会带来负面信息泛娱乐化等风险并对媒体的公共性
产生一定冲击但主流媒体在议题设置舆论导向等信
息传播的关键环节仍然发挥着主导作用引领公众在
131
徐汉明孙逸啸 算法媒体的权力异化风险与规制框架公共领域中就相关利益问题进行公开平等理性的协
此外公众的传播权利和权力也借由信息传播技
术而得以保障公众参与社会公共事务的能力与活力
不断加强因此自媒体时代大众传媒式样态虽然在
一定程度上冲击着传统媒体时代的公共空间价值秩
但也极大地拓展了公共空间的范围和公民参与公
共讨论的途径增益了传媒公共性的民主价值
但在算法媒体时代媒体公共性被消解的风险则
进一步强化算法媒体基于大数据与算法已经事实上
重新塑造了一个全新的拟态环境信息传播的内容
客体逐渐摆脱物理真实性而数据化用户与其产生
的一切行为数据不再是作为主体性的现实表达而是
被结构化到数据收集生产分析的算法个性化推荐
精准推送等商业逻辑的数据体现在这种由算法建构
起来的组织化数据化圈群化的制度环境中算法传
播通过传感大规模数据存储和在商业框架内进行的
算法处理被无形中赋予权力自下而上的数字控制可
能将对信息传播的公共性产生威胁14同时算法媒
体本质上是以吸引用户群增加用户粘性和活跃度
过将数据嵌入到算法组织结构之中而攫取商业价值为
根本利益导向的从资本的角度看趋利的本质属性
决定了媒体平台不可避免地会通过降低算法程序对信
息传播内容质量的标准提高信息传播的数量增强用
户粘性其基 本 追 求 在 于 信 息 的 转 发频 次评 论
匹配等利于实现价值增长的要素由此导致媒体对
公共利益和价值的追求显著下降因而算法媒体所
提供的信息消费品无论是内容还是质量都处于与公
共性适格的消费品相悖的状况具体表现为质量偏低
泛娱乐化并且通过信息生产传输与消费多个环节不
断影响并引导着用户进入平台所推送的信息集群中
使得用户对信息内容的判断力不断降低而往往陷入劣
质新闻的汪洋之中算法媒体在信息生产传输与消
费多个环节挑战并降低着既有的社会道德秩序从根
本上不断消解新闻媒体公共性的根基
算法媒体权力异化风险的成因和反思
任何权力异化风险的产生都有其背后的原因
理解权力异化的成因则需要以权力的属性为逻辑起
这也是探寻如何规制权力路径的基础前提结合
上述对算法媒体拥有的权力和异化风险景象的概述
可以较为直观地看出这种权力实际上就是媒体平台
借由掌握的算法技术优势而衍生的技术权力其背后
的逻辑则是资本利益驱动的媒体平台经由算法将信息
传播的各个环节逐渐后台化由此导致公权力部门原
本对网络信息内容进行审查核实舆论引导甚至遏制
资本扩张的权力不断被削弱被迫下放给媒体平
同时对于国家监管部门而言随着算法技术的迅
速发展和内嵌于经济社会运行程度的加深其借助算
法技术和架构能够有效应对由于信息技术不断更新而
带来的监管问题如对用户发布信息内容是否符合相
关规定进行筛选用户在平台的行为是否遵守平台规
定或者违反相关法律法规等如果说这些平台运营商
已经事实上接受了公权力部门公共权力的部分让渡
那么算法则是平台运营商行使并承担公权力部门让渡
的公共权力的主要依托基于此算法媒体掌握的这
种平台权力是基于市场与技术的私权力其承担着维
护网络市场秩序保障用户权益的公共职能能够有效
弥补数字经济时代政府规制能力缺陷15而 传 统 公
私法划分和二元法律结构也在算法权力逐渐影响甚至
颠覆社会资源配置的同时不断被瓦解被拓展重塑为
国家公权力平台私权力用户私权利动态博弈的
状态但值得注意的是在大数据人工智能与数字经
济多重叠加的时代背景下算法算力及其架构嵌入到
网络媒体平台之中虽然促进了信息传播主体传播方
式的变革但也迫使传媒以公共性为主要特征的信息
传播价值体系转向商业性这意味在算法媒体时代
平台运营商不断改进传播方式提升传播效能的目的
在于更好地攫取用户数据以释放其巨大商业价值
以说在算法媒体时代传统信息传播以民主性真实
性为主要表征的内容价值已经被迫让渡给了商业价
这不仅与权力应当具有的公共性责任性等基本价
值属性与价值诉求相悖而且是算法应用及其权力可
能产生异化的根本性原因可以说从传统媒体到自
媒体再到算法媒体的跨越转型既是现代市场经济条
件下信息技术发展的必然结果也是媒体公共性不断
被媒体市场性所瓦解的过程成为数字经济时代新型
社会传播方式的典型缩影
尽管算法媒体掌握的这种私权力契合了民主政治
与数字经济发展的内在需求但当前涉及这种私权力
的法律规范是以传统公法与私法二元分立的思路为划
且主要集中在私法领域由此导致现有的法律体系
难以有效应对算法媒体权力不断扩张并且出现潜在
的异化风险逐渐增大等现实难题具体而言从私法
面向来看算法媒体平台借助算法算力及其架构的不
断优化这种私权力会借由合法监管的理由通过制定
大量规则等形式不断侵蚀用户的合法权益尽管当
今互联网平台内用户的基数和活跃度不断增长但这
231
西安交通大学学报社会科学版httpskxb.xjtu.edu.cn些主体客观上在媒体平台构建的制度王国中仍然处于
弱势地位并且难以通过有效的集体行动维护自身合
法权益比如这些媒体平台一般都通过同意进入
不同意退出的方式迫使用户不得不接受其对
这些主体数据收集储存与利用的相关条款这显然有
悖于私法所强调的契约自由意思自治等根本价值
从公法角度来看互联网信息技术的发展促进了社会
结构的转型尤其是网络媒体进一步拓展了公共空间
的纬度和效能而算法媒体所行使的这种私权力对于
用户主体而言不仅具有较为显著的公共性而且同样
具有传统公权力的强制性单方性等基本特征具有非
常明显的手段上的压制性侵 入 性否 定 性16基 于
为了实现算法媒体权力的规范运行需要突破传统
公私二分法律框架以这种私权力公私复合的属性为
规制起点对其进行制衡监督与合理调控
算法媒体权力的规制框架
基于我国当前针对算法治理的制度和实践针对
媒体领域算法权力的规制为实现对算法媒体权力的
有效规制和算法赋能的私权利公权力私权力的动态
平衡应该沿循以公权力合理限制私权力增益私权利
对抗私权力的规制思路对算法媒体整体监管体系进行
构建以调整现代数字经济关系平衡多元主体的利益
选择
整体主义对算法媒体权力规制的导入
1.整体主义视角下的制度考量
应对算法权力异化引发诸多社会问题我国当下
对算法的规制呈现出理念冲突模式交织效果不确定
的样态具体表现在以公权力监管部门对媒体运营商
监控为重心的纵向控制型模式重监管轻保护
重责任轻权利为理念的单边管控型模式
事后结果处罚”“轻事前引导控制威权控制模式
这些模式都难以适应人工智能时代算法媒体规范运行
的功能转变究其原因在于对公权力私权力与私权
实行分离阻隔的传统结构形态未能搭建有序衔接
转换互联互通合作共赢的机制整体主义作为一种
世界观认识论和方法论它不仅强调运用全局性视角
去看待内部不同事物之间的发展与联系而且注重事
物在发展过程中的动态阶段性特征因此在这一理
论视角下审视算法媒体权力规制媒体平台与国家之
间的身份模糊化使得对算法媒体的策略应综合公权力
部门平台运营商公民不同主体的权力配置状态
等关联性因素公权力私权力私权利整体三
元框架下对算法媒体权力进行整体性制度构建
具体而言第一制度设计的价值选择算法媒体
权力法律规制的价值在于遵循技术创新的避风港原
基础上明晰不同主体之间的职权范围利益诉求
权利义务责任和边界通过严格的程序规范与
多层次控制体系以防止政府公权力算法媒体技术权
力的滥用和最大限度保护用户的私权利既确保技术
创新的持久动力又确保公民在算法媒体平台内应享
有的权益自由权利救济得以充分实现第二制度
设计的内部性与外部性考量所谓内部性是指规制算
法媒体的制度设计需注重修正公权力部门平台运营
公民多方主体的权利)、义务责任的畸轻畸重
偏差厘定其多方主体之间的权利)、义务责任
为司法实践提供规范明确的制度依据外部性是
指注重协调算法媒体权力规制与网络社会法治化之间
的部分整体关系这要求算法媒体规制需以网络安
全法等基础性法律为上位法依据结合国家网络安全
与信息发展的方针公共政策针对算法媒体区别于其
他网络平台的特征不同主体之间的权利义务
关系等方面进行专门性立法第三制度设计需注
重引入第三方参与作为算法媒体权力规制的重要参
与主体公民一般是通过个人私权利受损而发起公权
力救济相较于公权力部门和媒体平台运营商在整个
规制体系中居于相对弱势的权力末梢因此为了进
一步保障用户主体平等参与算法媒体治理防止平台
运营商技术权力滥用与公民权利受损有必要引入第
三方主体进行治理评估
2.实现信息内容保护与算法权力规制的有序衔接
从我国现有的涉及对算法媒体规制的法律制度体
系来看传统的法律制度偏重于对信息内容的管控
全国人民代表大会常务委员会关于加强网络信息保
护的决定》《互联网信息服务管理办法等多部法律法
规和规范性文件都以信息内容与保护为出发点对网
络信息的传播搜集认定作出相关规定这种侧重于
对信息内容管控的法律制度安排不仅导致传统结果监
管思路下公权力部门内容审查范围扩大难度增加与
媒体平台监控责任加强的尴尬局面而且忽视了人工
智能时代由于算法技术应用导致的信息分类处理的不
可解释性、“黑箱现象其实质上是从加强对数据控
制以保护个人信息法益的角度去建构这一法律体系
实践中可能会对以数据共享互惠为基础运行法则的算
法媒体造成一定的制度阻碍
实现信息内容保护与算法权力规制的有序衔接应
331
徐汉明孙逸啸 算法媒体的权力异化风险与规制框架从整体主义视角出发综合考量当前网络法律体系尤
其是不同法益保护面向层级属性的制度规范而提出
规制路径这是沿循当前个人信息保护法律框架
合以算法媒体为典型代表媒体行业的发展特点架构
特征和权力异化可能导致的风险而提出的内嵌于平台
治理框架之中的层级协调体系尽管当前不少研究对
于算法提出技术中立的原假设但事实往往是算法
一旦走向应用不同行业领域的利益属性交织而使其
难以保持中立因此算法媒体权力规制的重点在于
如何分层次场景式地应用算法技术和架构从而在制
度体系层面实现对算法技术应用的资格准入审查
法技术行业规范的专家评估算法技术应用的事前
事后专业性论证与评价以防止算法媒体权力在经
济社会发展中野蛮生长这就要求公权力部门在进行
具体制度设计时需以涉及个人信息保护的基本法律框
架为基础在处理好数据流通与个人数据基本权利保
障之间平衡的前提下逐渐将规制的重点转移到对平
台运营商所设计算法程序的规制通过建立一系列风
险防控机制预防预测预警算法媒体平台可能出现的
危害后果此外需建立健全专家委员会履行对算法
技术人员和实体机构的职业准入资格审查风险防
控和化解等技术规则以弥补公共政策行政管理
律制度存在的若干短板”。由此从技术方法公共政
行政管理法律制度调解算法平台运营商自控等
方面进行源头性综合性系统性专业性控制从而尽
量避免平台资本无序崛起媒体公共性消解等风险的
发生
建构问责机制以合理制约算法媒体权力
由于算法运行的专业性与算法黑箱等原因算法
权力在实践中不可避免地会存在偏离既定运行轨道的
现象发生因此为了实现对算法权力的有效监督和
制约确保以算法为典型应用的人工智能技术的合理
运用相比公权力部门监管所有的算法决策设定一般
性的监管规则通过建立算法问责机制以促进算法程
序与决策 的 正 当 性 逐 渐 成 为 业 界 共 识在 算 法 媒 体
基于公权力部门规制视角设计的问责程序可以从
以下五个方面进行构建:(问责的主体由网信办等
网络监管部门推动建立由国家公权力部门算法应用
领域专家互联网平台企业用户等不同主体共同组成
的专门性算法媒体问责小组。(问责的对象根据
类型用户量活跃度可以对算法媒体进行层次划分
以适用不同的问责内容和标准像新浪微博这种用户
群巨大黏性高的媒体平台应当适用较为严格问责标
。(问责的核心价值旨在通过一系列框架和程
序设计对因算法运行可能产生的损害后果进行划分认
实现对平台运营商算法私权力的合理控权以确保
监管部门公权力的合法有序延伸保障用户私权利的
充分实现17。(问 责 的 内 容作 为 信 息 传 播 平 台
对算法媒体的问责内容应当结合其平台特点算法应
用潜在的异化风险进行有针对性地问责如平台运营
商推送的内容是否存在歧视敏感偏见等现象是否
对用户进行标签性信息灌输平台运行商是否对用户
个人信息进行合理的存储保存使用平台运营商的
商业行为是否对用户隐私与安全形成风险等等。(
问责的基本程序可以遵循对算法媒体平台发生的
违法违规现象进行事实认定和法律适用选择评估算
法是否按照平台运行设定的既定程序符合平台运营
商的意愿运行平台运行商是否有对已经发生的违规
违法现象进行确认并承担积极修正的义务的基本框
以便合理划分平台运营商的高度中度轻微责任
配置算法可解释权以对抗算法媒体权力
信息革命带来的不仅是人类生产生活的颠覆性变
更促使人的权利集合中增加了信息法益的要素
变了传统人权实现和保护的权利逻辑这一系列变化
亟需新的法律制度体系以应对人权内涵的变化人权
价值的实现和人权保障的满足而算法媒体作为信息
革命影响最典型的折射领域对其掌握的算法权力进
行法律规制不仅需要遵从避风港原则这一前提
且还需顺应时代变化科学合理地增益个人数据与信息
权利以积极对抗算法媒体权力防止其无序扩张
此背景下算法可解释权作为一种新兴逐渐进入各国
的制度视野之中其基本制度逻辑在于以用户私权利
以制约算法媒体的私权力旨在通过寻求一种适当的
透明性18142来提高算法决策行为的透明性这一制
度设计要求平台运营商对算法模型的逻辑和有意义的
信息进行解释说明进而经由对算法决策内在因果性
和相关性的解释而增强算法的可责性19事实上
盟围绕通用数据保护条例》(GDPR构建起的数据治
理体系通过赋予新型数据权利以增强用户对其数据
信息的控制权处分权消解商业主体的自动化决策
用户画像等行为的事实危害已经从法定制度层面构
建起了算法可解释权
基于此本文则着眼于算法媒体这一典型应用平
台对其可解释权的相关内容进行论述第一媒体平
台适用的算法类型方式领域和应用基本原理主要
包括上文论述算法媒体信息生产与消费过程中所适用
431
西安交通大学学报社会科学版httpskxb.xjtu.edu.cn的协同过滤 算 法内 容 推 荐 算 法决 策 树 算 法 等
媒体平台收集用户个人信息的方式类型和使用范
但考虑到商业秘密技术创新知识产权保护等因
其解释的内容不应包含具体的技术细节第三
了在实践中便于用户理解算法运行机制以便合理保护
其自身权益算法媒体需遵循以下可解释性原则:(
便于理解原则因为用户作为相对弱势的一方不具
有公权力部门相关技术方等主体对算法认知的知识
水准这要求媒体平台在进行解释相关内容时需始终
以便于用户理解为最低标准如使用通俗易懂的语言
进行解释说理合理适用案例进行例证等;(相关性
原则。“如无必要勿增实体”,这要求媒体运营商解释
相关内容需以算法内容推荐等算法运行与相对人权利
受损之间存在联系为基准;(层级性原则针对不同
算法在媒体平台中的应用需依据不同主体权利的优
先性与相关性等因素进行不同层级的解释第四
于算法可解释权的配置直接关涉到公权力部门平台
运行商用户等不同主体之间权利义务责任
界之界量一些具有行业引领性的算法媒体平台或者
算法媒体行业在制定可解释性准则等规定时公权
力部门需发挥好其引导作用通过建立以媒体平台为
主导其他多方主体共同参与的体制机制将不同主体
间尤其是公民关于问责机制算法可解释性内容的诉
求意愿共同嵌入到制定过程之中从而使算法可解释
性的内容构建更具有正当性可操作性与规范性
结语
每一次新技术的产生都会对既有的制度安排产生
深刻变革并引发诸多不确定的经济政治乃至社会风
算法媒体作为算法应用的一个典型样态充分印
证了算法在嵌入经济社会生活带来诸多便利与效益的
同时也潜在地产生了诸多风险并对现行的法律制度
提出了诸多挑战算法媒体规制的核心议题在于如何
规范算法及其权力之适用而传统法律层面公私二元
属性关系逐渐被打破并相互交融不同主体之间对权
义务责任再配置的诉求等现实因素将算法
媒体规制问题进一步提上网络社会治理的前台但算
法媒体的法律规制显然任重道远一方面其不仅涉及
到宪法网络安全法刑法知识产权法个人信息保护
竞争法等法律而且在实践中体现为不同主体之间
的利益平衡与博弈另一方面需要通过织密国家数据
安全保护个人信息被遗忘权保护网络安全监管制度
等法网以有效应对防范分散国家信息空间主权安
全领域显现的或潜在的巨大风险因此建构以规制
算法权力为核心的算法媒体法律制度规制体系需要
理论界和实务界共同努力并从各自视角予以回应
过科学完备的网络社会治理法治体系实现科技与法
良法与善治之协调进而为以算法为代表的人工智
能发展提供法治保障的样本借鉴
参 考 文 献
喻国明韩婷算法型信息分发技术原理机制创新与
未来发展 新闻爱好者2019):8 13.
仇筠茜陈 昌 凤黑 箱人工智能技术与新闻生产格局
嬗变 新闻界2018):28 34.
FLETCHERRNIELSENRK.Generalisedscepticism
howpeoplenavigatenewsonsocialmedia.Informa
tionCommunication& Society20182212):1 19.
罗昕算法媒体的生产逻辑与治理机制 人民论坛·
学术前沿201824):25 39.
FENWICK M.Algorithmicmedianeeddemocraticmeth
odswhypublicsmatter.CanadianJournalofCom
munication201439):597 614.
李良荣郑雯论 新 传 播 革 命:“新 传 播 革 命研 究 之 二
现代传播中国传媒大学学报),2012):34 38.
沈阳冯杰闫 佳 琦网 络 连 接 观类 型 划 分演 化
逻辑及风险防范 西安交通大学学报社会科学版),
2020):126 131.
尤 红媒体融合智能化演进中的算法权力与风险防范
南京社会科学2019):120 125.
喻国明韩婷算法型信息分发技术原理机制创新与
未来发展 新闻爱好者2019):8 13.
10全 燕大数据技术背景下的 传播转型及其异化风险
南京社会科学2018):118 124.
11BlLAKE HTEDS.RecommendedforyoutheNetflix
Prizeandthe production ofalgorithmicculture
New Media& Society201418):118 137.
12ZUBOFFS.Bigothersurveilancecapitalism andthe
prospectsofaninformalcivilization .Information
Technology201530):75 89.
13杨子飞剩余数据销售未来”:论监控资本主义的
现在与未来 自然辩证法研究2017):67 71.
14全燕陈龙算法传播的风险批判公共性背离与主体
扭曲 华中师范大学学报人文社会科学版),2019
):149 156.
15刘权网络平台的公共性及其实现以电商平台的法律
规制为视角 法学研究2020):42 56.
16汪志刚论民事规训关系基于福柯权力理论的一种阐
法学研究2019):40 60.
531
徐汉明孙逸啸 算法媒体的权力异化风险与规制框架17曹鎏美国问责的探源与解析 比 较 法 研 究2017
):146 157.
18FRANK P.Theblackboxsociety .Cambridge
HarvardUniversityPress2015.
19张恩典大数据时代的算法解释权背 景逻 辑 与 构 造
法学论坛2019):152 160.
本刊相关文献链接
崔淑洁张弘数据挖掘对个人信息的侵害与保护路径
西安交 通 大 学 学 报社 会 科 学 版),2020):137
144.
高可论司法智能化的功能风险 及 完 善 西 安 交 通
大学学报社会科学版),2020):145 152.
王延川除魅区块链去中心化新中心化与再中心化
西安交 通 大 学 学 报社 会 科 学 版),2020):38
45.
郭菊娥陈辰区块链技术驱动供应链金融发展创新研
西安交通大学学报社会科学版),2020):46
54.
陈姿含数字货币法律规制技术规则的价值导向
西安交通大学学报社会科学版),2020):64 71.
马 治 国刘 慧中国区块链法律治理规则体系 化研究
西安交 通 大 学 学 报社 会 科 学 版),2020):72
80.
责任编辑张园
ThePowerCharacteristicRiskandLegalRegulationPathofAlgorithmicMedia
XU HanmingSUN Yixiao
SchoolofLawZhongnanUniversityofEconomicsandLawWuhan430073China
Abstract Asanewmediaformdrivenbyalgorithmsalgorithmicmediahasfurtherreshapedthepatternofin
formationdisseminationandexpandedthebreadthanddepthofindividualparticipationinsociallife.Analyzing
theoperationlogicofalgorithmicmediafromtheaspectsofinformationproductionandinformationconsump
tionishelpfultounderstandthenatureandcharacteristicsofalgorithmicmediapower.Withthecontinuous
couplingbetweencyberspaceandrealspacealgorithmicpowerasanewsocialforcethatcanrealizeresource
allocationmayleadtothealienationriskofinformationhegemonyandimpactonmediapublicityduetothe
lackofregulatorycapacityoftraditionalpublicprivatelegaldualframework.Itisnecessarytochangethebasic
ideaofalgorithmicmediasupervisiondesignthesystemfromtheperspectiveofholismandconfrontalgorith
micmediapowerbyconstructingalgorithmicaccountabilitymechanismandallocatingalgorithmicinterpretation
powersoastorealizetheinteractivebalanceamongpublicpowerprivatepowerandprivatepowerandpro
motethestandardizeddevelopmentofalgorithmicmedia.
Keywords algorithmicmediainformationhegemonymediapublicitypoweralienationalgorithmaccounta
bilityinterpretablerightofalgorithm
631
西安交通大学学报社会科学版httpskxb.xjtu.edu.cn