学者谈算法歧视认定标准:大数据杀熟造成差别对待不必然构成歧视(4)
2023-05-01 来源:飞速影视
(二)横向权力关系的形成要件:用户意志自由的缺失
算法歧视集中爆发于算法控制者与用户之间形成的横向权力关系,此一结论已得到学界广泛认同。然而,权力关系如何形成,则多见于技术层面的宏观描述,鲜见于要件层面的微观分析[1](P34-36)。显然,算法控制者掌握算法技术并不等于其就取得或滥用了算法权力,权力关系是否形成,还应着重关注具体的技术应用是否符合特定要件。
权力关系与平等关系之间的本质区别在于,关系中的各方主体是否享有平等的意志自由。在权力关系中,分配仅体现分配者的意志,其他主体是受其意志支配的被分配者;在平等关系中,分配则是各方主体平等协商达成一致结果的过程。可以说,权力关系的形成,就是关系主体一方或多方意志自由被剥夺的过程。因此,在算法控制者与用户之间,横向权力的形成以算法控制者剥夺用户的意志自由为核心要素。
从博弈视角来看,平等双方在博弈中均享有意志自由,是否进行博弈(如是否订立合同)、博弈形成的规则(如具体的合同条款)以及由此产生的博弈结果不受任意一方操纵,即便一方最终承受客观的不利结果(如一方依合同以高于市场价的价格购得标的物),该方也始终享有博弈自由。相反,在算法应用场景中,当用户既无决定是否进行博弈之自由,亦不能参与博弈规则的制定和选取,只能被动承受博弈结果时,其处于完全丧失博弈自由的被支配地位,算法控制者和用户之间的横向权力关系由此形成。因此,本文认为,剥夺用户博弈自由是横向权力形成的实质标准,其以博弈锁定为具体的实现机制,须同时满足博弈退出封锁、博弈规则锁定和区分事由锁定三个条件。
1.博弈退出封锁。博弈退出封锁即用户一旦进入算法系统,则丧失退出算法系统之自由。博弈退出封锁以用户进入算法系统、参与博弈为前提。算法控制者通过获取和分析个人信息开启博弈并非难事:一方面,个人或为享受算法红利、或为参与社会生活,会主动提供个人信息;另一方面,算法控制者为实现获利目的,也会极力攫取个人信息。由此可见,算法控制者设下的博弈从不缺少或积极参与、或被动入席的用户。
显然,若用户享有退出博弈的自由,则可避免处于算法控制之下。因此,博弈锁定首先以博弈退出封锁为必要,即用户处于算法控制之下而无退出权。判定用户是否遭遇退出封锁,主要以是否存在可替代的算法控制者为标准。可替代性则具体包括需求可替代性和供给可替代性两方面。需求可替代性,即是否存在可以提供相似产品或服务的其他算法控制者供用户选择;相似的算法控制者越少,用户退出特定算法系统后越难以获得相似产品或服务,特定算法控制者的需求可替代性也就越低。供给可替代性,则是基于其他算法控制者的供给能力来描述特定算法控制者的可替代性,具体应考量其他算法控制者提供相似产品或服务所需的投入成本和收益;成本越高、收益越小,参与竞争的算法控制者越少,特定算法控制者的供给可替代性也就越低。特定算法控制者的需求可替代性或供给可替代性越低,用户退出算法系统后越难以获得相似的产品或服务,也就越易遭遇退出封锁。
本站仅为学习交流之用,所有视频和图片均来自互联网收集而来,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,也不参与录制、上传
若本站收录的节目无意侵犯了贵司版权,请发邮件(我们会在3个工作日内删除侵权内容,谢谢。)
www.fs94.org-飞速影视 粤ICP备74369512号