夏然｜我国算法歧视的类型、根源及协同治理路径探究(3)

2.以所歧视主体及受侵害的利益属性为划分
算法歧视可针对不同对象进行歧视，被歧视主体可分为个人、公民以及经营者三类。针对个人所带来的侵害是最为直接和显著的，常见的如前文所述的“大数据杀熟”等平台的区别定价行为，因此对于受侵害的权益一般为民事权益，而由于个人与算法决策者的非合同关系，当个人因算法歧视遭受损害时，侵权责任机制作用凸显，同时随着个人信息保护法的出台，“知情同意”明确作为信息主体所享有的权利，尤其在涉及一些敏感个人信息时要求信息处理者获取个人的单独同意，这也为遭受算法歧视的个体以合同法角度要求平台等信息处理者在因违反算法程序使用时的告知、披露义务或未履行对算法程序的审计、预防等保护义务时，导致算法产生歧视行为而产生的损害，请求平台承担缔约过失或违约责任提供了法律依据。“知情同意”的目的，在于个人能获得处理者对算法处理程序充分的告知与披露，并被信息处理者承诺在对其个人信息处理时享受正当、安全的算法处理程序，保障其免受算法歧视。
而对于公民来说，算法歧视侵害的是其享有的基本权利，当前侵害主要表现为性别歧视以及劳动权益的歧视，国外还存在种族歧视或信仰歧视，但在我国不太显著。如亚马逊公司的自动招聘算法程序对女性求职者的简历打低分，导致女性工作申请成功率降低。又如北京一公司利用算法在后台对单位员工在园区内的非工作场所使用员工卡的次数及时间作全程记录，超时超次就会自动扣除相应奖金，而多数员工对这一规定并不知情，这显然是企业利用算法技术在员工不知情的情况下侵犯了其劳动权益，背后隐含的本质依旧是企业管理者对员工劳动权益的歧视。最后，对于市场主体，各互联网平台对算法的扩张运用也加剧了平台之间的竞争。某些平台为了获取更多的竞争优势，滥用算法技术形成“算法合谋”，以共同分享数据、协调定价或采取对与之合作的特定商家进行优待等手段，使得其他竞争者失去竞争力，以达到排除、限制竞争最终垄断市场的目的。
“算法合谋”又分为明示与默示“合谋”。明示“合谋”的算法歧视，算法被用来执行算法决策者或开发者们合谋限制、排除竞争的要求，而对于默示的算法合谋，算法决策者之间不存在明确的合谋协议，仅是产生了具有“合谋”性质的算法行为。因此，“合谋”具有隐匿性，对监管技术的要求则更高。
算法歧视的根源
1.算法的固有偏见
对于算法歧视的根源，算法偏见是当前学术界热议的说法之一。首先，算法偏见可源于算法程序开发者的偏见，这既可能是开发者故意为之，也可能是无意的偏见，因为无论开发者怎样避免价值观的输入，其自身的设计理念、所认定的算法结果输出标准、文化背景、宗教信仰以及所处的社会制度仍会映射到算法程序的开发或设置之中，这是无法避免的。其次，算法分析的基础是其所获取的数据，而这种分析进路决定了某些数据主体一开始就可能被标记歧视性标签。有学者曾这样评价这一预测犯罪的算法工具：“最终不平等的根本原因既不是输入的数据，也不是算法，也不是算法本身，而是预测的性质决定了任何预测方法都会将过去的不平等投射到未来。”因此，只要算法所依据的数据本身存在的偏见未被消除，在算法处理过程中依然会将此种偏见保留，最终使得算法决策产生歧视性结果。