学者谈算法歧视认定标准：大数据杀熟造成差别对待不必然构成歧视

学界有关算法歧视规制的研究，欠缺算法歧视的认定这一逻辑前提，导致反算法歧视的规制范围过宽，算法应用与算法正义之间的矛盾被过分夸大，有必要明确算法歧视的认定规则。算法歧视以横向权力关系的存在为必要前提，不存在横向权力关系则算法歧视不成立。当算法控制者以用户固有的、难以改变的特性对其进行分类，并单方决定适用于用户的算法规则，用户只能被动接受决策结果而无退出算法系统之自由时，横向权力关系形成。在算法歧视的具体认定上，算法歧视以区分决策为行为要件，以用户遭受差别不利对待为结果要件。算法控制者若能证明差别对待具有合理性，则不构成算法歧视。搜索算法、人机对话算法对社会歧视的单纯呈现，以及社会经济发展、算法应用普及不平衡导致的算法红利分配失衡，均因欠缺区分决策要件，不构成算法歧视；“大数据杀熟”、评分算法所造成的差别对待并非必然构成歧视，须进行个案分析。
原题 | 算法歧视的认定标准
作者 | 宁园 法学博士 武汉大学法学院特聘副研究员
随着算法应用的普及，算法歧视早已成为不可忽视的社会问题。学界围绕如何规制算法歧视，已经形成丰富的治理方案。然而，作为算法歧视规制的前提问题，“何种算法决策构成算法歧视”始终未被专门讨论，不少论者似乎都默认，凡是个人在算法应用中遭遇的不利对待均属于算法歧视。算法技术是现今社会发展的重要驱动力，严格规制算法歧视的同时，也不应任意扩张算法歧视的范围，过分苛责算法控制者。因此，为防止算法应用遭到过度声讨，本文尝试解决算法歧视的认定问题，以填补算法歧视规制的逻辑前提，促进算法规制方案的真正落地。
一、算法歧视认定环节的缺失现象
根据既有文献，学界对算法歧视的技术特点、产生原因、规制路径已有诸多讨论，并就以下四个方面基本达成共识：一是算法歧视现象频繁发生，已对社会平等正义造成巨大冲击，规制算法歧视具有现实必要性。二是算法控制者凭借算法技术取得了对用户的实际支配力，即算法权力；算法权力规制则是算法歧视规制的症结所在。三是算法并非完全中立，算法歧视既可能源于算法设计者的偏见植入，也可能源于已被现实偏见污染的分析数据。四是主要的算法歧视规制措施包括限制算法权力、构建算法透明机制、开展算法审查、赋予个人算法解释请求权等［1］（P39-40）［2］（P1416）。