夏然｜我国算法歧视的类型、根源及协同治理路径探究(2)

二、算法歧视的类型及根源探究
算法歧视的类型划分
1.以算法运作模式为划分
算法的运行可基于不同的运作模式，常见有代理型算法运作模式。在此模式下，又可细分为直接偏见代理与隐藏性偏见代理两种运作模式。直接偏见代理，顾名思义，指开发者或决策者在算法技术被运用之前直接在程序中输入了一系列歧视标签，如性别、用户年龄、种族等存在偏见的信息。这种模式下的算法充当工具人角色，是开发者或决策者达到歧视性对待目的的工具，其得到的算法结果一定是带有偏见性的。而隐藏性偏见代理，指开发者或决策者未直接输入歧视标签，而选择使用其他替代性要素使得算法运行的结果达到与直接偏见代理输出的结果相比相同或相似的程度。在此种模式下，算法依旧是开发者或决策者的工具，承担相对较为简单的数据输入与结果输出工作，但由于歧视性标签具有一定的隐蔽性，因此不容易被监管者或用户发现。
其次，常见模式还有累积型算法运作模式。在互联网环境大背景下，线上各平台为进一步获取利益或提高竞争力，不断扩张其经营范围，而各平台之间签署的数据共享或反垄断协议使得数据不断在各个平台之间流动，导致累积型算法不断扩张，加剧了对公民的歧视。累积型算法运作模式的特点在于公民被算法分析后，被赋予了一种算法身份，而此种算法身份并不是一成不变的，它具有交互性，在与其他数据互动以后会不断对此身份进行更新。因此，对于个体或群体身份的确立是依据算法所识别的个体与其所接触其他个体的关系所确定的。而“一旦数据来源不够准确，则个体被赋予的算法身份就会与其真实情况存在偏差，并因此被贴上某种标签而使其在算法决策中受到歧视。”而受算法歧视的个体或群体在此种算法决策的影响下可能会做出符合此标签的行为，长此以往，个体或群体行为所产生的新数据会不断累积影响着算法身份的不断更新，最终导致受算法决策的个体呈现“马太效应”现象，加剧了算法歧视带来的负面影响。
最后，自主型算法运行模式作为开发者或决策者最难掌握或解释的运行模式，其特点在于深度的自主学习性，虽然其掌握的初始数据来源并不具有明显歧视性特征，决策者或开发者在运行阶段也未给予其主观干预，但是此类算法将其收集的数据进行分析，得出社会上普遍存在的偏见导向，并由此生成了歧视性结果。由于社会、国家的偏见或歧视是普遍存在的，即便每个个体均不承认其存在偏见，但其所产生的总数据一定具有偏见性，这是不可避免的。数据虽然是理性的，但作为数据来源的人类并不是，算法作为由人类开发的学习机器，其对人类的决策过程也存在模仿性，偏见由此产生。而算法通过决策者无法掌握的自主学习过程并随着数据进行不断更新，产生的偏见是无法预知的，更无法预测其会产生何种歧视结果。