学者谈算法歧视认定标准:大数据杀熟造成差别对待不必然构成歧视(6)

2023-05-01 来源:飞速影视
其次,即使区分事由的内容指向用户的固有特性,但可虚拟化,用户亦可通过虚构特点逃脱规则锁定(如女性用户在网络中使用虚拟的男性身份),故区分事由还须以不可虚拟化为必要。不可虚拟化通常存在于以下两种情形中,一是用户特性源于算法控制者自动收集和分析的数据,而非个人主动提供的信息;二是用户进入算法控制系统时须提供真实信息。
博弈退出封锁、博弈规则锁定和区分事由锁定最终导向博弈结果锁定:一方面,博弈结果因博弈规则自动执行必然发生,用户无力阻止;另一方面,用户因博弈退出封锁被迫承受既定的博弈结果,无论其是否受到平等对待。
综上,算法歧视以横向权力关系存在为前提,横向权力关系的形成则由算法控制者实施博弈锁定、剥夺用户博弈自由塑造。算法控制者利用技术优势和信息鸿沟,将用户锁定于“必输”的博弈中,名义上的平等博弈不复存在,异化的算法权力关系由此形成。
三、算法歧视认定的具体要件及其例外
算法歧视尽管发生于新技术背景下,但仍保有传统歧视的根本特性。一方面,算法歧视同样需要权力支撑;另一方面,算法歧视本质上仍是对个人或群体的差别不利对待。因此,算法歧视的构成仍须具备传统歧视所要求的区分对待要件和差别不利后果要件。
(一)行为要件:算法区分决策
歧视皆因区分对待而起,如种族歧视是指“基于种族、肤色、世系、民族或人种的任何区别、排斥、限制或优惠”(详见《消除一切形式种族歧视国际公约》第一条);女性歧视是指“基于性别而作的任何区别、排斥或限制,其影响或其目的均足以妨碍或否认妇女不论已婚未婚而在男女平等的基础上认识、享有或行使在政治、经济、文化和社会、公民或任何其他方面的人权和基本自由”(详见《消除对妇女一切形式歧视公约》第一条)。算法歧视是依托于技术发生的歧视,同样以区分对待为要件,区分对待要件具体应从区分模式和区分事由两个方面考量。
1.以“区分—决策”或者“决策—区分”为运作模式。算法歧视首先以算法采取区分决策模式为要件,算法应用中未涉及区分决策的,即使对用户造成不利后果,也不构成算法歧视,而应交由其他法律制度调整。在算法歧视中,差别对待主要呈现为两种具体模式。一是“区分—决策”模式,二是“决策—区分”模式。“区分—决策”型差别对待是先进行用户分类,再分别决策,区分性直接表现在决策依据上,是直接的差别对待,其造成的歧视为直接歧视。“决策—区分”型差别对待是隐蔽的差别对待,算法规则表面上平等地适用于每个用户,但其结果上造成了对不同群体之间的差别对待。“决策—区分”型差别对待属于间接差别对待,其所造成的歧视属于间接歧视。
相关影视
合作伙伴
本站仅为学习交流之用,所有视频和图片均来自互联网收集而来,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,也不参与录制、上传
若本站收录的节目无意侵犯了贵司版权,请发邮件(我们会在3个工作日内删除侵权内容,谢谢。)

www.fs94.org-飞速影视 粤ICP备74369512号