学者谈算法歧视认定标准:大数据杀熟造成差别对待不必然构成歧视(14)

2023-05-01 来源:飞速影视
2.信用评分算法。信用评分算法是信用评估机构基于个人基本信息、银行信用信息、消费信息、资产信息等各项数据指标对用户信用进行评分的技术应用。信用评估机构可能出于不同目的实施信用评分,如银行的信用评分目的可能是分配信用贷款资格、确定贷款额度,芝麻信用、腾讯征信的信用评分目的则可能是确定和调整其服务内容和服务质量(如是否向用户提供免押金租赁服务、先用后付服务等)。
信用评分算法多应用在消费、住房、教育等关键的社会参与领域,歧视风险较高。当用户遭遇偏低的信用评分时,是否构成算法歧视,还须具体分析,其中的关键要件主要涉及是否存在博弈锁定、是否造成差别不利后果。首先,信用评分的具体结果通常由信用评估机构依托已有数据和算法规则直接作出,且评分指标是用户难以改变的身份、行为特征、资产状况、历史信用状况等,故信用评分的主导权由信用评估机构掌握。但信用评估机构是否构成博弈锁定,还取决于用户能否拒绝信用评分服务。当用户必须接受信用评分时,则发生博弈锁定,如个人申请住房贷款必须有合格的信用评估;当用户可拒绝信用评分时,则不存在博弈锁定,如用户有权拒绝芝麻信用评分,且拒绝后支付宝使用不受实质影响。其次,信用评分不当偏低是否会造成差别性不利后果,也须依场景而定:在某些场景中,信用评分未造成不利后果,如评分尽管不当偏低但仍与用户应得的评分处于同一分数区间,不影响决策结果;
在另一些场景中,信用评分不当偏低则会产生差别的不利后果,如银行信用评分不当偏低,导致个人不能取得住房贷款资格。当然,无论是否构成算法歧视,对于错误的信用评分,用户均可依据《个人信息保护法》第46条行使个人信息更正权,要求算法控制者更正评分。
甄别私法关系中的算法歧视,仅仅是反算法歧视的第一步。在完成算法歧视认定的基础上,进一步构建算法歧视规制的体系化规则,同样是立法和司法的重要课题。由于我国尚不存在完备的反歧视私法规则,宜将一般人格权侵权规制作为算法歧视规制的权宜之计:算法控制者实施算法歧视的,可认定为算法控制者侵害用户的一般人格权(人格平等)。侵权的具体判定适用算法歧视的特殊构成要件,损害赔偿的计算则以“应得而未得”部分为标准,如用户因遭遇歧视性定价而支付多余价款的,算法控制者应返还用户多支付的部分;算法歧视造成用户严重精神损害的,算法控制者还应承担精神损害赔偿责任。当然,算法歧视规制还可通过反垄断规制、个人信息保护、消费者权益保护等路径实现。除此之外,行政机关也应强化算法监管。一方面,应加强对算法源代码和算法分析数据的审查,以防止算法控制者在算法系统中植入偏见,及时排除分析数据中的污染数据;
相关影视
合作伙伴
本站仅为学习交流之用,所有视频和图片均来自互联网收集而来,版权归原创者所有,本网站只提供web页面服务,并不提供资源存储,也不参与录制、上传
若本站收录的节目无意侵犯了贵司版权,请发邮件(我们会在3个工作日内删除侵权内容,谢谢。)

www.fs94.org-飞速影视 粤ICP备74369512号