夏然｜我国算法歧视的类型、根源及协同治理路径探究

原创 夏然 上海市法学会 东方法学
夏然
河北地质大学政法学院硕士研究生
要目
一、问题的引出——算法歧视在商业交易中的典型事例
二、算法歧视的类型及根源探究
三、我国针对算法歧视相关治理之检视
四、算法歧视协同治理路径的必要性
结语

算法歧视作为数字化时代所带来的负面效应，若以运作模式及侵害权益为类型，可呈现不同层面的歧视后果。探究算法歧视的产生根源，一方面源于设计者自身的价值倾向，另一方面也源于不完整的数据偏见。数据的范畴化趋向，则是由于算法本身倾向简化认知过程的思维模式，“算法黑箱”也使得算法决策的隐形歧视出现而无法被开发者掌控。面对算法歧视的现状，我国有关的算法治理存在治理模式单一，具体规范与算法技术相矛盾等问题。协同治理路径作为我国互联网综合治理体系下的延伸，以算法背后的不同利益主体——公民个人、经营者、算法治理行业协会、监管部门以及立法机关为入手点，探讨呈动态、交互性的协同治理路径，可实现利益主体之间的良性互动，营造算法歧视多元主体协同治理格局。

一、问题的引出——算法歧视在商业交易中的典型事例
平台针对用户进行区别定价的行为作为一种价格歧视属于算法歧视中的常见情形，而除了价格歧视，身份歧视、性别歧视、种族歧视等情形依然屡见不鲜，我国相关部门虽在近几年不断加大监管力度，个人信息保护法的颁布以及《关于平台经济领域的反垄断指南》《互联网信息服务算法推荐管理规定》等规范性文件的发布，虽然在一定层面上遏制了算法歧视侵犯公民合法权益的情况，但构建完善的算法歧视规范体系仍应提上日程。算法作为一项技术，其虽对社会产生了负面影响，但依然有利于社会进步。因此，如何有效把握算法规制的边界，在合理平衡算法背后多元主体权益的前提下构建综合有效的治理体系，是化解算法歧视问题的关键。