夏然｜我国算法歧视的类型、根源及协同治理路径探究(12)

此外，监管部门内部应成立算法安全评估队伍，专门用于算法投入运行后的安全评估，并不定期对算法经营者开展监督检查工作，积极受理公民个人或行业协会的投诉或举报，加强监管部门与其他算法利益相关主体的互动与交流，掌握行业发展态势。对有问题的算法技术，应责令算法经营者对算法技术禁用并限期整改及罚款，整改通过后需再次履行完善的备案工作方可继续投入运行。也有学者提出可引入第三方调查机构协助监管部门对经营者进行算法审查，在监管部门的主导下，“通过适当准入第三方机构对算法内容、输出结果中的技术性内容进行审查，通过设置相关的技术性机制对算法训练样本、内置性编码凝视等问题进行筛选和解释”，以发挥调查机构的专业优势对经营者的算法风险及安全防控做出更为专业的评估结果。但由于算法技术涉及企业的商业秘密，因此应坚决落实对第三方结构资质审核及保密协议的签署工作，并在最后的公示阶段应做到核心算法技术的脱敏工作，以实现算法安全监管与算法技术可持续发展的合理平衡。
5.立法机关完善算法歧视问责的相关法律规范
对于算法歧视所带来的公民权益损害等问题，应完善算法问责规范，使公民的权利救济落到实处，针对算法歧视损害界定、因果关系认定困难等关键难题设立特殊的归责原则以维护公民权利。首先，应明确算法歧视的责任主体，算法从开发、运行、决策等环节到最终产生算法歧视结果，经过了设计者、编译者、运维者、决策者等多方主体的涉入。算法歧视应如何合理确认责任主体，关乎能否有效落实算法责任实现受损公民的权利救济。有学者认为，“‘算法’与人之间，本质上是人对‘算法’的监护，因此应确立算法监护制度，赋予算法独立的法律主体资格，通过算法运行所获得的独立财产对算法歧视等侵权行为承担责任。”但笔者认为，在如今的弱人工智能时代下，算法技术的发展尚未达到能够完全自主承担责任的程度，且独立财产一般为算法经营者所有，因此还是应遵循传统责任主体认定思路，责任主体应以在算法程序中是否植入歧视性价值观念或标签，或有义务排除算法黑箱以外的歧视性决策结果，却未履行排除义务为标准进行确定。
而对于因算法黑箱造成的算法歧视，可以扩大责任主体认定范围，以算法设计者、编译者、运维者以及决策者作为共同责任主体的方式承担侵权责任。
其次，对算法歧视的因果关系存在认定困难的问题，不宜适用由原告举证证明的过错归责原则，而无过错的归责原则对于算法经营者又过于严苛，不利于算法技术的发展，因此在倾斜保护公民个人合法权利与保障算法技术平稳发展的取舍之间，应适用过错推定的特殊归责原则，由算法责任主体承担证明算法决策行为与歧视结果不存在直接因果关系的举证责任。理由在于，算法责任主体作为算法开发、决策的幕后操纵者，其对于算法的运行机制具有无可比拟的专业优势，即便引入监管机构协助公民进行调查取证也没有算法责任主体的优势明显。为防止责任主体以算法黑箱为理由逃避责任，责任主体还需证明其为防止算法出现歧视结果而采取了一切措施，并积极履行了安全保障义务，因此对于算法歧视结果的产生不存在任何过失或过错。对于公民利益损失的界定，可以“纯粹经济损失”为限。