夏然｜我国算法歧视的类型、根源及协同治理路径探究(9)

这种事前的算法决策同意机制显然影响到了事中的算法决策的运行依据，而个人信息保护法第24条第3款的立法目的在于防止信息处理者利用算法对个人做出的歧视性决策结果，即信息主体享有拒绝算法自动化决策的权利，即便在事前同意也应当享有事中拒绝其进行算法歧视性决策的权利。
因此，为了使公民个人可有效运用此权利，应将事前的“知情同意”进入机制完善为事后的选择拒绝或退出机制，即在事前的信息搜集阶段，用户对于经营者对其数据的搜集可以默示同意决定，而在数据使用阶段，用户仍享有要求信息处理者在对其进行算法推荐时提醒或说明的权利，平台需为用户提供明确的拒绝算法决定的选项，使其可以在具体的算法个性化推荐时享有完整的拒绝权，而若用户认为自己因算法个性化推荐已经遭受了算法歧视时，其享有选择退出的权利并可保证可继续正常使用该软件的其他服务。此外，用户对个人信息或数据还享有删除权，即可要求该平台删除其用于算法决策的个人数据。
2.加强经营者内部算法合规体系建设
“企业合规，是企业为有效防范、识别、应对可能发生的合规风险所建立的一整套公司治理体系。”在企业内部建立算法安全合规体系，可使企业实现从被动接受监管转变为激励自治的转型。虽然建立算法合规体系“无法直接帮助企业创造商业价值，却可以帮助企业避免重大的经济损失”此外，一方面可以从源头上解决算法歧视等负面问题，另一方面也可提升算法治理的监管效率。对于算法合规体系的建设，应明确算法治理的方针与原则，对于方针与原则的确定应结合颁布针对算法运行的法律标准、算法应遵循的科学伦理及企业自身的发展目标，建立算法合规政策并将此政策落实到企业员工，并建立问责制以促使各个员工严格遵守算法合规政策，为后续算法合规体系的建设提供原则向导与价值指引。
在正式开展算法运行之时，应开展算法技术的风险防控及安全评估。评估工作的进行应由企业内部专门的算法安全责任部门来进行，开展风险及安全评估的目的在于提升算法运行的安全性，使企业真正认识到自己有可能遇到的算法风险并证明具有可控制此风险的能力。而对于算法运行透明度的提升，多数学者认为只要公开算法运行决策的过程就能使决策公开公正，从源头杜绝算法歧视。其实，随着算法技术的不断发展，即便公开了算法运行及决策过程，也无法完全杜绝算法歧视的结果。因为内部的算法黑箱无法被打开，外界也就无从得知歧视性决策出现在算法运行的哪一个环节。其次，从算法决策的技术逻辑来看，其初始就带有既存偏见，但此种偏见并不一定会带来歧视性结果，只有在决策者将此种偏见决策运用到用户中，转化为了算法权力，才带来了算法歧视。因此，技术本身存在的固有特征，无法被改变也不能被改变。