论文部分内容阅读
随着大数据时代的到来,党和国家高度重视大数据对社会经济的重要作用,并将大数据上升为我国国家战略之一。大数据的核心价值是预测,而其预测功能的实现主要是通过大数据算法来完成。无处不在的大数据运用也产生了一系列的问题,传统的以数据管理为切口的规制路径在大数据强大的数据处理和预测功能面前已经无法满足规制大数据问题的需要。本文认为,要有效规制大数据产生的系列问题,有必要从规制大数据的核心—大数据算法入手。在本文当中,作者选取了日益严重的算法歧视问题为切入口,以期从中寻求有效规制大数据和大数据算法问题的有效路径。本文第一章对大数据算法歧视进行了基本阐释。作者认为,大数据算法赋予了大数据生命,但由于算法设计者可能的歧视和算法数据本身可能带有歧视,导致大数据算法本身可能出现歧视问题。现实社会各个领域出现的算法歧视问题印证了这种可能的存在。作者认为,大数据算法歧视是大数据算法运行中出现的对某一标签群体的不公平对待行为,具有歧视性、隐蔽性、复杂性、系统性和不可逆转性五个特征。算法歧视的产生来源主要算法模型设计和数据输入,具体包括:数据样本大小差异、数据本身带有偏见、算法设计缺陷、机器自主学习习得、在人机交互中习得等。本文第二章强调了算法歧视规制的必要性。作者从大数据算法本身具有歧视的基因和大数据算法歧视的巨大危害入手。作者认为,大数据算法本身具有歧视的基因,这种歧视基因主要由三个因素导致:一是人类社会固有歧视,大数据算法歧视在一定程度上就是人类社会固有歧视在数字社会中的数字化表达;二是算法本身缺乏人的伦理,并且在算法的特定目的下难以习得人的伦理,因而不可避免产生歧视行为;三是大数据时代下人的敏感属性已经无处可藏,即使经过数据处理,大数据算法依旧可以从其他维度发现这种敏感属性并将其与算法的特定目的结合起来,从而极其容易导致歧视。作者认为,大数据算法歧视是一种“看不见的不正义”,对社会有着巨大危害:一是损害公平与正义,而且由于算法歧视的隐蔽性、复杂性特征,这种危害不容易被人们所察觉;二是固化和扩大歧视,算法歧视一方面延续着人类社会中的歧视传统,另一方面又不断扩大现有社会的“数字鸿沟”;三是导致人的物化和商品化,人类变成算法代码中可计算、可预测、可控制的客体;四是剥夺自我决定权,人类越来越活在带有歧视的算法的统治当中;五是蚕食消费者剩余价值,大数据算法歧视使得经济学中的“一级价格歧视”成为可能,消费者剩余价值被剥削殆尽。本文第三章梳理了当前算法歧视规制当中的几个困境。一是算法决策的边界问题,哪些领域不能使用算法进行决策,哪些领域应当限制算法决策,哪些领域可以放开算法决策?如何进行制度设计以确保这些边界不被逾越?二是算法权力的责任问题,算法已经成为了一种足以影响人和社会的权力,与之相对应的责任由谁来承担?三是算法与商业秘密问题,如何在打开“算法黑箱”与保护企业商业秘密之间进行权衡?四是算法透明与审查问题,面对如此复杂的大数据算法,我们如何使其实现有价值的透明化?如何去审查算法?本文第四章梳理了国内外法律体系下对算法歧视的回应。从国内来看,我国对于算法歧视问题并未有明确的法律规制,从一些零星法律法规条文中呈现出对大数据算法“边走边规范”的相对宽容的态度,从措施上依旧是从数据角度加以规制。国外主要形成了以欧盟“风险预防模式”和美国“风险控制模式”为典型的规制路径。欧盟着重从个人信息保护和数据管理角度预防大数据算法产生严重危害,而美国则重视大数据的创新价值,更加注重设立统一监管机构对大数据算法的危害进行控制。本文第五章提出了算法歧视的法律规制路径。一是加强人工智能立法,完善大数据算法歧视规制的框架设计,明确算法决策的准入与边界问题。二是建立统一政府监管机构和加强行业自律,建立算法审查监测机制,通过事前审查报备、评估风险,事中加强监测、全过程监督,控制大数据算法歧视产生的风险。三是完善算法责任分配机制,建立平台责任与技术责任的双轨责任制,同时加强大数据企业的社会责任。四是建立损害救济机制,通过保障用户权利、建立行业保险保障机制、损害赔偿机制,对遭受算法决策损害的用户进行有效救济。