论文部分内容阅读
平台经济下的算法歧视问题
平台经济方兴未艾
自2012年以来，我国陆续实施“互联网+”行动和“国家大数据”等国家战略，有力推动了互联网平台经济蓬勃发展。尤其是2020年以来，虽然实体经济受到新冠肺炎疫情的影响和冲击，但平台经济逆势而上，仍然呈现持续高速增长的态势。中国信息通信研究院发布的数据显示，截至2020年底，我国市场价值超10亿美元的数字平台企业达197家，较2019年增加23家;价值规模达3.5万亿美元，同比增长56.3%。在推动平台经济高速发展壮大的过程中，大数据无疑起到了巨大的驱动作用，甚至扮演着关键生产要素的角色。对于普通受众而言，在享受大数据带来的便利的同时，也不可避免地面临着“大数据杀熟”、个人信息滥用、数据垄断等问题。
平台金融消费领域特殊性
根据中国互联网络信息中心发布的《第47次中国互联网络发展状况统计报告》，截至2020年末，我国网民规模达9.89亿，其中使用过网络支付等金融服务的用户规模已达8.54亿，占网民整体数量的86.4%，我国通过网络进行金融消费的群体数量巨大。借助平台经济发展的东风，加之马太效应的影响，大型互联网平台对市场份额的占有越发集中，对于消费者的影响也越来越大。与其他消费领域略有差别，大型互联网平台金融消费领域总结起来具有以下特点：一是涉及金额较大。尤其是网络借贷、资产管理等业务，所涉金额远远高于生活类消费。二是消费应具备专业知识较多。由于金融业务的专业性，提供金融产品或服务的机构往往以消费者同意签订相关知情书、协议为前提而进行交易，但通过网络进行金融消费的群体，金融知识良莠不齐，很难对文书范本进行充分阅读和理解，对点击“我同意”选项后所确认的权利义务关系一知半解。三是将对消费者生活产生持续性影响。绝大多数金融消费并非一次性交易，特别是当对消费者个人征信产生影响时，不良记录将持续困扰消费者生活的方方面面，引发重重矛盾。四是相关业务属于金融监管范畴。通过大型互联网平台开展金融业务，没有改变金融的本质，亦即仍然需要防范相关金融风险，需要实施金融监管。也正是基于以上这些特点，该领域的消费者保护工作显得尤为重要。
算法歧视的表现及多发领域
参考《国务院反垄断委员会关于平台经济领域的反垄断指南》相关内容，可将算法歧视简单描述为，设定特定的数据管理方式，在无正当理由的情况下对交易条件相同的对象实施差别待遇，侵害消费者合法权益的行为。这种不公平的差别待遇一般体现在排序策略、交易条件、差别定价等方面。在金融消费权益保护领域，大型互联网平台实施算法歧视侵害消费者权益的情况近年来逐渐引起重视，应进一步关注并加以规制。
平台利用算法歧视侵害金融消费者权益的重灾区，集中在互联网金融尤其是平台金融领域。究其原因：一方面是互联网金融企业急需大型互联网平台客户资源拓展业务，并且事实上多数大型互联网平台争先拓展出金融业务以充分挖掘并利用客户资源，泛金融化趋势加剧，如阿里旗下的蚂蚁集团、百度旗下的度小满金融、京东旗下的京东金融等;另一方面，出于风险和成本控制等方面的考虑，商业银行等传统金融机构主要通过专属手机App、网站等提供网络金融产品和服务，较少以大型互联网平台充当业务媒介。
算法歧视侵害金融消费者权益情况
针对消费者本身的算法歧视。此类行为主要表现为价格歧视，即没有正当理由而对交易条件相同的消费者提供差别定价，据以设定差别定价的数据可能是个体消费者的网络活动历史轨迹、交易习惯、联网设备等信息，甚至还可能是性别、种族等敏感信息。此类现象大多出现在大型互联网平台的关联金融业务中，例如，2019年11月，戴维·海涅迈尔·汉森（David Heinemeier Hansson）在推特（Twitter）上宣称，苹果公司与高盛集团推出的Apple Card信用卡服务算法歧视了他的妻子，因为虽然他和妻子结婚多年且共用银行和其他信用卡账户，但Apple Card给他的信用额度是妻子的十倍多。此举引发了许多用户的共鸣，抱怨女性的Apple Card信用额度低于男性。尽管2021年3月纽约州金融服务局发布报告称Apple Card不存在非法歧视，但同时也承认信贷系统本身仍存在歧视现象（美国信用评分系统对白人男性给予优待）。在我国，“大数据杀熟”近年来持续引发热议，投诉集中在网络购票、游戏抽奖、打车等领域，在金融消费方面也不鲜见。例如，2018年小米公司接到429起关于P2P的投诉，投诉人称小米在其各类平台上以“米粉专享”“米粉任务”形式针对VIP用户推荐P2P产品并造成用户损失，涉及总金额约4亿元。
针对第三方的算法歧视。该种行为主要表现为不公平的排序、限定交易等，是平台针对提供金融服务和产品的机构实施算法歧视而间接减损了消费者权益的情况。相对于直接针对消费者个体的算法歧视，该种行为不区分具体受众，显然会产生更大的影响力和不良后果。比如，2015年2月媒体报道的微信封杀支付宝红包事件，许多用户反映通过微信公众平台开设的店铺无法继续使用支付寶收付款，即被受众质疑平台涉嫌限定支付方式。另外，在排序策略方面饱受争议的百度竞价排名业务，自“魏泽西事件”后曝光于公众视野，并在互联网金融高速发展后被许多P2P机构所用。例如，媒体曾报道在百度搜索某中等规模的P2P平台时，搜索结果的前8条全部是其他P2P平台的推广信息，并且有5条信息虽然在链接文字上标注某中等规模的P2P平台字样，但点击进去却跳转到其他P2P平台。上述行为在被质疑不正当竞争、垄断的同时，也涉嫌侵害了金融消费者的知悉真情权以及自主选择权。
保护金融消费权益的路径探索 在法律规制方面，除普适性维护消费者权益的民法典、消费者权益保护法等法律外，近年来我国网络法治的专门立法不断完善，尤其在较高法律层级对消费者个人信息数据安全加强规制。涉及到的立法有网络安全法、数据安全法以及已经进入立法程序的个人信息保护法（草案）。具体到金融消费权益领域，主要的规章有《中国人民银行金融消费权益保护实施办法》《银行业保险业消费投诉处理管理办法》等，且《中国人民银行金融消费权益保护实施办法》第四十条明确将“通过电子商务、网络交易购买、使用金融产品或者服务的”金融消费者纳入保护范围。
在监管互联网平台行为方面，除适用反垄断法、反不正当竞争法、价格法等法律外，2021年2月7日，国务院反垄断委员会印发了《国务院反垄断委员会关于平台经济领域的反垄断指南》（以下简称《指南》），虽然不属于立法文件，但对平台经济下的垄断行为明确了执法规则，是实施监管的重要依据。《指南》中对平台相关概念的界定、滥用市场支配地位的认定、不公平价格行为的认定、差别待遇的认定等内容，都与金融消费者的切身利益密切相关，在一定程度上有利于消费者免受平台算法歧视之害。
总体来说，可以看到我国立法对网络安全、个人信息安全、平台经济监管方面关注度较高，法治进程明显加快，已在逐步落实《法治社会建设实施纲要（2020～2025年）》提出的“建立健全网络综合治理体系”要求。不过，由于相关立法实施时间尚短或还处于立法程序中，其应用情况和执法效果仍有待在实践中接受检验。为进一步探索行之有效的算法歧视治理方式，充分保护金融消费者合法权益，建议综合考虑从以下几个方面强化规制。
加强立法保障。与其他领域一样，立法保障是最根本的保障。虽然当前我国在网络安全、个人信息安全、平台经济监管方面立法进程较快，但其中涉及算法歧视问题的极少。算法具有技术性和隐蔽性，许多情况下还属于被依法保护的知识产权，其属性决定了不宜对算法本身进行过度审查。因此，建议立法从算法设计应遵循的公平原则、算法应用不得产生的损害后果两方面来预防和纠正算法歧视问题，从立法层面明确遏制算法歧视。
开展综合监管。在大型互联网平台泛金融化的当下，传统的监管模式也面临变革，有学者将其概括为“传统的以中心化和实体化为主的金融监管秩序面临着以去中心化和数字虚拟化为表征的金融业务的挑战”。此种情况下，单纯的行业监管在执法力度和效果上都显得较为乏力。为有效保护金融消费者权益，建议建立金融监管与反垄断监管相补充、相结合的综合监管模式，从维护金融稳定和良好的市场竞争秩序两方面共同规制算法歧视问题。
實行行业自律。随着平台经济的发展，头部平台资源聚集加剧，大型互联网平台的垄断问题越来越受到重视，而垄断行为则是滋生算法歧视的温床。创新赋予了平台经济发展的强大活力，因此行政机关在进行监管时往往面临着矫枉过正的风险，仅依赖强监管手段难免会造成过多的束缚，并且许多平台的技术壁垒也造成了监管的失效。因此，实施行业自律是互联网平台的必要治理措施。在多部门共同行政指导推动下，截至2021年4月，已有百度、京东、字节跳动、拼多多、美团、腾讯、滴滴、快手、哔哩哔哩等20多家平台企业发布了合规经营承诺，承诺书中将个人信息保护、反垄断、反不正当竞争作为重点，其中明确提到算法问题的仅有4家，这也表明平台企业尚未充分意识到或尚未承认算法歧视的危害性，应结合实际进一步扩充行业自律的内容，自发规范行业秩序。
（作者单位：中国人民银行佳木斯市中心支行）
平台经济方兴未艾
自2012年以来，我国陆续实施“互联网+”行动和“国家大数据”等国家战略，有力推动了互联网平台经济蓬勃发展。尤其是2020年以来，虽然实体经济受到新冠肺炎疫情的影响和冲击，但平台经济逆势而上，仍然呈现持续高速增长的态势。中国信息通信研究院发布的数据显示，截至2020年底，我国市场价值超10亿美元的数字平台企业达197家，较2019年增加23家;价值规模达3.5万亿美元，同比增长56.3%。在推动平台经济高速发展壮大的过程中，大数据无疑起到了巨大的驱动作用，甚至扮演着关键生产要素的角色。对于普通受众而言，在享受大数据带来的便利的同时，也不可避免地面临着“大数据杀熟”、个人信息滥用、数据垄断等问题。
平台金融消费领域特殊性
根据中国互联网络信息中心发布的《第47次中国互联网络发展状况统计报告》，截至2020年末，我国网民规模达9.89亿，其中使用过网络支付等金融服务的用户规模已达8.54亿，占网民整体数量的86.4%，我国通过网络进行金融消费的群体数量巨大。借助平台经济发展的东风，加之马太效应的影响，大型互联网平台对市场份额的占有越发集中，对于消费者的影响也越来越大。与其他消费领域略有差别，大型互联网平台金融消费领域总结起来具有以下特点：一是涉及金额较大。尤其是网络借贷、资产管理等业务，所涉金额远远高于生活类消费。二是消费应具备专业知识较多。由于金融业务的专业性，提供金融产品或服务的机构往往以消费者同意签订相关知情书、协议为前提而进行交易，但通过网络进行金融消费的群体，金融知识良莠不齐，很难对文书范本进行充分阅读和理解，对点击“我同意”选项后所确认的权利义务关系一知半解。三是将对消费者生活产生持续性影响。绝大多数金融消费并非一次性交易，特别是当对消费者个人征信产生影响时，不良记录将持续困扰消费者生活的方方面面，引发重重矛盾。四是相关业务属于金融监管范畴。通过大型互联网平台开展金融业务，没有改变金融的本质，亦即仍然需要防范相关金融风险，需要实施金融监管。也正是基于以上这些特点，该领域的消费者保护工作显得尤为重要。
算法歧视的表现及多发领域
参考《国务院反垄断委员会关于平台经济领域的反垄断指南》相关内容，可将算法歧视简单描述为，设定特定的数据管理方式，在无正当理由的情况下对交易条件相同的对象实施差别待遇，侵害消费者合法权益的行为。这种不公平的差别待遇一般体现在排序策略、交易条件、差别定价等方面。在金融消费权益保护领域，大型互联网平台实施算法歧视侵害消费者权益的情况近年来逐渐引起重视，应进一步关注并加以规制。
平台利用算法歧视侵害金融消费者权益的重灾区，集中在互联网金融尤其是平台金融领域。究其原因：一方面是互联网金融企业急需大型互联网平台客户资源拓展业务，并且事实上多数大型互联网平台争先拓展出金融业务以充分挖掘并利用客户资源，泛金融化趋势加剧，如阿里旗下的蚂蚁集团、百度旗下的度小满金融、京东旗下的京东金融等;另一方面，出于风险和成本控制等方面的考虑，商业银行等传统金融机构主要通过专属手机App、网站等提供网络金融产品和服务，较少以大型互联网平台充当业务媒介。
算法歧视侵害金融消费者权益情况
针对消费者本身的算法歧视。此类行为主要表现为价格歧视，即没有正当理由而对交易条件相同的消费者提供差别定价，据以设定差别定价的数据可能是个体消费者的网络活动历史轨迹、交易习惯、联网设备等信息，甚至还可能是性别、种族等敏感信息。此类现象大多出现在大型互联网平台的关联金融业务中，例如，2019年11月，戴维·海涅迈尔·汉森（David Heinemeier Hansson）在推特（Twitter）上宣称，苹果公司与高盛集团推出的Apple Card信用卡服务算法歧视了他的妻子，因为虽然他和妻子结婚多年且共用银行和其他信用卡账户，但Apple Card给他的信用额度是妻子的十倍多。此举引发了许多用户的共鸣，抱怨女性的Apple Card信用额度低于男性。尽管2021年3月纽约州金融服务局发布报告称Apple Card不存在非法歧视，但同时也承认信贷系统本身仍存在歧视现象（美国信用评分系统对白人男性给予优待）。在我国，“大数据杀熟”近年来持续引发热议，投诉集中在网络购票、游戏抽奖、打车等领域，在金融消费方面也不鲜见。例如，2018年小米公司接到429起关于P2P的投诉，投诉人称小米在其各类平台上以“米粉专享”“米粉任务”形式针对VIP用户推荐P2P产品并造成用户损失，涉及总金额约4亿元。
针对第三方的算法歧视。该种行为主要表现为不公平的排序、限定交易等，是平台针对提供金融服务和产品的机构实施算法歧视而间接减损了消费者权益的情况。相对于直接针对消费者个体的算法歧视，该种行为不区分具体受众，显然会产生更大的影响力和不良后果。比如，2015年2月媒体报道的微信封杀支付宝红包事件，许多用户反映通过微信公众平台开设的店铺无法继续使用支付寶收付款，即被受众质疑平台涉嫌限定支付方式。另外，在排序策略方面饱受争议的百度竞价排名业务，自“魏泽西事件”后曝光于公众视野，并在互联网金融高速发展后被许多P2P机构所用。例如，媒体曾报道在百度搜索某中等规模的P2P平台时，搜索结果的前8条全部是其他P2P平台的推广信息，并且有5条信息虽然在链接文字上标注某中等规模的P2P平台字样，但点击进去却跳转到其他P2P平台。上述行为在被质疑不正当竞争、垄断的同时，也涉嫌侵害了金融消费者的知悉真情权以及自主选择权。
保护金融消费权益的路径探索 在法律规制方面，除普适性维护消费者权益的民法典、消费者权益保护法等法律外，近年来我国网络法治的专门立法不断完善，尤其在较高法律层级对消费者个人信息数据安全加强规制。涉及到的立法有网络安全法、数据安全法以及已经进入立法程序的个人信息保护法（草案）。具体到金融消费权益领域，主要的规章有《中国人民银行金融消费权益保护实施办法》《银行业保险业消费投诉处理管理办法》等，且《中国人民银行金融消费权益保护实施办法》第四十条明确将“通过电子商务、网络交易购买、使用金融产品或者服务的”金融消费者纳入保护范围。
在监管互联网平台行为方面，除适用反垄断法、反不正当竞争法、价格法等法律外，2021年2月7日，国务院反垄断委员会印发了《国务院反垄断委员会关于平台经济领域的反垄断指南》（以下简称《指南》），虽然不属于立法文件，但对平台经济下的垄断行为明确了执法规则，是实施监管的重要依据。《指南》中对平台相关概念的界定、滥用市场支配地位的认定、不公平价格行为的认定、差别待遇的认定等内容，都与金融消费者的切身利益密切相关，在一定程度上有利于消费者免受平台算法歧视之害。
总体来说，可以看到我国立法对网络安全、个人信息安全、平台经济监管方面关注度较高，法治进程明显加快，已在逐步落实《法治社会建设实施纲要（2020～2025年）》提出的“建立健全网络综合治理体系”要求。不过，由于相关立法实施时间尚短或还处于立法程序中，其应用情况和执法效果仍有待在实践中接受检验。为进一步探索行之有效的算法歧视治理方式，充分保护金融消费者合法权益，建议综合考虑从以下几个方面强化规制。
加强立法保障。与其他领域一样，立法保障是最根本的保障。虽然当前我国在网络安全、个人信息安全、平台经济监管方面立法进程较快，但其中涉及算法歧视问题的极少。算法具有技术性和隐蔽性，许多情况下还属于被依法保护的知识产权，其属性决定了不宜对算法本身进行过度审查。因此，建议立法从算法设计应遵循的公平原则、算法应用不得产生的损害后果两方面来预防和纠正算法歧视问题，从立法层面明确遏制算法歧视。
开展综合监管。在大型互联网平台泛金融化的当下，传统的监管模式也面临变革，有学者将其概括为“传统的以中心化和实体化为主的金融监管秩序面临着以去中心化和数字虚拟化为表征的金融业务的挑战”。此种情况下，单纯的行业监管在执法力度和效果上都显得较为乏力。为有效保护金融消费者权益，建议建立金融监管与反垄断监管相补充、相结合的综合监管模式，从维护金融稳定和良好的市场竞争秩序两方面共同规制算法歧视问题。
實行行业自律。随着平台经济的发展，头部平台资源聚集加剧，大型互联网平台的垄断问题越来越受到重视，而垄断行为则是滋生算法歧视的温床。创新赋予了平台经济发展的强大活力，因此行政机关在进行监管时往往面临着矫枉过正的风险，仅依赖强监管手段难免会造成过多的束缚，并且许多平台的技术壁垒也造成了监管的失效。因此，实施行业自律是互联网平台的必要治理措施。在多部门共同行政指导推动下，截至2021年4月，已有百度、京东、字节跳动、拼多多、美团、腾讯、滴滴、快手、哔哩哔哩等20多家平台企业发布了合规经营承诺，承诺书中将个人信息保护、反垄断、反不正当竞争作为重点，其中明确提到算法问题的仅有4家，这也表明平台企业尚未充分意识到或尚未承认算法歧视的危害性，应结合实际进一步扩充行业自律的内容，自发规范行业秩序。
（作者单位：中国人民银行佳木斯市中心支行）