论文部分内容阅读
我国既有的一些法律法规已经将“深度伪造”涵盖其中，如《个人信息保护法》《数据安全法》《民法典》人格权编等，正在制订中的《数据安全管理办法》对此也会予以回应。在已有的立法中，很多关于“不实信息”“虚假广告”的立法均可以扩大解释，作为规制“深度伪造”的法律依据，如《治安管理处罚法》第25条、《广告法》第4条及第28条、《刑法》第291条等。
尽管不必急于针对“深度伪造”进行统一的专门性立法，但并不妨碍我国政府根据国内的实际情况，参照国外经验，从以下两个方面完善因应“深度伪造”的法律框架。
从规制空间的角度看，对“深度伪造”的规制本质上可以纳入广泛意义上的互联网规制。从历史沿革来看，互联网规制大致经历了三个阶段，分别是20世纪90年代的自我规制、21世纪初的重新规制以及自2005年开始的合作规制。
一般认为，合作规制是一种可执行的、严格的规制模式，它可以在强化政府规制的同时，发挥自我规制的灵活性;可以在保护公民合法权益的同时，适应科学技术的不断发展。因此，就“深度伪造”的规制模式而言，应当选择合作规制，共同发挥政府、公司和行业的作用。
虽然“深度伪造”处于整个互联网大环境中，但是其运作原理和载体的核心是算法。因此，首先应当明确政府部门的算法监管职责。我国《电子商务法》第18条、第40条首次对网络平台的算法责任进行了规定，它体现了立法者对算法的地位和作用的合理认知，也将风险预防原则融入网络平台治理，变“事后监管”为“事前监管”。
然而，上述法条依然存在不够具体、实践操作困难等问题。换言之，对于未履行算法责任的网络平台，执法部门难以进行有效的监督。
有鉴于此，应当建立算法问责制。在《个人信息保护法》或《数据安全法》中，应明确政府部门的算法监管职责，作为行政机关对“深度伪造”等算法进行规制的一般性依据。
社交媒体平台的快速发展，加剧了“深度伪造”信息的传播。社交媒体具有的“匿名”或“杜撰身份”的特征，对于计划利用互联网刻意散播“深度伪造”假信息的“有心人”来说，大幅降低了其散播“深度伪造”信息的成本;通过社交媒体平台的分享功能，这类信息能够快速且大量地传播，亦令行动迅速且有实效性的监管机制难以建立。因此，网络平台在“深度伪造”规制体系中的地位越发突出。然而，关于政府是否应当以及如何规制社交媒体平台的“虚假信息”問题，目前各界尚未形成共识。
我国《网络安全法》第47条规定，网络运营者对其用户发布的信息负有监督管理责任，一旦发现法律、行政法规禁止发布或传输的信息，应当立即停止传输该信息，并采取删除等措施。《网络安全法》第49条还规定，网络运营者应当建立举报制度，公布投诉、举报方式等信息。
《网络安全法》的规定为网络平台对“深度伪造”信息的管理提供了依据。在此基础上，应当进一步细化网络平台的三项义务：一是“通知—删除”义务。网络平台接到受害人的举报后，应当在规定时间内对明显违法的“深度伪造”信息进行删除;二是“发现—删除”义务。网络平台应当主动对其用户发布的“深度伪造”信息进行核查，对于明显违法的，应当予以删除;三是“发现—标记”义务。网络平台应当主动对其用户发布的“深度伪造”信息进行核查，对于难以确定合法性的“深度伪造”信息，应当予以明确标记，提醒公众注意。
所谓自我规制，即利用社会私人主体的自律性行为间接达成规制目的，用以协助国家完成公共任务。换言之，当大量公司和个人对其行为施加控制时，就会形成自我规制。一般情况下，是否将自我规制的要素纳入政府规制框架，主要取决于对专业知识和效率的考虑。
纯粹的自我规制，往往在授权、问责制和程序公平等相关问题上受到质疑。
一度风靡的“换脸”软件“ZAO”
有鉴于此，有学者提出“强制性自我规制”，即利用透明度、责任、目标性、一致性等规制因素来弥补纯粹的自我规制的不足，同时取代传统的命令和控制型规制。欧盟近年来在个人数据保护、不实信息消除等领域都引入了“强制性自我规制”。
我国可以以此为鉴，发挥行业在“深度伪造”规制框架中的作用，通过行业共识制定一些行为准则或倡议，约束技术人员及私营企业的行为，提高规制的有效性及效率。
例如，2019年5月25日，由多家高校、研究机构、企业联盟共同发布的《人工智能北京共识》，以及2019年6月17日，由国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》等，都是行业在加强自我规制方面的努力和探索成果。
规制工具的多元化，是合作规制的重要特征之一。“深度伪造”影响深远，单纯依靠行政处罚等传统“事后监管”手段恐难奏效。因此，在保留行政处罚等刚性手段的同时，适当引入技术性规制、行政约谈、信用规制等柔性手段，可以涵盖事前、事中和事后各阶段，实现对“深度伪造”的全周期规制。
就“深度伪造”的技术规制而言，目前可行的策略主要体现在两个方面：其一，建立系统性的“事实核查机制”。所谓“事实核查机制”，是指通过媒体、独立机构等非政府组织，配合网络科技（算法、大数据、AI、云计算等）搜索公开信息及访查可靠信息来源，审视网络言论，特别是公众人物、网红大V等的公开发言，判断其内容是否真实。事实核查可以在作品发布或以其他方式公开之前进行，也可以在作品发布之后进行。 目前，国际上比较有代表性的第三方事实核查机构是“PolitiFact”，该机构的记者对原始声明进行评估，并在PolitiFact.com网站上公布他们的调查结果。在PolitiFact.com网站上，每一份声明都会获得“Truth-O-Meter”评级。
目前，一些社交媒体公司也建立了事实核查机制。例如，美国“脸书”为应对“虚假信息”建立了四种机制：FactCheck.org（通过第三方国际机构核查网站信息的真实性）、News Literacy（辨识不实报道的10个原则）、Informed Sharing（若发现文不对题的新闻或帖文，就降低其在“脸书”信息流上的排序）、Related Articles（发布一则新闻时，提供至少两则相关新闻的链接）。我国可以以此为鉴，在法治框架内，完善不同类型的事实核查机制。
其二，开发专门的“深度伪造”辨识技术。“深度伪造”的辨识是规制框架中的核心部分。只有辨识出“深度伪造”内容，才能进一步采取相应的应对措施。目前，美国一些官方机构、民间组织、私营企业都在开发“深度伪造”辨识技术。我国也面临“深度伪造”造成的威胁，相关技术的发展应当引起政府部门、私營企业和科研机构的高度重视。
行政约谈作为一种柔性规制工具，近年来随着互联网技术的快速发展，逐渐成为互联网信息规制的重要工具。一方面，行政约谈在制度理念上体现了“回应性规制”，即按照规制工具的威慑效力，依循“执法金字塔”自下而上逐级选择;另一方面，行政约谈成为政府规制机构传递规制信息的工具，并将部分规制责任“分包”给互联网平台。
在实践中，我国政府的规制机构已经将行政约谈引入“深度伪造”规制。例如，名为“ZAO”的AI换脸App在全社会引发热议之时，我国工业和信息化部网络安全管理局就对“ZAO”的运营公司进行了问询约谈，要求其开展自查整改，强化个人信息保护。未来，我国可以总结行政约谈的经验教训，完善行政约谈的程序机制、监督机制及救济机制，发挥其在“深度伪造”规制中的作用。
“深度伪造”技术本身涉及诚信问题，其不当使用很有可能加剧社会诚信危机。当前，我国正在进行社会信用体系建设。一方面，利用信用工具来应对社会诚信危机;另一方面，借助信用工具来规范和加强“事中、事后监管”。
信用工具是政府规制机构在履行职责的过程中，通过收集公民、法人或其他组织的公共信用信息，对信用状况进行评价，并将结果予以公开和使用，以实现规制目标的规制工具。未来，若个人、法人或其他组织滥用“深度伪造”技术，并引发较大的法律风险，政府规制机构在法治框架内可以考虑将其纳入信用评价范畴，利用信用工具对其予以规制。
尽管不必急于针对“深度伪造”进行统一的专门性立法，但并不妨碍我国政府根据国内的实际情况，参照国外经验，从以下两个方面完善因应“深度伪造”的法律框架。
规制模式的选择
采用“政府 公司 行业”的合作规制模式。
从规制空间的角度看，对“深度伪造”的规制本质上可以纳入广泛意义上的互联网规制。从历史沿革来看，互联网规制大致经历了三个阶段，分别是20世纪90年代的自我规制、21世纪初的重新规制以及自2005年开始的合作规制。
一般认为，合作规制是一种可执行的、严格的规制模式，它可以在强化政府规制的同时，发挥自我规制的灵活性;可以在保护公民合法权益的同时，适应科学技术的不断发展。因此，就“深度伪造”的规制模式而言，应当选择合作规制，共同发挥政府、公司和行业的作用。
一是完善政府的算法监管职责。
虽然“深度伪造”处于整个互联网大环境中，但是其运作原理和载体的核心是算法。因此，首先应当明确政府部门的算法监管职责。我国《电子商务法》第18条、第40条首次对网络平台的算法责任进行了规定，它体现了立法者对算法的地位和作用的合理认知，也将风险预防原则融入网络平台治理，变“事后监管”为“事前监管”。
然而，上述法条依然存在不够具体、实践操作困难等问题。换言之，对于未履行算法责任的网络平台，执法部门难以进行有效的监督。
有鉴于此，应当建立算法问责制。在《个人信息保护法》或《数据安全法》中，应明确政府部门的算法监管职责，作为行政机关对“深度伪造”等算法进行规制的一般性依据。
二是强化网络平台的法律责任。
社交媒体平台的快速发展，加剧了“深度伪造”信息的传播。社交媒体具有的“匿名”或“杜撰身份”的特征，对于计划利用互联网刻意散播“深度伪造”假信息的“有心人”来说，大幅降低了其散播“深度伪造”信息的成本;通过社交媒体平台的分享功能，这类信息能够快速且大量地传播，亦令行动迅速且有实效性的监管机制难以建立。因此，网络平台在“深度伪造”规制体系中的地位越发突出。然而，关于政府是否应当以及如何规制社交媒体平台的“虚假信息”問题，目前各界尚未形成共识。
我国《网络安全法》第47条规定，网络运营者对其用户发布的信息负有监督管理责任，一旦发现法律、行政法规禁止发布或传输的信息，应当立即停止传输该信息，并采取删除等措施。《网络安全法》第49条还规定，网络运营者应当建立举报制度，公布投诉、举报方式等信息。
《网络安全法》的规定为网络平台对“深度伪造”信息的管理提供了依据。在此基础上，应当进一步细化网络平台的三项义务：一是“通知—删除”义务。网络平台接到受害人的举报后，应当在规定时间内对明显违法的“深度伪造”信息进行删除;二是“发现—删除”义务。网络平台应当主动对其用户发布的“深度伪造”信息进行核查，对于明显违法的，应当予以删除;三是“发现—标记”义务。网络平台应当主动对其用户发布的“深度伪造”信息进行核查，对于难以确定合法性的“深度伪造”信息，应当予以明确标记，提醒公众注意。
三是发挥行业的自我规制作用。
所谓自我规制，即利用社会私人主体的自律性行为间接达成规制目的，用以协助国家完成公共任务。换言之，当大量公司和个人对其行为施加控制时，就会形成自我规制。一般情况下，是否将自我规制的要素纳入政府规制框架，主要取决于对专业知识和效率的考虑。
纯粹的自我规制，往往在授权、问责制和程序公平等相关问题上受到质疑。
有鉴于此，有学者提出“强制性自我规制”，即利用透明度、责任、目标性、一致性等规制因素来弥补纯粹的自我规制的不足，同时取代传统的命令和控制型规制。欧盟近年来在个人数据保护、不实信息消除等领域都引入了“强制性自我规制”。
我国可以以此为鉴，发挥行业在“深度伪造”规制框架中的作用，通过行业共识制定一些行为准则或倡议，约束技术人员及私营企业的行为，提高规制的有效性及效率。
例如，2019年5月25日，由多家高校、研究机构、企业联盟共同发布的《人工智能北京共识》，以及2019年6月17日，由国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》等，都是行业在加强自我规制方面的努力和探索成果。
规制工具的运用
采用“技术 约谈 信用”的复合规制工具。
规制工具的多元化，是合作规制的重要特征之一。“深度伪造”影响深远，单纯依靠行政处罚等传统“事后监管”手段恐难奏效。因此，在保留行政处罚等刚性手段的同时，适当引入技术性规制、行政约谈、信用规制等柔性手段，可以涵盖事前、事中和事后各阶段，实现对“深度伪造”的全周期规制。
一是利用技术进行规制。
就“深度伪造”的技术规制而言，目前可行的策略主要体现在两个方面：其一，建立系统性的“事实核查机制”。所谓“事实核查机制”，是指通过媒体、独立机构等非政府组织，配合网络科技（算法、大数据、AI、云计算等）搜索公开信息及访查可靠信息来源，审视网络言论，特别是公众人物、网红大V等的公开发言，判断其内容是否真实。事实核查可以在作品发布或以其他方式公开之前进行，也可以在作品发布之后进行。 目前，国际上比较有代表性的第三方事实核查机构是“PolitiFact”，该机构的记者对原始声明进行评估，并在PolitiFact.com网站上公布他们的调查结果。在PolitiFact.com网站上，每一份声明都会获得“Truth-O-Meter”评级。
目前，一些社交媒体公司也建立了事实核查机制。例如，美国“脸书”为应对“虚假信息”建立了四种机制：FactCheck.org（通过第三方国际机构核查网站信息的真实性）、News Literacy（辨识不实报道的10个原则）、Informed Sharing（若发现文不对题的新闻或帖文，就降低其在“脸书”信息流上的排序）、Related Articles（发布一则新闻时，提供至少两则相关新闻的链接）。我国可以以此为鉴，在法治框架内，完善不同类型的事实核查机制。
其二，开发专门的“深度伪造”辨识技术。“深度伪造”的辨识是规制框架中的核心部分。只有辨识出“深度伪造”内容，才能进一步采取相应的应对措施。目前，美国一些官方机构、民间组织、私营企业都在开发“深度伪造”辨识技术。我国也面临“深度伪造”造成的威胁，相关技术的发展应当引起政府部门、私營企业和科研机构的高度重视。
二是利用行政约谈进行规制。
行政约谈作为一种柔性规制工具，近年来随着互联网技术的快速发展，逐渐成为互联网信息规制的重要工具。一方面，行政约谈在制度理念上体现了“回应性规制”，即按照规制工具的威慑效力，依循“执法金字塔”自下而上逐级选择;另一方面，行政约谈成为政府规制机构传递规制信息的工具，并将部分规制责任“分包”给互联网平台。
在实践中，我国政府的规制机构已经将行政约谈引入“深度伪造”规制。例如，名为“ZAO”的AI换脸App在全社会引发热议之时，我国工业和信息化部网络安全管理局就对“ZAO”的运营公司进行了问询约谈，要求其开展自查整改，强化个人信息保护。未来，我国可以总结行政约谈的经验教训，完善行政约谈的程序机制、监督机制及救济机制，发挥其在“深度伪造”规制中的作用。
三是利用信用工具进行规制。
“深度伪造”技术本身涉及诚信问题，其不当使用很有可能加剧社会诚信危机。当前，我国正在进行社会信用体系建设。一方面，利用信用工具来应对社会诚信危机;另一方面，借助信用工具来规范和加强“事中、事后监管”。
信用工具是政府规制机构在履行职责的过程中，通过收集公民、法人或其他组织的公共信用信息，对信用状况进行评价，并将结果予以公开和使用，以实现规制目标的规制工具。未来，若个人、法人或其他组织滥用“深度伪造”技术，并引发较大的法律风险，政府规制机构在法治框架内可以考虑将其纳入信用评价范畴，利用信用工具对其予以规制。