田宏杰:AI换脸技术的失控风险与法律规制 | 法治社会202401

新闻

作者：微信文章
【作者】田宏杰（中国人民大学法学院暨刑事法律科学研究中心教授，博士生导师）

【来源】北大法宝法学期刊库《法治社会》2024年第1期（文末附本期期刊目录）。因篇幅较长，已略去原文注释。



内容提要：AI换脸技术在社交媒体上愈益广泛使用，很多网络用户将其作为娱乐新方式，从而有可能引发一系列失控风险。相比于欧盟、美国等侧重从隐私权保护的角度予以规制，我国法律认为，根据违法行为所侵犯的客体不同，AI换脸视频可能侵犯他人的肖像权、个人信息以及知识产权等民事权利，滥用AI换脸实施诈骗、盗窃、制造淫秽物品等，则可能违反刑法。根据中国互联网实际，区分AI换脸视频的不同应用场景，分析其可能涉及的法律风险，为AI换脸技术的合理发展提供合规建议。

关键词：AI换脸；侵权风险；法律规制

目次
引言

一、AI换脸的制作方法、应用场景及其“双刃剑”效应

二、民事侵权法视角下的AI换脸

三、刑法视角下的AI换脸

结论

引言

　　72变为中国知名神话小说《西游记》中主人公孙悟空的特殊本领，其可以变化为多种外形，从而使他人无法识别，他的这一神技在中国可谓家喻户晓。在互联网环境下，当这种神技为每个人所享有，人人都能切换自己与他人的肖像时，这对法治秩序到底是幸运还是不幸？2019年9月，一款名为“Zao”的AI换脸软件走红中国社交媒体，用户上传个人照片后可“一键”进入明星出演的相关影视片段中，生成带有自己肖像的新视频，同时还能制作表情包。一些网络用户频频使用此类AI换脸技术，制作、发布换脸视频，甚至一些影视剧制作商也由于合规要求，对于因各种原因无法出镜的演员，在已经制作完成的影视剧中使用该技术，力图使影视剧合法播放。

　　对于AI换脸技术所造成的可能侵权后果，法学界虽然已经有所意识，但由于实际发生的纠纷较少，对于AI换脸的法律风险研究并不十分深入。但这并不意味着AI换脸技术不具有任何法律风险，该技术背后的隐私权、肖像权等民事侵权与利用他人肖像制作淫秽物品等刑事法律问题应当引起关注。本文首先对AI换脸视频在中国互联网常见的应用场景予以介绍；随后，根据我国现行法律就AI换脸视频涉及的可能侵犯隐私权、肖像权、版权等民事侵权问题予以分析；最后，对利用AI换脸技术制作淫秽视频、欺诈、盗窃等刑事犯罪问题进行分析。

一AI换脸的制作方法、应用场景及其“双刃剑”效应

　　AI换脸视频的制作流程一般为：类似于“Zao”的换脸视频APP应用或网站通过提供知名影视剧/MV等视频，或者知名人物的照片/视频等作为素材样本库，通过用户拍摄或上传的照片采集面部相貌特征数据，利用AI换脸技术产出所谓“换脸视频”。AI技术通过收集素材样本中人物的声音、头饰、服装、肢体语言、眼神、面部表情等信息，经过反复的学习和训练，最后能够依据原视频中人物的脸部、声音、表情等因素，制作出采用用户上传的人物脸部形象的“新视频”。

　　具体过程如下：我们将原视频中的人物面部信息简称为face A，将要被替换人物的面部信息简称为face B。

　　（1）人脸侦测和识别。首先要让机器通过含有face A的视频定位并识别到其中的人脸特征值，通过深度学习将face A还原到正面、平行均匀光照、标准亮度的场景下。然后对含face B的视频进行相同操作，将face B也还原到正面、平行均匀光照、标准亮度的场景下。

　　（2）确定变换矩阵。对原视频的人脸信息进行定位与侦测，并进行特征提取（以下简称feature A），然后对比feature A与face A，找出face A转换到feature A的所需扭曲、光照等变换的矩阵（以下简称transfer A）。

　　（3）人脸替换。对face B进行基于transfer A的变换，也就是把face B还原到原视频的拍摄角度及光源场景下，形成新的人脸信息feature B，使用feature B对feature A进行替换。

　　（4）对视频中的每一帧信息重复以上操作直至结束。

　　在中国社交网站，AI换脸视频常见的使用情形为以下三种：

　　（1）网络用户将影视剧中的演员相貌替换为用户的脸部特征。

　　（2）将自己拍摄或制作的一段视频，替换成知名人物的脸；或者将知名人物的脸替换到不雅视频中，诱导公众产生混淆。

　　（3）将影视剧中A知名人物的脸替换为B知名人物的脸。

　　实际上，AI换脸技术本身并不有害，但如果将AI换脸使用在错误的用途上，却可能会给社会带来巨大灾难，存在“双刃剑”的效应。

　　（一）有益的用途

　　换脸技术早已被运用于电影行业。其中最著名的例子可能就是《速度与激情7》的主演不幸在拍摄期间因意外去世，影片的技术团队利用换脸技术塑造主演的面部特征，保证了电影的完整性。《星球大战》系列也曾因为主演离世而不得不使用AI换脸技术。这些技术无疑为电影行业提供了便利，使他们不用在演员发生意外时重新拍摄。另外，这项技术也可以保持角色长青，拍摄者可以通过AI换脸来延续角色，而无须受到演员的桎梏。

　　AI换脸在电影业之外也有可以使用的地方，比如博物馆可以通过AI换脸，让历史人物将自己的故事娓娓道来等。AI换脸技术本身有许多合理用途，并非必然是坏的用途。

　　（二）有害的用途

　　AI换脸也可能被使用在错误的领域，并且对个人或者社会造成损害。比如，使用AI换脸发表不当言论或者制作淫秽影片都有可能损害个人名誉权。AI换脸还有可能被用于欺诈，比如用AI换脸后进行人脸支付或者找熟人借钱。特别的，对于法院来说，可能还需要特别警惕利用AI换脸制作的虚假证据。

二民事侵权法视角下的AI换脸

　　（一）AI换脸与隐私权、个人信息权

　　在美国，学者普遍认为隐私权有潜力成为受害者对抗AI换脸侵权时的有力武器，也有学者认为，因为AI换脸产生的视频并非真实，所以很难构成对私人信息的侵犯。但是，鉴于AI换脸未经许可制作了受害人的影片，受害人本人并没有作出过影片中的陈述，因此通过AI换脸产生的影片自然是对受害人的扭曲。受害人依据州法律以诽谤或者扭曲事实等理由提起诉讼可能会有较大的诉讼优势。

　　对于隐私权，中国立法较晚，2010年施行的《中华人民共和国侵权责任法》第一次将隐私权作为独立的人格权予以规定。2020年5月颁布的《中华人民共和国民法典》（以下简称《民法典》）第一千零三十二条规定：“自然人享有隐私权。任何组织或者个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。隐私是自然人的私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息。”

　　根据上述规定，单就脸部形象而言，脸部形象是否应当直接认定为个人隐私在中国存在争议，反对观点提出下列理由：

　　首先，脸部形象本身并不属于隐私个人信息。除防疫需要戴口罩、宗教信仰等特殊原因，在中国日常社会生活中，人们的脸部形象一般都是自然裸露，而非遮蔽。这种自然裸露的形式显然与隐私个人信息的秘密性相悖。

　　其次，仅仅具有脸部形象并不能识别出具体的个体。如果不借助公安机关的侦查技术手段，仅仅具有脸部形象难以识别具体个体。

　　最后，对于公众人物而言，一般情况下，其脸部形象为人们广泛知晓和关注，且能从社会中得到诸如代言、广告等较大利益。因此，从某种程度上，能够被越来越多的人熟知其脸部形象，反而符合其利益取向，这也与隐私信息的秘密性相反。

　　上述观点如果仅从脸部形象本身来看，具有一定的合理性。但是如果脸部形象能够被识别，甚至其作为电子支付的验证方式时，脸部形象就脱离了公共空间，进入了更为私密的私人空间。在上述情况下，完全拒绝将脸部形象认定为个人信息，将面临网络用户个人信息泄露的风险。因此，虽然脸部形象并不必然属于个人隐私，但其仍属于个人信息的保护范畴。因此，首先有必要阐释中国法律中的隐私权与个人信息权保护之间的区别。

　　根据中国民法理论，从权利内容来看，隐私强调对于个人的私密信息和活动、空间等不为外人所知晓、不被擅自公开，包含的内容大多是具有私密性的个人信息。个人信息权主要是指对个人信息的支配和自主决定，包括个人对信息被收集、利用等的知情权，以及自己利用或者授权他人利用的决定权等内容，即便对于可以公开且必须公开的个人信息，个人应当也有一定的控制权。因此，我国法律隐私权制度的重点在于防范个人秘密不被非法披露，注重事后救济，并不在于保护这种秘密的控制与利用；而个人信息权的保护则更加注重预防，保护方式则呈现多样性和综合性，尤其是可以通过行政手段对其加以保护，例如，对非法储存、转让他人个人信息的行为，执法机关可予以行政处罚。根据上述区别，通过隐私权保护脸部肖像存在一定争议，而通过个人信息予以保护具有可行性，也能起到更好的保护效果。

　　2020年《民法典》亦遵循上述法理，第一千零三十四条规定：“个人信息中的私密信息，适用有关隐私权的规定；没有规定的，适用有关个人信息保护的规定。”该规定为通过个人信息保护脸部信息建立了规范基础。

　　行政管理方面，中国互联网监管机构已经对AI换脸APP应用或者网站的违规行为实施行政执法活动，前述的“Zao”即为典型案例。2019年“Zao”用户协议明确表示：“如果您把用户内容中的人脸换成您或其他人的脸，您同意或确保肖像权利人同意授予‘Zao’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利，包括但不限于人脸照片、图片、视频资料等肖像资料中所含的您或肖像权利人的肖像权，以及利用技术对您或肖像权利人的肖像进行形式改动。”

　　这一用户协议实际上是要求用户将自己的肖像资料完全让渡出去，且“Zao”将用户脸部信息许可给第三方使用时，无须取得用户的授权，这显然跨过了企业合理使用用户脸部形象的边界，涉嫌侵犯用户的个人信息。况且，不同于一般的个人信息，人的面部识别信息更敏感，这就意味着，通过人脸与其他身份信息关联，将使网络用户的身份证明信息都面临着巨大的风险。该网络用户协议曝光后，很快遭到中国网络社交媒体的抨击，随后中国互联网监管部门约谈了该企业，该APP也随之下架。

　　司法审理方面，2019年11月20日，被称为中国“人脸识别第一案”的浙江理工大学特聘副教授郭某诉杭州野生动物世界有限公司一案进行了开庭审理。受理法院邀请了部分人大代表、政协委员及社会各界人士旁听庭审，根据法院的工作惯例，这表明法院高度重视该案件，而案件审理长达4个多小时，也从侧面印证了本案的重要性和典型意义。

　　该案中，2019年4月27日，原告在被告处办理了一张双人年卡，可在一年有效期内，同时通过年卡及指纹不限次数入园。2019年10月17日，原告收到杭州野生动物世界的短信，提示其园区年卡系统已升级为人脸识别，原指纹识别已取消，未注册人脸识别的用户将无法正常入园。原告认为人脸信息属于敏感个人信息，不同意接受人脸识别，要求被告退还费用。双方协商未果后，原告提起诉讼。庭审中，被告认为其是在原告知情同意的情况下收集个人信息的，双方订立的服务合同合法有效。由于《中华人民共和国个人信息保护法》当时正在研究起草中，该案对于脸部肖像作为个人信息受到法律保护发挥了重要的推动作用。

　　（二）AI换脸与知识产权

　　美国法中，著作权的所有人一般是指影片的拍摄者，这意味着在照片或者影片中出镜的受害人并不一定享有著作权，不能通过著作权法进行维权。即使受害人拥有著作权并据此起诉，法院仍需要个案判断对于著作权的使用是否属于合理使用。美国的一些州尝试使用立法来解决AI换脸与知识产权的冲突。如2018年纽约州议会通过法案，宣布在未经他人同意的情况下创建某人的数字副本是欺诈行为，可能会予以罚款或者禁令。而在中国，AI换脸视频其实也与知识产权之间存在潜在冲突。

　　1.侵犯知名人物表演者权的情形

　　2023年《中华人民共和国著作权法》（以下简称《著作权法》）保护表演者基于对作品表演而产生的权利，该权利包括表演者在作品表演中的形象不受到歪曲。在中国，侵犯表演者权的案件数量相对较少，而且主要以侵犯表演者表明身份的权利为主，对于歪曲表演形象的侵权案件则更为少见。但AI换脸视频未来将可能极大地改变此类案件的现状。

　　如果在换脸视频中将知名人物的脸部替换成他人的脸部，但仍然保留表演者的面部表情、眼神、肢体语言等表演行为，未经许可制作、传播换脸视频，可能导致观众无法通过换脸视频识别原表演者，或者虽然能够识别原表演者但其对此类行为持有贬损的态度，从而歪曲、丑化原表演者的表演形象，可能侵犯知名人物享有的表演者权。

　　此外，在一些换脸视频中，知名人物的表演形象受到严重歪曲或者未标明表演者身份，同样涉嫌侵犯表演者权。

　　2.侵犯影视作品的网络信息传播权、修改权或保护作品完整权之情形

　　换脸视频除了涉及知名人物本人的人格权和邻接权，还同时使用了影视剧片段等，因此，根据《著作权法》，也可能侵犯影视剧制片方的网络信息传播权、修改权或保护作品完整权等著作权。

　　首先，换脸视频的发布和传播可能侵犯著作权人就影视作品享有的信息网络传播权。根据《著作权法》第十条规定，著作权人享有作品的信息网络传播权，即通过互联网或其他有线或者无线的信息传输网络向公众提供作品的权利，未经许可，将他人的作品上网传播、供人使用的行为构成对著作权人的信息网络传播权的侵害。实践中，已经出现了因为替代表演者，并将侵权视频上传至网络，从而造成信息网络传播权同时遭受侵权的案例。

　　在四川省高级人民法院审理的“芦某与平昌县人民政府、周某某、平昌县文化馆侵害表演者权纠纷二审”案件中，平昌县文化馆在制作MTV、向相关网站提供歌曲视频、组织四川省第五届乡村文化旅游节开幕式文艺演出活动中，使用了芦某演唱的《江口水乡》歌曲小样，而未表明芦某就是该歌曲的演唱者，且以他人替代演唱，以及许可平昌县人民政府通过其官方网站向公众传播其表演，且未支付报酬。后来经过调解，平昌县文化馆按协议约定支付赔偿款15万元，并重新为表演者拍摄了MTV。

　　因此，对视频制作用户而言，未经许可，将换脸后的影视作品片段上传至社交平台等向公众传播，可能侵犯著作权人的信息网络传播权。对换脸视频制作软件/平台而言，提供知名影视剧/影片片段作为素材，擅自通过网络提供给公众，使其可以在选定的时间和地点进行下载、浏览，也可能侵犯原作品著作权人的信息网络传播权。

　　其次，换脸视频的制作和传播亦可能侵犯著作权人的修改权。作者有权修改自己的作品，有权许可他人进行修改，也有权禁止他人修改自己的作品。当前，中国法院审理涉及侵犯修改权的案件，大多是针对文字作品的侵权，但AI换脸视频可能将改变案件类型。

　　在视听作品中，演员的脸部表情是否符合人物和剧情设定，是表达剧情的核心，而主要演员的脸部表情在很大程度上决定了该作品的成功与否。而换脸视频替换了原角色的相貌，改变了作者用以表达角色特点和剧情的载体，涉嫌擅自修改著作权人作品，侵犯其修改权。

　　最后，如果换脸视频对视听作品进行歪曲篡改，存在恶意丑化的情节，或暗讽影视作品的意味，导致原作品声誉受损，则涉嫌侵犯作品完整权。根据我国法院的传统观点，他人对作品的修改实质性地改变了作者在作品中原本要表达的思想、感情，导致作者声誉受到损害，应认定构成对作者保护作品完整权的侵犯。由此可见，“作者声誉受损”为侵犯作品完整权的构成要件。如何判定“声誉受损”一直以来困扰着法院的审判。但是值得注意的是，一些法院开始放弃“声誉受损”作为侵权要件。例如，北京知识产权法院在“陈某某与北京快乐共享文化发展有限公司等侵害保护作品完整权纠纷上诉案”中否定了一审法院“声誉受损”的判定，提出保护作品完整权“并没有‘有损作者声誉’的内容，应当认为法律对于保护作品完整权的规定不以‘有损作者声誉’为要件。另外，是否包含‘有损作者声誉’的限制，涉及权利大小、作者与使用者的重大利益，对此应当以法律明确规定为宜；在著作权法尚未明确作出规定之前，不应对保护作品完整权随意加上‘有损作者声誉’的限制”。

　　该法院在涉及中国著名电影《鬼吹灯之精绝古城》的侵害保护作品完整权纠纷中再次重申了上述观点，认为“作者的名誉、声誉是否受损并不是侵害保护作品完整权的要件……不应对该权利随意加上‘有损作者声誉’的限制。其次，即便因改动而导致作者的声誉有所降低也不能直接得出侵犯了作者保护作品完整权的结论，仍应审查是否确有歪曲、篡改的情况发生”。但上述观点仅为北京知识产权法院等少数地区法院所秉承，能否演化成为我国法院的主流观点，仍有待进一步观察。

　　（三）AI换脸与肖像权

　　美国侵权法重述第二版第625条规定：“为牟利而盗用他人姓名或肖像的，应当对其承担侵犯其隐私权的责任。”受害者还可以基于相关法律，以Wrongful Appropriation为由提起侵犯隐私权的诉讼。这项指控要成功的困难之处在于，受害者需要证明以牟利为目的，但制作者并不一定有牟利的目的。

　　中国法律持有与之相类似的观点。如果AI换脸视频中呈现的肖像仍然能够让公众直观辨认出就是某个知名人物，如成龙、李小龙，并且制作和传播该视频出于“以营利为目的”的，即满足“可识别性+盈利目的”的两项要件，则该行为可能侵犯知名人物的肖像权。

　　1.可识别性

　　根据中国法律，肖像权是肖像人对自己的肖像依法享有的制作、使用专用权和利益维护权。肖像权保护的是自然人的面部特征、相貌综合特征，能够让公众将肖像与特定的人联系起来，即可识别性。

　　最高人民法院发布的公报案例“叶某诉安贞医院、交通出版社、广告公司肖像权纠纷案”认为，“肖像的特征，除肖像与原形人在客观上相互独立成为能让人力支配的物品外，再就是具有完整、清晰、直观、可辨的形象再现性或称形象标识性……画像、照片等载体……如果载体所表现的内容，只有凭借高科技技术手段进行对比，才能确定这是某一自然人特有的一部分形象而非该自然人清晰完整的形象，一般人不能凭直观清晰辨认载体所表现的内容就是该自然人，则这一载体也不能称为该自然人的肖像。该自然人只是载体所表现内容的原形人，不是肖像人。由于这样的载体所表现的内容不构成肖像，原形人也就对这一内容不享有肖像权”。根据上述规定，法院认为涉案照片只有著名影星叶某脸上的鼻子和嘴部分，不是完整的特定人形象，这张照片不能反映特定人相貌的综合特征，不能引起一般人产生与特定人有关的思想或感情活动，不是法律意义上的肖像，故而驳回其诉讼请求。

　　因此，如果换脸视频中用户将知名人物的面容替换为自己的面容，融合了用户自身相貌，该视频实质上已经不包含知名人物的脸部相貌，相关公众也无法从面部特征直观辨认出视频中肖像属于某知名人物，那么，此类行为难以构成对知名人物的肖像权侵权。

　　反之，如将A知名人物脸替换成B知名人物脸，或者将用户自己的脸替换成知名人物的脸，或者替换后的脸仍然能够再现知名人物的相貌特征，能够使公众直观辨认出就是特定知名人物的，则该行为涉嫌侵犯知名人物的肖像权，而且影视作品中表演形象亦是知名人物肖像权的一部分，与影视作品相关著作权并不冲突。同时，为用户提供知名人物肖像素材的软件开发运营商，也可能构成共同侵权。

　　2.营利目的

　　原《中华人民共和国民法通则》（以下简称《民法通则》）第一百条规定：“公民享有肖像权，未经本人同意，不得以营利为目的使用公民的肖像。”1988年4月印发的《最高人民法院关于贯彻执行〈民法通则〉若干问题的意见》（以下简称《民通意见》）第一百三十九条规定：“以营利为目的，未经公民同意利用其肖像做广告、商标、装饰橱窗等，应当认定为侵犯公民肖像权的行为。”很明显，根据《民法通则》及《民通意见》，肖像权侵权要求是“以营利为目的”。

　　然而，在2017年颁布的《中华人民共和国民法总则》中，仅在第一百一十条笼统地规定了“自然人享有肖像权”，没有关于“以营利为目的”的规定，实质上否认了“以营利为目的”是肖像权侵权的构成要件。但在这之后，我国法院司法实践中仍然将“以营利为目的”作为肖像权侵权行为的构成要件。例如，江苏省南京市中级人民法院认为，苏州一餐饮公司未经著名影星胡某的同意，“在其经营场所椰语江南火锅店内、店外广告、海报及微信公众号的文章中使用胡某照片，利用胡某公众人物效应进行宣传，具有营利目的，其行为构成侵权”。最高人民法院在葡萄牙著名球星路易斯菲戈与大连上品堂海洋生物有限公司的肖像权纠纷中认为，大连公司“有以‘菲戈现身上品堂旗舰店成为上品堂海参推广大使’为题的图文并茂的文章等事实，客观上利用了菲戈的影响力，主观上具有宣传、销售其商品或者服务的目的，具有营利属性，存在使用菲戈的姓名和肖像的行为”。

　　2020年《民法典》明确废除了“以营利为目的”的相关内容。《民法典》第四章第一千零一十八条第一款规定：“自然人享有肖像权，有权依法制作、使用、公开或者许可他人使用自己的肖像。”显然，中国法律在逐步地突破肖像权侵权中以营利为目的的限制。然而，在《民法典》时代，“以营利为目的”仍然具有一定的重要性。首先，在行为类型上，以营利为目的擅自使用他人肖像是典型的侵害肖像权的行为之一。存在营利目的的事实情形通常会影响到合理使用这一法定豁免事由的认定。其次，营利性目的会影响肖像权侵权的法律救济效果。在行为人基于营利目的进行使用时，实践中可以以其营利的多少来衡量损失赔偿的额度。例如，在2021年1月1日《民法典》实施后，上海市第一中级人民法院明确提出：“对于摄影作品中肖像权的侵犯，一般可通过财产性损害赔偿救济，就精神损害赔偿应当严格认定。在认定精神损害赔偿时，需综合考虑肖像拍摄之目的以及商业化形式上的不同，如为公益目的或为展示自然人非商业形象的拍摄被用于商业行为，则可以酌情支持精神损害赔偿。”此外，即便是《民法典》生效之后，实践中仍有大量的案件依照《最高人民法院关于适用〈中华人民共和国民法典〉时间效力的若干规定》适用原《民法通则》的规定，此时“营利目的”仍然是肖像权侵权的法定构成要件之一。因此，在深度换脸案件中，仍有必要讨论“以营利为目的”的认定。

　　鉴于我国当前常见的换脸视频通常由普通用户或营销号上传至中国社交平台进行分享和娱乐，应当需要根据具体情况判断其是否符合“以营利为目的”：

　　（1）公司认证账号、网红、营销号等制作和传播换脸视频，有利于吸引流量、增加粉丝、增加话题度，宣传企业形象或产品，以此获取商业收益，通常可以被认定为“以营利为目的”。

　　（2）提供换脸视频制作服务的软件开发运营商，利用换脸视频服务来获得用户流量并以此获利，属于以营利为目的提供侵权服务的商业性使用。如在其软件素材中包含明星的肖像，或者在其软件使用说明、相关宣传中存在相关表述，可以证明其明知自身软件将被用于替换成明星的肖像，则涉嫌构成共同侵权。

　　（3）普通用户以自身娱乐为目的，制作传播明星的换脸视频，除非有证据证明存在营利目的，否则被认定构成肖像权侵权的可能性相对较小。虽然《民法典》正式出台后，删除了肖像权侵权中的“营利目的”要件，但由于此类行为较为普遍、危害较小，相反还可能为明星带来更多的热度和流量，因此在不存在其他恶意行为的情况下，如果社会公众人物贸然采取法律措施，可能被认为“以大欺小、欺凌弱小”，引发社会公众的抵触情绪，所以很多社会公众人物也不愿意仅仅因为网络用户个体的偶发换脸视频追究其法律责任。

三刑法视角下的AI换脸

　　（一）利用AI换脸视频制作、传播淫秽物品的刑事处罚

　　美国的一些州已在尝试通过刑事立法来规制利用AI换脸制作、传播淫秽物品的行为。2019年，弗吉尼亚州成为美国第一个禁止利用AI换脸制作、传播AI换脸淫秽作品的州。该州法律规定，未经同意散布“虚假制作”的露骨图像或录像为1级轻罪，可处以最高一年的监禁和2500美元的罚款。加利福尼亚州也在同年10月通过类似法案，允许AI换脸制作淫秽物品的受害者向制作或者传播淫秽物品的人提起诉讼。

　　我国历来对网络淫秽视频持严厉打击的执法态度。为此，1997年《中华人民共和国刑法》第三百六十三条规定：“以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。”2010年《最高人民法院、最高人民检察院关于办理利用互联网、移动通讯终端、声讯台制作、复制、出版、贩卖、传播淫秽电子信息刑事案件具体应用法律若干问题的解释（二）》（法释〔2010〕3号）中规定，“制作、复制、出版、贩卖、传播淫秽电影、表演、动画等视频文件十个以上的”，即可构成上述罪名。因此，该罪入罪门槛相对较低。

　　如果通过AI换脸技术所形成的视频含有被我国法律所认定的淫秽、色情等内容，将有可能被认定为淫秽物品，只要制作、传播10个以上的视频文件，就可被依法认定为制作、复制、出版、贩卖、传播淫秽物品牟利罪，并根据犯罪事实情节的轻重，对其处以不同的刑事处罚，最高甚至可以达到无期徒刑。

　　实际上，在中国社交媒体上，仍有机会购买通过AI换脸技术合成的淫秽视频，而且价格非常低廉，且视频涉及多位知名女明星。当前尚未有AI换脸技术合成淫秽视频的公开案例，但我国法院对此类犯罪历来持严厉惩治态度。例如，广西壮族自治区贺州市八步区法院对于仅获利2600元人民币的被告人，判处其有期徒刑7年，并处罚金人民币1万元。

　　由于中国社会相较于西方社会较为保守，在西方社会认为可能只是尺度较大，但并不属于淫秽内容的，在中国仍有可能被认定属于淫秽、色情内容。最佳的参照标准是中国国家广播电视总局对于引进外国电影、电视剧所采取的审查标准，遵循上述标准才可能符合中国一般公众与政府机关的可接受期待。

　　此外，如果淫秽视频中侮辱公众人物，社会影响较大，且对其造成严重负面评价的，该个人可以以侮辱、诽谤案提起刑事自诉。但根据中国实践来看，自诉案件获得人民法院支持的难度较大，刑事法官可能规劝其选择民事程序解决双方诉争。

　　（二）利用AI换脸视频进行诈骗的刑法规制

　　由于我国刷脸支付已经较为普遍，换脸技术是否会增加刷脸支付的欺诈风险曾引发社会担忧。为此，我国第三方支付平台“支付宝”表示，“刷脸支付”采用的是3D人脸识别技术，在进行人脸识别前，也会通过软硬件结合的方式进行检测，运用生物特征采集，判断是否为照片、视频或者软件模拟生成的，从而能有效地避免各种人脸伪造带来的身份冒用情况。此外，在支付之前需要进行身份信息核实，输入验证码等进一步提高了安全性。“Zao”这一换脸视频软件运营商也发表声明，其不会产生支付风险，“仅通过一张照片实现的‘换脸’技术完全无法突破刷脸支付的安全系统”。但上述情形只适用现有技术，未来随着换脸视频技术的逐步发展，其与“刷脸支付”的安全系统之间“矛与盾”的竞争关系将进一步突出。

　　此外，AI换脸也可能被用于其他普通诈骗。骗子首先通过大数据筛选受骗人群，通过分析公众发布在网上的各类信息，骗子会根据所要实施的骗术对人群进行筛选，从而选出目标人群。例如实施情感诈骗时，可以筛选出经常发布感情信息的人群；实施金融诈骗时，可以筛选出经常搜集投资信息的人群。随后，利用AI换脸生成“假脸”，与目标人群进行联系。如生成年轻貌美的“假脸”联系发布感情信息的单身男性，取得其信任后，实施获取财物的诈骗行为。

　　（三）利用AI换脸视频进行盗窃的刑法规制

　　与上述“刷脸支付”相类似，中国很多社区甚至居民家庭采取了人脸识别系统，对于人脸识别能否突破此类识别系统，并使其进入特定空间实施盗窃也曾引发公众担忧。

　　当前，社区或居民家庭的人脸识别系统的运用模式是，当业主们进出时，只需站在大门前数秒钟，待系统确认了身份，业主的实时头像与此前录制存底的头像会同时出现在识别屏幕上，两者一致之后，大门自动开启。该系统的技术原理在于运用AI技术进行大数据分析，即首先业主们的面部活动表情要符合备案的图像，其次系统会迅速进行活体检测，感应到是真实的人。另外，系统中库存的各位业主图像都会实时更新，并非一成不变，进一步提高安全性。因此，单张人脸图像或换脸视频很难突破人脸识别系统。但随着未来AI换脸技术的发展，如上述“刷脸支付”一样，两者的攻防趋势仍需持续关注。

结论

　　经常变化相貌的孙悟空使人无法顺利找到他，AI换脸使这项神技从神界走向凡间，在互联网环境下予以重现，这对数千年延续下来的通过相貌辨识他人的社会惯例形成巨大冲击，由此滋生很多法律风险和隐患。

　　面对这一新的技术挑战，中国执法及司法机构也在摸索在现有法律框架下，对AI换脸予以规制，既要避免过于主观，伤及新技术的快速发展，又要做好遵循法律规则，尤其是要保护好规则背后的公共利益。由此观之，在当前中国立法尚未完全明确禁止AI换脸的情况下，其边界将由中国执法、司法机构通过对法律的合理解释予以确定，司法判决与执法案例将共同为AI换脸的技术合法性确立界碑。

推荐阅读-向上滑动，查看完整目录-
《法治社会》2024年第1期要目

【数字法治】

1.民事司法智能化：应用风险的思考与分析

张卫平

2.AI换脸技术的失控风险与法律规制

田宏杰

3.论行政相对人的数据权

张淑芳

4.论面向虚拟世界的多点并行取证规则

熊丙万、李叶千

5.公共行政中人脸信息处理的立法规制

陈潘

6.数据财产权

[美]詹姆斯·格林梅尔曼、克里斯蒂娜·穆里根 著、魏远山 译

【民法典论】

7.《民法典》第二百四十五条（征用）评注

高飞、贾怀愉

8.物权登记错误行政赔偿裁判规则争议问题之再认识

戚建刚、兰皓翔

【实务观察】

9.论婚姻登记瑕疵的职权纠正

——评梁某某诉徐州市云龙区民政局离婚登记行政确认案

程皓楠

10.严格解释路径下多次型加重犯的认定

——以“多次抢劫”为切入点

梁丹丹



《法治社会》（双月刊）是在广东省法学会长期编辑出版《广东法学》内刊基础上创办的公开出版发行的法学学术理论刊物。办刊宗旨为：立足广东、面向全国，及时报道广东及全国法学法律界最新研究成果，传播最新法治信息，交流最新学术思想，促进法学研究成果的转化应用，为我国社会主义法治建设和法学研究事业的繁荣发展服务，为建设法治中国、法治广东服务。


法宝新AI·智能写作
无论是工作汇报，产品介绍，还是法律研究报告、市场宣传文案，法宝智能写作系统都能为您提供高质量写作支持，满足法律工作者日常学习工作中各类领域的写作需求，提供源源不断的创意与灵感，全面助力您的文案写作。您可以在平台上选择不同的写作模型，输入关键词和要点，即可自动生成文档大纲与内容。平台内嵌法宝V6数据库，让您的内容创作有据可依。与此同时，智能写作平台还支持实时对生成文档进行修改和优化，确保文章撰写的准确性。

——  系统亮点  ——

“一键生成文章大纲”——输入关键词和内容要求，即可自动生成文章大纲，为您提供创作起点和清晰明了的写作思路。

“智能生成文章内容”——GPT模型结合法宝数据库快速生成逻辑自洽、内容丰富的文章。

“法宝V6数据库支持”——查阅生成结果的相关法律法规、学术期刊等信息。可准确理解法律术语，帮助生成符合要求的法律文件；能够自动匹配对应法律法规，实现法理逻辑处理自动化，增强文章权威性与可信度。法宝智能写作能及时跟踪法律法规的最新变化，避免使用已失效或废止的法律条文作为参考。



-END-

责任编辑 | 王睿

审核人员 | 张文硕 王纪元

本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。

▼往期精彩回顾▼《法治社会》2024年第1期要目
《法治社会》2023年第6期要目《法治社会》2023年第5期要目吴凯杰：环境法体系中的应对气候变化立法 | 法治社会202306
卞建林：人工智能审判的责任解构与制度应对 | 法治社会202305
吕忠梅：环境法典编纂研究的现状与未来 | 法治社会202304
李拥军 李瀚正：网络空间治理重构的法理探索 | 法治社会202303



关注下方公众号，获取更多法律信息
点击「在看」，就是鼓励